Künstliche Intelligenz (KI) steckt unter anderem in Verkehrssystemen, in der Luft- und Raumfahrt sowie in der Energieversorgung. Sie gehört längst zum Alltag moderner Gesellschaften – je stärker die Digitalisierung voranschreitet, umso wichtiger wird die KI: Sie muss sicher und nachvollziehbar sein. Um die Forschung und Entwicklung in diesem Bereich zu stärken, hat das Deutsche Zentrum für Luft- und Raumfahrt (DLR) das Institut für KI-Sicherheit gegründet. Das DLR-Institut wurde jetzt mit den beiden Standorten Ulm und Sankt Augustin offiziell eröffnet.

Zusammenwirken von Mensch und KI

Am Standort Ulm arbeiten die Forschenden mit dem Schwerpunkt „KI Safety“. Hier sind vor allem die Fehlerfreiheit und Betriebssicherheit von Interesse. Im Forschungsfeld KI Engineering werden Bewertungs- und Testverfahren mit einem ingenieurwissenschaftlichen Hintergrund entwickelt. Ein Beispiel hierfür ist die KI-basierte Umgebungserfassung, die eine Basis unter anderem für das automatisierte Fahren bildet. Außerdem geht es um die Zusammenarbeit von Mensch und KI: Wie können Menschen mit kontinuierlich lernenden und umfassend automatisierten Systemen kooperieren? Wie wird eine KI erfolgreich trainiert? Die Wissenschaftlerinnen und Wissenschaftler entwickeln zuverlässige Soft- und Hardware-Umgebungen zur effizienten Ausführung von KI-Komponenten. Neben weiteren innovativen Rechenmethoden wird der Einsatz von Quantencomputern als Grundlage für das Quanten Machine Learning in Ulm erforscht. Bis zu 75 Mitarbeitende werden am Standort tätig sein.

Schutzwürdige Daten sicher verarbeiten

In Sankt Augustin wird vor allem die „KI Security“ betrachtet – also der Schutz vor äußeren Angriffen. Wie zeigt sich, ob KI-Algorithmen richtig funktionieren? Auf welche Weise lassen sich die Entscheidungen der KI nachvollziehen? Im Fokus stehen Methoden, die sowohl Schutz als auch die autorisierte Nutzung sensibler Daten bieten. Dazu gehört die Frage, wie Daten nur für bestimmte Nutzer und Nutzungsarten bereitgestellt und gleichzeitig schützenswerte Informationen wie personenbezogene Daten verborgen bleiben. Am Standort in Sankt Augustin sind künftig 45 DLR-Mitarbeitende tätig.

Lösungen für die Mobilität der Zukunft

Das DLR-Institut für KI-Sicherheit setzt stark auf die industrielle Praxis und vernetzte Datenräume – zum Beispiel in der Mobilität. Deswegen koordiniert das Institut die Projektfamilie GAIA-X 4 Future Mobility, die mehr als 80 Beteiligte aus Forschung und Industrie zusammenbringt. Hier geht es insbesondere um die Entwicklung von digitalen Diensten und Produkten, bei denen der sichere Austausch von Daten zwischen Nutzern, Dienstleistern, Herstellern und Zulieferern im Zentrum steht. GAIA-X ist eine europäische Initiative, die die rechtlichen und strukturellen Grundlagen für ein dezentrales digitales Ökosystem entwickelt.

Zusätzlich ist das DLR-Institut für KI-Sicherheit im Forschungsprojekt Catena-X aktiv. Hier etablieren Akteure aus der Automobilindustrie einen standardisierten globalen Datentausch und Dienste auf der Basis europäischer Werte. Das entstehende Ökosystem und die zugehörigen Dienste sind ein wichtiger Anwendungsrahmen für KI.

Angriffs- und Betriebssicherheit als Kernqualität

Was Datensouveränität praktisch bedeutet und wie mit GAIA-X gearbeitet wird, zeigten die Teilnehmenden bei der hybriden Eröffnungsveranstaltung: Ein Fahrzeug sammelt im Betrieb Daten, die mit Algorithmen sicher ausgewertet und über GAIA-X online wieder zur Verfügung gestellt werden. Wegen des Compute-to-Data-Ansatzes verlassen sensible Daten das Fahrzeug nicht und die Ergebnisse können im Fahrzeug abgerufen werden.

Eine weitere Demonstration präsentierte das Zusammenspiel von Mensch und Maschine. Ein Roboter umfuhr vor der Bühne autonom Hindernisse und reagierte spontan auf Ereignisse. Das Institut erforscht die Prinzipien solcher Mensch-Maschine-Interaktionen, wobei stets komplexe und kontinuierlich lernende sicherheitskritische Systeme im Mittelpunkt stehen.

Institut bündelt KI-Forschung im DLR

Das DLR-Institut für KI-Sicherheit wird seit knapp zwei Jahren an den Standorten in Ulm und Sankt Augustin aufgebaut. Es bündelt die bisherigen Aktivitäten des DLR im Bereich der KI. Neben den technologischen Fragestellungen sind auch ethische, rechtliche und gesellschaftliche Aspekte ein wichtiges Forschungsfeld.

Die Wissenschaftlerinnen und Wissenschaftler können auf einmalige Datenbestände aus der DLR-Forschungsinfrastruktur zugreifen. Die hohe Qualität der Daten, zum Beispiel aus der Erdbeobachtung oder aus dem Testfeld Niedersachsen, bildet eine Basis für KI-orientierte Forschungs- und Entwicklungsarbeiten.

dlr.de >>