Fraunhofer-Institut für Kognitive Systeme IKSFür das autonome und hochautomatisierte Fahren ist Künstliche Intelligenz (KI) von entscheidender Bedeutung. Denn KI-basierte Systeme sorgen dafür, dass autonome Fahrzeuge mit den komplexen Szenarien im Straßenverkehr umgehen können. Autonome Fahrzeuge müssen dafür ihre Umwelt wahrnehmen und angemessen auf diese reagieren. So ist es beispielsweise wichtig, dass Fußgänger jederzeit fehlerfrei erkannt werden und daraus die richtige Reaktion abgeleitet wird. Doch beim Einsatz von KI in autonomen Fahrzeugen stellt sich die Frage: »Ist KI nachweislich sicher genug für den Einsatz in einem sicherheitskritischen Bereich wie dem Straßenverkehr?« Schließlich kann man bei KI-Systemen nicht einfach erkennen, wie sie zu einem Schluss kommen und schon leichte Änderungen beispielsweise bei den Eingangsdaten führen zu einem komplett anderen Ergebnis. Im Straßenverkehr müssen die Entscheidungen der KI aber nachvollziehbar sein und die funktionale Sicherheit (Safety) muss zu jedem Zeitpunkt gewährleistet sein.
KI-Absicherung: Sichere Künstliche Intelligenz für autonomes Fahren
Die Sicherheit von KI-Systemen muss sich nachweisen lassen
Daher hat sich das Projekt »KI-Absicherung«, eine Initiative des Verbandes der Deutschen Automobilindustrie (VDA), das Ziel gesetzt, die Sicherheit von KI-Systemen im Auto nachweisbar zu machen. Hierfür erarbeiten die Projektpartner eine stringente und nachweisbare Argumentationskette für die Absicherung von KI-Funktionen in hochautomatisierten Fahrzeugen. Insgesamt forschen 28 Projektpartner an Lösungen, um KI-Funktionsmodule in hochautomatisierten Fahrzeugen abzusichern. Auch das Fraunhofer-Institut für Kognitive Systeme IKS ist daran beteiligt. Das Projekt wurde von der Leitinitiative »Autonomes und vernetztes Fahren« des VDA initiiert und wird vom Bundesministerium für Wirtschaft und Energie (BMWi) gefördert. Außerdem ist es Teil der KI-Strategie der deutschen Bundesregierung.
Beispiel Fußgängererkennung: Systematische KI-Absicherung
In fünf Teilprojekten arbeiten die Unternehmen an dem übergreifenden Ziel, die KI-Funktionen in autonomen Fahrzeugen abzusichern:
- Teilprojekt 1: KI-Funktion
- Teilprojekt 2: Synthetische Daten
- Teilprojekt 3: Methoden und Maßnahmen
- Teilprojekt 4: Absicherungsstrategie
- Teilprojekt 5: Projektmanagement
Als übergeordneter Anwendungsfall dient dabei die verlässliche Fußgängererkennung im Straßenverkehr. Im ersten Teilprojekt werden deswegen Algorithmen für die Fußgängererkennung entwickelt. Im zweiten Teilprojekt werden synthetische Daten generiert, um die vielen möglichen Szenarien, in denen Fußgänger im Straßenverkehr auftauchen können, abzubilden. Mit diesen synthetischen Daten lassen sich dann Trainings- und Testdatensätze produzieren. Auch Corner Cases, also Fälle, die aus den üblichen Rahmenbedingungen rausfallen, können hiermit abgedeckt werden. Im Teilprojekt 3 entwickeln die Forschenden darauf aufbauend ein Werkzeugkasten mit Methoden und Maßnahmen. Diese werden dabei auf ihre Sicherheit bewertet.
Das Fraunhofer IKS bringt seine Expertise im Teilprojekt 4 »Absicherungsstrategie« ein, welches die entwickelten Lösungen der vorherigen Teilprojekte nutzt und bewertet. Ziel des Teilprojekts ist eine Methodik, die nachweist, dass und unter welchen Bedingungen die Sicherheitsanforderungen an die KI erfüllt werden können. Besonders wichtig ist, dass für Sicherheitsanforderungen, die nicht zu jeder Zeit komplett erfüllt werden, eine transparente Darstellung der fortbestehenden Risiken existiert. Diese Risiken, die sowohl technische als auch ethische Aspekte berücksichtigen, werden in die Argumentationsstruktur einbezogen. Zudem ist das Fraunhofer IKS federführend bei der Erstellung eines passenden Testplans zur Evaluation der Sicherheitsanforderungen und deren Argumentationsstruktur. Über die ersten vier Teilprojekte hinweg entsteht so eine systematische Absicherungsstrategie für KI-Funktionen.
Darüber hinaus steht das Projekt »KI-Absicherung« über das fünfte Teilprojekt im Austausch mit Standardisierungsgremien und Zertifizierungsstellen. Ziel ist ein gemeinsamer Industriekonsens, wie die Absicherung von Künstlicher Intelligenz sichergestellt werden kann. Damit arbeitet das Projekt an einer wichtigen Voraussetzung für das autonome Fahren in Deutschland.