ADA Lovelace Center for Analytics, Data and Applications

Absicherung autonomer Systeme

Das Fraunhofer-Institut für Kognitive Systeme IKS forscht im Rahmen das ADA Lovelace Centers an der Absicherung autonomer Systeme, beispielsweise in den Bereichen Autonomes Fahren und Industrie 4.0. Damit autonome Systeme allgemein überhaupt funktionieren, benötigt man Machine-Learning-Verfahren, die komplexe und unbekannte Situationen erfassen und verarbeiten können. Für Systeme einer hohen Automatisierungsstufe (ab Autonomiestufe 3) verwendet man hierfür oft sogenannte Deep-Learning-Ansätze, bei denen Neuronale Netze zur Kontexterkennung eingesetzt werden. Damit können autonome Fahrzeuge beispielsweise Objekte erkennen, das Verkehrsgeschehen interpretieren und Fahranweisungen geben.

Safe AI: Neue Methoden zur Absicherung von KI-Verfahren

Neuronale Netze lassen sich jedoch nicht validieren. Auch ist bei Deep-Learning-Ansätzen vom außen betrachtet nicht nachvollziehbar, warum ein Neuronales Netz bestimmte Entscheidungen trifft. In sicherheitskritischen Systemen wie autonomen Fahrzeugen oder Fahrerlosen Transportsystemen in der Industrie können diese Verfahren daher aktuell nicht bedenkenlos eingesetzt werden.

Das Fraunhofer IKS erforscht deswegen neue Methoden, mit denen man KI-Verfahren für den Einsatz in hochperformanten eingebetteten Systemplattformen ausreichend absichern kann. Dazu entwickelt es Mechanismen, die nachweisbar alle Eigenschaften überwachen, die zur Sicherheit (engl. Safety) des autonomen Systems notwendig sind.

Zudem erarbeiten die Wissenschaftlerinnen und Wissenschaftler ein flexibles Absicherungskonzept, das für verschiedene Lernverfahren und unterschiedliche Sensor-Ausstattungen angewendet werden kann. Damit können beispielsweise auch Informationen, die durch maschinelle Lernverfahren wie Explainable AI entstehen und teilweise nachvollziehbar sind, in die Absicherung einfließen.

Außerdem untersucht das Fraunhofer IKS geeignete KI-Methoden für die Überwachung selbst. Sie können als redundante Pfade genutzt werden oder dafür, nicht nachvollziehbare maschinelle Lernverfahren zu kontrollieren.

Unternehmen unterschiedlicher Branchen mit Forschungsbedarf im Bereich Data Analytics können mit dem ADA Lovelace Center kooperieren. Neben der Absicherung autonomer Systeme deckt es verschiedene weitere Anwendungsfelder im Bereich Künstliche Intelligenz ab. Dazu zählen beispielsweise Fahrerassistenzsysteme im Schienenverkehr, intelligente Leistungselektronik für smarte Industrie 4.0-Anwendungen oder die effiziente Suche und Darstellung von Trackingdaten für die Analyse von Spielszenen im Sport.

Bei einer Kooperation kommen Firmen mit führenden KI-Forscherinnen und Forschern zusammen und arbeiten gemeinsam an konkreten Fragestellungen der Industrie. So erforschen und entwickeln beteiligte Forschungseinrichtungen und Unternehmen derzeit unter anderem Lösungen für Anwendungsfälle aus den Bereichen Logistik, Automotive und Medizintechnik. Hierfür bilden die Wissenschaftlerinnen und Wissenschaftler gemeinsam mit den Mitarbeitenden der Firmen interdisziplinäre und agile Entwicklerteams auf Zeit. Im Rahmen dieser sogenannten Joint Labs können die Akteure dadurch gegenseitig von der Erfahrung und dem Wissen der jeweils anderen profitieren. Zudem lassen sich die Forschungsergebnisse möglichst schnell in die praktische Anwendung überführen. Die eigens für das ADA Lovelace Center geschaffenen Coworking Spaces von Fraunhofer bieten dafür eine geeignete Infrastruktur.