Fraunhofer-Institut für Kognitive Systeme IKSKünstliche Intelligenz (KI) ist der Kern Kognitiver Systeme. Die Entwicklung vertrauenswürdiger Kognitiver Systeme startet daher mit vertrauenswürdiger KI. Aktuelle Entwicklungen wie die KI-Verordnung der Europäischen Union belegen die zunehmende Wichtigkeit, starke KI-Lösungen zu entwickeln, denen die Gesellschaft vertrauen kann. Das Fraunhofer-Institut für Kognitive Systeme IKS konzentriert sich in seiner Forschung auf Aspekte, die insbesondere für cyber-physische Systeme von Bedeutung sind. Daher erforschen wir Ansätze, die einen direkten Einfluss auf die Verlässlichkeit und Sicherheit Künstlicher Intelligenz für unterschiedliche Anwendungsbereiche haben. Dies sind insbesondere die Bereiche autonomes Fahren, Produktion, Smart Farming, Medizin und Quantencomputing.
© iStock.com/AndreAnita
Vertrauenswürdige KI
Sichere KI-basierte Bilderkennung
Ein Schwerpunkt unserer Forschung zu vertrauenswürdiger Künstlicher Intelligenz liegt in der verlässlichen KI-basierten Perzeption und Bilderkennung, insbesondere auf der Interpretation von 2D- und 3D-Daten mit Hilfe Künstlicher Intelligenz. Derartige Ansätze kommen beispielsweise bei der Umfeldwahrnehmung in autonomen Fahrzeugen zum Einsatz sowie bei der Interpretation von Bildern in medizinischen Geräten. Um die Verlässlichkeit von Perzeptions- und Bilderkennungssystemen zu verbessern, untersucht das Fraunhofer IKS Ansätze für ein KI-Monitoring, welches die Ergebnisse von Machine-Learning-Algorithmen während der Laufzeit erfasst und deren Qualität bewertet.
Darüber hinaus beleuchten wir zur Beurteilung der Qualität von Machine-Learning-Algorithmen auch das Training der Künstlichen Intelligenz. Hierbei konzentrieren wir uns vor allem auf Ansätze für ein dateneffizientes Lernen, da in den meisten industriellen Anwendungsbereichen und Unternehmen nicht ausreichend Daten für das Training der Künstlichen Intelligenz in der benötigten Qualität vorliegen. Hierbei betrachten wir unter anderem den Einsatz von Active-in-the-loop-Learning, hybriden ML-Modellen und synthetischen Daten.
Predictive Modelling: Wie KI bei Entscheidungen verlässlich unterstützen kann
Das Fraunhofer IKS forscht im Rahmen seiner Arbeit zu vertrauenswürdiger Künstlicher Intelligenz nicht nur an verlässlichen KI-basierten Prognosen, sondern auch an Methoden zur optimalen Entscheidungsfindung. Klassische KI-basierte Vorhersagemodelle sind nämlich nicht automatisch dazu geeignet, verlässliche Entscheidungsempfehlungen zu generieren – stattdessen müssen ursachen-begründete Vorhersagemodelle zur kausalen Analyse (Causal Informed Predictive Modelling) integriert werden, um begründet entscheiden zu können.
Mit Hilfe von Zeitreihenanalysen bewerten wir Reihen von Vergangenheitsdaten, um KI-basiert zuverlässige Prognosen für zukünftige Entwicklungen stellen zu können. Die Anwendungsbereiche solcher Ansätze sind vielseitig: Sie kommen unter anderem zur Unterstützung bei medizinischen Diagnosen zum Einsatz sowie bei der vorausschauenden Wartung (Predictive Maintenance) von Produktionsanlagen, Maschinen und Geräten. Zu diesem Zweck entwickeln wir Methoden für eine robuste, verlässliche und frühzeitige Prognose zukünftiger Ereignisse. Solche Ereignisse können zum Beispiel der Ausfall einzelner Bauteile in Maschinen oder die Wahrscheinlichkeit für eine körperliche Erkrankung sein. Darüber hinaus integrieren wir Methoden in unsere KI-Lösungen, die durch Kausalschlüsse begründbare und umsetzbare Empfehlungen für eine Entscheidungsfindung liefern.
Interdisziplinäre Betrachtung von vertrauenswürdiger KI
Das Fraunhofer IKS betrachtet vertrauenswürdige Künstliche Intelligenz interdisziplinär und bezieht Ergebnisse der beiden anderen Forschungsschwerpunkte »Safety Assurance« und »Resilient Software Systems« in die Entwicklung von Ansätzen und Methoden ein. So entwickelt der Bereich Safety Assurance beispielsweise Safety Cases, um nachzuweisen, dass konkrete Anforderungen an die Sicherheit der Systeme erfüllt werden.