Kognitive Systeme

Kognitive Systeme bzw. die kognitive Intelligenz von Systemen sind schon heute aus vielen Bereichen nicht mehr wegzudenken und werden in Zukunft immer mehr Industrie- und Wirtschaftszweige maßgeblich beeinflussen. Laut Berechnungen der International Data Corporation (IDC) werden bis zum Jahr 2022 77,6 Milliarden US-Dollar für Kognitive Systeme investiert werden. Damit sind sie die Basis für Zukunftstechnologien wie

• das autonome Fahren und andere autonome Systeme,
• die Industrie 4.0
• und das Internet der Dinge oder Internet of Things (IoT).

Jetzt Kontakt aufnehmen

Das Fraunhofer-Institut für Kognitive Systeme IKS definiert kognitive Systeme als technische Systeme, die in der Lage sind für menschliche Aufgabenstellungen selbstständig Lösungen und Strategien zu entwickeln. Dafür sind sie mit kognitiven Fähigkeiten wie z.B. Aufmerksamkeit zum Kontextverstehen, zur Interaktion, Adaption und Lernfähigkeit ausgestattet. Kognitive Systeme können Verfahren der Künstlichen Intelligenz (KI) wie maschinelles Lernen, neuronale Netze und Deep Learning verwenden.

Kognitive Systeme können in vielen Bereichen eingesetzt werden. Beispiele sind Sprachassistenten oder die Analyse großer Datenmengen. Das Fraunhofer-Institut für Kognitive Systeme IKS legt seinen Fokus allerdings auf Kognitive Systeme, die auch sicherheitskritische Funktionen übernehmen. Dabei haben Kognitive Systeme vor allem dann einen großen Nutzen, wenn klassische Herangehensweisen und Verfahren nicht mehr greifen. Für die erfolgreiche Mensch-Roboter-Kollaboration soll der Industrieroboter beispielsweise nicht einfach stehenbleiben, wenn ihm ein Mensch zu nahekommt. Er soll dem Menschen ausweichen und im Idealfall weiterarbeiten.

Damit Kognitive Systeme auch in sicherheitskritischen Bereichen wie dem autonomen Fahren oder der Industrie 4.0 Anwendung finden können, müssen sie drei Kriterien erfüllen:

• Sie müssen sicher im Sinne von »Safety« sein.
• Sie müssen zuverlässig und stets verfügbar sein (»reliable«).
• Und gleichzeitig müssen sie zu vertretbaren Kosten entwickelt und eingesetzt werden.

Die wichtigste Eigenschaft von Kognitiven Systemen ist, dass sie insbesondere in sicherheitskritischen Bereichen auf unerwartete Ereignisse und Veränderungen sowie unbekannte Bedingungen sicher und optimal reagieren. Das selbstfahrende Auto erfasst ein Objekt auf der Straße, das es nicht identifizieren kann. Nun muss das Auto dennoch verlässlich reagieren, gegebenenfalls bremsen und dem Hindernis ausweichen. Wenn ein System trotz solcher unerwarteten und unbekannten Herausforderungen verlässlich reagieren kann, bezeichnet das Fraunhofer-Institut für Kognitive Systeme IKS dies in Anlehnung an Jean-Claude Laprie als »Resilienz«.

Das Fraunhofer-Institut für Kognitive Systeme IKS arbeitet mit seiner Forschung daran, dass Kognitive Systeme auch für die Übernahme sicherheitskritischer Funktionen eingesetzt werden können. Bisher ist dies häufig nicht möglich, da gerade die Nachweisbarkeit der Sicherheit von Kognitiven Systemen eine Herausforderung darstellt. Das Fraunhofer IKS arbeitet deswegen an drei Aspekten um Kognitive Systeme für sicherheitskritische Anwendungen einsatzfähig zu machen:

• Kognitive Vernetzung
• Kognitive Architektur
• Kognitives Verhalten

Jetzt Kontakt aufnehmen

Die besondere Stärke von Kognitiven Systemen liegt darin, dass Teilsysteme sich zu einem großen Kognitiven System formieren können, einem sogenannten Cyber-Physical System of Systems (CPSoS). Einzelne Teilsysteme kooperieren dabei vorübergehend oder dauerhaft, um gemeinsam eine Aufgabe zu erfüllen. Kooperierende Transportsysteme können beispielsweise ein gemeinsames Manöver durchführen, um eine schwere Last zu bewegen. Dafür teilen die autonomen Transportsysteme ihre Perzeption, geben Informationen weiter und stimmen sich ab. Ist die Aufgabe bewältigt, löst sich das Kollektiv wieder auf. Um die Resilienz solcher Systeme zu gewährleisten, forscht das Fraunhofer-Institut für Kognitive Systeme IKS zum Beispiel daran, sichere Fallback-Szenarien für das kollektive Verhalten zu integrieren. Das einzelne System muss in der Lage sein, sicherheitskritische Funktionen auch alleine zu übernehmen, wenn die Koordination oder Kommunikation mit dem Gesamtsystem nicht funktioniert. Darüber hinaus soll das Kollektiv optimal und performant seine Aufgaben erledigen, ohne die Sicherheit zu gefährden. Dafür sind flexible und adaptive Architekturen von Kognitiven Systemen eine notwendige Voraussetzung.

Weil Kognitive Systeme häufig in einem Gesamtsystem zusammenarbeiten müssen, sind flexible und anpassbare Softwarearchitekturen ein weiterer Forschungsaspekt des Fraunhofer-Instituts für Kognitive Systeme IKS. In einem großen Gesamtsystem kommen immer wieder neue Dienste und Technologien hinzu oder andere fallen weg. Kognitive Systeme müssen damit umgehen können. Auch im autonomen Fahrzeug können Funktionen und Systeme wegfallen, beispielsweise, weil ein Sensor für die Abstandsmessung gerade verdeckt wird. Hier müssen die Softwarearchitekturen greifen und alternative sichere Verhaltensweisen für das selbstfahrende Auto vorschlagen, bis der Abstandssensor wieder funktionsfähig ist. Ziel des Fraunhofer IKS sind serviceorientierte Architekturen, die sich an die aktuellen Anforderungen flexibel anpassen können und die fail-operational sind, also sogar im Fehlerfall weiter funktionieren.

Aber nicht nur die Systemarchitektur muss verlässlich funktionieren, auch das Herz des Kognitiven Systems, also gegebenenfalls die Künstliche Intelligenz (KI), muss sicher im Sinne von »safe« sein. Deswegen forscht das Fraunhofer-Institut für Kognitive Systeme IKS daran, wie Künstliche Intelligenz so entwickelt werden kann, dass sie in jedem Fall sicher ist, und spürt Schwachstellen der Künstlichen Intelligenz auf. Ein Ziel ist es, die Künstliche Intelligenz gleich ausreichend robust zu entwickeln. Des Weiteren gilt es, die Unsicherheiten der KI in der jeweiligen Situation zu bestimmen, um adäquat darauf reagieren zu können. Zudem werden auch gezielte Test- und Verifikationsmaßnahmen für die Absicherung der KI untersucht. Dabei stellt sich die Frage: Wann ist mein System sicher genug? Um diese Frage zu beantworten, arbeitet das Fraunhofer IKS an einer Methodik zur Systematisierung der Schwachstellen eines Kognitiven Systems. Mit dieser Systematik wissen Entwicklerinnen und Entwickler, welche Situationen bereits ausreichend berücksichtigt und getestet wurden und was die Künstliche Intelligenz noch nicht gelernt hat.