Resilient Service-oriented Architectures

Solche Kognitiven Systeme basieren auf dem Einsatz von Künstlicher Intelligenz (KI), maschinellem Lernen und anderen modernen Softwaretechnologien. Ziel ist es, bisher starre und unflexible Systeme adaptiv und kognitiv zu gestalten, um Anwendungen wie Over-The-Air-Updates, Microservices oder die virtuelle Ausführung von Software zu ermöglichen. Dazu müssen allerdings die Möglichkeiten moderner Softwaretechnik mit den notwendigen Qualitätseigenschaften in Einklang gebracht werden – allen voran Safety, Zuverlässigkeit und Verfügbarkeit.

Sind diese Qualitätseigenschaften erfüllt, ergeben sich vielfältige Möglichkeiten:

• Cloudsteuerung: Durch flexible Software-Architekturen kann die Steuerung vom physischen Prozess getrennt werden. Die Steuerung findet dann außerhalb der physischen Maschine, beispielsweise über Edge oder Cloud statt.
• Ende-zu-Ende-Architekturen: Ende-zu-Ende-Architekturen, deren Teilsysteme sich flexibel neukonfigurieren, erlauben dynamisches, kooperatives Verhalten von heterogenen Teilsystemen. Dafür muss aber eine sichere und verlässliche Verteilung sichergestellt werden, um die Verfügbarkeit zu gewährleisten.
• Service-orientierte Architekturen: Fahrzeuge oder Maschinen bestehen nicht mehr klassisch aus vielen verteilten Steuergeräten, sondern aus Service-orientierten Architekturen. Dies ermöglicht beispielswiese Add-On-Funktionen und damit neue Geschäftsmodelle.
• Graceful Degradation: Adaptive Architekturen ermöglichen Fail-Operational-Ansätze wie Graceful Degradation. Dabei wird im Fehlerfall der Funktionsumfang oder die Funktionsgüte schrittweise zurückgeschaltet, um trotz Fehler eine sichere Funktion aufrechtzuerhalten.

Um diesen Anforderungen zukünftiger autonomer Systeme und kognitiver Verbünde gerecht zu werden, forscht das Fraunhofer-Institut für Kognitive Systeme IKS an neuen Architekturkonzepten, insbesondere an Ansätzen zur Entwicklung, Analyse und zum Laufzeitmanagement Kognitiver Systeme. So können Kognitive Systeme gleichzeitig flexibel und resilient sein.

Ein wichtiger Faktor für den Einsatz intelligenter Systeme in sicherheitskritischen Anwendungen ist die Fehlerbehandlung und der Umgang mit Unsicherheiten (uncertainties). Klassische Softwaresysteme geben bei fehlerhaften Eingaben Warnungen aus, KI-Systeme nicht. Im Gegenteil: moderne Methoden wie DNNs geben weiterhin scheinbar sichere Vorhersagen. Dies ist besonders kritisch, da KI-Systeme stark auf den zugrundeliegenden Daten und den damit einhergehenden Annahmen basieren. Damit führen unbekannte Eingabedaten (out-of-distribution samples) oder Veränderungen der Datenverteilung (dataset shift) zu unzuverlässigen, gegebenenfalls sogar sicherheitskritischen Ergebnissen.

Das Fraunhofer-Institut für Kognitive Systeme IKS arbeitet deswegen an zwei Lösungsansätzen: Zum einen werden die Eingaben auf Abweichungen vom erwarteten Verhalten untersucht. Dies umfasst zum Beispiel Datenverteilungen, die durch das Training oder die Tests nicht abgedeckt wurden. Zum anderen entwickeln die Forscherinnen und Forscher Methoden der Unsicherheitsbewertung (uncertainty quantification). Diese treffen zuverlässige Aussagen über die Unsicherheit der KI-Ergebnisse. Basierend auf der Unsicherheit können dann der Entscheidungsprozess angepasst oder Alternativen wie weitere Datenquellen oder andere Subsysteme herangezogen werden.