Safety-Architekturen für KI-basierte Systeme

Künstliche Intelligenz in der Industrie und beim autonomen Fahren: Sicherheit des Gesamtsystems ist entscheidend

Industrieunternehmen, die Künstliche Intelligenz in der Produktion, Logistik, Materialprüfung oder beim autonomen Fahren einsetzen, müssen sicherheitskritische Situationen oder teure Ausfälle zwingend vermeiden. Doch KI-basierte, autonome Systeme sind anfällig für sporadische Fehler. Solche Fehler, ausgelöst beispielsweise durch nicht gelernte Situationen, können schwerwiegende Folgen haben. Aus diesem Grund arbeitet das Fraunhofer IKS an Methoden zur automatisierten Absicherung von Künstlicher Intelligenz (KI) und autonomen Systemen. Ziel ist es, trotz erwartet oder unerwartet auftretender Ereignisse jederzeit die Safety eines Systems zu gewährleiten. Das bedeutet, dass ein System immer in einen sicheren Zustand wechseln kann, ohne es stoppen oder abschalten zu müssen.

Das Fraunhofer IKS entwickelt eine umfassende KI-Safety-Architektur

Das Fraunhofer IKS entwickelt umfassende KI-Safety-Architekturen, beispielsweise für die Industrie und das autonome Fahren. Unsere Architekturen sichern das Gesamtsystem ab, in dem die Künstliche Intelligenz verwendet wird. So erhalten Sie von uns folgende Bausteine:

Intelligente Cross-Validierung vorhandener interner und externer Sensoren für ein verlässliches Environment Model
Assistent zur systematischen Safety-Analyse Ihrer KI-Anwendung
Automatisierte Überwachung der Künstlichen Intelligenz, um die Sicherheitsanforderungen einzuhalten
Modulare Sicherheitsnachweise für ein optimales Lifecycle-Management KI-basierter Anwendungen
Bereitstellung von Safety-Funktionen über bekannte DevOps Frameworks
Adaptives Safety-Management für einen flexiblen Umgang mit Risiken in Abhängigkeit von Umfeldbedingungen und dem aktuellen Systemzustand

Ihr Nutzen: Umfassendes Safety-Konzept für Ihre KI-Lösung

Mit den Methoden und Tools des Fraunhofer IKS können Sie

das Risiko Ihrer KI-basierten Lösung abschätzen
automatisch einen Überwachungs-Monitor generieren
die Anzahl der Freiheitsgrade beim Risikomanagement erhöhen
ein zuverlässiges Verhalten Ihrer autonomen Systeme in allen Situationen sicherstellen
ein zuverlässiges Lifecycle-Management gewährleisten
die Zuverlässigkeit Ihrer KI-basierten Anwendung für deren Zulassung und Zertifizierung nachweisen
Gefahrensituationen differenziert bewerten und die Verlässlichkeit der Künstlichen Intelligenz situationsabhängig einschätzen
Software- und KI-Stände schnell anpassen und kurze Zertifizierungsintervalle erreichen

Vortrag: Einsatz von KI in sicherheitskritischen Systemen

Vortrag von Mario Trapp: »Safety first« Künstliche Intelligenz in sicherheitskritischen Anwendungen

Wie kann man Künstliche Intelligenz für praktische Anwendungen absichern? – Diese Frage beantwortet Mario Trapp in seinem Vortrag für das Bitkom AI Reserach Network. Er erklärt, warum bestehende Verfahren oder auch häufig diskutierte Ansätze zur Absicherung autonomer Fahrzeuge nicht ausreichen. Zur Sprache kommen Konzepte, wie sichere und zuverlässige KI-basierte Systeme entwickelt werden können: durch Verbesserung der KI-Verfahren selbst, aber auch durch Verfahren und Architekturen, die sicherstellen, dass das System trotz Fehler der KI sicher und zuverlässig funktioniert. Zuletzt zeigt ein Ausblick, wie Künstliche Intelligenz trotz dieser Herausforderungen auch heute schon in sicherheitskritischen Anwendungen zum Einsatz kommt.

Blog post

Why Safety Matters

Machine learning means a disruptive challenge for safety assurance. It’s therefore no surprise that AI safety has gained much more attention over the past few months. This article focuses on the basic understanding of what safety actually means. It highlights why it is so important to understand that safe AI has less to do with AI itself and much more to do with safety engineering.

Zum Beitrag

Blogartikel

Die Vier-plus-Eins-Sicherheits-Architektur

Fehler in autonomen Fahrzeugen gefährden Menschen und können schnell zu Unfällen mit schweren Verletzungen und sogar zu Verkehrstoten führen. Entsprechend müssen gerade auch für Kognitive Systeme und die darin enthaltene Künstliche Intelligenz (KI) stringente Sicherheitsnachweise erbracht werden.