Fraunhofer-Institut für Kognitive Systeme IKS
Fraunhofer-Institut für Kognitive Systeme IKS
© iStock.com/severija

© iStock.com/severija

Safety-Architekturen für KI-basierte Systeme

Künstliche Intelligenz in der Industrie und beim autonomen Fahren: Sicherheit des Gesamtsystems ist entscheidend

© iStock.com/beerphotographer

Industrieunternehmen, die Künstliche Intelligenz in der Produktion, Logistik, Materialprüfung oder beim autonomen Fahren einsetzen, müssen sicherheitskritische Situationen oder teure Ausfälle zwingend vermeiden. Doch KI-basierte, autonome Systeme sind anfällig für sporadische Fehler. Solche Fehler, ausgelöst beispielsweise durch nicht gelernte Situationen, können schwerwiegende Folgen haben. Aus diesem Grund arbeitet das Fraunhofer IKS an Methoden zur automatisierten Absicherung von Künstlicher Intelligenz (KI) und autonomen Systemen. Ziel ist es, trotz erwartet oder unerwartet auftretender Ereignisse jederzeit die Safety eines Systems zu gewährleiten. Das bedeutet, dass ein System immer in einen sicheren Zustand wechseln kann, ohne es stoppen oder abschalten zu müssen.

Das Fraunhofer IKS entwickelt eine umfassende KI-Safety-Architektur

Das Fraunhofer IKS entwickelt umfassende KI-Safety-Architekturen, beispielsweise für die Industrie und das autonome Fahren. Unsere Architekturen sichern das Gesamtsystem ab, in dem die Künstliche Intelligenz verwendet wird. So erhalten Sie von uns folgende Bausteine:

  • Intelligente Cross-Validierung vorhandener interner und externer Sensoren für ein verlässliches Environment Model
  • Assistent zur systematischen Safety-Analyse Ihrer KI-Anwendung
  • Automatisierte Überwachung der Künstlichen Intelligenz, um die Sicherheitsanforderungen einzuhalten
  • Modulare Sicherheitsnachweise für ein optimales Lifecycle-Management KI-basierter Anwendungen
  • Bereitstellung von Safety-Funktionen über bekannte DevOps Frameworks
  • Adaptives Safety-Management für einen flexiblen Umgang mit Risiken in Abhängigkeit von Umfeldbedingungen und dem aktuellen Systemzustand

Ihr Nutzen: Umfassendes Safety-Konzept für Ihre KI-Lösung

Mit den Methoden und Tools des Fraunhofer IKS können Sie

  • das Risiko Ihrer KI-basierten Lösung abschätzen
  • automatisch einen Überwachungs-Monitor generieren
  • die Anzahl der Freiheitsgrade beim Risikomanagement erhöhen
  • ein zuverlässiges Verhalten Ihrer autonomen Systeme in allen Situationen sicherstellen
  • ein zuverlässiges Lifecycle-Management gewährleisten
  • die Zuverlässigkeit Ihrer KI-basierten Anwendung für deren Zulassung und Zertifizierung nachweisen
  • Gefahrensituationen differenziert bewerten und die Verlässlichkeit der Künstlichen Intelligenz situationsabhängig einschätzen
  • Software- und KI-Stände schnell anpassen und kurze Zertifizierungsintervalle erreichen

Vortrag: Einsatz von KI in sicherheitskritischen Systemen

Datenschutz und Datenverarbeitung

Wir setzen zum Einbinden von Videos den Anbieter YouTube ein. Wie die meisten Websites verwendet YouTube Cookies, um Informationen über die Besucher ihrer Internetseite zu sammeln. Wenn Sie das Video starten, könnte dies Datenverarbeitungsvorgänge auslösen. Darauf haben wir keinen Einfluss. Weitere Informationen über Datenschutz bei YouTube finden Sie in deren Datenschutzerklärung unter: https://policies.google.com/privacy

Vortrag von Mario Trapp: »Safety first« Künstliche Intelligenz in sicherheitskritischen Anwendungen

Wie kann man Künstliche Intelligenz für praktische Anwendungen absichern? – Diese Frage beantwortet Mario Trapp in seinem Vortrag für das Bitkom AI Reserach Network. Er erklärt, warum bestehende Verfahren oder auch häufig diskutierte Ansätze zur Absicherung autonomer Fahrzeuge nicht ausreichen. Zur Sprache kommen Konzepte, wie sichere und zuverlässige KI-basierte Systeme entwickelt werden können: durch Verbesserung der KI-Verfahren selbst, aber auch durch Verfahren und Architekturen, die sicherstellen, dass das System trotz Fehler der KI sicher und zuverlässig funktioniert. Zuletzt zeigt ein Ausblick, wie Künstliche Intelligenz trotz dieser Herausforderungen auch heute schon in sicherheitskritischen Anwendungen zum Einsatz kommt.