Fraunhofer-Institut für Kognitive Systeme IKSSichere Künstliche Intelligenz für sicherheitskritische Anwendungen
Zusammen mit dem fortiss hat das Fraunhofer-Institut für Kognitive Systeme IKS ein Whitepaper zu sicherer Künstlicher Intelligenz (KI) erarbeitet.
Wie ist es möglich, sichere Softwaresysteme auf Basis Künstlicher Intelligenz zu entwickeln? So einfach die Frage klingt, so komplex wäre eine umfassende Antwort. Das Whitepaper mit dem Titel »Safe AI – How is this possible?« konzentriert sich daher einerseits auf das technische Design und andererseits auf Engineering-Grundsätze von sicheren KI-basierten Systemen.
Beide Aspekte sind entscheidend dafür, solche Kognitiven Systeme in sicherheitskritischen Anwendungen einzusetzen. Als Beispiel dient ein automatisiertes Notfall-Bremssystem in einem Fahrzeug. Dieses kann als sicher gelten, wenn sein Einsatz Unfälle in vorab definierten Situationen mindestens bis zu einem tolerierbaren Maß verhindert. Das Whitepaper identifiziert zentrale Herausforderungen in Bezug auf Spezifikation, Unsicherheit, Sicherheit, Design, Analyse und Wartung, die eine Umsetzung dieses strengen und präzisen technischen Designs gefährden könnten.
