Robuste KI: Unsicherheitsabschätzung

Konkret gibt Robuscope Antworten auf folgende Fragen:

• Wie zuverlässig ist die Selbstbewertung der Künstlichen Intelligenz? 

• Wie robust ist das Modell? 

• Wie gut sind die Vorhersagen? 

Mehr noch: Es müssen keine sensiblen oder vertraulichen Daten wie das KI-Modell oder reale Daten hochgeladen werden, um das Tool zu nutzen. Das Online-Tool des Fraunhofer IKS liefert detaillierte und verlässliche Informationen, wie die getesteten KI-Modelle optimiert und damit sicherer gemacht werden können.

Robuscope eignet sich besonders für die Durchführung von Uncertainty Analysen an KI-Modellen in sicherheitskritischen Anwendungen. Beispiele hierfür sind

• Medizintechnik
• Logistik
• Autonomes Fahren  

Die erste Version der Anwendung konzentriert sich auf Computer Vision, insbesondere Bilderkennung (Perception) und allgemeine Klassifikation.

Die Plattform sagt Ihnen, wann Sie Ihrer Künstlichen Intelligenz vertrauen können – und wann nicht. Denn, sobald Sie wissen, wann Ihre KI versagt, können Sie das Modell optimieren und die KI vertrauensvoll in sicherheitskritischen Anwendungen einsetzen.

Die Analyseergebnisse des Fraunhofer IKS geben Ihnen wichtige Hinweise, wie Sie Ihre Künstliche Intelligenz, z.B. Ihr Neuronales Netz, so verbessern können, dass es auch in sicherheitskritischen Kontexten eingesetzt werden kann. Sie erfahren

• Wie zuverlässig die Vorhersagen Ihres Modells in Bezug auf bestimmte Robustheitsmetriken sind, 

• Wie die Ergebnisse der Robustheitsanalyse zu interpretieren sind und 

• Sie erhalten allgemeine Empfehlungen für die Entwicklung Ihres KI-Modells