Das KI-Gesetz der EU und Hochrisiko-KI-Systeme

AI-Act-Workshops

Eine proaktive Beurteilung der Konformität der KI-Systeme bietet Richtlinien für Design, Entwicklung und Einsatz eines KI-Systems, mindert die Risiken von KI-Ausfällen und kann Rufschäden sowie finanzielle Schäden durch Haftungsfragen vermeiden. Unsere AI-Act-Workshops bieten systematische Unterstützung für die Compliance Ihres KI-Systems und umfassen die folgenden Themen:

• Etablierung eines kontinuierlichen Risikomanagementsystems durch Identifikation, Analyse und Schätzung bekannter und vorhersehbarer Risiken und Bereitstellung von Maßnahmen zur Risikominimierung
• Sicherstellung von hochwertigen Trainings-, Validierungs- und Testdaten zur Minimierung von Diskriminierung und Bias in Datensätzen
• Bereitstellung von Methoden für Design und Bewertung von ML-Modellen, angepasst an Ihre Anwendungsanforderungen (z. B. Genauigkeit, Robustheit, Vorhersagesicherheit, Transparenz und Erklärbarkeit)
• Integration von Überwachungs- und Protokollierungsfähigkeiten und Bereitstellung automatisierter technischer Dokumentation
• Gewährleistung der Überwachung und Verifizierung von Sicherheits- und Leistungseigenschaften während des gesamten Lebenszyklus
• Unterstützung bei der Registrierung in der zukünftigen EU-Datenbank für Hochrisiko-KI-Systeme

Schulung »Machine Learning for Safety Experts«

Unsere Schulung »Machine Learning for Safety Experts« behandelt die grundlegenden Prinzipien zur Argumentation für die Sicherheit von Fahrzeugfunktionen, die maschinelles Lernen nutzen. Insbesondere konzentriert sich der Kurs auf den Einfluss des maschinellen Lernens auf die »Sicherheit der beabsichtigten Funktionalität« wie vom Standard ISO 21448 beschrieben. Der Kurs beinhaltet die folgenden Themen und kann an Ihren Anwendungsfall und Ihre Anforderungen angepasst werden:

• Einführung in das maschinelle Lernen anhand einer Beispielanwendung und öffentlich zugänglicher Daten
• Sicherheitsherausforderungen des maschinellen Lernens (ML)
• Kurze Einführung in relevante Safety-Standards und deren Auswirkung auf das maschinelle Lernen
• Safety-Lebenszyklus für ML-Funktionen
• Ableitung von Safety-Anforderungen für ML-Funktionen mit besonderem Schwerpunkt auf die Definition von sicherheitsrelevanten Eigenschaften wie Genauigkeit, Robustheit, Vorhersagesicherheit, Transparenz und Erklärbarkeit
• Einfluss von Trainings- und Testdaten auf die Sicherheit
• Methoden zur Leistungsbewertung der ML-Funktion in Bezug auf Sicherheitsanforderungen
• Safety-Analyse für maschinelles Lernen
• Architektonische Maßnahmen zur Verbesserung der Sicherheit von ML-Funktionen
• Methoden zur Gewährleistung der Sicherheit von ML-Funktionen während der Entwicklungs- und Laufzeit
• Sicherheitsargumente für maschinelles Lernen

Sie haben Interesse an einem Workshop oder einer Schulung? Dann kontaktieren Sie uns direkt, um Ihre Anforderungen zu besprechen: business.development@iks.fraunhofer.de

Das Fraunhofer IKS profitiert von einem internationalen wissenschaftlichen Netzwerk zur Safety Assurance, z. B. der Universität York und dem Safety-Critical Systems Club, der Technischen Universität München (TUM) und der Ludwig-Maximilians-Universität München (LMU).