safe.trAIn: Sichere KI für fahrerlose Züge

Der autonome Schienenverkehr mit einem möglichst hohen Automatisierungsgrad ist ein entscheidender Baustein für einen klimaneutralen und attraktiven Verkehrsmix. Denn mit einem hohen Automatisierungsgrad von Zügen auf dem bestehenden Schienennetz lassen sich beispielsweise eine höhere Zugfolge und damit kürzere Taktzeigen sowie mehr Zuverlässigkeit des Bahnverkehrs realisieren. Nach dem aktuellen Stand der Technik kann dieses Ziel nicht allein mit konventionellen Automatisierungsmethoden erreicht werden.

Dahingegen gibt es enorme Fortschritte bei der Entwicklung von Systemen für autonomes Fahren auf Schiene und Straße, die die Vorteile der Künstlichen Intelligenz (KI) nutzen. Noch ist allerdings offen, wie KI-Prozesse mit den Anforderungen und Genehmigungsverfahren im Schienenverkehr verknüpft werden können. Hier setzt das Projekt safe.trAIn an.

Das Projekt safe.trAIn hat das Ziel, die Grundlagen für den sicheren Einsatz von KI für fahrerlose Schienenfahrzeuge zu schaffen, um den regionalen Bahnverkehr effizienter und nachhaltiger zu gestalten. Im Gegensatz zum bisherigen fahrerlosen Schienenverkehr, der ausschließlich in geschlossenen und kontrollierten Umgebungen zum Einsatz kommt, handelt es sich beim Regionalverkehr um eine offenere Umgebung, in der Hindernisse wie Personen im Fahrweg oder umgekippte Bäume sicher und zuverlässig erkannt werden müssen.

Dafür entwickelt das Projekt safe.trAIn Prüfstandards und Methoden für den Einsatz von KI bei der Automatisierung des Schienenverkehrs. Außerdem wird die Eignung der Prüfstandards an einem Anwendungsbeispiel, dem fahrerlosen Regionalzug, gezeigt. Schwerpunkte des Projekts safe.trAIn sind insbesondere:

• KI-basierte Methoden für einen fahrerlosen Regionalzug
• Zulassungsrelevante Nachweise der Produktsicherheit (Safety) von KI-Komponenten
• Testverfahren und Prüfmethoden für die Verifikation

Unter Berücksichtigung der Vorgaben für den Sicherheitsnachweis werden Testverfahren und Werkzeuge für KI-basierte Ansätze untersucht. Für einen Anwendungsfall wird ein vollautomatisiertes System (GoA4) konzeptionell aufgebaut und in einem virtuellen Testfeld erprobt sowie eine Sicherheitsarchitektur am Beispiel des autonomen Regionalzugs konkretisiert. 

Das Projektkonsortium von safe.trAIn besteht aus 17 Partnern, darunter Unternehmen der Bahnindustrie, Technologieanbieter, Forschungseinrichtungen sowie Normungs- und Prüforganisationen. Das Projekt wird vom von Bundesministerium für Wirtschaft und Klimaschutz mit ca. 23 Mio. Euro gefördert.

Der Fokus des Fraunhofer IKS liegt im Projekt safe.trAIn insbesondere auf drei Themen:

• Sicherheitsnachweise für KI-Funktionen bei der Perzeption des Zugs
• Robustheit von KI und Überwachungsmechanismen für KI-basierte Systeme
• Beschreibung und Überwachung der Operational Design Domain (ODD) für den Schienenverkehr

Dafür ist das Fraunhofer insbesondere an zwei Arbeitspaketen beteiligt:

Sicherheitsnachweise für KI-Methoden

Das Fraunhofer IKS ist im Projekt safe.trAIn unter anderem verantwortlich für die  Prüfmethoden und -werkzeuge zum Nachweis der Vertrauenswürdigkeit von KI-Methoden. Ausgehend von den im Projekt festgelegten Eigenschaften und Akzeptanzkriterien für KI-Systeme, entwickelt das Fraunhofer IKS Methoden und Werkzeuge um die Erklärbarkeit, Robustheit und Erfüllung der Safety-Anforderungen nachweisen zu können. Hierfür werden spezielle Metriken als auch konkrete Methoden erforscht, wie z. B. die verlässliche Erkennung menschlicher Körper oder die Erkennung unbekannter Situationen (Out-of-Distribution Detection).

Außerdem arbeitet das Fraunhofer IKS an Verfahren zur Qualitätssicherung von KI-Funktionen schon während der Entwicklung. Ein Schwerpunkt liegt dabei auf der Erforschung von Methoden, die die Transparenz und Interpretierbarkeit von KI-Anwendungen erhöhen.

Sicherheitsarchitektur für KI-basierte Funktionen

Das Fraunhofer IKS forscht an der Sicherheitsarchitektur für KI-basierte Funktionen im vollautomatisierten Betrieb (GoA4). Hierfür werden zunächst die Anforderungen an den fahrerlosen Regionalzug definiert und ein Technischer Sicherheitsplan (TESIP) erstellt. Außerdem muss die Operational Design Domain (ODD) festgelegt werden, in der die Umgebungsbedingungen inklusive der mit dem System interagierenden Personen und Systeme sowie die betrieblichen, klimatischen und witterungsbedingten Rahmenbedingungen festgehalten werden. Die ODD-Spezifikation ist ein zentraler Punkt für die Sicherheitsargumentation und Fahrzeugarchitektur des fahrerlosen Regionalzugs. Der Fokus des Fraunhofer IKS liegt hier insbesondere darauf, eine Methodik zur Beschreibung und Überwachung der ODD für den Schienenverkehr zu erforschen. Ziel ist ein sicheres, zuverlässiges, verfügbares, aber auch effizient instandsetzbares Gesamtsystem.