Fraunhofer-Institut für Kognitive Systeme IKSUnser Modular Concept Learning hilft Unternehmen, erklärbare und leicht anpassbare KI-Modelle für die Bildklassifikation zu entwickeln. Dazu werden komplexe Klassifikationsaufgaben in Teilaufgaben zerlegt. So können relevante visuelle Kontepte erkannt und diese Konzepte in einem transparenten Entscheidungsprozess kombiniert werden. Das Modular Concept Learning des Fraunhofer IKS ist modular aufgebaut, was die Wiederverwendbarkeit der Konzeptmodelle sicherstellt. Im Gegensatz zu anderen KI-Modellen in der Bildklassifikation erhöht es damit nicht nur die Erklärbarkeit, sondern auch die Anpassungsfähigkeit an andere Aufgabenstellungen oder Daten.
© iStock.com/leventince
Modular Concept Learning
Herausforderung: Die Entscheidungsfindung des Modells erklären
Die meisten modernen Modelle des Maschinellen Lernens (ML) behandeln die Klassifikation eines Bildes als eine einzelne komplexe Aufgabe. Dies ist kostspielig und zeitaufwändig, denn wenn sich die Aufgabe oder die Daten ändern, muss das gesamte ML-Modell neu trainiert wird. Außerdem ist es schwierig, den Entscheidungsprozess des Modells nachzuvollziehen. Diese mangelnde Erklärbarkeit verringert das Vertrauen in die Entscheidung des Modells (Output), was wiederum die Wahrscheinlichkeit verringert, dass ein Modell in einem sicherheitskritischen Kontext, z.B. in der medizinischen Bildgebung, eingesetzt wird.
Lösung: Unterteilung der Bildklassifikation in Teilaufgaben
Anstatt ein ML-Modell direkt auf die gesamte Aufgabe (z. B. die Klassifizierung von Verkehrszeichen) zu trainieren, bringen wir dem Modell bei, ein Bild ähnlich zu klassifizieren wie Menschen es tun: Normalerweise suchen Menschen nach bestimmten vorhandenen oder fehlenden Merkmalen und Konzepten in einem Bild (z.B. Form, Farbe, Symbol auf dem Verkehrsschild), um ihre Entscheidung zu treffen. Unser Modular Concept Learning zelegt eine Bildklassifikationsaufgabe ebenso in Teilaufgaben (Konzeptmodelle von z.B. Form, Textur, Farbe) und kombiniert die erkannten Konzepte zu einer Gesamtklassifikationsentscheidung.
Die Zuordnung von Konzepten (z.B. Farbe eines Verkehrsschildes) zur richtigen Klasse (rot = Stopp-/Verbotsschild) kann entweder manuell durch einen Experten modelliert oder anhand von Daten trainiert werden. Wenn sich die Aufgabe oder die Daten anschließend ändern, müssen nur noch ein oder mehrere Konzepte des Modells nachtrainiert werden, nicht das gesamte Modell. Außerdem ist es einfacher, die Ursache einer falschen Klassifikation zu finden (z.B. die Farbe wurde falsch klassifiziert, aber die Form und das Symbol wurden richtig klassifiziert), was sowohl den Trainingsaufwand als auch den Aufwand für die Fehlersuche reduziert.
Nutzen:
- Interpretierbarkeit: Die Entscheidung des ML-Modells wird durch die identifizierten Konzepte und ihre Beziehung zueinander erklärt.
- Flexibilität: Die Bausteine können an die spezifischen Anforderungen des Anwendungsfalls angepasst werden (z.B. eine Kombination aus klassischen Algorithmen und KI-Modellen).
- Anpassbarkeit: Anstatt das gesamte Modell neu zu trainieren, erlaubt unser Ansatz die gezielte Anpassung von Teilen des Modells, um auf Änderungen der Aufgabe und/oder des Datensatzes zu reagieren.
- Fehleranalyse: Die Modularität ermöglicht eine detailliertere Fehleranalyse, z.B. welches Konzept schwer zu erkennen ist, und die Anwendung gezielterer Maßnahmen, z.B. das Sammeln von mehr Daten zu einem bestimmten Konzept.