Motivation
Das Forschungsfeld der sogenannten Erklärbaren Künstlichen Intelligenz (XAI) hat das Ziel, Künstliche Intelligenz (KI) transparenter und interpretierbarer zu gestalten. Besonders bei sicherheitskritischen Anwendungen ist es essenziell, die algorithmischen Entscheidungen von intransparenten „Blackbox-Modellen“ nachvollziehen zu können. XAI-Methoden können dann für den Menschen verständliche Erklärungen für die Entscheidungsfindungen von KI-Modellen generieren. Diese Erklärungen liefern zum einen wertvolle Hinweise bei der Entwicklung und Optimierung der KI-Modelle und schaffen zum anderen Vertrauen bei Nutzern der Systeme.
Ziele und Vorgehen
Das Ziel der KI-Nachwuchsgruppe „TimeXAI“ ist die Entwicklung einer neuartigen XAI-Methode für die Klassifikationen von Zeitreihen, wobei ein starker Fokus auf der menschlichen Interpretierbarkeit der Erklärungen liegt. Zeitreihendaten kommen in allen Domänen vor, zum Beispiel die Messungen von Vitalwerten oder Ladezuständen von Batterien. Mit Hilfe verschiedener Evaluierungsansätze werden die Stärken existierender XAI-Methoden identifiziert und in einer neuen Methode kombiniert. Durch die Entwicklung eines offenen Datensatzes können die Projektarbeiten in einem experimentellen Setting evaluiert werden. Hierbei werden Testpersonen eine aktive Rolle einnehmen. Die Verfahren werden zusammen mit Kooperationspartnern für verschiedene Anwendungsdomänen evaluiert.
Innovationen und Perspektiven
In der Forschung und Entwicklung der letzten Jahre wurde eine Vielzahl vielversprechender XAI-Methoden im Bereich der Computer Vision entwickelt. XAI-Ansätze für KI-Modelle zur Zeitreihenklassifikation sind jedoch unterrepräsentiert, obwohl der Bedarf an Lösungen groß ist und durch den enormen Anstieg an Sensordaten in Zukunft noch weiter ansteigen wird. Somit bieten die spezialisierten Verfahren aus „TimeXAI“ hohes Potenzial für zahlreiche Anwendungsfälle und große Innovationssprünge.