Motivation
Künstliche Intelligenz (KI) hat sich in den letzten Jahren sowohl in der Wissenschaft als auch in der Industrie mit rasanter Geschwindigkeit verbreitet. In den unterschiedlichsten Bereichen, wie beispielsweise dem autonomen Fahren oder der Krebszellen-Diagnostik, konnten mit Hilfe von Methoden der KI herausragende Leistungen erzielt werden. Trotz dieser erstaunlichen Leistungen besteht gerade in sicherheitskritischen Bereichen das Risiko, dass Entscheidungssysteme falsche Vorhersagen treffen. Die damit verbundenen Risiken werfen sowohl juristische, gesellschaftliche als auch ethische Fragen auf. Da die Anwendung von KI in vielen Bereichen jedoch wettbewerbsentscheidend geworden ist, müssen die hochkomplexen Systeme besser verstanden werden, um eine algorithmische Rechenschaftspflicht von KI-Technologien zu gewährleisten und damit ihren breiten Einsatz zu ermöglichen.
Ziele und Vorgehen
Wegweisend ist hier das Gebiet der Erklärbaren Künstlichen Intelligenz (Explainable AI = XAI), welches sich mit dem Verständnis von KI-Modellen und deren Entscheidungen beschäftigt. Einzelne Entscheidungen können bereits nachvollziehbar gemacht werden, indem beispielsweise, die relevanten Bereiche in einem Bild gekennzeichnet werden, die wesentlich zu der Entscheidung des KI-Systems beigetragen haben. Jedoch gibt es bis heute keine Methode, die ein ganzheitliches Verständnis des Verhaltens eines KI-Modells ermöglicht. Um jedoch KI-Modelle vertrauenswürdig nutzen zu können, braucht es eine Transparenz des Modells, sodass das Verhalten des Modells schon vor dem Einsatz bekannt ist und ein mögliches Fehlverhalten ausgeschlossen werden kann.
Innovationen und Perspektiven
Das Ziel des Projektes “Explaining 4.0” ist die Entwicklung von Methoden, die einen signifikanten Beitrag zu einem ganzheitlichen – globalen – Verständnis von KI-Modellen leisten. Dabei sind Effizienz (durch a priori Wissen), Verständlichkeit (durch semantische Elemente) und Robustheit die drei wesentlichen Schlüsselelemente. Als Ergebnis entsteht ein flexibles Open-Source Werkzeug, das eine breite Anwendbarkeit sowie einen nachhaltigen Transfer der Forschungsergebnisse für Industrie und Wissenschaft gewährleistet. Das Projekt “Explaining 4.0” wird damit einen entscheidenden Beitrag für das tiefergehende Verständnis von KI-Modellen liefern und damit letztendlich auch als verbesserte Unterstützung bei ethischen, juristischen und gesellschaftlichen Fragestellungen dienen.