Motivation
In den vergangenen Jahren konnten erstaunliche Fortschritte auf dem Gebiet der Künstlichen Intelligenz (KI) beobachtet werden. Insbesondere fanden Deep Learning Ansätze auf Basis künstlicher (tiefer) neuronaler Netze aufgrund ihrer Überlegenheit bei großen KI-Wettbewerben Einzug in immer mehr Produktionssysteme, teilweise sogar in sicherheitskritischen Bereichen, wie z.B. autonomes Fahren, medizinische Bildverarbeitung und Bonitätsprüfung. Jüngste Erkenntnisse deuten jedoch darauf hin, dass die Robustheit von Deep Learning Ansätzen oftmals geringer ist als zunächst angenommen. Schon kleinste, für den Menschen unmerkliche Veränderungen des Eingangssignals können Deep Learning Ansätze zu potenziell gefährlichen Fehlklassifikationen verleiten. Dies stellt nicht nur ein großes Problem für ihre Anwendung in sicherheitskritischen Bereichen dar, sondern verdeutlicht auch die mangelnde Erklärbarkeit moderner KI-Ansätze: Trotz guter Leistung der Netze haben selbst Experten Schwierigkeiten, die Ergebnisse der Klassifizierung zu erklären.
Ziele und Vorgehen
Deshalb verfolgt das Projekt ExplAINN drei Ziele: Es sollen Ansätze entwickelt werden, um bestehende Modelle (mit Schwerpunkt auf Deep Neural Networks) besser erklären zu können. Die Abhängigkeiten zwischen Erklärbarkeit, Robustheit und Genauigkeit sollen analysiert wer-den. Und schließlich sollen neue Modelle entwickelt werden, die sich bereits bedingt durch ihr Design besser erklären lassen. Dazu werden die Modelle selbst, ihre Komponenten und Elemente, die die endgültige Ent-scheidung unterstützen, analysiert. Ein erweitertes Benchmarking von Architekturen und un-terschiedlichen Optimierungszielen kann mehr Erkenntnisse darüber liefern, welche Netzwerke für welche Aufgaben mit welchen Eigenschaften geeignet sind. Darüber hinaus werden die Auswirkungen der verfügbaren Trainingsdaten, die eine der wichtigsten Komponenten für jede Art des Maschinellen Lernens darstellen, auf das ausgewählte Modell analysiert. Es soll herausgefunden werden, welche Trainingssamples für eine genaue oder robuste Klassifizierung am wichtigsten sind.
Innovationen und Perspektiven
Eine weitere nicht zu vernachlässigende Frage, ist die nach den Empfängern einer solchen Verhaltenserklärung. Während sich der größte Teil der bestehenden Arbeiten auf Erklärungen für KI-Experten konzentriert, sollen in diesem Projekt ebenso Endanwender als Zielgruppe betrachtet werden.