Motivation
Eine Standardmethode der Künstlichen Intelligenz im Bereich Maschinelles Lernen sind Künstliche Neuronale Netze (KNN). Diese können zwar erfolgreich für komplexe Aufgaben trainiert werden, es ist aber schwierig, ihre Funktionsweise zu verstehen und ihre Verlässlichkeit zu gewährleisten. Beim Autonomen Fahren kommen ebenfalls KNN zum Einsatz, z.B. um Fußgänger oder Radfahrer zu erkennen, deren Verhalten zu antizipieren und entsprechend zu reagieren. Insbesondere bei diesen sicherheitskritischen Systemen ist es notwendig, dass die Funktionsweise nachvollziehbar ist und sie damit zertifizierbar sind.
Ziele und Vorgehen
Das Projekt NEUPA hat zum Ziel die Erklärbarkeit der KNN zu erhöhen und so mittelfristig Zertifizierungen prinzipiell zu ermöglichen. Zu diesem Zweck werden im Rahmen des Projekts zwei Ansätze verfolgt: Zum einen werden Prädiktionsmodelle, die für gegebene sensorische Eingaben das zu erwartende Systemverhalten vorhersagen, gemeinsam mit lernenden KNN für das jeweilige Verhalten trainiert. Diese werden dann genutzt, um das Verhalten der KNN selbst zu erklären und besser zu verstehen. Beim zweiten Ansatz werden mit Methoden der statistischen Physik und des kollektiven Entscheidens das vielfältige Zusammenspiel der vernetzten künstlichen Neuronen und deren Entscheidungsfindung analysiert. Dabei werden in mehreren Iterationen Gruppen von künstlichen Neuronen ihrer Funktionalität folgend zu größeren Modulen zusammengefasst, um das KNN dann Modul für Modul in seiner Wirkweise verstehen zu können. Prädiktionsmodelle für KNN und Methoden der statistischen Physik werden genutzt, um Verhalten von Fußgängern und Radfahrern vorherzusagen, um so das Verhalten des KNN und des Autonomen Fahrzeugs zu erklären. Zum zweiten werden Modelle für das Verhalten von Fußgängern und Radfahrern entwickelt, um diese realistisch simulieren zu können. In den Simulationen können dann KNN besser für das Autonome Fahren trainiert werden. Schließlich werden in einem Demonstrator die Prädiktionsmodelle mittels Hardware-Beschleunigung für den mobilen Einsatz im Fahrzeug optimiert, implementiert und getestet.
Innovationen und Perspektiven
Das Projekt wird Werkzeuge zur Erklärbarkeit trainierter KNN sowie synthetische Modelle zur Vorhersage von Fußgängerverhalten und eine spezifische Hardware-Unterstützung dieser Werkzeuge liefern. Die Software könnte zum Produkt weiterentwickelt und die Daten zugänglich gemacht werden.