Motivation
In den vergangenen Jahren haben Methoden des Deep Learning in der Künstlichen Intelligenz (KI) eine große Bedeutung erlangt. Sie zeigten so überragende Ergebnisse, dass die Technologie zwischenzeitlich als Lösung für fast jedes Problem gehandelt wurde, für das ausreichend Daten zur Verfügung stehen. Deep Learning Methoden stellen im Prinzip sehr komplexe statistische Zusammenhänge her. Für viele Anwendungsfälle zeigt diese Technologie jedoch auch Unzulänglichkeiten, zum Beispiel einen Mangel an Erklärbarkeit von daraus abgeleiteten Entscheidungen. Außerdem können KI-Lösungen, die auf diesen tiefen neuronalen Netzen basieren, sehr anfällig gegenüber kleinen (unerheblichen) Veränderungen in den Daten sein. Sie sind nur begrenzt übertragbar auf Fälle, die nicht von den Trainingsdaten abgedeckt wurden, und weisen einen großen Datenhunger auf.
Ziele und Vorgehen
Um diesen Problemen entgegenzusteuern werden in der KI-Forschung Ansätze einer „vertrauenswürdigen KI“ verfolgt. Zur Vertrauenswürdigkeit gehört dabei auch der Nachweis der sachgemäßen Funktion, welcher im vorangegangenen Vorhaben REACT mit einer Methode zur Validierung von KI-Systemen in der virtuellen Realität verfolgt wurde. Darauf Aufbauend sollen in MOMENTUM nun diese und weitere Methoden für eine vertrauenswürdige KI erforscht anhand von Anwendungsfällen aus dem Hochautomatisierten Fahren in drei Bereichen erforscht werden. Im humanzentrierten Bereich dreht sich alles um die verbesserte Simulation von menschlichem Verhalten und Bewegungen. Der maschinenzentrierte Teil des Vorhabens hingegen soll mit Hilfe von „hybrider KI“ (eine Mischung aus regelbasierter KI und neuronalen Netzen) die Erklärbarkeit und Robustheit erhöhen. Schlussendlich sollen im Bereich „Virtuelle Realität“ die Methoden aus REACT weiterentwickelt werden.
Innovationen und Perspektiven
Die geplanten Lösungen sollen nicht auf den skizzierten Anwendungsfall beschränkt sein, sondern eine hohe Generalisierbarkeit aufweisen. Mit diesem Beitrag zu einer vertrauenswürdigen KI wird die Akzeptanz von KI-Lösungen, vor allem in der Zusammenarbeit von Mensch und Maschine, gesteigert werden.