Motivation
Datengetriebene Methoden der Künstlichen Intelligenz (KI), insbesondere tiefe neuronale Netze (DNNs), bieten großes Potenzial für Automatisierung auch in sicherheitskritischen Anwendungen. Beispiele hierfür ist Umgebungswahrnehmung, z.B. per Kamera, in Robotik oder automatisiertem Fahren. Für den sicheren Einsatz müssen allerdings Prüf- und Korrigierbarkeit der Methoden garantiert sein. Leider scheitern DNNs aktuell an diesen Voraussetzungen: Diese rein statistischen Modelle sind groß und undurchsichtig. Außerdem erlauben sie weder ausreichend Garantien beim Prüfen des erlernten Wissens, noch gezielte Integration oder Korrektur symbolischen Wissens.
Ziele und Vorgehen
Die KI-Nachwuchsgruppe „chAI“ will daher neuartige Methoden entwickeln, mit denen symbolisches Wissen verifiziert und anschließend gezielt im DNN korrigiert sowie bei Training und Design eingebracht werden kann. Hierfür werden Verfahren aus dem Forschungsfeld der sogenannten Erklärbaren KI verwendet, um Informationen in den DNNs aufzudecken und zu verfolgen. Dafür werden verschiedene mathematisch-räumliche Eingriffspunkte erforscht, über die Wissen eingebracht werden kann.
Innovationen und Perspektiven
Als Anwendungsbeispiele sollen im Vorhaben zum einen Umgebungswahrnehmung im autonomen Fahren und zum anderen Mensch-Maschine-Schnittstellen in der Heimrobotik dienen. Die Praxisnähe wird hierbei durch die assoziierten Industriepartner gestützt. Die zu entwickelnden Methoden sollen einen Beitrag zur Zertifizierung, zur Überwachung, sowie zur effizienten Entwicklung von Umgebungswahrnehmungsmoden und hybriden DNNs liefern. Damit soll das Projekt einen wertvollen Beitrag zum Forschungsfeld der neuro-symbolischen KI und zum rechtskonformen und sicheren praktischen KI-Einsatz in Schlüsselbereichen leisten.