Motivation
Künstliche Intelligenz (KI) – für kaum eine andere Schlüsseltechnologie werden Chancen und mögliche Gefahren im gesellschaftlichen Diskurs aktuell so kontrovers diskutiert. Unbestritten ist, dass die zu erwartenden Veränderungen und Auswirkungen dieser Technologie nahezu alle Lebens- und Wirtschaftsbereiche betreffen werden. Damit einhergehend stellt sich für die Entwickler neuer KI-Algorithmen eine ganz wesentliche Herausforderung: Wie können wir Methoden und Modelle dazu bringen, eine gestellte Aufgabe nicht nur bestmöglich im Sinne des eigentlichen Optimierungsziels, sondern gleichzeitig auch transparent und erkenntnisbringend für den Anwender zu lösen? Je stärker selbstlernende Algorithmen in industrielle, wissenschaftliche und die Öffentlichkeit betreffende Prozesse und Systeme integriert werden, desto zentraler ist es, die trainierten Modelle nicht als bloße „Black-Box“-Lösungen zu begreifen.
Ziele und Vorgehen
Besonders beliebt im Bereich KI sind künstliche neuronale Netze (KNNs): selbst-lernende Systeme, die an den Aufbau natürlicher Gehirne angelehnt sind. Durch leistungsstarke Computer können immer mehr künstliche Neuronen zum Lernen verwendet werden. Die Komplexität dieser Netze erschwert es auch, ihre inneren Prozesse und Entscheidungen nachzuvollziehen. Zur sicheren Verwendung von KNNs ist es allerdings notwendig, deren Funktionsweise umfassend zu verstehen. Natürliche Gehirne werden schon seit über 50 Jahren erforscht. Da KNNs vom Gehirn inspiriert sind, können Methoden aus den Neurowissenschaften genutzt werden, um hoch-komplexe KNNs zu analysieren und ihre Funktionsweise bildlich zu veranschaulichen.
Innovationen und Perspektiven
Im Vorhaben CogXAI werden etablierte neurowissenschaftliche Verfahren auf KNNs übertragen. Dadurch werden auch deren Lernprozesse besser nachvollziehbar. So ist gelerntes Fehlverhalten schon im Entstehen erkennbar und es können entsprechende Gegenmaßnahmen ergriffen werden. Darüber hinaus bieten die kognitiven Neurowissenschaften auch viele Erkenntnisse über das Lernverhalten des menschlichen Gehirns. Dieser Erfahrungsschatz wird im Projekt CogXAI genutzt, um neuartige kognitiv inspirierte KNN-Architekturen zu designen. Diese Übertragung kognitiver Konzepte auf KNNs wird ebenso die Nachvollziehbarkeit von KNN-basierten Systemen verbessern.