Motivation
Die KI-Forschung und -Anwendung haben ihren Aufschwung in den letzten Jahren insbesondere methodischen Verbesserungen im Bereich des Maschinellen Lernens zu verdanken, z.B. bei Architekturen, die auf tiefen neuronalen Netzen basieren. Enorme Fortschritte wurden erzielt, mit KI Bilder und Texte zu analysieren und zu generieren sowie komplexe Entscheidungsprobleme zu lösen. Obwohl die Vorteile immens sind, sind aktuelle Verfahren insofern noch limitiert, dass die Netzwerke sehr viele annotierte Trainingsbeispiele benötigen und ihre Funktionsweise bzw. Problemlösungsstrategie nur schlecht nachvollziehbar bzw. erklärbar sind.
Ziele und Vorgehen
In einem interdisziplinären Ansatz hat die KI-Nachwuchsgruppe ACONITE sich zum Ziel gesetzt, neuro-wissenschaftliche Methoden und Konzepte aus dem Bereich des Repräsentationslernens bei Menschen und Tieren in der KI zu etablieren. Im Gegensatz zu aktuellen künstlichen neuronalen Netzen sind biologische neuronale Netze in unserem Gehirn sehr geschickt darin, aus nur wenigen Beispielen zu lernen. Der Fokus des Vorhabens ist deshalb, ein tieferes Verständnis der Struktur und Erklärbarkeit gelernter Repräsentationen zu erlangen, indem sogenannte kognitive Karten erstellt und analysiert werden. Des Weiteren sollen KI-Agenten in virtuellen Umgebungen untersucht werden, um zu lernen, wie die neuronalen Repräsentationen entstehen. Diese Grundlagen sollen dazu dienen, effizientere, interpretierbare und sicherere KI-Verfahren für Anwendungen zu entwerfen, die mit wenig annotierten Daten auskommen und in ihrer Funktionsweise erklärbar sein müssen.
Innovationen und Perspektiven
Durch neue Erkenntnisse und Impulse aus den Kognitionswissenschaften inspiriert das grundlagenorientierte Vorhaben neue Ansätze zur Lösung aktueller Herausforderungen der KI-Forschung. Im Rahmen des Vorhabens ist u.a. geplant, eine Visualisierungsplattform zur standardisierten Überprüfung der gelernten Repräsentationen von neuronalen Netzen aufzubauen. Dies könnte besonders für medizinische und technische Anwendungsfelder von großer Bedeutung sein, in denen standardisierte Ergebnisse und Abläufe gewährleistet sein müssen.