Motivation
Künstliche Intelligenz (KI) – für kaum eine andere Schlüsseltechnologie werden Chancen und mögliche Gefahren im gesellschaftlichen Diskurs aktuell so kontrovers diskutiert. Künstliche neuronale Netzwerke spielen eine zentrale Rolle in modernen KI-Systemen, die zu wichtigen Verbesserungen, z.B. in der Medizin, beitragen können. Sie sind in der Lage, Zusammenhänge direkt aus Daten zu extrahieren und auf diese Weise präzise Voraussagen und Entscheidungen zu treffen. Ein derzeitiges Problem ist jedoch, die Entscheidungen für den Menschen nachvollziehbar und damit verständlich sowie überprüfbar zu machen. Besonders im medizinischen Bereich ist diese Transparenz wesentlich, z.B. für Systeme, die diagnostische Entscheidungen treffen oder sogar medizinische Eingriffe kontrollieren.
Ziele und Vorgehen
Das interdisziplinäre Vorhaben RenormalizedFlow vereint Neurowissenschaften, Informatik, statistische Physik und Medizin, um grundlegende Fortschritte für die Transparenz und Interpretierbarkeit tiefer neuronaler Netzwerke zu liefern. Diese Netzwerke bestehen aus einer Hintereinanderschaltung vieler Schichten künstlicher Neuronen, die eingehende Daten, Schritt für Schritt, nach problemabhängigen Kriterien in Substrukturen zerlegen. Diese Zerlegung ist jedoch so komplex, dass sie für einen Menschen nicht direkt nachvollziehbar ist. Um die Zerlegung zu verstehen, greift das Projekt auf die sogenannte Renormierungsgruppe zurück, eine der größten Errungenschaften der theoretischen Physik des 20. Jahrhunderts. Diese Methodik wurde entwickelt, um Prozesse zu analysieren, die sich erst aus dem Zusammenspiel einer Vielzahl von Teilprozessen ergeben. Ein Teilprozess entspricht hier einer Schicht des Netzwerks. Diese Technik wird mit einer weiteren neuen Entwicklung kombiniert, den invertierbaren, d.h. umkehrbaren tiefen Netzwerken. Diese erlauben nicht nur die Extraktion der zugrundeliegenden Zerlegung in Substrukturen aus den Daten, sondern gleichzeitig auch deren Umkehrung: das Erzeugen der plausibelsten Daten, die zu einer Zerlegung in Substrukturen gehören. Somit werden identifizierte Substrukturen direkt überprüfbar.
Innovationen und Perspektiven
Die so gewonnenen Einsichten sollen zum einen für den Menschen nachvollziehbare Erklärungen für getroffene Entscheidungen liefern, zum anderen sollen sie ermöglichen, neuronale Netzwerke gezielt zu optimieren. Die verbesserten Verfahren werden im Projekt auf die Analyse von Gehirnsignalen angewandt; ein relevantes Beispiel mit breiten Anwendungsmöglichkeiten, sowohl im Kontext von KI-Systemen in der Neurotechnologie, z.B. dem Steuern von Prothesen, als auch in der neurologischen Diagnostik.