Motivation
Technische und soziale Systeme werden immer komplexer. Künstliche Intelligenz (KI) hat das Potenzial, Planungen und Entscheidungen in solchen komplexen Systemen essentiell zu unterstützen. Durch KI und Maschinelles Lernen gewonnene Vorhersagen und Handlungsstrategien für komplexe Systeme entziehen sich aber bisher einfachen und transparenten Erklärungen. Das liegt an der Größe solcher Systeme und vielen internen Wechselwirkungen, aber auch an der Komplexität und Intransparenz der eingesetzten KI-Methoden. Bei vielen Planungen und Entscheidungen sind Menschen jedoch direkt beteiligt und betroffen, z.B. bei schwerwiegenden Investitionsentscheidungen, politischen Entscheidungen, Therapieempfehlungen etc. Daher ist es wichtig, für Vorhersagen und Handlungsstrategien in komplexen Systemen kognitiv adäquate Erklärungen zu finden.
Ziele und Vorgehen
Ausgangspunkt von „PlexPlain“ ist die Einsicht, dass die lineare Programmierung, also die Optimierung von Zielfunktionen auf Basis linearer Gleichungen, eine grundlegende KI-Methode ist, die sehr häufig für Optimierung und Planung in komplexen Systemen eingesetzt wird. Auch einige aktuelle Vorhersagemethoden, die auf neuronalen Netzen beruhen, und das sogenannte Verstärkungslernen, also das Erlernen durch Belohnung bei Erfolg, das zunehmend angewendet wird, lassen sich durch lineare Programmierung analysieren. In Anwendungen eingesetzte lineare Programme können leicht Millionen von Variablen enthalten, deren Zusammenwirken oft auch für Experten nur schwer verständlich ist. Damit bilden lineare Programme eine große Klasse an Problemen, für die dringend kognitiv adäquate Erklärungen benötigt werden. In „PlexPlain“ wird daher zum einen grundlagenorientiert in Verhaltensstudien untersucht, wie Menschen lineare Programme verstehen. Zum anderen werden neue Methoden entwickelt, die lineare Programme (semi-)automatisch vereinfachen, in graphische Modelle übersetzen und Erklärungen erzeugen. In den Verhaltensstudien werden Versuchspersonen mit Planungsproblemen konfrontiert, die durch lineare Programme optimal gelöst werden können. Die beobachteten Lösungsstrategien und begleitende Erklärungen fließen in die Entwicklung der neuen Methoden ein, die ihrerseits zu überprüfende Hypothesen für verständlichere Erklärungen liefern. Insbesondere werden graphische Modelle aus komplexen Systemen extrahiert und zur Darstellung von verständlichen, qualitativen Wirkzusammenhängen genutzt.
Innovationen und Perspektiven
Das Projekt ist eine interdisziplinäre Zusammenarbeit zwischen kognitionswissenschaftlicher und informatorischer Grundlagenforschung mit der Elektrotechnik, die die konkreten Anwendungsfälle liefert. Als Anwendungsfälle dienen dabei komplexe Modelle von Energiesystemen zur Planung der Energiewende und Vorhersagen für den Strommarkt, die in Abstimmung mit den assoziierten Partnern Siemens AG und Entega AG untersucht werden.