Motivation
Die teils verblüffenden Fähigkeiten moderner Algorithmen der Künstlichen Intelligenz (KI), wie Chatbots oder Bildgeneratoren, sind auf ihre Eigenschaften zurückzuführen, riesige Datenmengen nach statistischen Zusammenhängen zu durchforsten. Ob eine gefundene Querverbindung dabei auch ursächlich – kausal – ist, bleibt dabei jedoch ungeklärt. Vertrauenswürdigkeit und Erklärbarkeit sind im Rahmen von KI-Methoden daher bis heute nur unzureichend eingearbeitet, was besonders kritisch ist, wenn die Systeme zur Entscheidungsfindung genutzt werden, etwa beim optimalen Betrieb einer Produktionsanlage oder autonomen Fahren.
Ziele und Vorgehen
Derartige Anwendungen setzen zum Großteil auf Verfahren des „Dynamic Reinforcement Learning“ (DRL), bei dem die Bewertung über die Qualität einer Entscheidung das weitere Training eines neuronalen Netzes beeinflusst. Das zentrale Ziel im Vorhaben MAC-MERLin ist, das Wissen um kausale Zusammenhänge aus externen Quellen (z.B. Beispiel menschliche Experten oder statistische Analyse der Daten) in geeigneter Form mathematisch-numerisch zu kodieren und dem neuronalen Netz während des Trainings in Form eines Filters oder speziellen Feedbacks zur Verfügung zu stellen. In anderen Worten: der DRL-Algorithmus bzw. -Agent bekommt einen Coach.
Innovationen und Perspektiven
Oben beschriebene DRL-Agenten, die bspw. Brettspiele wie Schach oder GO erlernen, treffen sehr spezifische Entscheidungen wie das Ziehen einer bestimmten Figur, die nach einem Bewertungsschema die Stellung verbessert. Ein menschlicher Spieler hat dabei in der Regel eine übergeordnete Strategie im Sinn, etwa um perspektivisch die Beweglichkeit eines Turms zu erleichtern. Auf diesen höheren Ebenen sind übergeordnete Strategien, die auf kausalen Zusammenhängen beruhen, jedoch auch für DRL-Agenten denkbar. Oft sind diese potentiell für eine Reihe verschiedenster Umgebungen geeignet und könnten die Entwicklung von Algorithmen mit einem breiten Anwendungspotential in unterschiedlichen Domänen und Sektoren wesentlich vereinfachen.