Motivation
Mit Maschinellem Lernen (ML) lassen sich anhand von Daten komplexe Zusammenhänge modellieren. Somit können aufwändige und oft grob vereinfachte mathematische Modellierungen bestimmter Gegebenheiten umgangen werden. Außerdem eröffnet sich zudem eine neuartige Funktionalität: ML-Modelle können datengetrieben an geänderte Anforderungen und Bedingungen angepasst werden. Um eine regelmäßige Anpassung zu erreichen, werden Daten während des Gebrauchs eines Modells gesammelt und das Modell unter Berücksichtigung dieser Information neu trainiert, es findet also ein episodisches Update des ML-Modells statt.
Ziele und Vorgehen
Die enorme Flexibilität dieser Methode geht mit zwei zentralen Herausforderungen einher: Für ein, in der Regel durch einen menschlichen Nutzer überwachtes, Nachtraining wird oft eine aufwändige manuelle Annotation und Aufbereitung der Daten benötigt. Außerdem ist unklar, wie die Validität des Modells nach einem Update garantiert werden kann, wenn keine oder nur wenige annotierte Daten zur Verfügung stehen. Diese Herausforderungen können im Allgemeinen nicht vollständig automatisiert gelöst werden, sondern erfordern eine Einbeziehung des Nutzers und seines Expertenwissens in den Lernprozess. Um diese Integration von Expertenwissen effizient und über die manuelle Annotation von Daten hinaus im episodischen interaktiven Lernen zu ermöglichen, spielt Erklärbarkeit eine entscheidende Rolle. Hier setzt das Vorhaben EML4U an. Forschungsfragen im Vorhaben sind die Einbindung von Erklärungsmechanismen in die KI, die den Nutzer in der Entscheidung unterstützen, ob bei neuer Datengrundlage ein Nachtraining des Modells einen Nutzen bringt. Außerdem soll der Anwender im Falle eines Updates durch die Erklärungen die Auswirkungen auf die Funktionalität des Modells abschätzen können. Damit können nur die Daten für das Nachtraining gewählt werden, welche eine Verbesserung der Leistung des Modells zur Folge haben.
Innovationen und Perspektiven
Die entwickelte Lösung wird anhand der Analyse von natürlichsprachlichen Texten in der Pharmazie durch den Industriepartner Semalytix auf Praxistauglichkeit getestet werden.