Motivation
Durch die Fortschritte im Bereich des Maschinellen Lernens (ML) verspricht der Einsatz von künstlicher Intelligenz (KI) erhebliche Effizienzsteigerungen in der industriellen Produktion. Viele KI-Systeme für industrielle Anwendungen liefern aber nicht die erhofften positiven Effekte, da sie gar nicht dauerhaft eingesetzt werden. Den verantwortlichen Prozessexperten fehlt es in aller Regel an Vertrauen in ein Modell, das zwar statistisch ein gutes Verhalten zeigt, dessen interne Logik ihnen aber nicht zugänglich ist. Da die Endanwender die abschließende Verantwortung für Prozesssicherheit und -effizienz tragen, bleiben sie oft bei einer konservativen Betriebsstrategie, die klar vom optimalen Betrieb abweicht. KI-Empfehlungen werden nicht befolgt oder ML-Systeme werden gar vollständig deaktiviert.
Ziele und Vorgehen
Mit dem Projekt EXPLAIN sollen diese Probleme überwunden werden, indem der konventionelle ML-Lebenszyklus mit Erklärungen angereichert wird. Ziel ist es, alle relevanten Personen und Rollen über zusätzliche Erklärungen in den Lebenszyklus des Maschinellen Lernens einzubeziehen (Explainable AI, XAI). Mit dem neuen EXPLAIN-Lifecycle sollen Domänenexperten in vier Schritten eingebunden werden. Beim Explanatory Training interagieren die Domänenexperten während des Trainingsprozesses direkt mit dem ML-Modell, erhalten Erklärungen zum Modelloutput und können Feedback geben. Die Prüfung und Freigabe durch Modellerklärung ermöglicht Domänenexperten einen Einblick in die interne Argumentation des trainierten Modells und hilft zu verstehen, ob ein ML-Modell relevante Konzepte aus den bereitgestellten Daten gelernt hat.
Innovationen und Perspektiven
Nach der Freigabe und in der Betriebsphase wird jede Modellvorhersage dem Endbenutzer erklärt und ermöglicht so eine effektive Überwachung des KI-Modells. Zusätzlich kann der Endbenutzer Feedback geben. Dieses Feedback löst ein schrittweises Nachtrainieren der Modelle aus. Die entwickelten Methoden werden anschließend in zwei Anwendungsfällen (thermisches Kraftwerk und Kaltwalzwerk) evaluiert.