Motivation
Durch den zunehmenden Einsatz von Künstlicher Intelligenz (KI) in Industrie und Wirtschaft besteht ein großer Bedarf, die von KI-Systemen getroffen Entscheidungen für Menschen verständlich zu kommunizieren und zu erklären. So gelten heute, beispielsweise, Tiefe Neuronale Netze als so genannte „Black Box“-Modelle, bei denen selbst ihre Designer nicht erklären können, warum sie zu einer bestimmten Entscheidung gekommen sind. Die bisher gestarteten Initiativen zur Erklärbarkeit von KI zielen weitestgehend darauf ab, eine Erklärung der Ergebnisse an sich zu ermöglich, nicht aber eine tatsächliche Erklärung zu liefern. Man spricht in diesem Zusammenhang häufig von “Diagnosefähigkeit” oder “Interpretierbarkeit”.
Ziele und Vorgehen
Das Projekt XAINES geht hier einen großen Schritt weiter, in dem es nicht nur die Erklärbarkeit sicherstellen wird, sondern darüber hinaus das Potenzial von narrativen, das heißt sinnstiftenden, und interaktiven Erzählungen als Mittel zur Kommunikation von Erklärungen von KI-Systemen erforscht. Für die Präsentation von Informationen und Wissen im Allgemeinen spielen Narrative (sinnstiftende Erzählungen) bereits eine wichtige Rolle, die nun auch auf die Erklärbarkeit von KI-Modellen ausgeweitet werden soll. Sowohl bei der Herstellung der Grundlage für die Erklärungen, als auch bei der Generierung der Narrative selbst, steht Sprache im Mittelpunkt. Aber auch simulierte und interaktive Umgebungen können hier zur Übermittlung komplexer Inhalte dienen.
Innovationen und Perspektiven
Durch den zunehmenden Einsatz von Künstlicher Intelligenz (KI) in Industrie und Wirtschaft besteht ein großer Bedarf, die von KI-Systemen getroffen Entscheidungen für Menschen verständlich zu kommunizieren und zu erklären. So gelten heute, beispielsweise, Tiefe Neuronale Netze als so genannte „Black Box“-Modelle, bei denen selbst ihre Designer nicht erklären können, warum sie zu einer bestimmten Entscheidung gekommen sind. Die bisher gestarteten Initiativen zur Erklärbarkeit von KI zielen weitestgehend darauf ab, eine Erklärung der Ergebnisse an sich zu ermöglich, nicht aber eine tatsächliche Erklärung zu liefern. Man spricht in diesem Zusammenhang häufig von “Diagnosefähigkeit” oder “Interpretierbarkeit”.