Motivation
Sogenannte algorithmische Entscheidungssysteme (algorithmic decision making systems, ADM-Systeme) werden immer häufiger genutzt, um Entscheidungen zu treffen. ADM-Systeme benutzen dabei oft Algorithmen die wir als Künstliche Intelligenz bezeichnen. Diese Systeme bringen oft gute Ergebnisse in komplexen Entscheidungsprozessen, zum Beispiel bei der Bestimmung einer medizinischen Diagnose anhand von Symptomen. Häufig wird aber nicht verstanden, was die Faktoren bei der Berechnung eines Ergebnisses waren. Daher wurden diverse Erklärbarkeits- und Transparenzansätze entwickelt, die mögliche Mängel von ADM-Systemen aufzeigen sollen. Ob diese Ansätze aber tatsächlich solche Mängel finden oder die Entscheidung von ADM-Systemen nachvollziehbar machen, wurde dagegen bisher wenig untersucht.
Ziele und Vorgehen
Bei TrADeMaS soll erforscht werden, inwieweit Erklärbarkeits- und Transparenzansätze dabei helfen können, dass Menschen verstehen, wie eine ADM-System zu seiner Entscheidung kommt. Auf der einen Seite geht es um die Frage, ob diese Maßnahmen psychologisch effektiv sind, also ob Menschen damit in der Lage sind, fehlerhafte Entscheidungen oder fehlerhafte Entscheidungsgrundlagen zu erkennen. Auf der anderen Seite soll geklärt werden, ob sie mathematisch robust sind, ob es also möglich ist, ADM-Systeme so zu bauen, dass sie einen Fehler beinhalten, der von den Erklärbarkeits- und Transparenzansätzen nicht entdeckt wird.
Innovationen und Perspektiven
Die hier geleisteten Forschungsergebnisse sollen aufzeigen, wie funktionierende Erklärbarkeits- und Transparenzansätze für Künstliche Intelligenz gewählt werden können und unter welchen Umständen ihr Einsatz gelingt. Sollten die Ergebnisse zeigen, dass die untersuchten Ansätze nicht ausreichend robust und effektiv sind, ergibt sich zusätzlich ein Bildungsbedarf für Regulierer, Prüfer und Verbraucherschützer. Außerdem stellt sich dann die weitere Forschungsfrage, was die minimale Anzahl von Mechanismen betrifft, die gemeinsam einen robusten und gleichzeitig effizienten Einblick in die Entscheidungslogik von ADM-Systemen geben könnte.