Motivation
Die KI-Forschung und -Anwendung haben ihren Aufschwung u.a. methodischen Verbesserungen im Bereich des Maschinellen Lernens zu verdanken, z.B. bei Architekturen, die auf tiefen neuronalen Netzen basieren. Die meisten Modelle der künstlichen Intelligenz basieren auf komplexen Abbildungsvorschriften und bieten dadurch keine Möglichkeiten, die Funktionsweise der Modelle im Detail zu begutachten oder externes Wissen durch Experten zu integrieren. Durch diese Einschränkungen können diese Modelle nur schwer validiert werden und sind deshalb für viele Anwendungsfelder ungeeignet. Sie werden deshalb auch als Black-Box-Modelle bezeichnet, da ihre Funktionsweise bzw. Problemlösungsstrategie nur schlecht nachvollziehbar bzw. erklärbar ist.
Ziele und Vorgehen
Das Forschungsvorhaben verfolgt als primäre Ziele, neue, interpretierbare White-Box-KI-Modelle zu entwickeln und Erkenntnisse über die Akzeptanz dieser KI-Modell zu gewinnen. Diese zwei Ziele sind eng miteinander verwoben und beeinflussen sich gegenseitig. Zum einen werden die gelernten Abbildungsvorschriften der WhiteBox-KI-Modelle visuell dargestellt. Damit können Experten, unter anderem Fehler oder Bias-Effekte in den darunterliegenden Daten sowie in der Modellabbildung erkennen. Zum anderen sollen Experten ihr Wissen in die White-Box-KI zurückspielen können. Dazu werden Nebenbedingungen in den Optimierungsproblemen zum Lernen der KI entwickelt, die das Expertenwissen widerspiegeln.
Innovationen und Perspektiven
Die Resultate dieses Vorhabens bieten sowohl in der Forschung als auch in der Praxis großes Verwertungspotenzial. Die aktuelle Forschung befasst sich aktuell nahezu ausschließlich mit rein datengetriebenen White-Box-Modellen. Dieses Vorhaben bildet damit einen Grundstein zur Kombination von KI und Expertenwissen. In der Praxis können viele KI-Methoden nicht angewandt werden, da keine endgültige Validierung der Methoden möglich ist und somit ein Einsatz rechtlich oder ethisch nicht vertretbar ist. In diesem Vorhaben werden White-Box-KI-Modelle entwickelt, die völlig transparent sind und somit vor einem Einsatz validiert werden können.