Motivation
In allen Bereichen der Gesellschaft werden zunehmend KI-Methoden wie Deep Learning (DL) eingesetzt, so u.a. sehr erfolgreich in der Vorhersage von Ereignissen. Entscheidungen solcher Methoden sind allerdings schwer nachvollziehbar, wenn sie auf komplexe Eingangsdaten (z.B. Bilder) angewendet werden. Um die Nachvollziehbarkeit von Methoden und deren Resultaten zu erhöhen, können bereits heute spezielle Verfahren zur Darstellung genutzt werden. Dabei fehlt oft die Möglichkeit, die Modellgenauigkeit bei etablierten DL-Verfahren einzuschätzen, so dass Benutzer von KI-Systemen die Ergebnisse nicht richtig einordnen können. In der Praxis ist daher ein Mechanismus notwendig, mit dem man erkennt, wenn trainierte und somit bekannte Situationen verlassen werden und damit einschätzen kann, wie groß die Unsicherheit einer Vorhersage oder Entscheidung ist. Dies ist insbesondere im Hinblick auf die Nutzung von DL in kritischen und nicht komplett im Labor simulierbaren Anwendungen, wie dem autonomen Fahren, wichtig. Verfahren, die Unsicherheit modellieren können, waren bisher wegen zu hoher Anforderungen an die Rechenzeit nicht anwendbar. Neuere Näherungsansätze skalieren auch auf tiefe neuronale Netze und sollen hier eingesetzt werden.
Ziele und Vorgehen
Im Rahmen des Vorhabens werden Methoden für Transparenz, Nachvollziehbarkeit und Erklärbarkeit entwickelt. Das Hauptziel ist, die Modellgenauigkeit oder -unsicherheit im Rahmen von neuronalen Netzen zu quantifizieren und dem Nutzer über ein Werkzeug zur Verfügung zu stellen. Dem Nutzer wird nicht nur das Ergebnis, sondern auch die Wahrscheinlichkeit dieses Ergebnisses mitgeteilt. Er erhält dann beispielsweise als Ergebnis einer Bilderkennung: dies ist zu 87% eine Katze. Diese zusätzliche Information über die Modellunsicherheit hilft dem Benutzer, das Ergebnis einzuordnen. Darüber hinaus soll am Beispiel optischer Systeme erforscht werden, wie eine transparente Entscheidungsfindung auch bei großen Datenmengen effizient zu modellieren ist. Die Nutzung von Unsicherheitsmaßen kann auch für andere Maschinelle Lernverfahren, wie beispielsweis im Active-Learning angewendet werden, bei dem ein Lernalgorithmus mit dem Benutzer interagieren kann. Dafür ist über die reine Methodenentwicklung hinaus eine grafische Schnittstelle erforderlich, um diese Methoden für Anwender verfügbar zu machen. Dies ist insbesondere im Bereich der Qualitätssicherung, Produkthaftung sowie Nutzung von KI im medizinischen Umfeld wichtig, um Fehlentscheidungen effektiv zu verhindern.
Innovationen und Perspektiven
Die assoziierten Unternehmen Siemens Logistics GmbH, Katamaran-Rederei Bodensee GmbH & Co. KG und exorbyte GmbH erproben die entwickelten Methoden im Bereich der Oberflächeninspektion, um Produktionsfehler zu erkennen und die Umgebung zu erfassen. Die entwickelten Lösungen werden als quelloffene Erweiterungen für die KNIME Analytics Platform veröffentlicht und sind somit unmittelbar für Wirtschaft und Gesellschaft verfügbar.