Motivation
Künstliche Intelligenz (KI) ist eine Schlüsseltechnologie in vielen Anwendungsfällen. Ihre Einführung benötigt oftmals eine höhere Vorhersagesicherheit. Für komplexere Aufgabenstellungen, beispielsweise Bilder semantisch zu segmentieren, liefert eine KI im Allgemeinen keine Angaben zur Unsicherheit der Vorhersagen. In einigen Anwendungsfällen hat sich auch gezeigt, dass eine KI Falschaussagen mit vermeintlich hoher Sicherheit macht. Dies kann auf Fehler in der Datenbasis zurückgehen. KI-Modelle sind außerdem auf viele qualitativ hochwertige Daten angewiesen – dies führt zu hohen Kosten in der Datengenerierung.
Ziele und Vorgehen
Genau hier setzt das Projekt UnrEAL an und entwickelt Methoden, um die Unsicherheit von KI zu erkennen und zu quantifizieren, um wenig Bedarf an manuell erzeugten Annotationen (aktives Lernen) zu haben und um Fehler in manuell erzeugten Bildannotationen zu detektieren. Dazu wird zuerst der Informationsfluss in tiefen neuronalen Netzen gemessen und analysiert. Anschließend werden Methoden entwickelt, die eine gleichzeitige Annotation und Modellbildung betreiben (aktives Lernen). Dabei wird ein Verfahren entwickelt, das es erlaubt, Bildregionen für die Annotation vorzuschlagen. Dieses wird dann in einen Annotationsprozess integriert, der immer die Bilder oder Bildregionen vorschlägt, welche besonders wichtig für die weitere Klassifikation sind. Dadurch kann die benötigte Anzahl von Daten reduziert werden. Weiterhin werden Ansätze erforscht, die Annotationsfehler entdecken. Dazu werden zuerst Vergleichsdatensätze aufbereitet, bei denen die Annotationsfehler bekannt sind. Dann werden verschiedene Methoden erprobt, die diese bekannten Fehler vorhersagbar machen.
Innovationen und Perspektiven
Die bessere Abschätzung von Unsicherheit von KI ist ein wichtiger Faktor, der ihre Anwendung in einigen Feldern erst ermöglicht, insbesondere in sicherheitsrelevanten Anwendungen, wie dem automatisierten Fahren oder der medizinischen Bildverarbeitung. Weiterhin kann dies die Datengenerierung deutlich effizienter gestalten. Die Ergebnisse werden durch wissenschaftliche Aufsätze und durch die Veröffentlichung von Software-Bibliotheken verbreitet. Außerdem fließen sie in die Lehre und in bestehende Transferaktivitäten ein. Die im Projekt entwickelten Methoden werden bei den Kooperationspartnern APTIV und ControlExpert zum Einsatz kommen. Weitere Interessenbekundungen liegen vor.