Motivation
Immer mehr Anwendungen in Industrie, Wirtschaft und Wissenschaft nutzen unterschiedliche KI-Techniken und KI-Workflows simultan, um komplexe Probleme zu lösen und komplexe Prozesse und Entscheidungen zu automatisieren und zu optimieren. Um Vertrauen in solche hybriden, beziehungsweise gestaffelten KI-Systeme zu schaffen, muss das kombinierte Ergebnis des gesamten Systems dem menschlichen Nutzer erklärt werden. Obwohl einzelne KI-Algorithmen häufig unabhängig voneinander erklärbar sind, fehlt in der Regel diese Fähigkeit bei integrierten hybriden Systemen. Für vertrauenswürdige KI-Systeme ist Erklärbarkeit jedoch einer der Aspekte, an die sich diese Systeme während ihrer Entwicklung, Umsetzung und Anwendung orientieren sollten.
Ziele und Vorgehen
Ziel des Projekts HAI-x ist, eine erklärbare hybride Künstliche Intelligenz zu entwickeln. Als Anwendungsszenario für eine solche hybride KI wird die Planung von Maßnahmen zur Unkrautbekämpfung in aquatischen Umgebungen betrachtet. Hierzu werden verschiedene KI-Methoden auf verschiedene Teilaufgaben angewandt, um die Mäharbeiten optimal planen zu können. Für praktische Anwendungen, wie im Beispiel der Unkrautbekämpfung, benötigen menschliche Entscheidungsträger nicht nur einen optimalen Plan, sondern auch eine Erklärung des Plans und der zugrunde liegenden maschinell erstellten Modelle, um Licht in die „Black Box“ hybrider KI-Systeme zu bringen und damit in die Planung zu schaffen.
Innovationen und Perspektiven
Obwohl das Vorhaben an einem konkreten Beispiel entwickelt wird, soll HAI-x eine Technologie sein, die auf andere hybride KI-Systeme in ähnlichen Szenarien übertragbar ist. Mögliche Anwendungsbereiche sind zum Beispiel die Gewässer- und Wasserstraßenunterhaltung, die Einsatzplanung und die Einsatzlogistik, etwa bei der Abfallbeseitigung.