Motivation
Maschinelle Lerntechniken haben sich eindrucksvoll entwickelt und tragen signifikant zur Lösbarkeit komplexer Aufgaben der Informationsverarbeitung bei, von populären KI-Domänen wie strategischen Spielen bis hin zu wichtigen industriellen Anwendungen wie beispielsweise Bildverarbeitung oder Robotik. Insbesondere maschinelle Lernverfahren auf Basis künstlicher neuronaler Netzen haben derzeit eine große Bedeutung. Diesen Fortschritten stehen jedoch noch immer große Herausforderungen gegenüber, maschinelles Lernen für künstliche neuronale Netze effektiv einzusetzen und verlässliche Softwaresysteme zu realisieren. Systematische Fehlklassifikation aufgrund von nicht repräsentativen Datensätzen, kontraintuitives Verhalten sowie die fehlende Nachvollziehbarkeit von Entscheidungen durch Künstliche Intelligenz mindern die Verlässlichkeit solcher Systeme und erhöhen gleichzeitig die Manipulierbarkeit.
Ziele und Vorgehen
Im Rahmen des Vorhabens wird das „Dependable Intelligent Software Lab“ an der Otto-Friedrich-Universität Bamberg neue Softwaretechnikmethoden erforschen, die das Fehlverhalten Künstlicher Intelligenz minimieren sollen. Die Kernthemen des Vorhabens sind die Nachvollziehbarkeit der Entscheidungen von KI-Verfahren sowie die automatische Überprüfung der Künstlichen Intelligenz auf Fehlverhalten während der Programmlaufzeit. Darüber hinaus werden innovative Methoden für die zuverlässige Interaktion zwischen KI-Systemen und klassischer Software entwickelt.
Innovationen und Perspektiven
Neben diesen Forschungen werden im Labor für intelligente Software Systeme Qualifizierungsmaßnahmen entwickelt und durchgeführt, die Studierende und Teilnehmer aus der lokalen Wirtschaft sowohl im Umgang mit Lernverfahren für KI-Systeme schult als auch Methoden an die Hand gibt, um verlässlichere KI-Software zu entwickeln. Das KI-Labor ermöglicht die Verknüpfung der bereits Vorhandenen Lehrveranstaltungen im Bereich Künstlicher Intelligenz der Universität Bamberg mit neuen innovativen Inhalten. Studierende können durch die Hardware des KI-Labors die erlernten Inhalte in praktischen Szenarien testen und ihr Wissen damit festigen.