Motivation
Fortschritte in der Künstlichen Intelligenz haben zur Entwicklung autonomer Agenten (Autos, Boote, Drohnen) geführt, die in einer dynamischen, offenen Umgebung agieren. Wie durch sehr bekannt gewordene Unfälle autonom fahrender Autos deutlich wurde, bleibt es eine große Herausforderung, deren Sicherheit zu gewährleisten. Ziel des Verbundvorhabens „TRAITS“ ist es, eine zertifizierbare Sicherheitsebene zu entwickeln, die Entscheidungen von Künstlicher Intelligenz im Voraus überwacht und korrigiert. Der Ansatz basiert auf mathematisch rigorosen Techniken. Diese sogenannten formalen Methoden gewinnen in der Software-Industrie und auch in anderen Bereichen, wie z.B. bei cyber-physischen Systemen, immer mehr an Bedeutung. Mithilfe der Kombination von Ergebnissen früherer Zeiträume (Propagation von Mengen) sinkt der Rechenaufwand und eine Just-in-Time-Verifikation der Entscheidungen der Künstlichen Intelligenz wird möglich.
Ziele und Vorgehen
Die geplante Sicherheitsebene soll nicht nur Unfälle vermeiden, sondern auch zu schnelleren und sichereren Trainingszyklen führen, indem sie zusätzliche Trainingsdaten aus automatisch generierten Familien von kritischen Trajektorien generieren kann. Verwandte Ansätze verwenden Optimierungsverfahren, die aufgrund von Erfüllbarkeitsproblemen, numerischen Fehlern oder hohen Rechenkosten teilweise keine gültige Lösung liefern. Im Gegensatz dazu soll der hier gewählte Ansatz sowohl mathematisch als auch numerisch korrekt und mit vorhersagbaren, niedrigen Laufzeiten implementiert werden können. Um die Vorzüge des Ansatzes zu demonstrieren, wird abschließend eine vergleichende Evaluierung mit Ansätzen aus der modellprädiktiven Regelung und klassischen Lernverfahren sowohl in Simulationen als auch in Realexperimenten durchgeführt. Unter anderem sollen Tests an einem autonomen Auto, einem autonomen Boot und einem Roboter erfolgen.
Innovationen und Perspektiven
Das Projekt wird dazu beitragen, die Wettbewerbsfähigkeit Deutschlands und Europas auf dem wachsenden Markt der sicheren Künstlichen Intelligenz zu festigen. Die zukünftige Marktposition von Unternehmen, die künstliche Intelligenz in den Bereichen Transport, Produktion und Energie entwickeln, wird durch ihre Fähigkeit bestimmt werden, flexibel einsatzbare Lösungen anzubieten, die nachweislich hohe Sicherheitsstandards erfüllen.