Motivation
Technologien der Künstlichen Intelligenz (KI) können große Datenmengen effizient verarbeiten, um Dienste zu verbessern und Anwendungen zu ermöglichen, die auf die Bedürfnisse der Endbenutzer zugeschnitten sind. Während die Vorteile von KI-Technologien für die Gesellschaft vielfältig sind und von personalisierten Diensten bis hin zu einer verbesserten Gesundheitsversorgung reichen, verläuft ihre Akzeptanz und das Ausschöpfen des vollen Potenzials von KI leider schleppend. In TRAIN sollen zwei der wichtigsten Hindernisse für den weit verbreiteten Einsatz von KI behandelt werden: den Mangel an Robustheit und Vertrauenswürdigkeit, holistisch von der Trainingsphase von Modellen.
Ziele und Vorgehen
Robustheit: Modellvorhersagen sind stark von den genutzten Datenquellen abhängig, wobei KI-Technologien von Natur aus Vorurteile entfalten können: Jüngste Forschungsergebnisse zeigen, dass einige Modelle zur Verarbeitung natürlicher Sprache Geschlechterstereotypen aufweisen. In TRAIN sollen Methoden erarbeitet werden, die Angriffe abwehren, die diese Schwachstelle von KI zur Manipulation von Vorhersagen ausnutzen. Vertrauenswürdigkeit: Federated Learning (FL) ermöglicht es, ein Maschinelles Lernmodell zu trainieren, wobei die Trainingsdaten bei den Teilnehmern verbleiben. Daraus ergeben sich von Natur aus (einige) Datenschutz- und Governance-Garantien. Die Vorort-Berechnung von Modellparametern kann jedoch zum Abfluss von Informationen und zum potenziellen Verlust der Privatsphäre führen. In TRAIN sollen Methoden entwickelt werden, um FL nutzbar zu machen, ohne den genannten Gefahren ausgesetzt zu sein.
Innovationen und Perspektiven
Mit den genannten Methodenentwicklungen wird TRAIN der Wissenschaft und Wirtschaft Lösungen anbieten, deren Erarbeitung aufgrund des damit verbundenen Aufwandes sonst nicht geleistet werden könnte. Mit diesen fertigen Lösungen wird es vor allem in sensiblen Bereichen wie dem Gesundheits- oder Finanzwesen wesentlich vereinfacht, sichere und robuste KI-Anwendungen zu implementieren.