Motivation
Immer mehr Alltagsaufgaben werden von Maschinen übernommen, was vor allem durch die enormen Fortschritte im Bereich des Maschinellen Lernens (ML) ermöglicht wird. Zunehmend betrifft das auch sicherheitskritische Aufgaben, wie beispielsweise beim automatisierten Fahren. Deshalb müssen Steuerungssysteme für sicherheitskritische Anwendungen strengen Zulassungsanforderungen entsprechen.
Ziele und Vorgehen
Das Projekt CertML verfolgt das Ziel, auf Maschinellem Lernen (ML) basierende Steuerungssysteme stärker für sicherheitskritische Anwendungen nutzbar zu machen und deren Sicherheitseigenschaften nachweisen zu können. Dazu sollen prozess- und produktorientierte Techniken zur Absicherung von ML-basierten Steuerungen verknüpft werden, um eine ganzheitliche, ausfallsichere sogenannte n-Version-Sicherheitsarchitektur zu erreichen, die auf dem parallelen Einsatz n verschiedener ML-Komponenten für dieselbe Aufgabe basiert. Darauf aufbauend soll ein Ansatz für die Zulassung derartiger Systeme definiert werden, mit dem sie in sicherheitskritischen Anwendungen im Mobilitätsbereich eingesetzt werden können. Durch den gezielten, redundanten Aufbau der n Komponenten soll eine stark erhöhte Gesamtgenauigkeit erreicht werden, sodass Fehlinterpretationen einer einzelnen ML-Komponente nicht mehr zum Versagen des Gesamtsystems führen, sondern durch andere Komponenten ausgeglichen werden können.
Innovationen und Perspektiven
Die Sicherheitsarchitektur wird als Simulation und auf spezieller Hardware prototypisch realisiert. Die Sicherheitseigenschaften der entwickelten Lösung sollen anhand von Anwendungsfällen in der Eisenbahn- und der Kraftfahrzeugtechnik demonstriert und nachgewiesen werden. Im Projekt arbeiten die Firmen DResearch Fahrzeugelektronik GmbH und samoconsult GmbH mit der Hochschule für Technik und Wirtschaft Berlin zusammen. Ihre Kompetenzen ergänzen sich in den Bereichen Maschinelles Lernen, funktionale Sicherheit und fahrzeugbasierte Steuerungssysteme in den Anwendungsfeldern Eisenbahn- und Kraftfahrzeugtechnik. Die beteiligten Unternehmen erwarten sich von der geplanten Lösung, ihre Wettbewerbsposition in den Themen Künstliche Intelligenz und Sicherheit zu stärken.