Motivation
Große (Sprach-)Modelle wie ChatGPT liefern oftmals beeindruckende Ergebnisse. Gleichzeitig machen sie unerwartete Fehler, die zeigen, dass die Programme teilweise anders funktionieren als erwartet und nur bedingt auf menschliches Verhalten ausgerichtet sind. Das Forschungsvorhaben OPENHAFM zielt deshalb darauf ab, die Leistungsfähigkeit und Zuverlässigkeit von maschinellen Lernmodellen durch die Ausrichtung auf robustes menschliches Urteilsvermögen zu verbessern. Dabei wird eine größere Übereinstimmung von menschlichem und maschinellem Verhalten angestrebt und resilientes Urteilsvermögen in vortrainierte Modelle integriert.
Ziele und Vorgehen
Zunächst werden Defizite im logischen Schließen der Modelle und Fehlanpassungen zwischen menschlichem und maschinellem Verhalten analysiert und neue Methoden zur Datenauswahl und aufbereitung entwickelt. Dazu setzt OPENHAFM manuell kuratierte Benchmark-Datensätze, optimierungsbasierte Methoden und halbautomatische Entdeckungsverfahren ein. Das Projekt erforscht auch, wie sich Eigenschaften und Fähigkeiten von verbesserten Modellen mit steigender Modellgröße, Trainingsdaten sowie -dauer verändern. Es werden gezielte Ansätze entwickelt, wie Trainingsdaten angereichert oder der Lernprozess angepasst werden können, um bessere, flexiblere und effizientere Modelle zu bekommen. Dies beinhaltet die Erstellung synthetischer Datensätze, gezielte Datenanpassungen und Einführung von aktiven Lernmethoden.
Innovationen und Perspektiven
Die Neuartigkeit dieses Projekts liegt in der gezielten funktionalen Ausrichtung von großen Modellen auf robustem menschlichen Verhalten und logischem Denken. Die erhöhte Konsistenz zwischen Mensch und Maschine und die bessere Skalierung der Modelle können nicht nur die wissenschaftliche Gemeinschaft voranbringen, sondern auch erhebliche wirtschaftliche Vorteile bieten, indem die Einsatzmöglichkeiten dieser Modelle in kritischen Bereichen erweitert werden. Langfristig könnte dies zu Fortschritten in der Medizin, dem autonomen Fahren und anderen sicherheitskritischen Anwendungen führen.