Motivation
Große Sprachmodelle (LLMs) können bei vielen Fragestellungen mit Argumenten die Entscheidungsfindung unterstützen, wofür sie auch zunehmend genutzt werden. Sie sind in der Lage, einfache Schlüsse aus Texten zu ziehen, wobei sie (implizit) so trainiert sind, Aussagen „selbstsicher“ zu formulieren und zu begründen, obwohl sie keine explizite Repräsentation logischer Kalküle oder des Konzeptes ‘Wahrheit’ besitzen. Somit besteht die Frage, inwieweit man durch ein Sprachmodell erzeugten Argumentation vertrauen kann, ohne Gefahr zu laufen, daraus Fehlschlüsse zu ziehen oder in eine bestimmte Richtung manipuliert zu werden. In anderen Worten: Inwieweit ist die Validität von LLM-generierter Argumentation überprüfbar? Genau hier setzt das Vorhaben DIALOKIA an.
Ziele und Vorgehen
Die Argumentationstheorie stellt logisch-formale Regeln bereit, um gegebene Aussagen im Sinne der Dialektik anzuzweifeln, aber auch zu verteidigen. So kann z.B. eine unzulässige Verallgemeinerung durch ein Gegenbeispiel in Frage gestellt werden. Ein Argument, das dem Schema der Schlussfolgerung aus einer Expertenaussage folgt, kann z.B. verteidigt werden, indem die fachliche Autorität der Person belegt wird. Ziel von DIALOKIA ist die Entwicklung einer LLM-basierten KI-Architektur, die diese Regeln der formalen Dialektik anwendet. Ein vom Sprachmodell unabhängiges Prüfmodell nimmt dann – ganz im Sinne der dialektischen Logik – die Rolle der Diskussionspartnerin ein und trainiert das Sprachmodell hinsichtlich der Einhaltung der zugrundeliegenden Regeln und Logik.
Innovationen und Perspektiven
Der Einsatz von KI zur Argumentationsgenerierung, kann den öffentlichen Diskurs maßgeblich beeinflussen. Im Vorhaben wird ein leicht zugänglicher Demonstrator für gesellschaftlich relevante Themen entwickelt, wie Familie und Bildung, um in eine fundierte Debatte über die Chancen und Risiken einsteigen zu können. Die Forschungsergebnisse werden in der Wissenschaftlichen Community geteilt und diskutiert, u.a. durch Publikationen und Shared-Task-Wettbewerbe, weiterentwickelt und kommen auch dem wissenschaftlichen Nachwuchs beider Projektpartner zugute.