Motivation
In vielen Bereichen können generative KI-Systeme durch ihre neue Leistungsfähigkeit dabei unterstützen, unkonventionelle Lösungsansätze zu entwickeln, auf neue Ideen zu kommen und Arbeitsprozesse zu erleichtern. Damit können sie zu Innovationen beitragen. Bisherige Untersuchungen nehmen vor allem das Ergebnis generativer KI in den Blick und vernachlässigen dabei eine systematische und an konkreten Arbeitsprozessen orientierte Aufarbeitung rechtlicher, organisationaler und gesellschaftlicher Rahmenbedingungen. Außerdem fehlt ein fundiertes und an praktischen Arbeitsprozessen orientiertes Verständnis der Wechselwirkungen zwischen Nutzerinnen und Nutzern bzw. Anwenderinnen und Anwendern und den Funktionsweisen generativer KI-Modelle, das einen rechtlichen Rahmen durch organisationale und gesellschaftliche Bedingungen sinnvoll ergänzt. Deshalb nimmt das Forschungsvorhaben relevante sowie besonders strittige rechtliche Fragen beim Einsatz generativer KI in den Blick.
Ziele und Vorgehen
Das Vorhaben GenKI-IR untersucht den vorhandenen Rechtsrahmen beim Einsatz generativer KI in beispielhaften Arbeitsprozessen. Dabei werden besonders relevante offene bzw. gesellschaftlich strittige Rechtsfragen herausgearbeitet. Sie werden mit den Potenzialen generativer KI-Anwendungen für bestimmte Arbeitsprozesse abgeglichen. Es entstehen systematische Betrachtungen und Aufbereitungen rechtlich relevanter Aspekte, die in den Rahmen eines belastbaren Verständnisses von Mensch-KI-Interaktionen eingebettet sind. Dies erlaubt, sowohl rechtliche, organisationale und gesellschaftliche Rahmenbedingungen zu analysieren und zu definieren, als auch Handlungsspielräume aufzuzeigen. Im ersten Schritt werden rechtliche Fragen entlang der wesentlichen Phasen der Mensch-Maschine-Interaktion bearbeitet. In einem zweiten Schritt werden Zukunftsszenarien gemeinsam mit hochrangigen Expertinnen und Experten erarbeitet und im Rahmen von Zukunftslaboren konkrete Modellierungen und Handlungsspielräume ausgelotet.
Innovationen und Perspektiven
Die hier geleisteten Forschungsergebnisse zu rechtlichen und gesellschaftlichen Fragen beim Einsatz generativer KI sollen einen gesicherte Wissensgrundlage für Unternehmen und die öffentliche Verwaltung bilden, um die Vorteile solcher Anwendungen sinnvoll nutzbar zu.