Motivation
Die Relevanz und Bewertung übergeordneter gesellschaftlicher Risiken von Künstlicher Intelligenz (KI) ist bisher nicht ausreichend systematisch erforscht. Im Gegensatz zu den unmittelbaren Folgen von KI für betroffene Einzelpersonen oder Personengruppen liegen zu möglichen Gefahren für unsere Gesellschaft zu systemischen oder gar zu existentiellen Risiken für die ganze Menschheit keine befriedigenden Bewertungs- und Handlungsansätze vor. Es gibt jedoch gerade in jüngster Zeit konkrete Hinweise auf systemische Risiken, die zum Beispiel dadurch entstehen, wenn KI-Dienste mit KI-Produkten gekoppelt werden. Systemische Risiken stellen potenzielle Bedrohungen dar, die systemrelevante Einheiten mit kritischer Bedeutung für die Gesellschaft unter Druck setzen können. Zunehmend wird außerdem von den Medien und unterschiedlichen Akteuren aus dem Feld der KI auf existentielle Risiken für die gesamte Menschheit hingewiesen, die mit einer ungebremsten oder unkontrollierten Fortentwicklung von KI einhergehen könnten.
Ziele und Vorgehen
In dem interdisziplinären Projekt SERI werden mögliche systemische und existenzielle Risiken von KI in zwei Teilprojekten sowohl theoriebasiert als auch in der Praxis mit Hilfe von Experteninterviews und einem mehrstufigen Befragungsverfahren untersucht. Ziel ist es Wissen aus unterschiedlichen disziplinären Bereichen zusammenzuführen, um fundierte Einschätzungen und Empfehlungen zu ermöglichen. Das erste Teilprojekt befasst sich mit der Definition/Analyse von systemischen Risiken durch KI, deren Ursachen und Wirkungen sowie mit geeigneten Regulierungsmaßnahmen. Im zweiten Teilprojekt werden der Diskurs über KI als potentielles existenzielles Risiko („Unkontrollierbare KI“) analysiert und daraus Szenarien und Handlungsoptionen entwickelt.
Innovationen und Perspektiven
Um KI-Technologien erfolgreich und sozialverträglich zu implementieren und damit wirtschaftlich erfolgreich zu sein, ist es unerlässlich, mögliche Risiken und Vorbehalte zu berücksichtigen. Dabei sollten frühzeitig systemische und existentielle Risiken identifiziert und eingeordnet, die Forschungs- und Technologiepolitik beraten sowie regulative Rahmenbedingungen weiterentwickelt werden.