Motivation
Die Unterstützung des Menschen durch Künstliche Intelligenz (KI) wird zukünftig in allen Bereichen und Branchen weiter zunehmen. Daher sind Forschung und Richtlinien, die solche menschzentrierten Interaktionen verstehen und verbessern möchten, von zentraler Bedeutung. Sie leisten einen entscheidenden Beitrag dazu, dass Fortschritte nicht nur auf der technischen Ebene passieren, sondern auch ethische Aspekte miteinbezogen werden. Dadurch kann perspektivisch eine vertrauensvollere Zusammenarbeit realisiert werden. Während es dahingehend bereits einschlägige Erkenntnisse im Rahmen von KI-gestützten Beratungen gibt, sind hybride Teams aus Menschen und KI weitestgehend unerforscht.
Ziele und Vorgehen
In Ethyde sollen nun systematisch Faktoren erschlossen werden, welche diese hybride Interaktion und die Verhaltensweisen auf beiden Seiten beeinflussen. Aus gesellschaftlicher Sicht ist es wichtig, zu verstehen, wann und unter welchen Umständen es beim Hinzuziehen von KI-Systemen zum Phänomen des Über- oder Untervertrauens seitens des Menschen kommt und wie dieses auf gestalterischer und regulatorischer Ebene adressiert werden kann. Im Vorhaben werden deshalb vorwiegend verhaltenswissenschaftliche Studien durchgeführt, um dann vertrauensvollere Handlungsempfehlungen durch die KI abzuleiten. Hier fließen neuartige Ansätze des erklärenden und interaktiven Maschinellen Lernens ein.
Innovationen und Perspektiven
Ethyde ist im Bereich der wissenschaftlichen Grundlagenforschung angesiedelt. Alle im Projekt gesammelten Erfahrungen und Ergebnisse werden später Relevanz und Anwendung in zahlreichen Domänen finden. Sie werden dazu beitragen, Deutschlands Vorreiterrolle im Bereich der menschzentrierten und vertrauenswürdigeren KI-Empfehlungssysteme weiter zu stärken. Vorgesehen ist zudem die Entwicklung eines technischen Prototypens, welcher langfristig als Basis für eine marktgängige skalierbare Lösung dienen kann.