Motivation
Häufige Nutzerfragen zu aktuellen Chat-Systemen sind: „Wie funktioniert die Moderation von Nachrichten – ist das automatisierbar?“ und „Kann man aus dem Chat auf spezifische Inhalte verlinken?“ Die Sorge der Plattformbetreiber vor beleidigenden oder irreführenden Nutzerinhalten (Stichworte: „Hate Speech“ und „Cyber-Mobbing“) ist sehr groß. Gerade für Chat-Nachrichten in deutscher Sprache beschränken sich verfügbare Lösungen auf simple Wortfilter, welche von Nutzern einfach umgangen werden. Entsprechend werden Menschen als Moderatoren eingesetzt, was enorme Kosten verursacht und die Nachfrage für KI-basierte Moderation immens erhöht. Darüber hinaus möchten Betreiber auch auf relevante Inhalte ihrer Websites verlinken, um die Kundenbindung zu erhöhen und zur zentralen Anlaufstelle der Nutzer für Kommunikation und Information zu werden.
Ziele und Vorgehen
Das Verbundvorhaben „KILiMod“ hat das Ziel, Chat-Texte durch KI-gestützte Kontexterkennung sicherer und informativer zu machen. Dazu werden einerseits neue Modelle für die Erkennung problematischer Nachrichten und die Verlinkung interessanter Inhalte in deutschsprachigen Chats entwickelt, andererseits werden diese Modelle hinsichtlich ihrer Echtzeitfähigkeit und Nutzerakzeptanz optimiert. Der Lehrstuhl für Data Science der Universität Würzburg arbeitet zum einen an der Entwicklung neuer KI-Modelle mithilfe von Methoden des Natural Language Processing, insbesondere der Emotionsanalyse, zur Erkennung beleidigender Inhalte. Zum anderen werden Methoden des sogenannten Metric Learning sowie von Empfehlungssystemen zur Abbildung der Chatnachrichten auf passende Web-Inhalte des Anbieters untersucht. Das KMU vAudience konzentriert sich auf die Einsatzfähigkeit der entstehenden Modelle in Echtzeit, insbesondere auf ein optimales Verhältnis zwischen Ressourcenverbrauch und Qualität der Ergebnisse. Außerdem verantwortet es User-Interface- sowie User-Experience-Studien, um die Nutzerfreundlichkeit und Akzeptanz der Modelle zu verbessern.
Innovationen und Perspektiven
Durch KILiMod werden KI-Modelle entstehen, die im Vergleich zu aktuell verfügbaren Systemen qualitativ bessere Ergebnisse liefern und gleichzeitig mit geringerem Kostenaufwand einsetzbar sind. So kann dem aktuell in Deutschland bestehenden sprachbedingten Standortnachteil – der Großteil der existierenden Forschung und Entwicklung findet auf englischsprachigen Daten statt – entgegengewirkt werden. Gleichzeitig besteht großes Potenzial dafür, die sehr flexible Technologie für andere Kommunikationsbereiche weiterzuentwickeln.