Motivation
Ein wesentlicher Bestandteil vieler Unternehmen sind interne Datenbanken, die Informationen zu betrieblichen, administrativen und technischen Abläufen zur Verfügung stellen. Diese Datenbanken enthalten unterschiedliche Informationsquellen in verschiedenen Formaten, wie Tabellen, Präsentationen, Textdokumente oder Wikis, die häufig nicht oder nur teilweise strukturiert vorliegen. Durch eine klassische Stichwortsuche lassen sich die relevanten Dokumente auffinden. Allerdings werden die gefundenen Informationen nicht konsolidiert aufbereitet, weil sie aus unterschiedlichen Quellen stammen. Generative neuronale Sprachmodelle wie ChatGPT und Large Language Models (LLMs) sind wiederum in der Lage, Informationen in umfangreichen Datenbanken aufzufinden und eine konkrete Antwort auf eine Suchanfrage zu generieren. Ihre direkte Nutzung ist jedoch aus mehreren Gründen problematisch. Zum einen bestehen Bedenken beim Schutz persönlicher Informationen und Geschäftsgeheimnisse. Zum anderen produzieren LLMs für Anwendungen mit unternehmensspezifischen Terminologien und Formulierungen oftmals falsche und irreführende Ergebnisse.
Ziele und Vorgehen
GENIAL4KMU hat das Ziel, ein prototypisches generatives Question-Answering-(QA)-System für unstrukturierte Daten zu entwickeln, in dem Chatbots, basierend auf Fragen von Mitarbeitenden, die relevanten Informationen aus einer internen Datenbank extrahieren und in einer Antwort aufbereiten und zusammenfassen. Dazu werden LLMs für unternehmensspezifische Datenbanken mithilfe des Retrieval-Augmented-Generation-(RAG)-Ansatzes angepasst, welcher die Stärken von abfragebasierten und generativen Modellen der Künstlichen Intelligenz kombiniert. Dadurch können zusätzliche relevante Kontexte in die Abfrage integriert werden, um genauere und kontextbezogene Informationen zu erhalten und die Faktenbasiertheit der aufbereiteten Antworten sicherzustellen.
Innovationen und Perspektiven
Die im Projekt entwickelten Methoden und Modelle dienen als Grundlage für maßgeschneiderte RAG-Lösungen in industriellen Anwendungen. Dabei werden die Lösungen insbesondere für deutschsprachige Inhalte konzipiert.