Mit generativer KI das Wissensmanagement optimieren
Implementierung einer RAG-Lösung bei einem mittelständischen Maschinenbauer
Ziel
Erhöhung der Produktivität durch die Optimierung des internen Wissensmanagements.
Lösung
Entwicklung eines internen Chatbots auf Basis des RAG-Ansatzes, der die Möglichkeiten generativer KI mit den spezifischen Unternehmensinformationen verbindet.
Ergebnis
Mitarbeitenden erhalten relevante Informationen deutlich schneller und präziser und sparen so wertvolle Zeit im Daily Business.
Herausforderung
Wie lässt sich das enorme Potenzial generativer Künstlicher Intelligenz nutzen, ohne dabei Abstriche beim Datenschutz machen zu müssen oder einen Kontrollverlust zu riskieren? Wie so viele Unternehmen stand auch unser Kunde, ein mittelständischer Maschinenbauer, in diesem Spannungsverhältnis aus Veränderungsbereitschaft und Skepsis.
Die Folge: Das Unternehmen scheute die strategische, flächendeckende Einführung von GenAI-Lösungen wie ChatGPT – zu groß schien das Risiko, zu ungewiss die Mehrwerte. Den Impuls, das Thema doch anzugehen, gab eine Befragung der Mitarbeitenden. Eine zentrale Erkenntnis dieser Umfrage: Das Wissensmanagement wird als ineffizient wahrgenommen.
Konkreter: Die Mitarbeitenden schätzen, dass im Durchschnitt 10-20% ihrer Arbeitszeit eingespart werden könnten, wenn sie relevante Informationen zum Beispiel zu Arbeitsprozessen und Verantwortlichkeiten schneller und besser aufbereitet finden würden.
Ziel
Der Maschinenbauer möchte die Fähigkeiten großer Sprachmodelle (LLMs) in seinem konkreten Anwendungsfall – der Optimierung des internen Wissensmanagements mittels eines Chatbots – nutzen und damit die Produktivität erhöhen und für die Mitarbeitenden mehr Freiraum für wertschöpfende Tätigkeiten schaffen.
Lösung
Für die systematische Einführung von GenAI und die Entwicklung einer individuellen Chatbot-Lösung für das Wissensmanagement setzt das Unternehmen auf das sicherheitszertifizierte (nach ISO 27001) Vorgehen und den Empowerment-Ansatz der eoda.
In welchen Bereichen gibt es die größten Informationsbedarfe? Was sind die zentralen Schwachstellen des aktuellen Wissensmanagements? Die Expertinnen und Experten von eoda haben gemeinsam mit den Verantwortlichen auf Kundenseite die genauen Anforderungen und Ziele ermittelt. Ein entscheidender Aspekt dabei ist die Identifikation und Priorisierung der relevanten Datenquellen. Im konkreten Fall des Maschinenbauers lag der Fokus zum Beispiel auf Arbeitsanweisungen und Prozessbeschreibungen aus der internen Wiki-Software.
Diese internen Informationen sind der Schlüssel für Unternehmen, um nachhaltig von großen Sprachmodellen profitieren zu können und das Risiko für Falschinformationen oder sogenannte Halluzinationen zu reduzieren. Der gewählte RAG-Ansatz von eoda verknüpft die Fähigkeiten, die ein Sprachmodell während seines Trainings erworben hat mit dem unternehmensspezifischen Wissen des Maschinenbauers. Dafür hat eoda das Datenmanagement und die Datenanbindung an das Sprachmodell vollzogen.
Was ist der RAG-Ansatz?
Der RAG-Ansatz ist eine Methode im Bereich der natürlichen Sprachverarbeitung, die das Abrufen von Informationen mit der Generierung von Text kombiniert. Dabei wird ein vortrainiertes Sprachmodell verwendet, um relevante Informationen aus unternehmensinternen Wissensdatenbanken oder Dokumenten abzurufen und in die Textgenerierung zu integrieren. Dies ermöglicht es dem Modell, detailliertere und genauere Antworten zu liefern, indem es auf eine breitere Palette von Informationen zugreift, anstatt sich nur auf das vorab trainierte Wissen zu verlassen. Der RAG-Ansatz verbessert somit die Qualität und Relevanz der generierten Inhalte.
Neben der Frage nach den relevanten Datenquellen steht im Data-Science-Kontext immer auch die Frage nach dem passenden Analysemodell im Raum – im GenAI Kontext die Frage nach dem passenden Sprachmodell. Im Hinblick auf die Rahmenbedingungen, Anforderungen und Datenquellen hat eoda das für den Maschinenbauer passende Sprachmodell ausgewählt. Vor dem Hintergrund der enormen Entwicklungsgeschwindigkeit in diesem Umfeld, bietet der eoda-Ansatz aber auch die Möglichkeit das gewählte Modell im Verlauf der Nutzung flexibel auszutauschen, um eine konstant hohe Performance zu ermöglichen.
Um den Einstieg und die Nutzung der GenAI-Lösung für die Mitarbeitenden des Maschinenbauers so einfach und intuitiv wie möglich zu gestalten, hat eoda für den Chatbot eine individuell angepasste Benutzeroberfläche entwickelt und diese in die bestehende IT-Infrastruktur des Kunden integriert.
Anschließend hat eoda das System zur eigenständigen Weiterentwicklung und Betreuung an den Kunden übergeben. Begleitet wurde diese Übergabe von Schulungen – auch auf der Ebene der AnwenderInnen und mit dem Blick auf die erfolgreiche Nutzung aber auch die allgemeine Sensibilisierung für die Chancen und Risiken von GenAI-Lösungen wie ChatGPT und Co.
Ergebnis
Die von eoda geschaffene Lösung wurde bereits innerhalb des ersten Monats nach dem Rollout von über 40% der Mitarbeitenden regelmäßig genutzt. In einer Neuauflage der Teambefragung drei Monate nach dem Rollout bestätigten über 70% der Mitarbeitenden, dass sie schneller relevante und präzise Informationen erhalten und dadurch produktiver sind. Die Verantwortlichen des Maschinenbauers haben durch die Zusammenarbeit mit eoda das Potenzial von GenAI erschlossen – ohne dabei Aspekte wie Vertrauen, Genauigkeit oder Erklärbarkeit außer Acht zu lassen.