Agenten-Systeme basieren auf der Kombination verschiedener Komponenten, die zusammenarbeiten, um komplexe Probleme zu lösen. Als Grundstein können die LLMs auf unterschiedliche Weise eingesetzt werden. Durch den Einsatz von LLMs als „Denker“ bzw. „Planer“, mittels Reflexionsmechanismen zur Selbstüberprüfung und externen Tools zur Erweiterung der Funktionalität wird ein flexibles System geschaffen. Insbesondere bei sehr komplexen und mehrstufigen Aufgaben kann das Zusammenspiel mehrerer Agenten in Multi-Agenten-Systemen (MAS) die Leistungsfähigkeit des Systems nochmals steigern. Zur technischen Umsetzung mit Python stehen spezialisierte Open-Source-Frameworks für Agenten wie LangGraph, AutoGen und CrewAI bereit.

Funktionsweise

 

Wie in Abb. 1 zu erkennen ist, setzen sich Agenten-Systeme aus verschiedenen Komponenten zusammen. Jede Komponente hat spezifische Rollen und Funktionen, die zur Gesamtleistung des Systems beitragen und die Lösungskompetenz komplexer Aufgaben im Gegensatz zu reinen LLMs oder RAG-Systemen erweitern. Die typischen Komponenten von Agenten-Systemen sind:

1. LLM

Das LLM dient als zentrale Einheit des Systems, die textbasierte Aufgaben bewältigt und in einem Agenten-System die Rolle eines „Denkers“ einnimmt. Je nach Bedarf werden in Agenten-Systemen auch mehrere verschiedene Sprachmodelle mit unterschiedlichen Fähigkeitsschwerpunkten wie Logik, exotische Fremdsprachen oder schnelle Verarbeitung eingesetzt.

2. Planner

Die Planung, um die angefragte Aufgabe schrittweise zu erledigen, ist ein weiteres zentrales Element von Agenten-Systemen. Dabei wird die Gesamtaufgabe in Teilaufgaben oder -schritte unterteilt. Mit der Planung wird ebenfalls die Reihenfolge der auszuführenden Schritte festgelegt, Teilaufgaben können an spezialisierte Modelle delegiert und priorisiert werden. So wird verhindert, dass der Agent lediglich zufällige Aktionen durchführt, sondern zielgerichtet agiert.

3. Reflexion

Ein weiterer wichtiger Bestandteil ist der Reflexionsmechanismus. Hierbei überprüft ein LLM das Resultat aus vorherigen Schritten auf Fehler oder Halluzinationen. Dies ist besonders wichtig bei komplexen Aufgaben, um etwa die schrittweise erarbeitete Lösung mit der ursprünglichen Aufgabenstellung abzugleichen.

4. Tools

Um spezifische Aufgaben zu lösen, kann der Agent externe Tools heranziehen. Zu den verwendeten Tools gehören zum Beispiel:

• Web-/Vektorsuche: Diese ermöglicht einen breiten Zugriff auf externes Wissen oder interne Informationen in großen Datenmengen. Antwortgenerierung unter Zuhilfenahme von weiteren, zumeist firmeninternen Informationen ist Kern von RAG-Systemen.
• Code-Ausführung: Sie ermöglicht es dem Agenten, Berechnungen auf Basis von zuvor generiertem Code auszuführen, beispielsweise durch das Ausführen von Python-Skripten.
• API-Anbindung: Über standardisierte Schnittstellen (APIs) können strukturiert spezifische Informationen abgefragt werden, etwa Wetterprognosen oder Preisinformationen.
• Bildgenerierung: Diese Funktion kann genutzt werden, um Visualisierungen, Diagramme oder Illustrationen basierend auf den Daten und Antworten des Systems zu erzeugen. Neben Plotfunktionen sind auch Bildgeneratoren wie Dall-E eine Option.

5. Zusammenarbeit in Agenten-Systemen

Um komplexe Aufgaben zielsicher zu lösen, bietet sich das Zusammenspiel von mehreren, spezialisierten Agenten in Multi-Agenten-Systemen (MAS) an. Dabei hat jeder Agent spezifische Fähigkeiten und Rollen, die sich gegenseitig ergänzen. Beispielsweise kann ein Agent für die Datenbeschaffung zuständig sein, während ein anderer die Daten analysiert und ein dritter die Ergebnisse präsentiert. Der Übergang von Single- zu Multi-Agenten-Systemen ist hierbei fließend; die Abgrenzung ist von eher geringer praktischer Relevanz.

Herausforderungen von Agenten-Systemen

Neben den Vorteilen von Agenten-Systemen gibt es auch Herausforderungen. Die Entwicklung und Wartung komplexer Systeme mit vielen Bausteinen erfordern tiefgehendes technisches Wissen sowie sorgfältige Planung und Design. Zudem sind regelmäßige Überwachungen notwendig, da insbesondere bei Multi-Agenten-Systemen Fehler in der Interaktion zu unerwarteten Ergebnissen führen können.
Ein weiterer Aspekt ist der probabilistische Charakter von Sprachmodellen, der zu Unsicherheiten führen kann. Daher sind präzise Prompts und die Überprüfung der Konsistenz entscheidend. Zudem kann der lokale Betrieb erhebliche Rechenressourcen (GPU) erfordern, was zu längeren Antwortzeiten und höheren Betriebskosten führen kann.
Trotz dieser Herausforderungen bleibt der Einsatz von Agenten-Systemen lohnend, da sie komplexe Aufgaben effizient automatisieren können. Mit der richtigen Planung und technischen Expertise lassen sich diese Hürden meistern.

Anwendungsbeispiele für Agenten-Systeme

Agenten-Systeme zeigen ihr Potenzial in einer Vielzahl von Anwendungsbereichen. Indem mehrere Agenten effektiv zusammenarbeiten, können sie auch komplexe Herausforderungen bewältigen beispielsweise in der Kundenbetreuung oder als persönlicher Assistent für wiederkehrende Aufgaben. Hierzu zählen auch Aufgaben als digitaler Research Analyst oder zur schnellen Erstellung von Angeboten im Vertrieb.

Agentic RAG:

Agentic RAG-Systeme stellen eine, um agentische Elemente erweiterte Form von RAG-Systemen dar. Entsprechend handelt es sich hierbei um einen ausgewogenen Mittelweg zwischen Aufwand und Leistungsfähigkeit (siehe Abb. 1).

 

 

Der Prozess des selbstständigen Entscheidens und Prüfens verläuft beim Agentic RAG in mehreren Schritten gemäß Abb. 2:

Quelle auswählen

Basierend auf der Nutzeranfrage wählt der Agent zuerst die passende Quelle aus, indem er entscheidet, ob die benötigte Wissensgrundlage eher in der internen Vektordatenbank oder per allgemeiner Websuche zu finden ist.

Vektordatenbank

Bei der Vektorsuche werden vorverarbeitete, betreiberspezifische Inhalte wie interne Dokumentationen oder Kommunikation schnell abgerufen.

Websuche

Die Websuche dient als alternative Wissensgrundlage, wenn naheliegt, dass in den lokalen Daten keine passende Antwort gefunden werden kann.

Wissensgrundlage beurteilen

Nachdem Informationen gefunden wurden, prüft das Agentensystem die Relevanz zur Beantwortung der Ausgangsfrage unter Zuhilfenahme eines Sprachmodells.

Frage umformulieren

Falls alle gefundenen Daten zur Beantwortung der Frage irrelevant sind, wird die ursprüngliche Frage umformuliert und der Prozess wiederholt.

Antwort erstellen

Sobald die relevanten Informationen gefunden sind, erstellt das Sprachmodell auf deren Basis eine Antwort.
Im nächsten Schritt wird die generierte Antwort dann auf mögliche Halluzinationen – frei erfundene Antworten – überprüft. Beim Auftreten von Halluzinationen wird die Antwort erneut generiert.

Antwort prüfen

Falls keine Halluzinationen vorhanden sind, erfolgt die finale Prüfung, ob die Frage tatsächlich beantwortet wird. Sofern die Antwort nicht zur Frage passt, geht der Prozess erneut zum Umformulieren der Frage über. Andernfalls erfolgt schließlich die Ausgabe der Antwort an den Nutzer.

Bei dieser beispielhaften Architektur eines Agentensystems wird deutlich, wie verschiedene Bausteine von Agentensystemen kombiniert werden, um Entscheidungen treffen zu lassen und dabei mögliche Fehler bereits im Prozess beheben zu können.

 

Fazit

Agenten-Systeme bieten ein enormes Potenzial, insbesondere bei der Automatisierung und der effizienten Bearbeitung komplexer Aufgaben. Durch ihre Flexibilität und Erweiterbarkeit durch den Einsatz von LLMs und externen Tools, stellen sie eine zukunftsweisende Technologie dar.

Um all diese Vorteile trotz der skizzierten Herausforderungen meistern zu können, ist tiefergehendes Know-how bei der effizienten Implementierung der Systeme notwendig. Mit unserer Expertise bieten wir eine umfassende Beratung an, damit Sie die vielfältigen Möglichkeiten von Agenten-Systemen voll ausschöpfen können.

Agenten-Systeme sind modular und können individuell nach Ihren Anwendungsfällen aufgebaut werden. Sprechen Sie uns sehr gerne an.

Entdecken Sie auch unsere Lösung Guinan mit der Sie schnell, einfach und sicher die Vorteile Generativer KI in Ihr Unternehmen bringen.