
Die meisten Entwickler, die versuchen, KI-Agenten zu entwickeln, beginnen mit einer einzigen großen Sprachmodellschleife - einem Systemprompt und vielleicht einem oder zwei Werkzeugen - und für kleine Aufgaben ist das ausreichend.
Sobald man aber eine Struktur will, beginnt das System auszufransen. Die Ergebnisse werden unvorhersehbar, die Arbeitsabläufe sind schwer zu debuggen, und man verbrennt Token für Wiederholungen statt für Fortschritt.
Mit Multi-Agenten-Workflows können Sie KI-Agenten aufbauen, die sich eher wie ein Team verhalten, mit klaren Rollen und Einblicken in die Art und Weise, wie Entscheidungen getroffen werden, und die auf ein gemeinsames Ziel hinarbeiten.
Was ist ein Multi-Agent Framework?
Ein Multi-Agenten-Framework ist die Infrastruktur, mit der Sie mehrere KI-Agenten erstellen, ausführen und koordiniert verwalten können.
Es ist die Infrastruktur, die dafür sorgt, wie Agenten kommunizieren und wie Aufgaben zwischen ihnen übertragen werden.
Wenn Sie mit Multi-Agenten-Systemen arbeiten, ist es der Rahmen, der sie funktionsfähig macht.
In seinem Kern verwandelt es rohe große SprachmodelleLLMs) in skalierte Agenten, die jeweils eine Rolle und eine vorhersehbare Arbeitsweise haben.
Anstatt die Orchestrierungslogik von Grund auf neu zu schreiben, bietet Ihnen das Framework Struktur, Kontrolle und Wiederholbarkeit.
Multi-Agenten-Rahmenwerke: Zentrale Konzepte
Wie funktionieren Multi-Agent-Frameworks?
Multi-Agent-Frameworks strukturieren, wie Agenten ausgelöst werden, wie sie Daten weitergeben und wie das System den Fortschritt verfolgt.
Sie liefern die Bausteine für die Koordinierung von Agenten in einer Weise, die mit der Komplexität skaliert und sie in realen Einsätzen nutzbar macht.
Ein Beispiel ist die Verwendung eines Multi-Agenten-Setups zum Betrieb eines WhatsApp . In diesem Fall können verschiedene Agenten Aufgaben wie Buchungen, Rückerstattungen oder Verifizierungen übernehmen und hinter den Kulissen zusammenarbeiten, ohne sich auf ein monolithisches Bot-Setup zu verlassen.
.webp)
Agenten werden als aufrufbare Komponenten im System registriert
Bevor ein Agent etwas tun kann, muss das Framework wissen, dass er existiert. Das bedeutet, dass dem System der Name des Agenten mitgeteilt werden muss, wofür er zuständig ist und auf welche Werkzeuge oder Informationen er zugreifen kann.
In den meisten Frameworks erfolgt diese Einrichtung über eine Konfigurationsdatei oder einen Code, in dem Sie die Rolle der einzelnen Agenten und deren Aktivierung festlegen. Sie könnten dem System zum Beispiel mitteilen:
"Das ist der Planer. Er liest die Benutzereingaben und entscheidet, was als nächstes zu tun ist."
"Dies ist der Verifizierer. Er nimmt Benutzerinformationen und gibt booking_id und Benutzerinformationen zurück."
Nach der Registrierung kann das Framework diese Agenten namentlich "anrufen", d. h. es weiß, wie die einzelnen Agenten ausgeführt werden müssen, wenn sie im Arbeitsablauf an der Reihe sind.
Der Routing-Agent entscheidet, welcher Agent als nächstes ausgeführt wird
Ein Planer-Agent oder eine Controller-Funktion ist für das Routing der KI-Agenten zuständig. Er prüft die letzte Bot-Ausgabe, den aktuellen Gesprächsverlauf und manchmal auch die ursprüngliche Benutzereingabe, um zu entscheiden, was als Nächstes geschehen soll.
Einige Planer sind prompt-basiert - sie nehmen eine Systemmeldung auf und geben den Namen des nächsten Agenten aus, der ausgeführt werden soll.
Andere verwenden fest kodierte Logik oder Flussdiagramme, je nachdem, mit welchen KI-Agenten-Frameworks Sie arbeiten.
Der Rahmen nimmt diese Ausgabe und verwendet sie, um den nächsten Agenten aufzurufen. Der Router entscheidet, wer die Aufgabe erledigen soll, anstatt die Aufgabe zu erledigen.
Die Datenübermittlung zwischen Agenten erfolgt über Nachrichten
Die Agenten teilen sich den Speicher nicht direkt. Wenn ein Agent seine Arbeit beendet, wird seine Ausgabe in eine Nachricht verpackt - normalerweise ein Wörterbuch oder ein JSON-Objekt - und an den nächsten Agenten als Eingabe weitergegeben.
Der Rahmen verwaltet die Übertragung. Es speichert die Nachricht entweder in einem gemeinsamen Speicherbereich oder leitet sie direkt an die Eingabeschnittstelle des nächsten Agenten weiter, je nachdem, wie das System aufgebaut ist.
Botschaften enthalten oft mehr als nur den Inhalt:
- Wer hat sie gesendet (Agent oder Benutzer)
- Woher kam die Information im Arbeitsablauf?
- Wie es verwendet werden soll (z. B. Auslöser, Eingabe, Entscheidung)
- Optionale Metriken wie Token-Anzahl oder Zeitstempel
Dieser Kontext hilft dem System, Aufgaben sauber weiterzuleiten und die Agenten voneinander zu entkoppeln.
Die Ausführung wird mithilfe von Workflow-Status und Auslösern verfolgt
Das Framework zeichnet auf, was bisher passiert ist - welche Agenten ausgeführt wurden, was sie zurückgegeben haben und was noch zu tun ist. Dies wird in einem Statusobjekt gespeichert, das nach jedem Schritt aktualisiert wird.
Auslöser entscheiden, was als nächstes kommt. Sie verwenden Ausgabewerte oder Bedingungen, um den Ablauf zu verzweigen.
So kann sich das System weiterentwickeln, ohne dass die Logik in jedem Agenten fest kodiert ist. Der Zustand steuert den Arbeitsablauf, nicht die Agenten selbst.
Hauptvorteile der Verwendung von Multi-Agent-Frameworks
Skalierung der Logik ohne Überlastung eines einzelnen Agenten
Ein einzelner KI-Agent kann nur eine bestimmte Menge an Aufgaben übernehmen, bevor er zu einem Wirrwarr aus Aufforderungen, Tools und unklaren Zuständigkeiten wird. Mit Multi-Agenten-Frameworks können Sie diese Logik in fokussierte Agenten aufteilen, die jeweils eine klare Aufgabe übernehmen.
Anstatt einen einzelnen Agenten zu überfordern, können Sie bestimmte Schritte - wie Abruf, Validierung oder Ausführung - separaten Agenten zuweisen und das System Stück für Stück ausbauen.
Debugging-Agentenzusammenarbeit mit voller Transparenz
Wenn KI-Agenten zusammenarbeiten, sind Probleme oft schwer zu verfolgen. Frameworks zeigen Ihnen, was jeder Agent erhalten hat, was er zurückgegeben hat und wo er ins Stocken geraten ist.
Sie raten nicht, was kaputt ist, sondern überprüfen die Übergaben und beheben sie direkt. Diese Art von Transparenz macht die Zusammenarbeit mit KI-Agenten überschaubar.
Wiederverwendung von Agenten über Workflows hinweg
Wenn ein Agent funktioniert, verwenden Sie ihn wieder. Mit Frameworks können Sie denselben Agenten in verschiedene Abläufe einbinden, ohne ihn neu zu schreiben. So bleiben die Dinge konsistent und das Testen wird schneller.
Ein Validierungsagent, der die Benutzereingaben oder die Authentifizierung prüft, kann beispielsweise sowohl in Kundendienst-Chatbots als auch in Buchungs-Chatbots verwendet werden, wo immer die gleiche Logik gilt.
Automatische Behandlung von Fehlern und Wiederholungsversuchen
Wenn ein Agent fehlschlägt, kann das Framework den Versuch wiederholen, ihn überspringen oder weitergehen. Sie brauchen diese Logik nicht selbst zu schreiben.
Integriertes Fallback macht Arbeitsabläufe zuverlässiger, ohne dass zusätzliche Arbeit anfällt, und diese Art von Zuverlässigkeit ist das, was Systeme in der realen Welt ausmacht.
Erstellen Sie Agentenflüsse, die leicht zu ändern sind
Wenn Sie die Aufgaben auf mehrere Bearbeiter verteilen, müssen Sie nicht jedes Mal das gesamte System überarbeiten, wenn sich etwas ändert.
Sie können einen Planer aktualisieren, ohne die Ausführung zu beeinflussen, oder die Reaktion eines Agenten ändern, ohne den Rest neu zu schreiben.
Dieser einfache Zugriff zahlt sich aus - Salesforce berichtet, dass Teams, die agentenbasierte KI verwenden, jede Woche 11 Stunden pro Mitarbeiter einsparen, was zum Teil auf die Anpassungsfähigkeit der Workflows zurückzuführen ist.
Die 5 wichtigsten Multi-Agenten-Frameworks
Die Wahl eines Multi-Agenten-Frameworks hängt davon ab, was Sie aufbauen wollen und wie viel Kontrolle Sie über das Verhalten, die Kommunikation und die Wiederherstellung von Agenten nach einem Fehler haben wollen.
Die besten Frameworks bieten unterschiedliche Kompromisse - einige eignen sich hervorragend für strukturierte Arbeitsabläufe, andere bieten mehr Flexibilität auf Kosten der Übersichtlichkeit.
Sie wollen etwas, das den Anforderungen Ihres Teams entspricht und dem Umfang, in dem Sie das System einsetzen wollen.
1. Botpress
.webp)
Botpress ist eine visuelle Entwicklungsplattform zur Erstellung von KI-Agenten, die sich über verschiedene Schritte, Rollen und Kanäle hinweg koordinieren können.
Anstatt die Logik in Code zu verdrahten, definieren Sie das Verhalten der Agenten mithilfe von Abläufen, Speicher, Bedingungen und Toolaufrufen.
Das Verhalten von Multi-Agenten basiert auf Anweisungen, Arbeitsabläufen und externen Tools. Jeder Knoten in einem Botpress fungiert als fokussierte Einheit mit eigenen Anweisungen und eigenem Umfang.
Sie können die Argumentation auf mehrere autonome und statische Knoten aufteilen, Validierungsebenen hinzufügen oder Benutzereingaben durch eine toolbasierte Entscheidungslogik leiten, anstatt alles in einem Schritt zu bearbeiten.
Der Speicher ist für jeden Ablauf festgelegt, so dass die Agenten nur das verwenden, was sie benötigen. Eingaben und Ausgaben sind klar definiert, und Toolaufrufe können direkt über integrierte Integrationen hinzugefügt werden.
Wesentliche Merkmale
- Visuelle Agentenorchestrierung mit Flows und Nodes
- Speicher und variable Steuerung zwischen Knotenpunkten
- Multi-Turn-Speicher, Fallback-Logik und Wiederholungsversuche
- Tool-Nutzung über API-Aufrufe, Webhooks und Funktionseingabe
2. LangChain

LangChain ist ein von Entwicklern entwickeltes Framework für die Erstellung von LLM Anwendungen durch die Verknüpfung von Ketten von Prompts, Tools und Speicher.
Es begann als eine Möglichkeit, LLM mit Tools wie Suche und Rechner zu strukturieren, entwickelte sich aber nach und nach zu einem ausgedehnten Ökosystem.
In einer Version wurden "Agenten", dann "Assistenten" und schließlich "Runnables" priorisiert. Das Ergebnis ist ein leistungsfähiges Toolkit, mit dem man fast alles machen kann, aber es braucht oft Zeit, um sich zurechtzufinden.
Sie können Toolkits zuweisen und eine agentenübergreifende Routing-Logik erstellen. Der Clou ist die Modularität - die Komponenten sind wiederverwendbar, kombinierbar und gut in externe APIs integriert.
Aber Sie werden mehr Glue-Code schreiben als erwartet. Und da sich die Abstraktionen schnell ändern, lohnt es sich zu prüfen, ob die von Ihnen verwendete Methode noch die bevorzugte ist.
Wesentliche Merkmale
- Modulare Verkettung von Prompts, Tools und Speicher
- Integrierbar mit LLMs, Vektorspeichern und APIs
- Optionale Rückverfolgung und Auswertungen mit LangSmith
3. CrewAI

CrewAI macht es einfach, Multi-Agenten-Workflows zu erstellen, bei denen jeder Agent eine bestimmte Rolle und Aufgabe hat. Sie erstellen eine Crew, weisen Ziele zu, und die Agenten koordinieren sich über einen gemeinsamen Manager.
Es ist eine der schnellsten Möglichkeiten, die Zusammenarbeit von Agenten zu modellieren, ohne die Orchestrierungslogik von Grund auf neu zu schreiben.
Ideal für Planer-Ausführenden-Paare, Forschungs-Reviewer-Abläufe oder jede teambasierte Aufgabe, bei der die Verantwortlichkeiten klar aufgeteilt sind.
Sobald man aber anfängt, die Komplexität zu erhöhen, wird es eng mit der Abstraktion. Es gibt weniger Flexibilität in Bezug auf die Art und Weise, wie und wann Agenten ausgeführt werden, und die Änderung des Verhaltens bedeutet oft, dass die Standardeinstellungen des Frameworks verlassen werden müssen.
Wesentliche Merkmale
- Rollenbasierte Agenteneinrichtung mit Namen, Zielen und Speicher
- Unterstützt sequentielle und parallele Agentenausführung
- Gemeinsamer Arbeitsspeicher für die Zusammenarbeit von Agenten
- Einfache Integration mit Tools, Funktionen und benutzerdefinierten Eingabeaufforderungen
4. AutoGPT

AutoGPT war das erste Projekt, das gezeigt hat, wie es aussieht, wenn man einem GPT ein Ziel vorgibt und ihn laufen lässt - planen, denken, recherchieren und ausführen ohne ständige menschliche Eingaben.
Sie definieren das Ziel, und AutoGPT durchläuft eine Schleife von Argumentationsschritten, erstellt Unterziele, ruft Werkzeuge auf und passt seine Strategie auf dem Weg dorthin an.
Das war ein großer Schritt, um das Verhalten von Agenten autonom und dynamisch zu gestalten. Aber es ist nicht auf Präzision ausgelegt.
Die Aufgabenschleife ist spröde, und die Bearbeiter neigen dazu, denselben Plan immer wieder neu zu schreiben oder irrelevanten Teilaufgaben nachzugehen.
Man kann Speicher, Tools und APIs verkabeln - aber wenn man alles zusammenfügt, führt das oft zu unvorhersehbaren Abläufen, die schwer zu debuggen oder zu steuern sind.
Wesentliche Merkmale
- Zielorientierter Agent mit Selbstbefragung und Aufgabenplanung
- Automatische Generierung von Teilaufgaben und Ausführungsschleife
- Unterstützt die Verwendung von Tools über Plugins und API-Aufrufe
- Erweiterbar mit benutzerdefinierten Skripten, Funktionen und Integrationen
5. Autogen

Autogen ist ein Open-Source-Framework von Microsoft, das sich auf Multi-Agenten-Konversationen konzentriert, bei denen Agenten durch strukturierte, rundenbasierte Nachrichten interagieren.
Es ist besonders gut, wenn Sie jeden Austausch kontrollieren wollen, wie in Planungs- und Ausführungsschleifen oder Human-in-the-Loop-Systemen.
Autogen glänzt durch Transparenz. Sie können Funktionen mitten im Gespräch einfügen, Entscheidungen durch benutzerdefinierte Logik leiten und genau verfolgen, was jeder Agent gesagt hat und warum.
Aber die Skalierung erfordert Arbeit. Die Nachrichtenorchestrierung ist flexibel, aber nicht abstrahiert - Sie müssen immer noch selbst Historien, Agentenkonfigurationen und Schrittlogik verwalten.
Für Forschungsaufbauten, kontrollierte Tests oder reproduzierbares Agentenverhalten ist es eines der präzisesten Frameworks, die es gibt.
Wesentliche Merkmale
- Rundenbasierte Multi-Agenten-Kommunikation
- Unterstützt Human-in-the-Loop und funktionsaufrufende Agenten
- Transparente Nachrichtenverfolgung und benutzerdefinierte Logikinjektion
Wie man mit einem Multi-Agent Framework baut
Am einfachsten ist es, einen echten Arbeitsablauf zu wählen - einen, der für einen einzelnen Mitarbeiter bereits zu komplex ist - und ihn in einige einfache Teile zu zerlegen.
Denken Sie an einen Chatbot zur Lead-Generierung, einen Buchungsablauf oder irgendetwas anderes, bei dem Logik, Verifizierung und Aktion durcheinander geraten.
Geben Sie jedem Schritt einen Agenten und verbinden Sie sie dann mit Hilfe der Routing- und Nachrichtentools des Frameworks.
Schritt 1: Ermitteln Sie, wo Ihre Einzelagentenlogik versagt
Suchen Sie nach einer Stelle in Ihrem Bot oder System, an der die Dinge zu wuchern beginnen - lange Prompts oder verkettete Tool-Aufrufe, die sich aufgeschraubt anfühlen. Das ist Ihr Einstiegspunkt. Hier sind einige gängige Beispiele, die leicht zu erkennen sind:
- Ein Erstattungsablauf, der die Benutzereingaben analysiert, die Berechtigung prüft, die Erstattung ausstellt und eine Bestätigung sendet - alles in einer Schleife
- Eine Onboarding-Sequenz, die Daten erfasst, Formulare validiert, Benutzertypen zuweist und E-Mails in einer einzigen Eingabeaufforderungskette auslöst
Anstatt das gesamte System neu zu gestalten, isolieren Sie nur den Arbeitsablauf, der bereits Risse aufweist.
Schritt 2: Definieren Sie die Rollen, bevor Sie den Rahmen berühren
Sobald Sie die chaotische Logik gefunden haben, unterteilen Sie sie in echte Aufgaben.
Wenn etwas eine Eingabe validiert, ist das ein Agent. Wenn etwas eine externe Aktion durchführt, ist das ein anderer.
Schreiben Sie es im Klartext - gerade so viel, dass die Übergänge deutlich werden.
Und wenn Sie alles vor sich liegen haben, sehen Sie, was tatsächlich getrennt werden muss und was zusammengelegt werden kann. So bekommen Sie auch ein Gefühl dafür, welche Art von Rahmen Sie brauchen.
Jede Rolle sollte so klingen, als könnte man sie selbst testen.
Schritt 3: Wählen Sie den Rahmen
Wählen Sie eine Plattform, die zu Ihrem Arbeitsstil passt.
- Visuell: Botpress, wenn Sie knotenbasierte Abläufe und skalierten Speicher wünschen.
- Code-First: LangChain oder CrewAI, wenn Sie sich mit der Verdrahtung von Logik in Python auskennen.
Der Rahmen entscheidet, wie Agenten registriert, ausgelöst und verbunden werden.
Schritt 4: Erstellen Sie den ersten Arbeitsablauf
Jetzt verwandeln Sie diese Rollen in Agenten. Definieren Sie sie innerhalb Ihres Frameworks - geben Sie jedem einen Namen, seine Aufgabe und das Tool oder den API-Zugang, den er benötigt.
Sobald sie eingerichtet sind, verbinden Sie sie. Verwenden Sie das Routing, das das Framework bietet, um von einem Agenten zum nächsten zu gelangen.
Das Ziel ist es, einen vollständigen Arbeitsablauf zu schaffen, bei dem die Mitarbeiter in ihrer Spur bleiben.
Schritt 5: Führen Sie das System aus und überprüfen Sie jede Übergabe
Lösen Sie den gesamten Workflow aus - von Anfang bis Ende - und verfolgen Sie, was passiert. Sie sollten beobachten, was jeder Agent empfängt, was er zurückgibt und ob der Fluss zwischen den Agenten sauber verläuft.
Wenn ein Agent verwirrende Eingaben erhält, haben Sie die Dinge wahrscheinlich falsch eingeordnet. Wenn die Logik unerwartet springt, muss Ihr Routing korrigiert werden.
Sobald die Übergaben sauber sind, haben Sie ein funktionierendes System.
Bewährte Praktiken für den Einsatz von Multi-Agent-Frameworks
Die Wahl eines Frameworks ist nur der Ausgangspunkt. Vielmehr kommt es darauf an, wie Sie die Arbeitsabläufe, die Sie damit erstellen, entwerfen, testen und verwalten.
Da KI-Systeme immer modularer und autonomer werden, wird die Rückverfolgbarkeit immer schwieriger.
Kernlogik zentralisiert halten
Vermeiden Sie es, kritische Entscheidungen über mehrere Agenten zu verteilen. Es ist einfacher zu warten und zu testen, wenn wichtige Entscheidungen an einer Stelle getroffen werden, anstatt sie auf lose miteinander verbundene Teile zu verteilen.
Inputs und Outputs der Agenten im Voraus definieren
Jeder Agent sollte einen klar definierten Vertrag haben - was er aufnimmt, was er zurückgibt. So lassen sich Agenten leichter austauschen oder in neue Arbeitsabläufe integrieren, ohne dass die Ablauflogik unterbrochen wird.
Protokollierung jeder zwischen Agenten übermittelten Nachricht
Wenn Sie nicht sehen können, was die Agenten zueinander sagen, können Sie nichts debuggen. Stellen Sie sicher, dass jede Eingabe und Ausgabe mit genügend Kontext protokolliert wird, um den Ablauf zurückverfolgen zu können.
Scoped Memory verwenden, um Rauschen und Kosten zu reduzieren
Geben Sie jedem Agenten nur den Kontext, den er benötigt. Voller Speicherzugriff führt zu aufgeblähten Prompts, höherer Token-Nutzung und unvorhersehbarem Verhalten von Agenten, die eigentlich konzentriert sein sollten.
Beginnen Sie mit der Entwicklung von KI, die koordinieren kann
Die meisten Systeme brechen in dem Moment zusammen, in dem eine echte Koordination erforderlich ist. Botpress gibt Ihnen die Kontrolle darüber, wie Agenten Aufgaben weitergeben - mit definierten Rollen und Logik, die Sie testen und verstehen können.
Außerdem können Sie Daten sauber zwischen Abläufen weitergeben. Sie können jeden Schritt mit Multi-Turn-Protokollen nachverfolgen, aus denen hervorgeht, welches Tool aufgerufen wurde, warum es ausgeführt wurde und wie es im Workflow verwendet wurde.
Statt Prompt-Tuning und Halluzinationen zu kontrollieren, konzentrieren Sie sich auf echte Funktionalität - und bauen Agenten, die sich wie Software verhalten.
Fangen Sie noch heute an zu bauen - es ist kostenlos.