大多數嘗試建立 AI 代理的開發人員都是從單一的大型語言模型迴圈開始 - 一個系統提示，或許再加上一兩個工具 - 對於小型任務而言，這樣就夠了。
但是一旦你想要結構化，系統就會開始變得脆弱。輸出變得難以預測，工作流程變得難以除錯，您會在重複而非進度上消耗代幣。
多重代理工作流程可讓您建立的 AI代理行為更像一個團隊，具有明確的角色和決策方式的可見性，並朝著相同的目標努力。
什麼是多重代理框架？
多重代理體架構是您用來建立、執行及管理多個人工智慧代理體的基礎架構。
它是處理代理如何溝通以及任務如何在代理之間移動的基礎架構。
如果您使用的是多重代理系統，架構就是讓系統運作的關鍵。
它的核心是將未經處理的大型語言模型LLMs) 轉變為範圍代理，每個代理都有其角色和可預測的運作方式。
與其從頭開始編寫協調邏輯，框架可為您提供結構、控制和可重複性。
多重代理框架：關鍵概念
多重代理框架如何運作？
多代理框架為代理如何被觸發、如何傳遞資料以及系統如何追蹤進度提供了結構。
它們提供了協調代理的建構塊，其方式可隨複雜性擴充，並可在實際部署中使用。
其中一個範例是使用多代理設定來支援WhatsApp 聊天機器人。在這種情況下，不同的代理可以處理預約、退款處理或驗證等任務，在幕後共同合作，而不需依賴單一的機器人設定。
.webp)
代理在系統中登錄為可呼叫元件
在代理做任何事情之前，框架需要知道它的存在。這表示要告訴系統代理程式的名稱、負責的事項，以及可以存取哪些工具或資訊。
在大多數的架構中，這種設定是透過設定檔或一些程式碼來進行的，您可以在其中定義每個代理程式的角色以及如何啟動它。例如，您可以告訴系統
"這是規劃器。它會讀取使用者的輸入，然後決定下一步要做什麼。
""這是驗證器。它接收用戶資訊，並返回 booking_id 和用戶資訊。"
一旦註冊完成，框架就可以「呼叫」這些代理的名稱，也就是說，當輪到他們進入工作流程時，框架就知道該如何執行每個代理。
路由代理決定下一個執行的代理
規劃者代理或控制器功能處理AI 代理路由。它會查看最新的機器人輸出、目前的對話歷史，有時也會查看原始使用者輸入，以決定下一步要做什麼。
有些計畫器以提示為基礎 - 它們接收系統訊息，並輸出下一個要執行的代理程式名稱。
其他則使用硬體編碼的邏輯或流程圖，這取決於您所使用的AI 代理框架。
該架構取得該輸出，並使用該輸出呼叫下一個代理。路由器決定誰應該執行任務，而不是執行任務。
代理之間使用訊息傳遞資料
代理不會直接共用記憶體。當一個代理執行完畢，其輸出會打包成訊息 - 通常是字典或 JSON 物件 - 並傳送給下一個代理作為輸入。
框架會處理傳輸。它可以將訊息儲存在共用記憶體空間中，或是直接將訊息傳送到下一個代理的輸入介面中，視系統的結構而定。
訊息通常不只包含內容：
- 由誰傳送（代理人或使用者）
- 工作流程中的來源
- 應如何使用（例如，觸發、輸入、決定）
- 可選的指標，例如代幣數量或時間戳記
這種上下文有助於系統乾淨地路由任務，並保持代理彼此之間的解耦。
使用工作流程狀態和觸發器追蹤執行情況
框架會持續追蹤到目前為止所發生的事情 - 哪些代理程式執行了，它們傳回了什麼，以及還有什麼事情需要發生。這些資料儲存在狀態物件中，每一步驟之後都會更新。
觸發器決定接下來要做什麼。它們使用輸出值或條件來分支流程。
這可讓系統向前邁進，而無需在每個代理程式中硬性編碼邏輯。狀態驅動工作流程，而非代理程式本身。
使用多代理框架的主要優點
擴充邏輯而不會使單一代理超載
單一的 AI 代理只能做這麼多，否則就會變成一堆提示、工具和不明確的職責。多代理體架構可讓您將邏輯分拆成各個專注的代理體，每個代理體處理一個明確的任務。
您可以將特定步驟 (例如擷取、驗證或執行) 指派給不同的代理，然後逐個擴充系統，而不必讓單一代理過於分散。
以完全可見的方式調試代理協作
當 AI 代理一起工作時，問題可能難以追蹤。框架可讓您知道每個代理程式得到了什麼、返回了什麼，以及在哪裡停滯不前。
您不需要猜測是哪裡出了問題 - 您只需檢查交接過程並直接修復。這種可視性讓 AI 代理合作變得易於管理。
跨工作流程重複使用代理
如果代理正常運作，就重複使用。框架可讓您將同樣的代理程式插入不同的流程中，而無需重新編寫。這樣可以保持一致性，並加快測試速度。
例如，檢查使用者輸入或認證的驗證代理可以用於客服聊天機器人和預約聊天機器人，只要適用相同的邏輯。
自動處理失敗和重試
當代理失敗時，框架可以重試、跳過或繼續前進。您不需要自己寫這個邏輯。
內建的回退功能讓工作流程更可靠，不需要額外的工作，而這種可靠性正是現實世界系統的動力。
建立容易變更的代理流程
當您在代理之間分割任務時，您就不需要在每次發生變化時重新製作整個系統。
您可以在不觸及執行的情況下更新規劃器，或在不重寫其他程式的情況下變更一個代理的回應方式。
存取的便利性帶來了回報-Salesforce 報告指出，使用代理式 AI 的團隊每週能為每位員工節省 11 小時，這部分歸功於工作流程的適應性。
五大多重代理框架
選擇多重代理框架取決於您要建立什麼，以及您想要對代理的行為、溝通和故障復原方式有多少控制權。
最好的框架會提供不同的取捨 - 有些非常適合結構化的工作流程，有些則讓您有更大的靈活性，但卻犧牲了清晰度。
您需要的是符合您團隊需求的產品，以及您打算將系統發展到什麼程度的產品。
1. Botpress
.webp)
Botpress 是一個可視化的開發平台，用來建立可跨步驟、角色和通路協調的 AI 代理。
您可以使用流程、記憶體、條件和工具呼叫來定義代理的行為方式，而不是在程式碼中編寫邏輯。
多重代理行為是圍繞指令、工作流程和外部工具而建立的。Botpress 流程中的每個節點都是一個重點單元，擁有自己的指令和範圍。
您可以在多個自主節點和靜態節點間分割推理、新增驗證層，或透過工具型決策邏輯路由使用者輸入，而不是在一個步驟中處理所有事情。
記憶體的範圍是針對每個流程，因此代理只需使用他們所需的記憶體。輸入和輸出都有明確的定義，並可透過內建的整合直接加入工具呼叫。
主要特點
- 使用流量和節點進行可視化代理協調
- 節點間的範圍記憶體與變數控制
- 多圈記憶、回退邏輯和重試
- 透過 API 呼叫、webhooks 和函式輸入使用工具
2.LangChain
LangChain 是一個開發人員至上的框架，可將提示、工具和記憶體串連在一起，建立由LLM應用程式。
一開始，它只是利用搜尋和計算器等工具來架構LLM 通話，但逐漸擴展成為一個龐大的生態系統。
其中一個版本的優先順序是 「代理」，然後是 「助理」，最後是 「可執行」。結果是一個功能強大的工具包，幾乎可以做任何事情，但往往需要花時間去瀏覽。
您可以指派工具套件，並在代理之間建立路由邏輯。它的優點在於模組化 - 元件可以重複使用、混合搭配，並與外部 API 完美整合。
但你會寫出比預期更多的膠水程式碼。而且隨著抽象的快速轉換，值得檢查您正在使用的方法是否仍是首選。
主要特點
- 提示、工具和記憶體的模組化鏈結
- 與LLMs、向量儲存和 API 整合
- 可選擇使用 LangSmith 進行追蹤和檢驗
3.CrewAI
CrewAI 可輕鬆建立多代理工作流程，其中每個代理都有明確的角色和任務。您可建立一個工作團隊、指派目標，而代理可透過共用的管理員進行協調。
這是建模代理協作的最快方法之一，而無需從頭開始編寫協調邏輯。
適用於規劃者與執行者配對、研究人員與審核人員流程等設定，或任何團隊型任務，因為這些任務的責任分工都很清楚。
但是一旦您開始增加複雜性，抽象就會變得緊湊。代理程式運行的方式和時間靈活性較低，而且修改行為通常意味著要跳出框架的預設值。
主要特點
- 具備名稱、目標和記憶的角色式代理程式設定
- 支援連續與平行的代理程式執行
- 共用機組記憶體以進行代理協作
- 與工具、功能和自訂提示輕鬆整合
4.AutoGPT
AutoGPT 是第一個展示當您給GPT 聊天機器人一個目標，然後讓它運行 - 計劃、思考、研究、執行，而不需要人類不斷輸入的專案。
您定義目標後，AutoGPT 就會循環推理步驟、建立子目標、呼叫工具，並一路調整策略。
這是一個巨大的躍進，讓代理行為感覺自主且動態。但它並不是為了精確度而建立的。
任務迴圈很脆弱，代理往往會陷入重寫相同計劃或追逐不相關的子任務的困境。
您可以將記憶體、工具和 API 連接在一起，但將所有東西拼接在一起往往會導致難以預測的流程，難以除錯或控制。
主要特點
- 具有自我提示和任務規劃功能的目標驅動型代理程式
- 自動子任務產生與執行迴圈
- 支援透過外掛程式和 API 呼叫使用工具
- 可使用自訂腳本、功能和整合進行擴充
5.自動生成
Autogen 是微軟的開放原始碼架構，專注於多代理對話，其中代理透過結構化、輪流的訊息進行互動。
當您想要控制每次交換時，例如在規劃 - 執行迴圈或人在迴圈系統中時，它就特別好用。
Autogen 在透明度方面大放異彩。您可以在對話中間注入函式、透過自訂邏輯路由決策，並追蹤每位代理說了什麼以及為什麼。
但擴充它需要工作。訊息協調很靈活，但並沒有抽象化 - 您仍需自行管理歷史記錄、代理配置和步驟邏輯。
對於研究設定、受控測試或可重複的代理行為，它是最精確的架構之一。
主要特點
- 回合制多機體通訊架構
- 支援人在迴圈和功能呼叫代理
- 透明訊息追蹤和自訂邏輯注入
如何使用多重代理框架進行建置
最簡單的入門方法是挑選一個真正的工作流程 - 對於單一代理來說已經太複雜的東西 - 將它分成幾個簡單的部分。
想想潛在客戶產生聊天機器人、預訂流程或任何邏輯、驗證和行動糾纏不清的事情。
賦予每個步驟其代理，然後透過框架的路由和訊息工具連接它們。
步驟 1：找出您的單一代理邏輯中斷之處
在您的機器人或系統中尋找東西開始擴散的地方 - 長提示或連鎖的工具呼叫，感覺像是栓在上面的。那就是您的切入點。以下是一些容易發現的常見例子：
- 退款流程可解析使用者輸入、檢查資格、發出退款並傳送確認訊息 - 全部都在一個循環中進行
- 可在單一提示鏈中收集資料、驗證表單、指定使用者類型和觸發電子郵件的上線順序
與其重新設計整個系統，您只是在隔離已經出現裂痕的工作流程。
步驟 2：在接觸架構前先定義角色
找到亂七八糟的邏輯後，將它分解成真正的責任。
如果有東西在驗證輸入，那是一個代理。如果有東西在處理外部動作，那是另一個代理。
以簡明的語言寫明 - 足以揭露交接點。
一旦所有的東西都在你面前，你就會知道哪些是真正需要分開的，哪些是可以折疊的。這也讓您了解自己需要什麼樣的架構。
每個角色聽起來都應該是您可以自行測試的。
步驟 3：選擇架構
挑選適合您工作流程風格的平台。
- Visual:Botpress，如果您想要基於節點的流程和範圍記憶體。
- 程式碼第一：LangChain 或 CrewAI，如果您可以自如地使用 Python 進行邏輯佈線。
框架決定代理如何註冊、觸發和連線。
步驟 4：建立第一個工作流程
現在將這些角色轉換成代理。在您的架構中定義它們 - 給每個角色一個名稱、它的工作，以及它需要的任何工具或 API 存取權限。
一旦它們就位，就將它們連接起來。使用框架提供的任何路由，從一個代理移動到下一個代理。
我們的目標是讓一個完整的工作流程從頭到尾運作，並讓代理保持在他們的工作範圍內。
步驟 5：執行系統並檢查每次交接
觸發整個工作流程 - 從開始到結束 - 並追蹤所發生的事情。您應該觀察每個代理收到了什麼、它回傳了什麼，以及流程是否在它們之間順利移動。
如果代理收到混亂的輸入，可能是您的範圍設定錯誤。如果邏輯出乎意料地跳躍，您的路由需要修正。
一旦交接乾淨，您就有了一個可運作的系統。
使用多重代理框架的最佳實務
選擇框架只是起點。更重要的是您如何設計、測試和管理使用框架建立的工作流程。
隨著人工智能系統變得更加模組化和自主化，可追蹤性變得更加困難。
保持核心邏輯集中化
避免將重要的決策分散到多個代理。當關鍵推理發生在一個地方，而不是被分割成鬆散連結的片段時，維護和測試就會更容易。
預先定義代理的輸入和輸出
每個代理程式都應該有清楚定義的合約 - 它接收什麼、回傳什麼。這讓代理更容易更換或插入新的工作流程，而不會破壞流程邏輯。
記錄代理之間傳遞的每條訊息
如果您看不到代理之間在說什麼，您就無法調試任何東西。確保每個輸入和輸出都有足夠的上下文記錄，以便追溯整個流程。
使用範圍記憶體以降低雜訊和成本
只提供每個代理所需的上下文。全記憶體存取會導致臃腫的提示、更高的代號使用率，以及原本應該專注的代理無法預測的行為。
開始建立可協調的 AI
大多數系統在真正需要協調的時候就會崩潰。Botpress 可讓您控制代理如何交接任務 - 透過已定義的角色和邏輯，您可以進行測試和瞭解。
它還可以讓您在流程之間乾淨地傳遞資料。您可以使用多輪日誌來追蹤每個步驟，這些日誌會顯示調用了哪個工具、運行的原因，以及在工作流程中是如何使用的。
您不需要進行提示調整和幻覺控制，而是專注於真正的功能 - 建立行為像軟體的代理程式。
今天就開始建立- 這是免費的。
.svg)
.webp)
