← 所有文章
Agents
Agentic AI 架構:編排多代理工作流
Agent 是一個能規劃、呼叫工具、觀察結果並決定下一步的語言模型。串幾個 prompt 很簡單;打造一個可靠、有邊界、可除錯的 agentic 系統,是架構問題。這是我們的做法。
1. 拆解:規劃者與工作者
不要做一個全知的 agent,而是拆分責任。規劃者把目標拆成步驟;專門的工作者 agent 各自負責一項狹窄任務,有自己的工具與 prompt。這讓上下文保持精簡、每個 agent 可獨立測試,也能個別替換或擴展。
2. 工具是通往世界的介面
Agent 的能力取決於它的工具。給每個工具清晰的 schema、驗證輸入與輸出、盡可能做到冪等。把工具設計當成 API 設計:清楚的名稱、緊湊的範圍、有用的錯誤訊息,讓模型能恢復而不是猜測。
3. 記憶與狀態
把短期工作記憶(當前任務的暫存區)與長期記憶(事實與過去結果,通常透過 RAG)分開。持久化狀態,讓一次執行可以暫停、恢復、被稽核。明確的狀態勝過把所有東西塞進不斷膨脹的 prompt。
4. 護欄與控制
自主需要限制。限制步數與預算以防迴圈、把高風險動作放在人工核准之後、工具權限採最小權限。在 agent 提出的動作執行前先驗證。可靠性來自模型周圍的框架,而不只是模型本身。
5. 可觀測性與評估
追蹤每一步——計畫、工具呼叫、輸入、輸出與決策——讓失敗可以被解釋。以真實任務的成功率評估,而不只是每一步的正確性,並做對抗性檢查以抓出「自信但錯誤」的行為。從第一天就記錄每次執行的成本與延遲。
勝出的模式不是更大的模型,而是更好的系統:小而範圍明確的 agent、乾淨的工具、明確的狀態、堅實的護欄、深入的可觀測性。這就是把驚豔的 demo 變成可靠產品的方法。