自ChatGPT推出以來，僅僅一年多的時間里，公眾對于“人工智能”（AI）的認識已經發生了根本性的變化。這種變化部分源于公眾意識的提高，更多則是基于這樣一個認識：AI驅動的系統不僅可能，而且可能已經具備了與人類相當的能力和表現。ChatGPT不僅是AI能力的一個驗證，更是半個多世紀以來AI研究成果的集中展示，向我們展示了一個可能的未來：按照Ray Kurzweil的定義，我們可以創造“執行需要智能的功能的機器”。因此，圍繞AI代理的討論和開發在近幾個月里迅速增加。AI代理體現了人工智能長期以來的追求目標。

AI代理的概念雖然不新，但卻始終充滿吸引力。從星球大戰中的C-3PO到學術界的定義，智能代理一直是AI的核心議題。隨著ChatGPT、Claude和Gemini等模型的出現，這些模型在多樣的知識領域都展現出強大的理解力和對話能力，AI代理的概念變得越發具體和實現可能。新增的“視覺”能力和函數調用功能，更是為AI代理的發展提供了新的可能性。

在AI代理的發展道路上，我們需要從單純的提示工程過渡到更廣泛的代理工程，并建立相應的框架、方法和思維模式，以便有效地設計和實施這些代理。本文旨在探討LLM環境中代理工程的關鍵理念和原則。

我們首先定義“代理能力需求”，明確代理所需執行的功能及其所需的熟練程度。隨后，在“代理工程與設計”階段將評估可用的技術，探討如何構建和協調代理的結構。

本框架旨在提供一個實用的思維模型，雖不全面，但足以作為一個起點，隨后可根據實際需要進行細化和擴展。

代理工程框架

構建AI代理的初衷是什么？它需要完成哪些工作，實現哪些目標？在多能力代理與多代理集群之間，哪一種更適合特定的任務？人類語言的靈活性讓我們能夠在多個維度上擴展和深化這些概念，但這也可能導致概念上的模糊。在本框架中，我們嘗試避免過度解析術語的語義差異，更注重概念的通用性和實用性。核心理念如下：

• 代理需完成特定工作。
• 完成工作需采取具體行動。
• 行動的執行依賴于代理的能力。
• 能力必須達到一定的熟練度。
• 達到此熟練度需要相應的技術和技術協調。

能力需求與設計

設計AI代理的第一步是明確代理的職責和目標。這可能是一個高層次的目標，也可以細化為具體的任務。例如，電子商務聊天機器人可能需要處理客戶咨詢、分析客戶行為并提供產品推薦；內容創作代理可能需要生成內容想法、起草文章或博客。

定義了任務后，接下來確定代理執行這些任務所需的具體行動。這不僅僅是定義目標，更重要的是具體化實現目標的行動步驟。此階段也需考慮代理的自主性。例如，內容創作代理的行動可能包括調用數據分析代理獲取趨勢洞察、根據趨勢和受眾偏好生成內容想法、起草和修訂文章。

所需能力的具體化

現在我們已經概述了代理執行工作所需要采取的行動，所以這些行動需要代理有不同的專業能力，比如說自然語言對話、信息檢索、內容生成、數據分析、持續學習等等。它們也可以在更技術層面上表達，例如API調用、函數調用等。例如，對于內容創建代理，所需的能力可能包括：

• 動態調用內容趨勢代理的API。
• 頭腦風暴和總結能力。
• 根據當前話題和趨勢生成合適語調的內容。
• 根據人類提供的編輯指令進行操作。
• 記憶

選擇實現這些能力的技術時，應避免限制技術選項，以確保能夠靈活適應未來的技術發展。例如，盡管當前大型語言模型（LLM）備受青睞，但其他如大型行動模型（LAM）的發展可能為實現所需能力提供新的可能性。

能力和熟練度

確認代理需要的能力后，評估并定義每種能力所需的具體熟練度是至關重要的。這包括設定性能基準，如準確性、效率和可靠性等。

例如，對于我們的內容創建代理，所需的熟練度水平可能包括：

• 功能調用的可靠性為75%。
• 功能調用失敗的解釋性為99.99%。
• 第一次嘗試時，內容趨勢代理的功能調用至少75%的時間能夠產生相關主題。
• 生成的內容想法在75%的時間內能夠產生理想的主題。
• 精確信息檢索的精度率為99.99%。
• 用戶反饋滿意度在90%或更高的編輯生成。
• 最終草案的用戶反饋滿意度為90%或更高。

代理工程與設計

在明確了所需能力及其熟練度后，接下來的步驟是確定如何通過現有技術和方法滿足這些要求。這涉及評估廣泛的技術和方法，如LLM、信息檢索增強生成（RAG）、專門的API以及其他機器學習和人工智能模型，以確定它們是否能達到所需的熟練度。

在此過程中，重要的是考慮每項技術或方法的優勢和成本效益，以及它們在實現具體能力方面的適用性。

廣泛知識熟練度

廣泛知識是指跨廣泛主題和領域的一般理解和信息。這種類型的知識對于創建能夠有效進行對話、理解上下文并在各種主題上提供相關響應的AI代理至關重要。

• LLMs — 如果你的代理的能力需要廣泛的知識熟練度，好消息是LLM的開發仍在持續不斷。從LlaMA3等開源模型到OpenAI、Anthropic和Google的最新專有模型，有不少技術可以在如此廣泛的人類語言和知識范圍內提供高密度的連貫性。
• 提示工程 — 這個動態且非常活躍的發展領域主要關注如何激活由LLMs建模的上下文適當的知識領域。由于語言的萬花筒特質，掌握這門藝術可以顯著提高我們代理的能力熟練度水平。

特定知識熟練度

特定知識涉及對特定領域或主題的更深入理解。在追求我們的熟練度目標時，可能會考慮哪些技術/技術？

• 檢索增強生成（RAG） — RAG結合了LLMs的生成能力和信息檢索系統，以便從外部來源合并信息。這可能是精確信息或特定知識（例如，一種獨特方法的描述），LLM能夠在上下文中“理解”它，因為它具有廣泛的知識熟練度。
• 模型微調 — 在特定上下文數據集上微調LLMs，使模型能夠在特定設置中生成更具上下文相關性的響應。雖然不如RAG流行，但隨著代理工程繼續獲得關注，我們可能會發現熟練度要求促使我們更頻繁地轉向這種技術。

精確信息

精確信息是指對需要準確答案的任務至關重要的高度準確和具體的數據點。

• 函數調用（又名工具使用） — 無可爭議的具體事實產生幻覺是AI代理的一個主要問題，所以我們可以使用函數調用來檢索特定信息。例如，電子商務代理可能使用定價API提供最新的產品價格，或者使用股票市場API提供股票價值的實時更新。
• Guardrails — Guardrails可以幫助確保代理在其響應中提供精確和準確的信息。這可以涉及基于規則的約束、有導向的對話設計和意圖預處理。

代理的拆解和協調

在明確了代理的任務、所需能力及技術后，下一步是設計和協調代理的具體結構。這可能涉及將多個技術和方法整合在一起，以構建一個能夠獨立或在更廣泛系統中協同工作的AI代理。這包括考慮如何將不同能力分配給一個或多個代理，以及如何開發可以輕松重新配置和適應新任務的代理結構。這個話題本身就涉及多篇文章，所以我們不會在這里深入討論。

總結

從提示工程到代理工程的轉變才剛剛開始，未來的路還很長。本文提出的代理工程框架只是一個起點，旨在提供一個實用的設計思路，幫助我們在AI代理的開發和實現上取得進展。隨著技術的發展和新方法的出現，構建AI代理的模型和技術將不斷增多，這要求我們建立能夠適應各種技術的通用框架。通過明確定義代理的任務、行動和所需能力，我們為AI代理的設計和工程奠定了堅實而靈活的基礎，為未來的發展提供了持續的支持和改進的可能。