隨著生成式AI技術的全面爆發，AI Agents正成為人工智能應用的新寵。這些“智能代理”不僅能完成特定任務，還能像一位貼心助手般跨場景協作。那么，這些AI Agents背后的技術堆棧是如何構建的？它們的生態系統又如何助力開發者和企業高效落地應用？今天我們通過一張最新發布的《AI Agents Stack》圖解，帶您快速掌握這個領域的核心脈絡！

1. 垂直代理：專業AI助手，解決具體問題

垂直代理是AI領域中最簡單易懂的一類工具，它們就像是行業專家，可以在特定領域提供專業的服務。以下是幾個垂直代理工具的詳細介紹：

?Harvey：這是一個面向法律行業的AI助手。Harvey可以幫助律師自動起草法律文件、合同和法律意見書，甚至可以回答復雜的法律問題。它的核心優勢在于通過對大量法律文本的分析，幫助減少律師的重復性工作，從而節省時間。

?Replit：這是一款面向編程的AI工具。Replit提供了一個在線編程環境，用戶可以在其中編寫代碼并通過AI工具獲得自動建議、錯誤檢查以及代碼補全。它特別適合編程初學者和開發者，能夠幫助他們在編寫代碼時提高效率。

?Cognition：這款工具專注于幫助開發者加速軟件開發流程。Cognition利用AI生成代碼，減少開發者的編程負擔，同時還可以進行代碼審查，確保質量。

?Lindy：這是一款面向商務和個人工作的AI助手，能幫助用戶進行時間管理、會議安排和郵件回復等任務。它的核心功能包括日程管理、智能提醒和文件整理等，適合用于提高辦公效率。

?All Hands：這是一個團隊協作工具，專注于幫助團隊進行項目管理、任務分配和協作。它利用AI優化會議調度、任務跟蹤和溝通流暢度，從而提高團隊整體效率。

2. 代理托管與服務：讓AI助手上線和運作

AI代理的托管與服務層是確保這些智能助手正常運行的技術平臺，主要負責將AI代理從開發環境部署到生產環境，并確保其長期穩定運行。

?LangGraph：這是一款可以幫助開發者創建和管理多個AI代理的工具。它支持不同AI代理之間的協同工作，并能夠在一個平臺中集中管理、監控多個智能代理的狀態。

?Letta：Letta是一個托管平臺，專注于為AI開發者提供一站式服務，支持快速部署和靈活擴展。開發者可以在這個平臺上托管自己開發的AI模型和代理，并且通過簡單的API接口進行調用。

?LiveKit Agents：這是一個支持實時通訊的AI代理托管平臺。它可以幫助開發者創建語音、視頻和文字交互型AI代理，適合用在客服、教育等場景。

?Amazon Bedrock：作為AWS的服務之一，Amazon Bedrock提供了一整套AI開發工具，包括代理托管、訓練、調優和API服務。開發者可以利用這個平臺將AI模型從原型快速轉換為可用的生產級服務。

3. 可觀察性：實時監控和優化AI代理的表現

為了確保AI代理在實際應用中能夠穩定和高效運行，開發者需要借助可觀察性工具來監控代理的表現、收集數據并進行調優。

?LangSmith：LangSmith是一款用于記錄和分析AI代理與用戶互動數據的工具。它可以跟蹤每次對話或任務執行的細節，幫助開發者找出可能存在的漏洞或性能瓶頸，進而進行優化。

?LangFuse：這是另一款監控工具，能夠為AI代理提供“實時反饋”。它不僅可以記錄用戶和代理的交互，還能分析代理的反應和結果，以便開發者可以優化AI的表現。

?Arize：Arize提供端到端的AI監控服務，包括代理性能分析、錯誤報告和日志記錄。它幫助開發者實時發現AI代理的任何異常情況，并提供數據驅動的解決方案。

?Weave：Weave是一款多功能的AI監控工具，主要用于分析代理執行任務時的成功率和準確性。它可以幫助開發者跟蹤每個任務的完成情況，并為后續優化提供數據支持。

4. 代理框架：構建和管理AI代理的基礎工具

代理框架是為開發者提供的開發工具，它們幫助開發者快速構建、定制和管理AI代理，降低開發門檻。

?Semantic Kernel：這是一個面向自然語言處理（NLP）的框架，它幫助AI理解和處理復雜的語義。開發者可以使用這個框架輕松創建一個能理解多層次含義的AI代理。

?AutoGen：AutoGen是一個AI代理生成工具，允許開發者通過簡單的配置來自動化生成定制化的AI代理。它大大縮短了開發時間，讓開發者能夠快速實現智能助手的功能。

?LlamaIndex：這是一個強大的文檔管理和檢索工具，專注于幫助AI理解和處理大規模的文檔數據。LlamaIndex能夠根據用戶輸入的問題，從大量文檔中檢索相關信息，適用于知識庫管理和信息查詢場景。

5. 記憶模塊：讓AI代理記住你的信息

如果AI能記住你的需求和偏好，它將能提供更個性化的服務。這就是記憶模塊（Memory）的作用。

?MemGPT：MemGPT將記憶功能集成到GPT（生成式預訓練模型）中，讓AI能夠記住與用戶的互動內容，并為未來的對話提供更加連貫和一致的體驗。

?LangMem：這是一個讓AI具備“記憶能力”的工具，能夠存儲和回顧歷史對話信息。它的記憶功能使得AI能夠在多次對話中跟蹤和了解用戶需求，從而提供更為個性化的服務。

?zep：zep是一個開放平臺，允許開發者在AI代理中加入自定義的記憶模塊。通過zep，開發者可以讓AI記住重要的信息，比如用戶的偏好、歷史行為和常見任務。

?memo：memo提供了一種將記憶功能與AI對話系統結合的方式。它讓AI可以保存用戶提供的信息，以便后續的互動更加精準。

6. 工具庫與沙盒：給AI代理擴展新技能

想要讓AI代理更加強大，就需要為它配備更多的工具。工具庫（Tool Libraries）和沙盒（Sandboxes）提供了靈活的擴展選項。

?Composio：這是一個模塊化工具庫，允許開發者給AI代理添加各種外部工具。無論是訪問數據庫、調用API，還是進行復雜的計算，Composio都能提供必要的支持。

?Browserbase：這是一個讓AI可以訪問和瀏覽互聯網內容的工具。它使得AI能夠在提供服務時，利用外部資源或即時信息，從而增強其應對未知問題的能力。

?E2B：E2B是一種沙盒技術，它為開發者提供一個安全的環境來測試AI代理的新功能。開發者可以在沙盒中進行調試，不會對實際應用造成影響。

?Modal：Modal為開發者提供了一個完整的沙盒環境，支持不同類型的AI任務實驗。它幫助開發者在開發過程中有效避免潛在的風險，確保AI代理的功能完善。

7. 模型服務與存儲：為AI提供強大的“后端支持”

AI的強大表現離不開高效的底層服務和存儲技術。模型服務（Model Serving）和存儲（Storage）是AI代理的“后臺支撐”。

?OpenAI：OpenAI提供了一系列先進的生成式AI模型，如GPT系列，這些模型能賦予AI強大的自然語言理解和生成能力，支持各種智能任務。

?Anthropic：Anthropic開發的AI模型特別強調安全性和倫理性，旨在為企業提供更加可靠、可控的AI服務。它們可以應用于生成內容、分析數據等領域。

?Pinecone：Pinecone是一種向量數據庫，用于存儲AI在處理數據時生成的高維向量。它可以快速進行相似度檢索，適用于搜索引擎、推薦系統等場景。

?Chroma：Chroma同樣是一款向量數據庫，專注于在大規模數據中快速進行向量搜索。它能夠高效地處理來自多個來源的數據，為AI提供精準的檢索能力。

AI Agents的生態系統由多個工具和技術組成，從垂直代理到底層存儲，每一部分都在為提升AI智能助手的能力和用戶體驗發揮作用。無論你是開發者還是普通用戶，都可以從中找到適合自己需求的工具，讓AI代理更聰明、更高效。

AI Agents，未來已來！

本文轉載自微信公眾號「云原生AI百寶箱」，可以通過以下二維碼關注。轉載本文請聯系云原生AI百寶箱公眾號。

本文轉載自 ??云原生AI百寶箱??，作者： OpenAI