隨著生成式人工智能（GenAI）的迅猛發(fā)展，基于大模型的應(yīng)用已經(jīng)悄然融入我們的日常工作和生活，它們?cè)诒姸囝I(lǐng)域顯著提升了生產(chǎn)力和工作效率。為了更便捷地構(gòu)建這些基于大模型的應(yīng)用程序，開(kāi)源社區(qū)和產(chǎn)品開(kāi)發(fā)者們正以前所未有的速度推進(jìn)創(chuàng)新。

在這些創(chuàng)新中，面向智能體（Agent）的應(yīng)用，即所謂的 Agentic AI，已經(jīng)嶄露頭角，成為近年來(lái)生成式 AI 系統(tǒng)中最具潛力的領(lǐng)域。眾多構(gòu)建智能體應(yīng)用的框架如雨后春筍般涌現(xiàn)，為開(kāi)發(fā)者提供了強(qiáng)大的工具和平臺(tái)。接下來(lái)，我們將重點(diǎn)介紹 10 個(gè)具有代表性的 Agent 應(yīng)用構(gòu)建框架，并對(duì)其他常見(jiàn)框架進(jìn)行簡(jiǎn)要概述，以期為大家提供一個(gè)相對(duì)全面的視角，了解這一領(lǐng)域的現(xiàn)狀和潛在趨勢(shì)。

1、LangChain

LangChain 是當(dāng)前最受歡迎的大模型應(yīng)用開(kāi)發(fā)框架之一，幾乎已成為構(gòu)建大模型應(yīng)用的行業(yè)標(biāo)準(zhǔn)。它在 GitHub 上獲得了超過(guò) 10 萬(wàn)顆星，吸引了超過(guò) 100 萬(wàn)開(kāi)發(fā)者參與，形成了一個(gè)龐大且活躍的社區(qū)。這個(gè)社區(qū)不僅提供了豐富的知識(shí)共享，還推動(dòng)了 LangChain 的快速發(fā)展。

LangChain 提供了全面的功能支持，包括與各種供應(yīng)商的集成、云服務(wù)支持、第三方庫(kù)的兼容性，以及多種向量數(shù)據(jù)庫(kù)的選擇，這些特性使其成為開(kāi)發(fā)者構(gòu)建大模型應(yīng)用的首選工具。LangChain 是企業(yè)構(gòu)建 GenAI 應(yīng)用程序的理想選擇，它提供了基礎(chǔ)構(gòu)建模塊，幫助企業(yè)快速搭建定制化的 AI 框架。由于 LangChain 的廣泛采用和強(qiáng)大的兼容性，它特別適合需要與第三方供應(yīng)商或服務(wù)集成的場(chǎng)景。無(wú)論是云服務(wù)、數(shù)據(jù)源，還是其他 AI 工具，LangChain 都能提供前瞻性的支持，確保企業(yè)能夠靈活應(yīng)對(duì)未來(lái)的技術(shù)變化。

然而，LangChain 的強(qiáng)大功能也帶來(lái)了一定的復(fù)雜性。它的學(xué)習(xí)曲線相對(duì)陡峭，尤其是對(duì)于新手開(kāi)發(fā)者來(lái)說(shuō)，可能需要花費(fèi)更多時(shí)間來(lái)掌握其豐富的集成選項(xiàng)和代碼結(jié)構(gòu)。此外，LangChain 的快速迭代和功能更新要求開(kāi)發(fā)者不斷跟進(jìn)，這可能會(huì)導(dǎo)致代碼維護(hù)的挑戰(zhàn)，比如遇到破壞性更新或庫(kù)不兼容的問(wèn)題。

盡管如此，LangChain 的影響力已經(jīng)超越了 Python 社區(qū)，激發(fā)了其他編程語(yǔ)言的開(kāi)發(fā)者構(gòu)建類(lèi)似的框架。例如，Java 開(kāi)發(fā)者可以使用 LangChain4J，Golang 開(kāi)發(fā)者可以使用 LangChainGo，而 C# 開(kāi)發(fā)者也有專(zhuān)門(mén)的 LangChain for C#。這些衍生框架進(jìn)一步擴(kuò)展了 LangChain 的生態(tài)系統(tǒng)，為更多開(kāi)發(fā)者提供了構(gòu)建大模型應(yīng)用的工具和可能性。

總的來(lái)說(shuō)，LangChain 是一個(gè)功能強(qiáng)大且靈活的工具，特別適合需要高度定制化和集成能力的企業(yè)級(jí)應(yīng)用。但對(duì)于一些簡(jiǎn)單或特定場(chǎng)景的需求，開(kāi)發(fā)者也可以根據(jù)實(shí)際情況選擇其他更輕量級(jí)的框架，以降低復(fù)雜性和學(xué)習(xí)成本。

2、Langgraph

LangGraph 框架是由 LangChain 團(tuán)隊(duì)開(kāi)發(fā)的一個(gè)開(kāi)源工具，專(zhuān)注于構(gòu)建和管理智能體系統(tǒng)。其核心優(yōu)勢(shì)在于提供了一個(gè)靈活且強(qiáng)大的平臺(tái)，支持開(kāi)發(fā)者設(shè)計(jì)和實(shí)現(xiàn)復(fù)雜的多智能體工作流。LangGraph Platform 是 LangGraph 的商業(yè)版本，專(zhuān)為將智能體應(yīng)用程序部署到生產(chǎn)環(huán)境而設(shè)計(jì)。它提供了許多高級(jí)功能，包括有狀態(tài)設(shè)計(jì)、基于圖形的工作流管理、多智能體協(xié)作、與 LangChain 的無(wú)縫集成、增強(qiáng)的 LangSmith 監(jiān)控工具、IDE 支持以及更廣泛的社區(qū)資源。這些特性使得 LangGraph Platform 成為企業(yè)級(jí)應(yīng)用的理想選擇。

LangGraph 特別適合用于開(kāi)發(fā)企業(yè)級(jí)的多智能體系統(tǒng)。它的開(kāi)源性質(zhì)意味著它擁有廣泛的社區(qū)支持，并且能夠與各種不同的解決方案和產(chǎn)品進(jìn)行集成。這種前瞻性的設(shè)計(jì)使得 LangGraph 能夠滿足企業(yè)在兼容性方面的多樣化需求。此外，LangGraph 與 LangChain 生態(tài)系統(tǒng)的緊密結(jié)合，減少了企業(yè)在使用多個(gè)框架時(shí)的冗余問(wèn)題，簡(jiǎn)化了開(kāi)發(fā)流程。

對(duì)于企業(yè)用戶來(lái)說(shuō)，LangGraph 的商業(yè)版本提供了更多高級(jí)功能，如安全性增強(qiáng)、可視化開(kāi)發(fā)工具和更強(qiáng)大的監(jiān)控能力。這些特性使得企業(yè)能夠更輕松地管理和維護(hù)復(fù)雜的智能體系統(tǒng)，同時(shí)確保系統(tǒng)的穩(wěn)定性和安全性。

然而，與 LangChain 類(lèi)似，開(kāi)發(fā)者在處理依賴關(guān)系和框架復(fù)雜性時(shí)可能會(huì)遇到一些挑戰(zhàn)。這些挑戰(zhàn)主要來(lái)自于系統(tǒng)的復(fù)雜性和對(duì)高性能的需求。盡管如此，LangGraph 的設(shè)計(jì)目標(biāo)之一就是通過(guò)提供清晰的文檔和強(qiáng)大的工具來(lái)幫助開(kāi)發(fā)者克服這些障礙，從而更高效地構(gòu)建和部署智能體應(yīng)用程序。

3、LlamaIndex

LlamaIndex 最初是一個(gè)專(zhuān)注于大模型應(yīng)用程序的數(shù)據(jù)框架，但如今它的功能已經(jīng)遠(yuǎn)遠(yuǎn)超出了數(shù)據(jù)處理的范疇。它現(xiàn)在涵蓋了 AI Agent、文檔解析與索引、工作流管理、基于連接器的集成、模塊化設(shè)計(jì)以及高度可擴(kuò)展性等多種功能，成為了一個(gè)功能豐富的開(kāi)發(fā)平臺(tái)。

LlamaIndex 還提供了一個(gè)名為 LlamaCloud 的 SaaS 功能，這是一個(gè)專(zhuān)門(mén)為 AI 智能體設(shè)計(jì)的知識(shí)管理中心。通過(guò) LlamaCloud，開(kāi)發(fā)者可以更高效地管理和利用數(shù)據(jù)，為智能體提供強(qiáng)大的知識(shí)支持。此外，LlamaIndex 還有一個(gè)獨(dú)特的產(chǎn)品叫 LlamaParse，它能夠?qū)?fù)雜的指令數(shù)據(jù)轉(zhuǎn)換成適合大語(yǔ)言模型處理的優(yōu)化格式，從而提升模型的性能和準(zhǔn)確性。

LlamaHub 是 LlamaIndex 生態(tài)系統(tǒng)中的一個(gè)重要組成部分，它是一個(gè)集成了搜索式智能體、大語(yǔ)言模型、向量存儲(chǔ)、數(shù)據(jù)加載器等工具的中心化平臺(tái)。LlamaHub 特別適合用于構(gòu)建數(shù)據(jù)密集型的大語(yǔ)言模型應(yīng)用程序，比如知識(shí)密集型的聊天機(jī)器人、問(wèn)答系統(tǒng)等。借助 LlamaCloud 的強(qiáng)大能力，開(kāi)發(fā)者可以高效地解析和索引復(fù)雜的文檔，這使得 LlamaIndex 成為那些希望快速推出產(chǎn)品的企業(yè)的理想選擇。

盡管 LlamaIndex 的核心優(yōu)勢(shì)在于數(shù)據(jù)索引和檢索，它在復(fù)雜的智能體行為和決策方面的功能相對(duì)較少。不過(guò)，LlamaIndex 正在朝著支持更智能的 Agentic 應(yīng)用程序方向發(fā)展，展現(xiàn)出了巨大的潛力。未來(lái)，它可能會(huì)在智能體行為管理和決策支持方面提供更多創(chuàng)新功能，進(jìn)一步擴(kuò)展其應(yīng)用場(chǎng)景。

總的來(lái)說(shuō)，LlamaIndex 是一個(gè)功能強(qiáng)大且靈活的工具，特別適合需要處理大量數(shù)據(jù)并快速構(gòu)建知識(shí)密集型 AI 系統(tǒng)的開(kāi)發(fā)者。無(wú)論是企業(yè)還是個(gè)人開(kāi)發(fā)者，都可以利用 LlamaIndex 的強(qiáng)大功能來(lái)加速開(kāi)發(fā)進(jìn)程，同時(shí)保持高度的可擴(kuò)展性和模塊化設(shè)計(jì)。

4、Spring AI

Spring AI：為 Java 開(kāi)發(fā)者量身定制的 GenAI 開(kāi)發(fā)框架

Spring AI 的靈感來(lái)源于 LangChain，但它專(zhuān)注于為 Java 開(kāi)發(fā)者提供一個(gè)更熟悉的開(kāi)發(fā)環(huán)境。通過(guò)充分利用 Spring 生態(tài)系統(tǒng)，Spring AI 讓開(kāi)發(fā)者能夠輕松構(gòu)建 GenAI 應(yīng)用程序，而無(wú)需學(xué)習(xí)其他框架或編程語(yǔ)言。

第一、主要特點(diǎn)

• 支持多種大語(yǔ)言模型：開(kāi)發(fā)者可以根據(jù)需求選擇不同的模型，靈活應(yīng)對(duì)各種場(chǎng)景。
• Spring 生態(tài)的可觀測(cè)性：借助 Spring 的強(qiáng)大工具，開(kāi)發(fā)者可以輕松監(jiān)控和調(diào)試 AI 應(yīng)用的運(yùn)行狀態(tài)。
• 模型評(píng)估功能：幫助開(kāi)發(fā)者評(píng)估和優(yōu)化 AI 模型的性能。
• Advisors API：封裝了常見(jiàn)的生成式 AI 模式，減少重復(fù)代碼，提升開(kāi)發(fā)效率。
• 聊天對(duì)話和 RAG（檢索增強(qiáng)生成）支持：讓開(kāi)發(fā)者能夠快速構(gòu)建智能聊天系統(tǒng)和基于檢索的問(wèn)答應(yīng)用。

第二、最大優(yōu)勢(shì)

Spring AI 的最大優(yōu)勢(shì)在于它與 Spring 生態(tài)系統(tǒng)的無(wú)縫集成。Spring 生態(tài)中豐富的庫(kù)和工具（如數(shù)據(jù)連接、異步處理、系統(tǒng)集成等）可以直接用于 GenAI 應(yīng)用的開(kāi)發(fā)，極大地簡(jiǎn)化了開(kāi)發(fā)流程。對(duì)于已經(jīng)在使用 Spring 的企業(yè)來(lái)說(shuō)，這意味著可以快速上手，無(wú)需額外學(xué)習(xí)成本，同時(shí)還能充分利用現(xiàn)有的技術(shù)棧。

第三、總結(jié)

總的來(lái)說(shuō)，Spring AI 是一個(gè)為 Java 開(kāi)發(fā)者量身定制的 GenAI 開(kāi)發(fā)框架。它不僅降低了入門(mén)門(mén)檻，還提供了強(qiáng)大的功能和靈活性，非常適合企業(yè)級(jí)應(yīng)用開(kāi)發(fā)。無(wú)論是企業(yè)還是個(gè)人開(kāi)發(fā)者，都可以利用 Spring AI 的強(qiáng)大功能來(lái)加速開(kāi)發(fā)進(jìn)程，同時(shí)保持高度的可擴(kuò)展性和模塊化設(shè)計(jì)。

5、AutoGen

Autogen 是由 微軟 開(kāi)發(fā)的一個(gè)編程框架，專(zhuān)門(mén)用于構(gòu)建 Agentic AI 和基于大模型的應(yīng)用程序。它提供了一個(gè)高層次的抽象框架，支持多智能體之間的協(xié)作和會(huì)話，非常適合構(gòu)建復(fù)雜的 AI 系統(tǒng)。Autogen 的核心特性包括：

• 異步消息傳遞：智能體之間可以高效地異步通信，提升系統(tǒng)響應(yīng)速度。
• 模塊化和可擴(kuò)展：框架設(shè)計(jì)靈活，開(kāi)發(fā)者可以根據(jù)需求輕松擴(kuò)展功能。
• 可觀察性和調(diào)試：提供強(qiáng)大的工具，幫助開(kāi)發(fā)者監(jiān)控和調(diào)試智能體行為。
• 可伸縮性和分布式支持：能夠處理大規(guī)模任務(wù)，并支持分布式部署。
• 內(nèi)置和社區(qū)擴(kuò)展：除了內(nèi)置功能外，還支持社區(qū)開(kāi)發(fā)的插件和擴(kuò)展。
• 跨語(yǔ)言支持和全類(lèi)型支持：兼容多種編程語(yǔ)言，提供完整類(lèi)型安全支持。
• 增強(qiáng)的大模型推理 API：優(yōu)化大語(yǔ)言模型的推理性能，同時(shí)降低成本。

Autogen 特別適合與 開(kāi)源系統(tǒng) 和 微軟生態(tài)系統(tǒng) 結(jié)合使用，是構(gòu)建 Agentic AI 和大模型應(yīng)用的理想選擇。它提供了一個(gè)不斷發(fā)展的生態(tài)系統(tǒng)，能夠支持各種領(lǐng)域和復(fù)雜度的應(yīng)用需求。此外，Autogen 還提供了一個(gè)名為 Autogen Studio 的 UI 工具，開(kāi)發(fā)者可以通過(guò)圖形化界面進(jìn)行智能體的原型設(shè)計(jì)和管理，甚至無(wú)需編寫(xiě)代碼。

需要注意的是，Autogen 目前仍處于 試驗(yàn)階段，尚未完全成熟到可以投入生產(chǎn)環(huán)境。不過(guò)，如果你正在研究復(fù)雜的智能體交互、設(shè)計(jì)新的多智能體系統(tǒng)，或者想嘗試先進(jìn)的 AI 智能體架構(gòu)，Autogen 是一個(gè)非常值得探索的工具。

雖然 Autogen 是一個(gè)開(kāi)源框架，但它對(duì) 微軟解決方案 的依賴性可能會(huì)因組織的技術(shù)棧而有所不同。此外，基于 Autogen 的商業(yè)解決方案 Magentic-One 提供了更高級(jí)的功能，例如為企業(yè)量身定制的高性能通用智能體系統(tǒng)。不過(guò)，Autogen 的復(fù)雜性（尤其是在企業(yè)內(nèi)部使用時(shí)）仍然是一個(gè)需要關(guān)注的問(wèn)題，可能需要更多的技術(shù)支持和優(yōu)化。

總的來(lái)說(shuō)，Autogen 是一個(gè)功能強(qiáng)大且靈活的框架，適合用于研究和原型設(shè)計(jì)。如果你對(duì)多智能體系統(tǒng)和 AI 智能體設(shè)計(jì)感興趣，它無(wú)疑是一個(gè)值得嘗試的工具。不過(guò)，對(duì)于生產(chǎn)環(huán)境的使用，建議等待其進(jìn)一步成熟或考慮基于 Autogen 的商業(yè)解決方案。

6、Semantic Kernel

Semantic Kernel 是由 微軟 提供的一個(gè)強(qiáng)大工具，專(zhuān)為構(gòu)建穩(wěn)定且高度集成的企業(yè)級(jí)應(yīng)用程序而設(shè)計(jì)。作為一個(gè)適合生產(chǎn)環(huán)境的 SDK，它能夠?qū)⒋竽Ｐ秃蛿?shù)據(jù)存儲(chǔ)無(wú)縫集成到應(yīng)用中，幫助企業(yè)打造高質(zhì)量的 GenAI 解決方案。Semantic Kernel 支持多種編程語(yǔ)言，包括 C#、Python 和 Java，并且在預(yù)覽版中已經(jīng)引入了智能體和流程框架，使開(kāi)發(fā)者能夠構(gòu)建單智能體和多智能體系統(tǒng)。

第一、核心功能

• 智能體框架：
• 這是 Semantic Kernel 的核心部分，提供了一個(gè)平臺(tái)，允許開(kāi)發(fā)者將 AI 智能體嵌入到任何應(yīng)用程序中。無(wú)論是簡(jiǎn)單的任務(wù)自動(dòng)化，還是復(fù)雜的多智能體協(xié)作，都能輕松實(shí)現(xiàn)。
• 流程框架：
• 這個(gè)框架專(zhuān)注于優(yōu)化 AI 與業(yè)務(wù)流程的集成，幫助企業(yè)將 AI 能力無(wú)縫融入現(xiàn)有的工作流中，提升效率和智能化水平。、

第二、多語(yǔ)言支持

Semantic Kernel 提供了多種語(yǔ)言的 SDK，包括 Python、C#、.NET 和 Java，滿足了不同開(kāi)發(fā)者的需求。特別是在 微軟 Azure 環(huán)境中，微軟還為開(kāi)發(fā)者提供了豐富的培訓(xùn)和支持資源，幫助團(tuán)隊(duì)快速上手。

第三、適用場(chǎng)景

Semantic Kernel 屬于 SDK 類(lèi)別，與其他提供更高層次抽象和用戶界面的框架相比，它更適合需要深度定制和集成的企業(yè)級(jí)應(yīng)用。不過(guò)，需要注意的是，Semantic Kernel 的智能體框架目前仍在不斷演進(jìn)中，尤其是對(duì) Java 的支持還不夠完善，Java 開(kāi)發(fā)者可能需要等待后續(xù)更新。

第四、總結(jié)

如果你正在尋找一個(gè)功能強(qiáng)大、靈活性高的工具來(lái)構(gòu)建企業(yè)級(jí) GenAI 應(yīng)用，Semantic Kernel 是一個(gè)值得考慮的選擇。它特別適合那些已經(jīng)在使用微軟技術(shù)棧（如 Azure）的企業(yè)，能夠幫助團(tuán)隊(duì)快速實(shí)現(xiàn) AI 能力的落地。盡管它的智能體框架還在發(fā)展中，但其強(qiáng)大的集成能力和多語(yǔ)言支持已經(jīng)讓它成為生產(chǎn)環(huán)境中的有力競(jìng)爭(zhēng)者。

7、總結(jié)

盡管每個(gè) Agent 應(yīng)用框架都擁有出色的功能，但鑒于生成式人工智能領(lǐng)域的迅猛發(fā)展，這些框架也在持續(xù)進(jìn)行更新與優(yōu)化。企業(yè)在選擇框架時(shí)，應(yīng)主要依據(jù)自身的具體需求，例如業(yè)務(wù)場(chǎng)景、應(yīng)用類(lèi)型、安全性要求、性能表現(xiàn)以及其他相關(guān)技術(shù)細(xì)節(jié)。

本文轉(zhuǎn)載自公眾號(hào)玄姐聊AGI  作者：玄姐

原文鏈接：??https://mp.weixin.qq.com/s/V9TBIvGuK0hI0UCVEBFMjw??