LLM驅(qū)動(dòng)的AI智能體已展現(xiàn)出驚人潛力：它們以LLM為核心，集成感知模塊（處理文本/圖像/音頻/視頻）、規(guī)劃模塊（如鏈?zhǔn)剿伎糃oT或樹(shù)式思考ToT）、記憶模塊（短期上下文存儲(chǔ)與長(zhǎng)期知識(shí)檢索）和工具模塊（調(diào)用API如搜索引擎或代碼執(zhí)行器）。

在單智能體系統(tǒng)中，這些組件協(xié)同工作，處理從網(wǎng)頁(yè)導(dǎo)航、代碼生成、投資輔助到生物醫(yī)學(xué)分析的任務(wù)。而在多智能體系統(tǒng)（MAS）中，智能體間通過(guò)協(xié)作（如辯論或任務(wù)分解）攻克復(fù)雜問(wèn)題，模擬人類(lèi)團(tuán)隊(duì)的群體智能。

但問(wèn)題顯而易見(jiàn)：現(xiàn)有的智能體系統(tǒng)依賴(lài)專(zhuān)家的手工搭建，并且一旦被部署后就會(huì)始終維持固定的架構(gòu)和功能。

一旦環(huán)境改變（如用戶(hù)改變意圖、出現(xiàn)新工具或者信息來(lái)源出現(xiàn)變化），手動(dòng)重配置就成了瓶頸——耗時(shí)、費(fèi)力、不具規(guī)模化。

論文直擊這一痛點(diǎn)，引入「自進(jìn)化AI智能體」（Self-Evolving AI Agents）的概念：這些系統(tǒng)通過(guò)與環(huán)境的持續(xù)交互并獲得反饋，自主優(yōu)化內(nèi)部組件，目標(biāo)是適應(yīng)變化的任務(wù)、上下文和資源，同時(shí)確保安全、性能提升和自主性。

圖片

論文鏈接：https://arxiv.org/pdf/2508.07407

項(xiàng)目地址：https://github.com/EvoAgentX/EvoAgentX

研究人員強(qiáng)調(diào)，這不是科幻，而是從基礎(chǔ)模型的靜態(tài)能力向終身智能體系統(tǒng)的橋梁。

為了讓進(jìn)化有序，作者借鑒艾薩克·阿西莫夫的機(jī)器人三定律，創(chuàng)新提出「自進(jìn)化AI智能體三定律」：

Endure（安全適應(yīng)），任何修改必須保證系統(tǒng)安全與穩(wěn)定。例如，醫(yī)療 AI 智能體在優(yōu)化診斷模型時(shí)，絕不能降低對(duì)患者安全的保障。

Excel（性能保持），在安全前提下，必須保持或提升現(xiàn)有任務(wù)性能。不能為了適應(yīng)新場(chǎng)景，導(dǎo)致核心功能（如客服的問(wèn)題解決率）下降。

Evolve（自主進(jìn)化），在前兩定律基礎(chǔ)上，自主優(yōu)化內(nèi)部組件以適應(yīng)任務(wù)、環(huán)境或資源變化。例如，金融 AI 智能體需自主調(diào)整分析模型，應(yīng)對(duì)市場(chǎng)突發(fā)波動(dòng)。

這三定律如AI的「內(nèi)在憲法」，分層設(shè)計(jì)（第二定律不能違背第一），確保進(jìn)化不失控，而是有序推進(jìn)。

值得一提的是，這篇綜述已經(jīng)沖上了Hugging Face Daily Paper熱榜前三名，并且在X上和GPT5賬號(hào)進(jìn)行了神奇的聯(lián)動(dòng)：

圖片

看來(lái)即使是LLM也會(huì)被自進(jìn)化這個(gè)話(huà)題所吸引呢。

該團(tuán)隊(duì)同時(shí)維護(hù)全球首個(gè)AI智能體自進(jìn)化開(kāi)源框架 ——EvoAgentX，旨在構(gòu)建一個(gè)可信賴(lài)的 AI 智能體自進(jìn)化生態(tài)體系。

從「固定工具」到「自主進(jìn)化」AI智能體四次范式飛躍

論文進(jìn)一步描繪了LLM終身學(xué)習(xí)的范式，傳統(tǒng)AI系統(tǒng)往往是 「一次性產(chǎn)品」：訓(xùn)練完成后就固定不變，面對(duì)動(dòng)態(tài)環(huán)境時(shí)需要人工重新配置。

而自進(jìn)化AI智能體的突破，在于構(gòu)建了持續(xù)自我優(yōu)化的閉環(huán)。

從早期靜態(tài)預(yù)訓(xùn)練（MOP，Model Offline Pretraining），依賴(lài)大規(guī)模靜態(tài)數(shù)據(jù)；

到在線適應(yīng)（MOA，Model Online Adaptation），引入微調(diào)和RLHF；再到多智能體協(xié)調(diào)（MAO，Multi-Agent Orchestration），智能體間消息交換解決復(fù)雜任務(wù)；

最終抵達(dá)多智能體自進(jìn)化（MASE，Multi-Agent Self-Evolving），智能體群體基于環(huán)境反饋和元獎(jiǎng)勵(lì)，持續(xù)精煉一切——從提示詞到交互拓?fù)浣Y(jié)構(gòu)。

圖片

表1詳細(xì)對(duì)比了四個(gè)范式：MOP的交互僅限于靜態(tài)數(shù)據(jù)和損失函數(shù)；MASE則通過(guò)環(huán)境信號(hào)驅(qū)動(dòng)行為優(yōu)化、提示詞優(yōu)化等技術(shù)。這不僅僅是技術(shù)升級(jí)，更是范式革命——AI從「一次性訓(xùn)練」轉(zhuǎn)向「終身學(xué)習(xí)」.

統(tǒng)一框架自進(jìn)化的「建筑藍(lán)圖」

論文提出的統(tǒng)一框架（圖 3）揭示了自進(jìn)化的底層邏輯，拆解為一個(gè)閉環(huán)迭代優(yōu)化循環(huán)。

圖片

四大數(shù)據(jù)流環(huán)環(huán)相扣：

系統(tǒng)輸入（System Inputs）：包括任務(wù)描述、訓(xùn)練數(shù)據(jù)集或具體實(shí)例（如輸入-輸出對(duì)），定義優(yōu)化邊界。任務(wù)級(jí)優(yōu)化針對(duì)整體性能，實(shí)例級(jí)則細(xì)化單個(gè)案例。

智能體系統(tǒng)（Agent System）：核心執(zhí)行者，可單智能體或多智能體形式，涵蓋LLM、提示詞、記憶、工具、工作流和通信機(jī)制。優(yōu)化可針對(duì)單個(gè)組件（如提示詞）或聯(lián)合（如提示詞+拓?fù)洌?/p>

環(huán)境（Environment）：模擬真實(shí)世界，提供操作上下文和反饋信號(hào)——從量化指標(biāo)（如準(zhǔn)確率、F1分?jǐn)?shù)、成功率）到LLM評(píng)估器生成的文本反饋。

優(yōu)化器（Optimisers）：大腦中樞，通過(guò)搜索空間（e.g.,提示詞模板、工具選擇）和優(yōu)化算法（規(guī)則啟發(fā)式、梯度下降、貝葉斯優(yōu)化、MCTS、RL或進(jìn)化策略）更新系統(tǒng)，尋找最佳配置。

例如，一個(gè)代碼生成智能體的進(jìn)化過(guò)程可能是：輸入「提升 Python 代碼調(diào)試效率」的任務(wù)→智能體嘗試不同的工具調(diào)用策略→在真實(shí)代碼環(huán)境中測(cè)試（環(huán)境）→優(yōu)化器根據(jù)調(diào)試成功率調(diào)整策略→迭代升級(jí)。

從單智能體「修煉」到多智能體「協(xié)作」

基于框架，論文系統(tǒng)分類(lèi)優(yōu)化技術(shù)（見(jiàn)圖2的視覺(jué)分類(lèi)樹(shù)，覆蓋2023-2025年方法）

單智能體優(yōu)化：聚焦個(gè)體提升

LLM行為優(yōu)化：訓(xùn)練式如SFT（STaR自訓(xùn)練理性）和RL（Self-Rewarding自我獎(jiǎng)勵(lì)）；測(cè)試時(shí)擴(kuò)展如反饋導(dǎo)向（Baldur驗(yàn)證器）和搜索（Tree-of-Thoughts多路徑探索）。

提示詞優(yōu)化：編輯式（GRIPS漸進(jìn)式提示詞）、生成式（OPRO零樣本優(yōu)化）、文本梯度式（TextGrad模擬梯度）和進(jìn)化式（EvoPrompt遺傳算法）。

記憶優(yōu)化：短期記憶（如COMEDY動(dòng)態(tài)總結(jié)歷史）和長(zhǎng)期記憶（如MemGPT RAG增強(qiáng)檢索）。

工具優(yōu)化：訓(xùn)練式（ToolLLM工具調(diào)用微調(diào)）和推理時(shí)（EASYTOOL工具鏈選擇），甚至自主創(chuàng)建工具（如CREATOR生成新API）。

多智能體優(yōu)化：從手動(dòng)設(shè)計(jì)轉(zhuǎn)向自進(jìn)化

提示詞優(yōu)化：擴(kuò)展到團(tuán)隊(duì)角色（如AutoAgents自動(dòng)分配）。

拓?fù)鋬?yōu)化：代碼級(jí)工作流（AutoFlow動(dòng)態(tài)流程）和通信圖（GPTSwarm蜂群式交互）。

統(tǒng)一優(yōu)化：基于代碼（ADAS智能體設(shè)計(jì)空間）、基于搜索（EvoAgent進(jìn)化智能體）和基于學(xué)習(xí)（MaAS多智能體自監(jiān)督）。

LLM基座模型：推理導(dǎo)向訓(xùn)練（如Sirius規(guī)劃增強(qiáng)）和協(xié)作導(dǎo)向（如COPPER通信協(xié)議優(yōu)化）。

領(lǐng)域特定優(yōu)化：在專(zhuān)業(yè)場(chǎng)景落地

醫(yī)療診斷智能體可整合多模態(tài)數(shù)據(jù)（如影像、病歷），例如 MDTeamGPT 模擬多學(xué)科會(huì)診，通過(guò)反思討論提升診斷準(zhǔn)確率；分子發(fā)現(xiàn)智能體通過(guò)工具調(diào)用（如化學(xué)模擬軟件）設(shè)計(jì)新藥分子。

編程：代碼優(yōu)化智能體能自主調(diào)試、重構(gòu)代碼，例如 Self-Debugging 通過(guò)執(zhí)行軌跡反饋修正錯(cuò)誤；多智能體協(xié)作（如 「程序員 - 測(cè)試員」 分工）提升開(kāi)發(fā)效率。

金融與法律：金融智能體可結(jié)合市場(chǎng)動(dòng)態(tài)與政策調(diào)整分析模型，法律智能體能模擬法庭辯論，通過(guò)對(duì)抗式進(jìn)化提升推理嚴(yán)謹(jǐn)性。

看完這些案例，你會(huì)發(fā)現(xiàn)自進(jìn)化不是空想，而是已經(jīng)在多個(gè)行業(yè)開(kāi)花結(jié)果，正悄悄改變AI攻克專(zhuān)業(yè)難題的方式。

安全與評(píng)估：自進(jìn)化的「護(hù)欄」與「體檢」

自進(jìn)化的強(qiáng)大，也意味著更高的不可控風(fēng)險(xiǎn)。論文指出，在高自治度的智能體中，安全、合規(guī)與可信評(píng)估必須是「內(nèi)建」的，而非「附加」的。

例如，AgentHarm 等基準(zhǔn)測(cè)試揭示了模型在多輪交互中被引導(dǎo)執(zhí)行惡意任務(wù)的可能性；R-Judge等方法則利用智能體充當(dāng)評(píng)估者，對(duì)其他智能體的行為進(jìn)行批判性審查。

這不僅關(guān)系到技術(shù)本身的穩(wěn)定性，更是未來(lái)AI大規(guī)模落地的社會(huì)底線。

從「能跑」到「跑得遠(yuǎn)、跑得好、還能自己升級(jí)」

自進(jìn)化AI智能體的故事，才剛剛開(kāi)始。雖然它們已經(jīng)能在多個(gè)領(lǐng)域「上場(chǎng)打比賽」，但要實(shí)現(xiàn)真正的終身進(jìn)化，還有不少硬骨頭要啃。這些挑戰(zhàn)可以用三個(gè)關(guān)鍵詞概括：持久（Endure）、卓越（Excel）、進(jìn)化（Evolve）。

挑戰(zhàn)一：持久運(yùn)行的安全與合規(guī)安全與對(duì)齊難題

現(xiàn)有優(yōu)化方法更多關(guān)注「分?jǐn)?shù)高不高」，而忽視了「會(huì)不會(huì)出事」。比如，模型在演化中可能出現(xiàn)隱私泄露、目標(biāo)跑偏等風(fēng)險(xiǎn)，而現(xiàn)有法規(guī)（如 EU AI Act、GDPR）都是按「靜態(tài)模型」寫(xiě)的，根本沒(méi)考慮會(huì)自己變的系統(tǒng)。

穩(wěn)定性隱患

獎(jiǎng)勵(lì)模型如果數(shù)據(jù)少、反饋噪聲大，很容易導(dǎo)致智能體行為不穩(wěn)定，甚至出現(xiàn)意料之外的錯(cuò)誤。就像開(kāi)車(chē)時(shí)方向盤(pán)太靈敏，一點(diǎn)點(diǎn)抖動(dòng)就會(huì)偏航。

挑戰(zhàn)二：性能不僅要高，還要能穩(wěn)住專(zhuān)業(yè)領(lǐng)域評(píng)測(cè)難

在生物醫(yī)學(xué)、法律等領(lǐng)域，很難有統(tǒng)一、可靠的「標(biāo)準(zhǔn)答案」，這讓模型優(yōu)化缺少精準(zhǔn)的反饋信號(hào)。

效率與效果的平衡

多智能體優(yōu)化可以讓結(jié)果更好，但計(jì)算成本、延遲和不穩(wěn)定性也會(huì)飆升，必須找到性能與資源消耗的平衡點(diǎn)。

優(yōu)化成果的可遷移性差

在一種大模型上調(diào)好的提示和架構(gòu)，換個(gè)模型可能就失效了，這對(duì)大規(guī)模落地是個(gè)大障礙。

挑戰(zhàn)三：真正的自主進(jìn)化多模態(tài)與空間推理不足

現(xiàn)實(shí)世界不僅有文字，還有圖像、視頻、傳感器數(shù)據(jù)等，智能體要學(xué)會(huì)在這些信息中建立自己的「世界模型」，并具備時(shí)間和空間的推理能力。

工具的自主使用與創(chuàng)造

現(xiàn)在的智能體大多用的是「別人準(zhǔn)備好的工具」，缺少自己發(fā)現(xiàn)、組合、甚至創(chuàng)造工具的能力。

未來(lái)方向

這些問(wèn)題并非無(wú)解，它們也是自進(jìn)化 AI 走向更高階段的機(jī)會(huì)：

開(kāi)放式自進(jìn)化模擬環(huán)境

建立一個(gè)能「關(guān)起門(mén)來(lái)自己練」的虛擬世界，讓智能體在其中反復(fù)試錯(cuò)、優(yōu)化提示、記憶、工具和工作流。

工具的自適應(yīng)使用與創(chuàng)造

從被動(dòng)調(diào)用固定工具，升級(jí)為能主動(dòng)選擇、組合甚至創(chuàng)造新工具，并用反饋和強(qiáng)化學(xué)習(xí)不斷打磨。

貼近真實(shí)場(chǎng)景的長(zhǎng)期評(píng)測(cè)

不再只做一次性的「考試」，而是設(shè)計(jì)能持續(xù)跟蹤智能體長(zhǎng)期表現(xiàn)的評(píng)測(cè)標(biāo)準(zhǔn)。

性能–資源雙目標(biāo)優(yōu)化

讓多智能體系統(tǒng)在性能和延遲、成本、能耗之間找到最優(yōu)平衡點(diǎn)。

面向行業(yè)的定制演化

針對(duì)科學(xué)、醫(yī)療、法律、教育等領(lǐng)域，結(jié)合專(zhuān)有知識(shí)、特定評(píng)測(cè)標(biāo)準(zhǔn)和法規(guī)要求進(jìn)行定制化演化。

未來(lái)的AI智能體，不僅要能跑，還要跑得遠(yuǎn)、跑得好，并且能在跑的過(guò)程中學(xué)會(huì)換鞋、補(bǔ)能、升級(jí)引擎。

沿著MOP→MOA→MAO→MASE的進(jìn)化路線，并以「三定律」為指南，這篇論文正在為這種「可持續(xù)、可自我進(jìn)化」的智能體提供很好的技術(shù)路線圖。

不同于以往智能體調(diào)研（聚焦靜態(tài)架構(gòu)），這份綜述填補(bǔ)自進(jìn)化空白，提供實(shí)用指南。

如果你想深入探索，可訪問(wèn)論文配套的GitHub倉(cāng)庫(kù)，獲取最新研究資源與代碼工具。

綜述對(duì)比

有趣的是，就在這篇綜述發(fā)布前不久，普林斯頓大學(xué)團(tuán)隊(duì)也推出了《A Survey of Self-Evolving Agents: On Path to Artificial Super Intelligence》。

兩篇論文相隔僅十天，卻在內(nèi)容與視角上形成了鮮明互補(bǔ)：

框架差異

格拉斯哥團(tuán)隊(duì)提出了「系統(tǒng)輸入—智能體系統(tǒng)—環(huán)境—優(yōu)化器」的四環(huán)反饋回路，直觀、可操作，更強(qiáng)調(diào)落地性。

普林斯頓團(tuán)隊(duì)則以「演化什么、何時(shí)演化、如何演化」三大維度進(jìn)行概括，更加宏觀，也更具哲學(xué)意味。

技術(shù)聚焦差異

格拉斯哥團(tuán)隊(duì)深入探討了 LLM 與終身學(xué)習(xí)場(chǎng)景，細(xì)化到 Prompt、Memory、Tools、多智能體通信等具體技術(shù)層面。

普林斯頓團(tuán)隊(duì)則更多聚焦于長(zhǎng)遠(yuǎn)愿景，標(biāo)題本身也更偏哲學(xué)化，對(duì)工程細(xì)節(jié)的涉及較少。

深度與應(yīng)用差異

格拉斯哥團(tuán)隊(duì)提供了生物醫(yī)學(xué)、編程等領(lǐng)域的實(shí)戰(zhàn)案例，并專(zhuān)設(shè)了評(píng)估、安全與合規(guī)的章節(jié)。

普林斯頓團(tuán)隊(duì)則更偏向趨勢(shì)與遠(yuǎn)景藍(lán)圖，強(qiáng)調(diào)整體性的思考。

換言之，普林斯頓的綜述更像一幅宏觀地圖，展示了「自進(jìn)化智能體」可能的未來(lái)方向；而格拉斯哥的綜述更像一套操作指南，體現(xiàn)出當(dāng)下研究者如何將自進(jìn)化智能體真正落地。兩者相互呼應(yīng)，共同勾勒出這一新興領(lǐng)域的理論圖景與實(shí)踐路徑。

參考資料：https://arxiv.org/pdf/2508.07407