谷歌DeepMind推出的AlphaEvolve旨在自主發現算法和科學解決方案。它基于進化計算原理，通過LLM驅動的獨立進化流程，不斷優化代碼。AlphaEvolve不僅超越人類專家設計的算法，還在數學和谷歌基礎設施優化上取得突破。其自主創造力和持續自我改進能力，為邁向通用人工智能（AGI）和超級人工智能（ASI）提供了新方向。

谷歌DeepMind最近發布了??AlphaEvolve???，這是一種進化式編碼代理，旨在自主發現新算法和科學解決方案。在主題為《??AlphaEvolve：用于科學和算法發現的編碼代理??》的論文中，這項研究代表了向通用人工智能（AGI）甚至?超級人工智能（ASI）??邁出了突破性的一步。AlphaEvolve沒有依賴于靜態微調或人類標記的數據集，而是走上了一條以自主創造力、算法創新和持續自我改進為核心的完全不同的道路。?

AlphaEvolve的核心是一個由大型語言模型（LLM）驅動的自我進化流程。該流程不僅僅生成輸出，還能夠跨代對代碼進行變異、評估、選擇和改進。AlphaEvolve從一個初始程序開始，通過引入精心設計的變更進行迭代優化。

這些變更以LLM生成差異的形式呈現——由LLM根據先前的示例和明確的指令給出代碼修改的建議。軟件工程中的“差異”是指文件的兩個版本之間的差異，通常會突出顯示要刪除或替換的行以及要添加的新行。在AlphaEvolve中，LLM通過分析當前程序，并根據包括性能指標和以往成功編輯的提示提出一系列微調建議（例如添加函數、優化循環或更改超參數）來生成這些差異。

然后，使用針對任務定制的自動評估器對每個修改后的程序進行測試。最有效的候選程序會被存儲、引用，并作為未來迭代的靈感來源進行重組。隨著時間的推移，這個進化循環會催生出越來越復雜的算法，而這些算法往往超越了人類專家精心設計的算法。

了解AlphaEvolve背后的科學?

AlphaEvolve的核心是建立在進化計算原理的基礎上，進化計算是受到生物進化啟發的人工智能的一個子領域。該系統從代碼的基本實現開始，將其視為初始的“有機體”。 在歷經多代的迭代進化過程中，AlphaEvolve修改了這段代碼（引入變異或“突變”），并使用定義良好的評分函數評估每個變異的適用性。性能最好的變體能夠存活下來，并作為下一代的模板。

這種進化循環通過以下方式協調：

• 提示采樣：AlphaEvolve通過選擇和嵌入以往表現卓越的代碼示例、性能指標和特定任務的指令來構建提示。
• 代碼突變和建議：該系統使用強大的LLM（Gemini 2.0 Flash和Pro）的組合，以差異的形式對當前代碼庫進行特定的修改。
• 評估機制：自動評估功能通過執行并返回標量分數來評估每個候選程序的表現。
• 數據庫和控制器：分布式控制器協調這個循環，將結果存儲在進化數據庫中，并通過MAP-Elites等機制平衡探索和利用。

這種反饋豐富、自動化的進化過程與標準的微調技術截然不同。它使AlphaEvolve能夠生成新穎、高性能、有時甚至違反直覺的解決方案，從而突破了機器學習自主實現的界限。

AlphaEvolve與RLHF的比較?

為了了解AlphaEvolve的創新之處，將其與人類反饋強化學習（RLHF）進行比較至關重要，RLHF是一種用于微調大型語言模型的主要方法。

在RLHF中，人類的偏好被用來訓練獎勵模型，該模型通過像??近端策略優化（PPO）??這樣的強化學習算法來指導LLM的學習過程。RLHF提高了模型的一致性和實用性，但它需要大量的人工參與來生成反饋數據，并且通常在靜態的、一次性的微調機制中運行。?

相比之下，AlphaEvolve可以：

• 從進化循環中刪除人類反饋，以支持機器可執行的評估器。
• 通過進化選擇支持持續學習。
• 由于隨機突變和異步執行，探索更廣泛的解決方案空間。
• 可以生成不僅一致，而且新穎且具有科學意義的解決方案。

在RLHF微調行為的地方，AlphaEvolve被發現并發明。在考慮AGI的未來發展軌跡時，這種區別至關重要：AlphaEvolve不僅能做出更好的預測，還能找到通往真理的新途徑。

應用與突破?

1.算法發現和數學進展

AlphaEvolve已經證明了它在核心算法問題上有突破性發現的能力。最值得關注的是，它發現了一種僅使用48次標量乘法即可將兩個4×4復值矩陣相乘的新算法——超過了德國數學家Volker Strassen在1969年得出的49次乘法的結果，打破了56年來的理論上限。AlphaEvolve通過先進的張量分解技術實現了這一點，該技術經過多次迭代進化，優于幾種最先進的方法。

除了矩陣乘法之外，AlphaEvolve還在數學研究方面做出了重大貢獻。它在組合數學、數論和幾何學等領域的50多個開放問題上進行了評估。在大約75%的案例中，它達到了已知的最佳結果，并在大約20%的案例下超越了這些結果。這些成功包括對Erd?s最小重疊問題的改進、11維接吻數問題的更密集解決方案以及更高效的幾何填充配置。這些結果凸顯了其作為自主數學探索者的能力——在沒有人為干預的情況下改進、迭代和進化越來越優化的解決方案。

2.谷歌計算堆棧的優化

AlphaEvolve還在谷歌公司的基礎設施上帶來了顯著的性能提升：

• 在數據中心調度方面，它發現了一種新的啟發式方法，可以改善作業安排，回收了之前閑置的0.7%計算資源。
• 對于Gemini的訓練內核，AlphaEvolve為矩陣乘法設計了更好的平鋪策略，使內核加速了23%，訓練時間減少了1%。
• 在TPU電路設計中，它確定了RTL（寄存器傳輸級）算術邏輯的簡化，經過工程師驗證，并包含在下一代TPU芯片中。
• 它還通過編輯XLA中間表示優化了編譯器生成的FlashAttention代碼，將GPU上的推理時間縮短了32%。

總之，這些結果驗證了AlphaEvolve在多個抽象級別（從符號數學到低級硬件優化）上運行的能力，并實現了性能提升。

• 進化編程：這是一種使用變異、選擇和繼承來迭代改進解決方案的人工智能范式。
• 代碼超級優化：自動搜索功能的最有效實現方式——通常產生令人驚訝的，違反直覺的改進。
• 元提示進化：AlphaEvolve不僅僅是進化代碼；它還發展了如何將指令傳遞給LLM，從而實現了編碼過程的自我完善。
• 離散化損失：這是一個正則化術語，鼓勵輸出與半整數或整數值對齊，這對數學和符號的清晰度至關重要。
• 幻覺損失：這是一種將隨機性注入中間解決方案的機制，鼓勵探索并避免局部最小值。
• MAP-Elites算法：這是一種質量多樣性算法，可在特征維度上保持高性能解決方案的多樣性，從而實現穩健的創新。

3.對AGI和ASI的影響

AlphaEvolve不僅僅是一個優化器——它是對未來智能代理可以展示自主創造性的一個窗口。該系統能夠制定抽象問題并設計自己的解決方法，這是朝著通用人工智能（AGI）邁出的重要一步。這超越了數據預測：它涉及結構化推理、策略形成和適應反饋——這是智能行為的標志。

其迭代生成和改進假設的能力也標志著機器學習方式的一種進化。與需要大量監督訓練的模型不同，AlphaEvolve通過實驗和評估的循環來改進自己。這種動態形式的智能使其能夠在沒有直接人類監督的情況下導航復雜的問題空間、丟棄性能不佳的解決方案，并強化那些表現優異的方案。

通過執行和驗證自己的想法，AlphaEvolve同時充當了理論家和實驗家的角色。它超越了執行預定義的任務，進入了發現的領域，模擬了自主的科學過程。每個擬議的改進都經過測試、基準測試和重新整合，從而可以根據實際結果而不是靜態目標進行持續改進。

也許最值得關注的是，AlphaEvolve是遞歸自我改進的早期實例——人工智能系統不僅學習，還增強了自身的組件。在一些實例中，AlphaEvolve改進了支持其基礎模型的訓練基礎設施。盡管仍受當前架構的限制，但這種能力開創了先例。隨著可評估環境中出現更多問題，AlphaEvolve可能會朝著越來越復雜和自我優化的行為發展——這是超級人工智能（ASI）的一個基本特征。

AlphaEvolve的局限性和未來發展

AlphaEvolve目前的局限性是它對自動評估函數的依賴。這就限制了它的應用范圍，使其僅限于可以用數學或算法形式化的問題。它還不能在需要默契的人類理解、主觀判斷或物理實驗的領域中有意義地運作。

然而，未AlphaEvolve來的發展方向包括：

• 混合評估的整合：將符號推理與人類偏好和自然語言批評相結合。
• 在模擬環境中部署，實現具體的科學實驗。
• 將進化的輸出蒸餾到基本LLM中，創建功能更強、樣本效率更高的基礎模型。

這些發展趨勢指向越來越多能夠自主解決高風險問題的代理系統。

結論

AlphaEvolve是一個重大的進步——不僅在人工智能工具方面，而且在人們對機器智能本身的理解方面。通過將進化搜索與LLM推理和反饋相結合，它重新定義了機器能夠自主發現的內容。這是一個早期但重要的信號，表明具有真正科學思維能力的自我改進系統已不再是理論性的。

展望未來，支撐AlphaEvolve的架構可能會遞歸地應用于其自身：進化其自身的評估器、改進變異邏輯、改進評分函數，并針對其依賴的模型優化底層訓練管道。這種遞歸優化循環代表了一種邁向AGI的技術機制，在這種機制下，AlphaEvolve不僅僅完成任務，還改進了使其能夠學習和推理的基礎設施。

隨著時間的推移，AlphaEvolve在更復雜和抽象的領域擴展，以及人類對這一過程的干預減少，它可能會表現出加速的智能提升。這種自我強化的迭代改進循環不僅適用于外部問題，也適用于其自身的算法結構，是AGI及其可以為社會帶來的所有好處的關鍵理論組成部分。憑借其創造力、自主性和遞歸性，AlphaEvolve不僅僅是??DeepMind??旗下的一款產品，而且可能是第一個真正意義上通用并且具備自我進化能力的人工智能的藍圖。?

原文標題：?AlphaEvolve: Google DeepMind’s Groundbreaking Step Toward AGI??，作者：Antoine Tardif