近日，OpenAI聯合創始人，曾經TeslaAI總監，現在又重新返回OpenAI的Andrej Karpathy在一個開發者活動上，分享了自己對于AI智能體的看法。

7年前，研究AI智能體的時機還不成熟

他先聊到了自己早期在OpenAI工作時（2016年左右），當時的業界潮流就是研究如何用強化學習的方法來改進AI智能體。

很多項目都在基于類似雅達利游戲來制作AI玩家。

圖片

當時他本人想做的是一個適用范圍更廣泛的產品。

但是因為當時的技術所限，做出來的效果不好，于是他和OpenAI就改變了方向，開始做大語言模型了。

當然，這期間我被自動駕駛分了心。

但是5年之后的現在，AI智能體重新成為了一個非常有前途的方向。

因為現在有了全新的技術手段來研究AI智能體，情況和2016年完全不同了。

最簡單的例子就是，現在沒有人再像2016年那樣用強化學習的方法來研究AI智能體了。

現在的研究方法和方向在當年是不可想象的。

AI智能體代表著一個瘋狂的未來，雖然可能還有點遠

因為在未來，如果AGI能夠出現，將會充分發揮AI智能體的能力。

未來的AI智能體可能不是單獨的個體，而是會出現非常多的AI智能體組織，甚至是AI智能體文明。

圖片

這可能是一個讓人非常興奮，甚至是瘋狂的未來。

但同時大家也要保持清醒和冷靜。

因為一些技術趨勢方向可能很容易構想，展望出來，但是要做成產品落地卻很難。

很多技術都屬于這種類型，比如自動駕駛就是這樣。

技術遠景很容易設想出來，汽車在街區行駛的演示也很容易做出來，但是做出產品可能需要10年時間。

同樣，VR也是這樣的情況。

圖片

AI智能體可能也屬于這一類技術，應用場景很容易想象，前景讓人興奮，但是需要長期的技術發展和積累。

AI智能體需要從神經科學中汲取靈感

就像深度學習早期的發展一樣，AI智能體的發展可能會從神經科學中獲得啟發。

思考AI智能體和神經科學的關系是很有意思的。

尤其是現在很多人都把大語言模型作為AI智能體解決方案的一部分。

但是如何構建一個完整的，擁有人類所有認知能力的數字實體呢？

顯然，我們都認為需要某種潛在的系統來規劃、思考和反思我們在做的事情。

這可能就是神經科學能發揮作用的地方。

舉個例子，海馬體是大腦非常重要的部分。

但是AI智能體中什么東西發揮著海馬體的作用，來存儲記憶，實現標記和檢索等等的這些功能呢？

我們大致已經了解如何構建視覺和聽覺皮層，但還有許多的東西我們并不知道在AI智能體中到底意味著什么。

比如潛意識的所在地——丘腦在AI Agents中又相當于什么呢？

這些都是非常有趣的問題。

我專門帶了一本神經科學方面的書，是有David Eagleman的《大腦與行為》，我發現這本書非常有趣，很有啟發性。

就像早期AI研究在設計神經元時所做的那樣，從神經科學中汲取有趣的靈感，也許是我們應該重新嘗試的方向。

在座的大家就是行業的最前沿

可能大家不一定知道，但是今天到場的大家構建的AI智能體已經處于AI智能體能力的最前沿。

現在所有正在做大語言模型的機構，比如OpenAI等，我覺得都沒有處于這個領域的最前沿。

最前沿的是在座的各位。

舉個例子，OpenAI非常擅長訓練Transformer語言模型。

如果某篇論文提出了一種不同的訓練方法，那么我們OpenAI內部的Slack群組里大家會討論說:

「這個辦法我兩年半前嘗試過，沒什么用。」

我們對訓練模型的方法的來龍去脈是很清楚的。

但是對于AI智能體的論文出來的時候，我們所有人都會很感興趣，會覺得很了不起。

因為我們的團隊最近5年的時間花在了別的地方。

圖片

在這個領域內我們沒有比你們懂得更多，我們和大家站在同一競爭的水平線上。

這就是我覺得在座的各位處于AI智能體最前沿的原因，這一點對于AI智能體的發展是非常重要的。