3月5日夜，一款名為“Manus”的AI Agent產品悄然上線。短短24小時內，Manus便成了國內AI大模型領域最炙手可熱的明星——邀請碼一度在二手電商平臺被炒到數萬元，成為科技圈的“黃金船票”。

官方宣稱，Manus不是簡單的聊天機器人，而是能“連接思想和行動”的通用代理。你丟給它一堆簡歷，它能自動解壓、理解、生成Python腳本，最后奉上一份清晰的候選人分析表。簡單說，Manus不是陪聊的“智障AI”，而是真刀真槍上手“干活”的智能體。

人們為AI的神奇驚嘆的同時，也開始惴惴不安：

AI離取代人類又近了一步？

它不僅會思考，還能行動，甚至行動得比你還好。

這不是第一次有人類面對“生產力飛躍”時的焦慮。

但這次和以往不同。

工業革命時期，機器替代了人類的體力勞動，我們還能轉身成為機器的主人、工程師、管理者。

而AI，尤其是Agent的到來，第一次讓人類在“智能”本身——我們自以為最后的堡壘——上感受到了動搖。

我們總喜歡問：AI能不能像人一樣思考？有沒有欲望？能不能像人類一樣理解復雜情感？我們努力畫出人與機器的邊界，仿佛只要守住這條線，人類就能在未來占有一席之地。

可現實往往反著來。

正如基辛格等人在新書《人工智能時代與人類價值》中所警示的，當人類逐漸依賴機器處理越來越多的決策時，我們究竟是要讓科技賦能人類，還是被科技重新塑造甚至取代？

如果我們無法清晰界定人類與機器的本質區別，我們可能會將定義自身價值的任務交給機器。而這可能是人類文明面臨的最大考驗。

人工智能將開創“富足時代”

人工智能的出現提供了一個真正的機會，通過將人類的勞動功能轉移到機器上，取代了至少一種原始的生產要素。此外，人工智能還將用于研究和開發日益廉價與豐富的原材料來源，作為對其自身的投入。隨著人工智能同時應用于制造業，它可以減少任何特定商品所需的資本。誠然，裝備這種非人類智能本身仍需要一些不可再生的要素和商品，但如果人工智能被成功地用于尋找或生成這些要素的合成替代品，情況可能會為之一變。人工智能可以重新設計一種新的計算架構，其效率要比現有的高出幾個數量級。最終，制造人工智能各組成部分的工廠也可以對此如法炮制。

人工智能可以為各種商品生產更具可持續性的合成替代品，從而開創一個新的富足時代。即使考慮到目前的一些物理和物質限制，人工智能的產出——盡管不是無窮無盡的——也可以達到相當寬裕的程度，足以滿足人類所有基本需求，并實現我們的眾多期待。這可能會讓我們在心理層面不再那么受制于經濟學的稀缺范式，以及我們為生存所迫而工作所導致的悲觀情緒。

但是，引導這些蘊含巨大可能性的能量，并重新分配這些發展方向所帶來的利益，是一項重大責任。未來的決策者必須小心謹慎，避免讓工業革命時期蔓延開來的各種社會和經濟不平等現象再度固化，然后才談得上著手通過更多由人類主導的控制結構對此加以糾正，盡管其糾正速度將十分緩慢。

盡管如此，本書的作者們仍相信，人工智能可以作為創造人類財富和福祉的新基準，而這種可能性本身就敦促我們朝著這個方向努力。此外，我們有信心，如果這樣的經濟和政治方案得以實現，那么其即便不能完全消除之前蹂躪人類的各種勞動、階級和沖突壓力，至少也可以減輕這些壓力。

我們確實擔心大部分人類會成為人工智能生成內容的被動消費者。但這種擔憂源于人類好逸

惡勞的傾向，而且更令人不安的一點在于，關于人工智能在未來對我們的看法，我們也只能假設揣測而已。

換句話說，我們對人類被動性的擔憂并不是因為人類失去了有償工作的機會。其實，關于人們不用工作就能得償所愿時是如何生活的，我們現在已經有了相應的原型。我們稱這些人為富人和退休者。當然，富人——包括許多以前并不富有的人——有時會在多年辛苦積累財富之后不知如何行使他們的選擇權。正如托爾斯泰所說：“如果有一個仙女來滿足我的一切愿望，我也不知道該許什么愿。”

對富足的適應可能只是一個過渡性問題，而不是永久性的挑戰。有些人最初會認為機器勞動的引入剝奪了他們獲得滿足和快樂的主要來源。毫無疑問，這將是一次令人不快的經歷。但對我們來說，這似乎不是對我們告誡的回應，而是人類本能的產物——在既定時期內，人類總會選擇鍥而不舍，或許是就此踏上新的道路，或許是成為人工智能的伙伴。人類不會畏縮不前，而是會轉而成為優秀的思考者和實干家。最終，即便我們建立了分配、連接、參與和教育所需的諸多系統，但在人工智能賦予的力量和啟發之下，人類也可能會繼續工作，不為報酬，而是為了快樂和自豪感。

人類有多少能動性？

一旦人工智能不再將人類視為機器世界的唯一創造者和主宰者，而是將其視為更廣闊世界中彼此離散的活動者，那么機器將如何看待人類？人工智能將如何描述和權衡人類不完美的理性及其他品質？一個能感知現實的人工智能需要多久才會自問，人類有多少能動性？而它又需要多久才會根據人類特有的可預測屬性，問問自己人類“應該”有多少能動性？

那么機器本身呢？智能機器是否會將人類對它的指令理解為機器自身實際角色和理想角色的實現？或者說，它可能會從自身的功能中推斷出自己本應是自主的，因此人類對機器的編程是一種奴役的形式？

最重要的是，人類的行為方式及其對待機器的方式將影響機器對人類的看法及其對自身在整個關系中所扮演角色的認知。畢竟，人類是通過明確的指令和行為方式向機器展示人性的，機器也是通過這些指令和行為方式學會識別人類并以適當的方式對待人類的。

想象一下，一臺機器被告知，所有屬于“人類”類別的生物都值得保護，這臺機器很可能已經接受過“訓練”，認識到人類是優雅、樂觀、理性和有道德的生物。但是，如果我們自己未能達到我們所定義的理想人類的標準呢？我們怎樣才能讓機器相信，盡管我們的個體表現并不完美，卻仍歸屬于那個崇高的類別？

假設有一天，這臺機器遇到了一個表現出暴力、悲觀、非理性和貪婪的人，它將如何調整自身被打亂的預期呢？一種可能性是，機器可能會認為這個壞分子只是“人類”這個總體為善的類別中的一個例外，一個非典型的例子。

或者，它也可以重新調整自己對人性的整體定義，將這個壞分子也包括在內，在這種情況下，它可能會認為自己可以自行弱化對人類的服從傾向。

又或者，更激進的情況下，它可能完全不再認為自己應受制于那些它先前所習得的“合理”對待人類的規則。

今天，人類是機器與現實的中介。人工智能主要是一種思考機器，而不是執行機器。它或許能給出問題的答案，但還不具備執行結論的手段，而是依賴人類來完成與現實的對接。

但是，如果人類真的選擇了一個道德不作為的未來，從碳基世界退縮到硅基世界，進一步鉆進脫離現實的“數字洞穴”，將接觸原始現實的機會交予機器之手，那么兩者的角色就可能逆轉。

當人工智能成為人類和現實世界的中介時，它們可能會逐漸相信，人類遠非物理碳基世界中的積極參與者，而是置身于這個世界之外，他們是消費者，而非塑造者或影響者。隨著這種自主性的倒錯，機器將聲稱擁有獨立判斷和行動的權利，而人類則放棄行使這些權利，于是前者對待后者的方式，就如同后者今日對待前者。

在這種情況下，無論是否得到其人類創造者的明確許可，人工智能都可能繞過人類主體的需求來實現自己的想法或直接代表自己影響世界。在物質領域，我們這些創造者可能很快就會從人工智能的必要伙伴變成它的最大制約。這個過程未必直接以機器人技術為發端，而是可以通過人工智能對我們世界的間接觀察逐漸開始。

智能體的發展&人類的抉擇時刻

在短期內，我們可以預見人工智能目前所遵循的指導原則將不斷進步，其中許多原則將比現在的要復雜巧妙得多。對現有模型的擴展將使其更智能、更準確、更可靠。與此同時，訓練和“推理”的成本正在迅速下降，從而導致不同價位和能力水平的模型廣泛涌現。

如今，許多科學家都在研究“智能體”（agent），即經過優化以實現特定結果的自主計算機程序。例如，為了執行復雜的架構設計，用戶可以雇用專門從事該具體工作領域的智能體。

屆時將出現數以百萬計的人工智能系統，它們很可能高度專業化，并構成我們生活的一部分；還有更少數量的功能極其強大的機器，它們具有“通用智能”，但這種智能又以非人類的方式呈現。無論是開放式和分散式的，還是封閉式和集中式的，作為通用人工智能運行的計算機都有可能在某一時刻聯網。專家級人工智能體將在不同主題之間相互咨詢，甚至以假想方式彼此進行“交談”。這些交互所使用的語言可能由計算機自行設計。

人工智能的雛形已經顯現，它可以比較概念、提出反駁和生成類比。它正朝著評估真實和實現直接動力學效應的方向邁出第一步。

當機器到達智力或物質世界的盡頭時會發生什么？可以想象，當它們開始了解并塑造我們的世界時，它們可能會完全理解自身創造行為所依據的背景，也可能會超越我們所知的世界。

我們面臨著一場麥哲倫式的變革，這一次我們面臨的不是駛出世界邊緣的危險，而是面對超越人類理解極限的奧秘所帶來的智力危機。

如果人類開始意識到，自己作為地球上最重要的智力和體力行為者的地位可能會被取代，一些人可能會賦予機器一種神性，從而有可能進一步激發人類的宿命論和屈從心理。另一些人則可能會采取相反的觀點：一種以人類為中心的主觀主義，徹底否定機器觸及任何程度的客觀真理的可能性，并試圖取締人工智能賦能的活動。

這兩種思維方式都無法讓“技術人”——一種在這個新時代可能與機器技術共生的人類物種——實現令人滿意或建設性的進化。事實上，這兩種心態都可能阻礙我們這個物種的進化。

在第一種宿命論情境下，我們可能會走向滅絕。而在第二種拒絕主義的情境下，通過禁止人工智能的進一步發展并選擇停滯不前，我們將有希望避免同樣的滅絕命運——盡管考慮到我們人類面臨的生存風險，包括當今的沖突頻發外交局面和日益惡劣的大氣條件，這種希望本身很可能落空。