譯者 | 晶顏

審校 | 重樓

在由英國知名企業家史蒂文·巴特利特（Steven Bartlett）主持的播客節目《CEO日記》中，杰弗里·辛頓（Geoffrey Hinton）闡述了自身當前的使命——“警示人們關于人工智能的風險”。當下，人類正處于制造超越人類智能機器的關鍵節點，站在發展的十字路口，辛頓認為領導者與技術專家在構建合理約束機制以管控此類機器方面，工作成效尚顯不足。

除此之外，此本次談話中以下幾點內容尤其引人關注：

人工智能的進化

二十余年來，杰弗里·辛頓始終致力于推進基于神經網絡的人工智能模型研發，力求模擬人類大腦學習與模式識別的能力。在最初的幾年里，他的想法遭到了懷疑和駁斥。然而，如今他的研究成果正重新定義人機關系的本質內涵。辛頓及其卓越的學生群體，在構建深度學習（現代人工智能的核心基石）體系過程中發揮了關鍵作用。當被問及對人工智能超越人類智能的預見時，辛頓坦言其認知存在滯后性，他承認“我后來才意識到這一點”。隨著ChatGPT的問世，人工智能迎來重大突破，其展現出的能力遠超預期，諸如理解并模仿人類情感的微妙差異等。

用辛頓的話來說，人工智能已發展出與生物智能截然不同的能力特質。由于人工智能具備更快的學習速度、更強的數據處理能力，且能在人類難以企及的規模上運作，其有望在短時間內全方位超越人類智慧。一旦這一時刻來臨，人工智能或將在無需人類干預、無需對決策作出解釋的情況下，自行做出各類決策。

人工智能對就業的影響

在被問及人工智能領域的職業前景時，杰弗里·辛頓曾以“成為水管工”作為調侃回應，看似玩笑，實則蘊含警示意味，折射出人們對人工智能可能取代大量腦力工作的深切憂慮。

這一表述反映出深層次的現實：伴隨人工智能技術的持續精進，以往依賴人工完成的常規智力工作或將不再需要人力參與；而涉及批判性思維、創造力及精細決策的工作崗位，大型語言模型（LLM）也將參與競爭。這從根本上意味著人類將不得不為關鍵崗位展開激烈競爭。

兩大主要人工智能風險

辛頓解釋稱，人工智能帶來了兩種主要的風險。其一為人工智能被惡意利用所引發的直接危害，借助人工智能，網絡攻擊、詐騙及輿論操縱等行為將變得更高效、更具威脅性。其二為更為潛在的風險，即當人工智能的智能程度遠超人類時可能出現的狀況。辛頓認為，屆時人類將難以理解人工智能的運行邏輯，更無法對其實施有效控制。例如，人工智能可能成為操縱選舉的工具，不同聊天機器人生成的數據可被用于制作精準投放的廣告，進而影響選民決策；YouTube、Facebook等社交媒體平臺也可能被利用，從根本上左右公眾對人工智能相關議程的支持或反對態度。

人工智能引發的就業市場變革

辛頓最為關切的問題之一，便是人工智能對就業市場的沖擊。盡管部分觀點認為人工智能將成為人類工作的輔助工具，但辛頓發出警示，人工智能將替代相當數量的工作崗位，尤其是那些重復性智力勞動崗位。他以自己身為衛生服務工作者的侄女為例，其侄女目前已借助人工智能更高效地處理投訴，這正是人工智能取代大量人力工作的典型案例。

在辛頓看來，腦力勞動密集型工作也將逐漸被淘汰。雖然醫療保健及體力勞動類工作目前相對安全，但一旦物理智能機器人廣泛進入日常生活，這一局面也可能發生改變。

戰爭中的人工智能

當談及人工智能在戰爭領域的應用時，辛頓尤為擔憂“致命性自主武器”帶來的威脅。這類能夠自主決定攻擊目標的機器，或將徹底改變戰爭形態。由于此類武器減少了人類的直接參與，戰爭爆發頻率可能會變得更頻繁，同時引發的社會抗議活動也會更少，因為各國將能夠避免派遣士兵參戰所帶來的人力損失。盡管這些自主武器的智能水平或許不及人類，但因其可在脫離人類干預的情況下運行，本身便極具危險性，其攻擊行為可能難以預測與控制。雖然研發此類武器成本高昂，但具備相應預算的國家一旦進行投資，將在軍事領域獲得相較于純人力軍隊的顯著優勢。

超級智能的威脅

辛頓進一步闡釋道，一旦人工智能進階至超級智能的水平，在所有可預見的維度上超越人類能力時，其將不再受人類需求與意愿的約束。關鍵問題并不在于人工智能能否超越人類智慧，而是人類能否保障自身不被其視作威脅并加以清除。具備超級智能的人工智能可能會將人類視為實現其目標的阻礙，進而采取足以終結人類文明的行動。盡管這一情景聽起來很想《終結者3》中的科幻情節，但卻是辛頓深切關注的現實問題，也促使他積極投身于人工智能安全領域的研究探索。他認為，當下亟待解決的難題，在于探尋有效的途徑與方法，確保人工智能運行安全可靠，始終處于人類可控范圍之內。

監管：力度不足，時機滯后？

辛頓指出，盡管當前已經出臺了相關監管舉措，尤其是在歐洲地區，但現有法規不足以充分應對人工智能帶來的多元威脅。例如，部分法規未將人工智能的軍事應用納入監管范疇，而這恰恰是極具危險性的領域。此外，辛頓著重強調了人工智能被政府與企業掌控后存在的風險，這些主體可能借助人工智能實施選舉操縱、人口控制等行為，進而加劇社會不平等現象。

盡管各界對人工智能的擔憂日益加劇，但辛頓對減緩人工智能發展進程持悲觀態度。他認為，人工智能技術在全球體系中價值巨大且已根深蒂固，其發展態勢勢不可擋，這場技術革命已然發展到難以逆轉的階段。

結語

這次對話傳遞出了一種強烈的緊迫感。辛頓所闡述的風險真實存在，且不容忽視。雖然人工智能在改善我們的生活質量、提升醫療教育水平與社會運行效率等方面潛力巨大，但也蘊藏著重大的風險，而整個社會尚未做好充分的應對準備。從就業結構變革到自主武器的威脅，人工智能的影響或將以超乎想象的方式重塑世界格局。

辛頓明確呼吁：全社會需迅速加大對人工智能安全領域的資源投入。人類能否掌控人工智能的未來發展，目前尚無定論。然而，若不付諸努力，任由其自由發展，未來或將陷入人工智能主導一切、引發災難性后果的困境。

回顧此次對話，諸多問題仍懸而未決，但有一點毋庸置疑：人類正站在前所未有的發展關口，所面臨的變革遠超當下認知。人工智能既可能成為人類最偉大的創新成果，也可能演變為最嚴重的錯誤抉擇。何去何從，選擇權與責任均掌握在我們自己手中。

原文標題：7 Key Highlights from Geoffrey Hinton on Superintelligent AI，作者：Anu Madan