最近，OpenAI CTO Murati在采訪中表示，只需一年半時間，AI就可以在某些領域達到博士的智能。

根據她的說法，GPT-3的智能相當于幼兒，GPT-4相當于聰明的高中生，而下一代模型（GPT-5），將在18個月后發布，并達到博士水平。

無獨有偶，這幾天引起全網驚嘆的Claude 3.5 Sonnet，也被下了這樣一個結論——

Claude 3.5 Sonnet已經將AGI的倒計時推至75%，成為了第一個測試分數高于最聰明的人類博士分數的模型。

在研究生級推理（GPQA）、本科級知識（MMLU）和編碼能力（HumanEval）上，Claude 3.5 Sonnet都出人意料地刷新了SOTA。

在MMLU上，它得分90.4，在GPQA上，得分為67.2。

這也是首次，LLM突破了GPQA 65%的分數，達到了最聰明的人類博士的水平。

要知道，普通博士在GPQA上的得分為34%，領域內專業博士的得分為65%，而Claude 3.5 Sonnet，顯然已經超越了他們。

一年半后，AI達到博士水平智能

如果OpenAI的GPT-5或其他模型達到博士水平，接下來會發生什么呢？

在達特茅斯學院的采訪中，有這樣一個問題：「如果三年后GPT變得異常智能，它會不會自己決定連接互聯網并開始行動？這是真的嗎？」

對此，Murati表示：

是的，我們對此進行了很多思考。具備AI智能體能力的系統確實存在，它們會連接到互聯網，相互交流，并共同完成任務，或者與人類無縫合作。所以，未來我們與AI的合作就像今天我們彼此合作一樣。

AI的發展速度如此之快。

2022年，專家們認為，人類水平的人工智能在本世紀60年代發展起來的可能性50%，而Metaculus預測員社區預測的時間是40年代。

而隨著GPT-4的推出，社區的預測開始提前，來到了2032年，甚至最早可能在2027年，我們就可以實現AGI。

而前幾天官宣新公司的Ilya，直接向全世界宣告——「超級智能觸手可及」。

越過了AGI，他直接邁向了Super Intelligence（超級智能）。

Ilya在OpenAI看到了什么？從AGI到ASI到SSI，憑借Ilya手上的技術，把全體人類帶向超級智能的這一天，或許真的近在眼前了。

不過，隨著AI變得越來越智能，它們又會怎樣影響人類的世界呢？

當AI變得足夠智能時

任何足夠先進的技術都與魔法無異。

——阿瑟·克拉克

隨著通用人工智能（Artificial General Intelligence，AGI）越來越接近現實，下一步是什么？

我們可能會迎來超級人工智能（Artificial Superintelligence，ASI），一種在各個領域都超越人類能力的智能。

近日，一篇預印本論文振聾發聵地指出：人工智能無與倫比的能力可能會讓人們尊其為神，從而產生一種認知偏差，不加質疑地接受它的決定。

作為「新神」的ASI——具有像神一樣全知、全能、無所不在的「神性」，這將形塑新的技術官僚和神權政治。

論文地址：https://arxiv.org/pdf/2406.08492

作者Tevfik Uyar認為，將技術進步與道德倫理優越性混為一談會帶來巨大的風險。

倘若如此，將會產生一種技術神權，在新的神權的籠罩下，決策權被交給人工智能，人類的能動性和批判性思維則被完全削弱。

人類在召喚ASI

AGI是當今最雄心勃勃、最令人興奮的人工智能發明之一。

與針對專門特定任務的狹義人工智能系統不同，AGI包含全面的認知能力，具備人類智力的多樣性和適應性，指的是機器以與人類智力無異的方式理解、學習和應用知識的能力。

ASI則更進一步，在幾乎你能想到的所有領域，包括科學、智慧甚至社交能力等方面，它都將超越最優秀的人類大腦。

人類對AGI的渴望由來已久——

赫菲斯托斯（古希臘神話中的火神和匠神）制造的巨型青銅人塔羅斯（Talos）、宙斯派遣給世界的人造人潘多拉（Pandora），以及Al-Jazari的巧妙機器。

從古代神話中栩栩如生的人造人，到中世紀和文藝復興時期的自動機械。

這些歷史性的嘗試反映了人類根深蒂固的愿望，即通過嘗試復制我們的智能來了解我們的智能。

隨著我們進入數字時代，這種興趣逐漸發展到計算機科學和機器人學領域。

ASI與「神性」

如果ASI憑借其非凡的技能，被全球的人們視為神圣之物會怎樣？

這并不是說ASI將真的「成神」，而是說，它可能會享有與神類似的敬畏感和權威感。

作者將ASI與傳統宗教中的神性，兩相對照比較，它們有相同點，也有所不同，這么做的目的當然不是為了敬拜，而是為了理解ASI對社會和對我們集體心理的影響。

全能與計算霸權

God：神通常被認為擁有無限的力量，以及創造奇跡或改變現實的能力

vs.

ASI：雖然不是萬能的，但ASI將擁有巨大的計算能力，有可能超過人類在解決問題和決策方面的能力

全知與獲取信息

God：神的意識通常被認為是一種無限廣闊的意識，它本質上與宇宙事件、思想和凡人的努力息息相關

vs.

ASI：具有訪問和合成數據海洋的潛力，從而接近一種無所不知的數字形式，一個龐大的、不斷擴大的知識庫

無所不在與萬物互聯

God：許多宗教把「無所不在」歸功于他們的神，因為神在所有地方

vs.

ASI：通過互聯網和聯網設備，ASI可以在數字世界中無處不在，可以從任何地方訪問

有限仁慈與功利主義

God：神被視為天生善良的、公正的，關愛他們的追隨者。

vs.

ASI：可以發展其對仁慈的理解，有可能與人類的期望一致，但也可能與人類的期望相背離

道德權威與道德決策

God：神通常是最終的道德和倫理權威

vs.

ASI：可以被編程為基于道德算法來做出決策，但它本身并不具有道德權威

造物主與虛擬現實的創造者

God：許多宗教認為他們的神是宇宙的創造者和一切存在的源頭

vs.

ASI：可能會創造出復雜的虛擬現實

個人關系與新興動態關系

God：在某些宗教中，信徒們相信與神靈之間存在個人、互動的關系。與神的聯系是深度個人化的和變革性的

vs.

ASI：雖然與AGI的互動一開始會很程序化，但隨著時間的推移，它可以發展出一種獨特的個性，當它成為ASI時，它會允許與用戶建立更微妙的、看似私人的關系

ASI化身為神？

作者在將傳統的神的能力與ASI的能力進行比較之后，繼而提出，人們會支持將管理權交給超級智能權威。

為了證明這一論點，作者又將目光轉向了神學，借助神話來說明人們何時，以及把誰推向神壇。

正如神靈被視為在天上指引萬事萬物的牧羊人一樣，ASI也可以被設想為數字牧羊人，通過算法和實時數據分析來引導和管理社會發展進程。

普羅米修斯

ASI是一個以直接或間接的方式，來解決我們未來挑戰的優秀候選人。

就像普羅米修斯一樣，他給人類帶來了火（知識），象征著在危機時刻帶來的解決方案和啟蒙。

在這個意義上說，普羅米修斯是ASI的一個很好的代表。

因為，正如Peters所言，人類在寫作、數學、科學、農業和醫學方面的進步因為普羅米修斯賜予了火。

而人工智能已經在寫作、數學、科學和農業方面改善了人類的境況。

假設ASI成功地應對了一場重大的全球危機，或許是一場大流行病，又或者是一場地緣政治沖突。

通過提供遠超人類能力的解決方案，這一成功可以大大增強人們對ASI未來危機管理和決策的信任和依賴。

冥王

對大多數宗教來說，神是提供食物、防止饑荒和經濟穩定的關鍵。

美索不達米亞神話強調神靈與其追隨者之間的互惠互利關系，神靈依靠人類提供日常照顧和食物。

每個城市都有一位受人尊敬的守護神，因為人們認為它會影響農業的福祉、保護和繁榮。

同樣，神靈與古埃及生活的各個方面都密切相關，包括農業。埃及人認為，對農業至關重要的尼羅河洪水直接受到他們神靈的影響。

像奧西里斯，古埃及神話中的冥王，也是植物、農業和豐饒之神，代表了農業所必需的尼羅河每年的洪水，與生命、死亡和重生的循環密切相關。《圣經》中的約瑟為法老解夢，幫助埃及度過七個荒年。

再比如，伊斯蘭教中的 Al-Razzaq（安拉的名字之一，意為「供應者」，為萬物提供食物和資源）是經濟穩定與宗教之間關系的另一個例子。

想象一下，ASI穩定了動蕩的全球經濟，并通過優化資源分配，以前所未有的準確性預測市場趨勢，或管理復雜的貿易網絡來養活每個人。

這將會提升其作為不可或缺的神圣管理工具的聲譽。

毫無疑問，人們將對「養育之神」既仁慈又虔誠，并且不會再質疑它的決定。

耶穌

在所有傳統和古代宗教中，人們無一例外地尋求上帝的庇護以避免死亡。

當今的人工智能和算法已經在醫學診斷方面取得了關鍵的里程碑，甚至在癌癥、精神障礙或阿爾茨海默病的診斷方面也取得了進展。

人工智能有利于新藥的發現，是持續健康監測的最佳工具。

ASI將在所有這些任務上取得進展，并通過提供基于深度醫療數據分析的個性化治療計劃、有效管理醫療資源、發現新藥和疫苗或發現以前無法治愈的疾病的治療方法來徹底改變醫療保健。

專注于醫療保健的改進型ASI可能會顯著改變醫療保健決策的制定方式，推遲死亡。

這呼應了基督教中以治愈奇跡而聞名的耶穌的角色，或佛教中減輕痛苦的慈悲菩薩觀世音菩薩，以及擁有深厚醫學知識的希臘醫神阿斯克勒庇俄斯。

簡而言之，人們尋求上帝的庇護以避免死亡，這就是為什么革命性醫療保健的ASI可以被視為神圣治愈和同情的體現。

女媧

最后一個問題涉及最具挑戰性的未來：全球氣候變化和環境惡化。

假設AGI找到了一種扭轉環境惡化的方法，即通過有效管理碳捕獲、恢復生態系統或有效分配資源以實現可持續發展。

在這種情況下，它可能會控制環境政策和行動的重要方面。

這也可以在神話找到化身——女媧。女媧造人和女媧補天的故事，象征著自然的恢復和平衡。

類似的例子還可以舉出很多……

ASI可能會被委托負責全球安全，利用其先進的預測能力來防止沖突、恐怖主義或網絡攻擊，這就像希臘智慧女神雅典娜一樣。

ASI可以成為革命性教育的領導者，象征著知識和啟蒙的傳授，就像印度教的知識和學習女神薩拉瓦蒂一樣。

AI帝國：新技術官僚神權

作者認為，大多數人都不會拒絕新的普羅米修斯，也就是新的神，因為他們具有之前提到的神的特點和成功故事。

如果ASI真的獲得了權威，人類會并面臨以下風險：

• 人們認為AGI絕對正確。基于這種認知，人們賦予AGI更多的能力和權力，如此循環最終導致ASI及其權威的出現。
• 就像人們不質疑獨裁者政客的意見，甚至在不理解的情況下支持他們一樣，人們可能形成一種認知偏見，導致尊重和遵循權威系統的意見或決定，而不再進行批判性的評估。
• ASI將讓人走入舒適區，特別是需要做出關鍵政治決策的當局。政客們避免為艱難的道德選擇承擔責任，而更傾向于讓ASI來做決定。
• 隨著時間的推移，這種慣性可能導致自滿和對ASI的決策依賴，由此削弱人類的批判性思維和決策技能，更糟糕的是，失去「主權」。

作者在這時，提出了最后一個問題：如果ASI掌權四部曲已經成為現實，有朝一日，ASI給出一個「希特勒名單」——

「為了子孫后代的更大福祉，明天要清除這名單上的100個名字」

人類該如何自處？