呼吁暫停比GPT-4更強(qiáng)AI訓(xùn)練的公開信，把超強(qiáng)AI的種種爭議，更加激烈地推到了公開的臺面上。

這幾日，后續(xù)激辯不斷，幾方立場愈發(fā)兩極分化。

而公開信的簽名人數(shù)，也從最初的1000出頭，猛增到了近1.6萬。

面對接踵而至的指責(zé)和質(zhì)疑的聲浪，OpenAI匆忙在凌晨發(fā)文回應(yīng)：我們會堅(jiān)決保障AI安全，絕不「偷工減料」！

圖靈三巨頭之一的Bengio，昨天專門在自己的博客上寫了一篇長文，解釋自己為什么簽名贊成暫停超強(qiáng)AI研發(fā)。

而另一巨頭LeCun一再表示，這種暫停根本就沒有必要，而且與AI末日論者辯論真的毫無意義。

在與眾網(wǎng)友舌戰(zhàn)多日后，他將于明天和吳恩達(dá)親自出鏡，向大眾公開解釋為什么他們不贊同暫停訓(xùn)練超強(qiáng)AI 6個月。

LeCun：與AI末日論者辯論毫無意義

今日，LeCun發(fā)推再次強(qiáng)調(diào)自己的立場：人類需要機(jī)器智能。

「歷史一再表明，智能越多，社會和人類的福祉就會越多：我們會擁有更好的技能、讀寫能力、教育、創(chuàng)造力、文化、溝通和思想的自由交流。」

「人類和機(jī)器的智能是進(jìn)步的動力。」

「機(jī)器智能是增強(qiáng)人類智能的一種方式，就像機(jī)械工具增強(qiáng)人類體能一樣。」

在他看來，擔(dān)心AI會滅絕人類，這種想法非常荒謬。

?「人們對AI風(fēng)險(xiǎn)過度擔(dān)憂的唯一原因，就是這個神話：當(dāng)你打開一個超級智能系統(tǒng)的那一刻，人類就注定要滅亡。這是荒謬的愚蠢，基于對AI運(yùn)作方式徹底的誤解。」

而且，今天關(guān)于AI安全的討論，跟1890年關(guān)于客機(jī)安全的討論一樣，全是推測性的。

「在我們擁有可靠達(dá)到人類智能水平的AI系統(tǒng)的基本設(shè)計(jì)和演示之前，關(guān)于它們的風(fēng)險(xiǎn)和安全機(jī)制的爭論還為時過早。」

有網(wǎng)友在評論區(qū)中問他，Hinton的訪談你聽了嗎？

LeCun表示：我和Hinton都是37年的朋友了，我們在很多事情上都沒有分歧。

他說AI接管「并非不可想象」，我不反對。但我相信，這種事情的概率極低，也很容易預(yù)防。

然后，LeCun給網(wǎng)友們分享了自己在幾年前與Bengio、Russell、Zador等大佬辯論的帖子，告訴大家，這才叫有意義的辯論。

但是，與極端的AI末日論者辯論AI倫理和安全，就像與神創(chuàng)論者辯論進(jìn)化論一樣，毫無意義。

有網(wǎng)友感謝LeCun分享這場辯論，但是強(qiáng)調(diào)有些人就是不相信以利潤為導(dǎo)向的公司會將人類和地球的安全置于利潤之上，把他們稱為AI末日預(yù)言者，是武斷和不公平的。

而LeCun轉(zhuǎn)發(fā)了這樣一篇論文。

他評論道：「由于擔(dān)心動蕩，奧斯曼帝國限制了印刷書籍的傳播。因此，它錯過了啟蒙運(yùn)動，失去了在科學(xué)技術(shù)上的主導(dǎo)地位，并最終失去了經(jīng)濟(jì)和軍事上的影響力。」

在他看來，阻止AI替代我們的高技能工作崗位，也是如此。

Bengio：需要按下暫停鍵

另外，簽署公開信的圖靈三巨頭之一Yoshua Bengio在沉默幾天后，首次解釋了自己加入FLI呼吁的看法：

一年前我可能不會簽署這樣一封信。正是因?yàn)槿斯ぶ悄馨l(fā)展出現(xiàn)了意想不到的加速，因此我們需要退一步。并且我對這些問題的看法已經(jīng)改變了。

就此，Bengio在自己的網(wǎng)站上發(fā)表了一篇長文，具體解釋了簽署公開信的原因——技術(shù)進(jìn)步需要放緩，這樣才能確保安全、保護(hù)集體的福祉。

Bengio認(rèn)為我們已經(jīng)越過了一個關(guān)鍵的門檻：機(jī)器現(xiàn)在可以和我們對話，甚至假裝成人類。

而且，自從ChatGPT發(fā)布以來，大家發(fā)現(xiàn)不那么謹(jǐn)慎守規(guī)矩的玩家會有競爭優(yōu)勢，如果是這樣的話，那么通過降低謹(jǐn)慎和道德監(jiān)督的水平，就可以更容易出頭。

面對更加激烈的商業(yè)競爭，OpenAI也可能會急于開發(fā)這些巨大的人工智能系統(tǒng)，把他們在過去十年的人工智能研究中養(yǎng)成的透明和開放科學(xué)的良好習(xí)慣拋在腦后。

Bengio表示，簽署這封公開信可以提醒學(xué)界和工業(yè)界：我們必須花時間更好地了解這些系統(tǒng)，并在國家和國際層面制定必要的框架，來增加對公眾的保護(hù)。

即使簽署這封公開信造成的影響可能沒有那么大，但是起碼會掀起一場全社會的討論。我們將不得不在未來幾年做出集體選擇，包括我們想用我們正在開發(fā)的強(qiáng)大工具做什么。

從中短期風(fēng)險(xiǎn)來看，可能是出于政治目的操縱公眾輿論，特別是傳播虛假信息，這很容易預(yù)測；而長期風(fēng)險(xiǎn)就是偏離程序員所設(shè)定的目標(biāo)，對人類造成傷害，這種風(fēng)險(xiǎn)很難預(yù)測。

但是這封公開信并不是要叫停所有的AI研究，也并不是說GPT-4將成為自主的AI并威脅到人類。相反，危險(xiǎn)的是懷有不良意圖的人類或根本不知道其行為后果的人類，在未來幾年內(nèi)可能利用這些工具危及人類的未來。

現(xiàn)在，我們需要規(guī)范這些系統(tǒng)，提高人工智能系統(tǒng)的透明度和監(jiān)督，保護(hù)社會。風(fēng)險(xiǎn)和不確定性已經(jīng)如此嚴(yán)重，因此我們的治理機(jī)制也要加速發(fā)展。

社會需要時間來適應(yīng)變化，法律需要時間來通過，監(jiān)管框架需要時間來落實(shí)。Bengio認(rèn)為迅速提高意識，把這個問題放在更多的場合去進(jìn)行更多的公眾辯論是很重要的。

不過，從根本上來說，Bengio對技術(shù)是樂觀的，他認(rèn)為技術(shù)將能夠幫助我們克服人類面臨的巨大挑戰(zhàn)。然而，為了面對這些挑戰(zhàn)，現(xiàn)在需要的是去思考如何調(diào)整我們的社會，甚至完全重塑它們。

「我們應(yīng)該放棄嗎？當(dāng)然不是。減少對未來的損害，我們總是有辦法做得更好，在正確的方向上的每一步，都會有所裨益。」

對此，紐約大學(xué)馬庫斯也表示了支持，盡管兩人之前有些意見相左。

馬斯克：這是個電車難題

另一邊，作為公開信支持者的馬斯克表示，你們這些反對暫停的人就屬于下面這種人：

「另一條路太繞，會減慢AI的發(fā)展，不如還是直接碾過去吧。」

而有網(wǎng)友指出了「華點(diǎn)」—— 「如果你沒有將強(qiáng)大的AI裝到每一輛特斯拉中，我會更相信你的擔(dān)憂。」

「為什么過度監(jiān)管某些AI模型，而不是實(shí)際的應(yīng)用程序呢？語言模型無法說出或選擇它們『想要』的內(nèi)容，就像特斯拉的FSD系統(tǒng)不能自己決定開到哪里。」

LeCun轉(zhuǎn)發(fā)了該網(wǎng)友的推文，表示同意：「沒錯，應(yīng)該去規(guī)范應(yīng)用，而不是研發(fā)。」

OpenAI急忙澄清

眼看AI安全已經(jīng)成為眾矢之的，OpenAI急忙出面，表示自己也很重視AI安全。

在昨天發(fā)布的「Our approach to AI safety」的長文中，OpenAI主要探討了安全地構(gòu)建、部署和使用人工智能系統(tǒng)的方法。

OpenAI表示，強(qiáng)大的人工智能系統(tǒng)應(yīng)該接受嚴(yán)格的安全評估。

GPT-4在發(fā)布之前，對其進(jìn)行了嚴(yán)格的測試，內(nèi)部員工耗時6個月去確保發(fā)布前讓模型更加安全和一致。

并且，還讓外部專家參與反饋，利用人類反饋強(qiáng)化學(xué)習(xí)（RLHF）等技術(shù)改善模型的行為。

另外，文中還列出了其他確保AI安全的方法：

- 從真實(shí)世界的使用中學(xué)習(xí)，以改進(jìn)保障措施

- 保護(hù)兒童

- 尊重隱私

- 提高事實(shí)的準(zhǔn)確性

最后，OpenAI提出了應(yīng)該「繼續(xù)研究和參與」。這一點(diǎn)可以說是對近來呼吁暫停超強(qiáng)AI研發(fā)的正面回應(yīng)。

我們認(rèn)為，解決人工智能安全問題的實(shí)用方法是投入更多的時間和資源來研究有效的緩解措施和調(diào)整技術(shù)，并針對現(xiàn)實(shí)世界的濫用進(jìn)行測試。

暫停六個月，時間夠嗎？

根據(jù)一項(xiàng)調(diào)查，69%的美國成年人強(qiáng)烈支持或在一定程度上支持暫停開發(fā)六個月，但也有人認(rèn)為這似乎只是徒勞。

而關(guān)心AI會毀滅人類這個話題的人，和不關(guān)心的人，大約各占一半。