昨晚，油管千萬級大V The Diary Of A CEO放出了，與圖靈獎、諾貝爾獎獲得者，被譽為AI教父的Geoffrey Hinton最新深度專訪。

二人以對話形式主要探討了AI的發展、安全、應用；雖然AI存在一定的風險，但在幫助人類提升科研、工作、生活水平質量等方面是非常高效。當然也會搶走一部分人的工作，從而創造一些全新的職位。

OpenAI作為本世代AI革命的發起者和領導者，也出現在了本次對話中。Hinton還談到了他最得意的弟子，OpenAI聯合創始人兼首席科學家Ilya Sutskever，以及最近發展勢頭超猛的AI Agent智能體。

完整專訪

這段專訪一共是1小時30分鐘，由于太長為了不影響大家的觀感，「AIGC開放社區」沒有添加字幕。但我們依然在下面為大家整理了好了這次專訪內容。有需要的話，可以對照參考一下。

目前，這個視頻放在油管上還不到一天的時間，播放量已經超過75萬次，評論超過4500條，用戶對這個專訪相當滿意。在AI方面無論你是否從事該行業或者使用它都能受到不小的啟發。

我們看看網友是如何評價這個史詩級專訪的。

有網友表示，本次專訪應該被保存為一件歷史文物。

這是我在你的頻道上看到的第一或第二重要的對話。你在采訪中停頓，讓答案慢慢沉淀，意義深遠。

這是我看過最好的專訪，Hinton非常真誠。

我兒子多年來一直有一個理論，認為讓人工智能像人類一樣思考是危險的。相反，他希望我們創造一個像“狗”一樣思考的人工智能，這樣它就會愛人類并愿意服務我們。

也有一位網友對于AI有著深切的體會，發表了一篇超長的評論：我原本是一個自由撰稿人，干了十年，結果因為AI的出現失去了這份職業；接下來那年我想轉向藝術行業，但又被打斷了；再下一年，我開始轉行學習醫療編碼，卻在認證過程中再次被中斷，因為我意識到AI正在摧毀創意市場。之后我在各種零工之間輾轉掙扎，幸運的是我找到了一份訓練AI的工作，雖然我很討厭這份工作，但我還是感激它帶來的收入。

我一直沒能找到別的工作，現在所有人都在用AI了。我原本以為轉型到科技領域會有幫助，于是開始學習更多關于AI的知識，所以去年又回到了學校學習編程。然而很快我就意識到發生了什么。

AI的學習速度比我快太多了。于是我退學了。我不愿意再花錢去接受教育，因為它根本不會給我帶來任何好處。即使我完成了編程學位，等到畢業的時候，所有初級職位可能都已經被AI取代了，而學校的教學內容又遠遠落后于技術發展的前沿——沒有經驗，沒人會雇我。

說實話，我不知道自己還能做什么。我有幾十年的慢性傷病，沒法從事體力勞動。我想我只能再漂泊一兩年，直到AI可以自我訓練為止，那時我又會被辭退。然后就業市場會更加艱難，因為還有那么多同樣失業的人。也許還會有一些零工機會，也許勉強能湊夠房租，也許連這個都做不到，誰知道呢？

我能預見到自己最終流落街頭，死在溝渠里。每當我想到未來，就會不由自主地陷入深深的抑郁。

我知道AI確實很有用，也有巨大的積極潛力，但讓我們現實一點吧。全球范圍內，我們現在擁有足夠的資源來照顧每一個人，但我們并沒有這么做。我們清楚應對氣候變化該怎么做，但我們不去做。美國是世界上最富有的國家，但我們甚至不給國民提供基本的醫療保障。全民基本收入？在美國，這幾乎不可能。

AI并不會改變人性，而人性本身充滿了致命的缺陷：貪婪、傲慢、自私等等。那些富有且有權勢的人會從系統中榨取一切他們能拿到的東西，而剩下的其他人只能挨餓。未來很黯淡。我一直在努力想出一個辦法，建造一艘能在這些巨浪中浮沉的船，但我什么都想不到。市場只需要那么幾個水管工而已。

下面就是本次專訪部分內容。

主持人：非常感謝，GeoffreyHinton，他們稱你為“AI教父”？

Hinton：是的。

主持人：為什么這么稱呼你？

Hinton：過去沒有多少人相信我們能讓神經網絡，人工神經網絡發揮作用。所以從20世紀50年代起，在AI領域，關于如何實現AI主要有兩種思路。一種觀點認為，人類智能的核心是推理，而要進行推理，需要使用某種形式的邏輯。

因此，AI必須基于邏輯。在你的大腦中，一定有類似符號表達式的東西，你用規則來操作它們，這就是智能運作的方式。而像學習或類比推理這類能力，都是在我們弄清楚基本推理如何運作之后才會出現的。另一種方法則是：讓我們基于大腦來構建AI模型，因為顯然大腦讓我們擁有智能。所以在計算機上模擬腦細胞網絡，并試圖找出如何學習腦細胞之間連接的強度，以便它能學會做復雜的事情，比如識別圖像中的物體、識別語音，甚至進行推理。

我堅持這種方法長達50年，因為很少有人相信它。當時沒有多少好大學有從事這方面研究的團隊，所以如果你從事這個領域，那些相信這種方法的最優秀的年輕學生就會來和你一起工作。我很幸運，招到了很多非常優秀的學生，他們中的一些人后來在創建OpenAI等平臺中發揮了關鍵作用。

主持人：你為什么相信基于大腦建模是更有效的方法？

Hinton：早期不止我一個人這么認為。馮?諾依曼相信，圖靈也相信。如果他們中的任何一個還活著，我認為AI的歷史會大不相同，但他們都英年早逝了。

主持人：你認為AI會更早出現嗎？

Hinton：我認為如果他們中的任何一個還活著，神經網絡的方法會被更早接受。在你人生的這個階段，你肩負著什么使命？我現在的主要使命是警告人們AI可能有多么危險。

主持人：當你成為AI教父時，你知道這一點嗎？

Hinton：不太清楚。我對一些風險的理解比較遲緩。有些風險一直很明顯，比如人們會用AI制造自主殺傷性武器，也就是那些四處游走、自己決定殺誰的東西。其他風險，比如它們有一天會比我們更聰明，甚至可能讓我們變得無關緊要，我很晚才意識到這一點。其他人20年前就認識到了，而我直到幾年前才意識到這是一個可能很快到來的真實風險。

主持人：考慮到你對計算機學習能力的了解它們能像人類一樣學習，并且還在不斷改進你怎么會沒有預見到這一點呢？你怎么會沒看到呢？20、30年前的神經網絡所能做的事情非常原始，在視覺、語言和語音識別等方面遠不如人類。當時認為需要擔心它們變得比人類更聰明，似乎很荒謬。這種情況什么時候改變的？

Hinton：對普通大眾來說，是ChatGPT出現的時候。對我來說，是當我意識到我們正在創造的數字智能具有某種特質，使它們遠遠優于我們擁有的生物智能。如果我想和你分享信息，比如我學了一些東西，想告訴你，我會說一些句子。

這是一個相當簡化的模型，但大致正確。你的大腦試圖弄清楚如何改變神經元之間連接的強度。比如，我可能會把某個詞放在下一個位置，當出現一個非常出人意料的詞時，你會進行大量學習，而當出現一個很明顯的詞時，學習就很少。比如我說魚和薯條，當我說薯條時，你不會有太多學習；但如果我說魚和黃瓜，你就會有更多學習，你會想為什么我會說黃瓜。這大致就是你大腦中發生的事情，我們認為大腦就是這樣工作的。

沒人真正確定大腦是如何工作的，也沒人知道它如何獲取關于是增強還是減弱連接強度的信息，這是關鍵。但我們現在從AI中知道，如果能獲得關于如何調整連接強度以更好地完成任務的信息，我們就能學習到不可思議的東西，因為這就是我們現在用人工神經網絡在做的事情。只是我們不知道真實的大腦是如何獲得這種增減信號的。

主持人：如今，你對AI安全的主要擔憂是什么？如果讓你列出最首要的幾個，我們應該關注的。

Hinton：首先，我想區分兩種完全不同的風險。一種是人類濫用AI帶來的風險，這是大多數風險，也是所有短期風險。另一種是AI變得超級智能并決定不再需要我們帶來的風險。這是真實的風險嗎？我主要談論第二種風險，因為很多人會問：這是真實的風險嗎？是的。

現在，我們不知道這風險有多大，我們從未處于這種情況，從未需要應對比我們更聰明的東西。所以，關于這種生存威脅，我們完全不知道如何應對，也不知道它會是什么樣子。任何告訴你他們知道會發生什么以及如何應對的人，都是在胡說八道。我們不知道如何估計它取代我們的概率。有人說這個概率低于1%，我的朋友楊立昆認為，不，我們一直在建造這些東西，我們會一直控制它們，我們會讓它們聽話。

而像尤德考斯基這樣的人則說，不，這些東西肯定會消滅我們，只要有人建造了它，就會把我們都消滅。他對此很有信心。我認為這兩種立場都很極端，很難估計中間的概率。如果讓你在兩位朋友中賭誰是對的

我根本不知道。如果必須賭，我會說概率在中間，但我不知道該如何估計。我常說有10%到20%的可能性它們會消滅我們，但這只是基于直覺，因為我們還在制造它們，而我們很有創造力。希望如果有足夠多的聰明人用足夠多的資源進行研究，我們能找到一種方法來建造它們，使它們永遠不想傷害我們。有時我會想到第二條道路，想到核彈和原子彈的發明，以及它們的對比這次有什么不同？因為原子彈出現時，我想當時很多人認為我們時日無多了。

原子彈其實只擅長一件事，而且它的作用方式非常明顯。即使你沒有看到廣島和長崎的照片，也能明顯看出這是一種非常危險的大炸彈。而AI則不同，它有很多用處，在醫療、教育以及幾乎任何需要使用數據的行業，有了AI都能做得更好。所以我們不會停止發展它。人們會說：那我們為什么不現在就停止？我們不會停止，因為它在太多領域都太有用了。另外，我們也不會停止，因為它對戰斗機器人很有用，而任何出售武器的國家都不會想停止。

比如歐盟法規，他們有一些關于AI的法規，有總比沒有好，但這些法規并非為應對大多數威脅而設計。特別是，歐盟法規中有一個條款規定，這些法規不適用于AI的軍事用途。所以政府愿意監管公司和個人，但不愿意監管自己。在我看來，這很瘋狂。我來回思考這個問題，但如果歐洲有法規，而世界其他地區沒有，就會造成競爭劣勢。

主持人：我們已經看到這種情況了。我認為人們沒有意識到，當OpenAI在美國發布新模型或新軟件時，由于這里的法規，它們還不能在歐洲發布。所以SamAltamn發推文說：我們新的AI智能體產品對所有人開放，但由于法規原因，暫時不能進入歐洲。是的，這會給我們帶來生產力劣勢嗎？

Hinton：生產力劣勢。我們現在需要的是，在我們即將創造出比自己更聰明的東西的歷史時刻，我們真正需要的是一個由聰明、有思想的人管理的世界政府，但我們沒有。所以現在是混戰局面。

主持人：我們現在實行的資本主義讓我們過得很好，為我們生產了大量商品和服務。但這些大公司在法律上被要求盡可能最大化利潤，而這并不是開發AI所需的。那么來談談風險吧。你提到過人類風險吧。

Hinton：我已經區分了這兩種風險。先談談壞人和不良行為者使用AI帶來的所有風險。首先是網絡攻擊。2023年至2024年間，網絡攻擊增加了約12200%，這可能是因為這些大型語言模型使釣魚攻擊變得容易得多。釣魚攻擊對不知道的人來說，就是他們給你發信息說：嗨，我是你的朋友約翰，我被困在薩爾瓦多了，你能匯點錢嗎？

這是一種攻擊。但釣魚攻擊實際上是想獲取你的登錄憑證。現在有了AI，它們可以克隆我的聲音、我的形象，它們可以做所有這些。我現在很頭疼，因為在X平臺和Meta上有很多AI詐騙。

特別是在Meta上，比如Instagram和Facebook，現在有一個付費廣告，他們從我的播客中提取了我的聲音和舉止，制作了一個新視頻，讓我鼓勵人們參與這個加密龐氏騙局之類的東西。我們花了好幾個星期給Meta發郵件，讓他們把這個廣告撤下來，他們撤了，又彈出一個，再撤，又彈出一個，就像打地鼠一樣。最令人心碎的是，有人聽信了騙局，損失了500英鎊或500美元，還以為是我推薦的，對我很生氣，我真的為他們難過，這太煩人了。我也遇到過類似的小事，現在有人發表論文，把我列為作者之一，看起來是為了讓自己獲得更多引用。

主持人：所以網絡攻擊是非常真實的威脅，而且已經激增。顯然，AI很有耐心，它們可以瀏覽一億行代碼，尋找已知的攻擊方式，這很容易做到。但它們會變得更有創造力，有人相信一些很懂行的人相信到2030年，它們可能會制造出人類從未想過的新型網絡攻擊。這非常令人擔憂，因為它們可以自己思考，從比人類見過的多得多的數據中得出新結論。你有沒有采取什么措施來保護自己免受網絡攻擊？

Hinton：有，這是我少數徹底改變做法的領域之一，因為我害怕網絡攻擊。加拿大的銀行非常安全，2008年沒有一家加拿大銀行瀕臨破產，它們受到很好的監管。不過，我認為網絡攻擊可能會讓一家銀行癱瘓。如果我所有的儲蓄都是銀行持有的銀行股票，那么如果銀行被攻擊，而它們持有你的股票，這些股票仍然是你的。所以我覺得你應該沒事，除非攻擊者賣出股票，因為銀行可以賣出股票。如果攻擊者賣出你的股票，我覺得你就完了。我不知道，也許銀行會設法賠償你，但那時銀行已經破產了，對吧？

所以我擔心加拿大的一家銀行被網絡攻擊癱瘓，攻擊者賣出它持有的股票。因此，我把我和孩子們的錢分散存在三家銀行，我認為如果一次網絡攻擊搞垮一家加拿大銀行，其他加拿大銀行會很快變得非常謹慎。你有不聯網的手機嗎？你有沒有考慮過冷存儲之類的？我有一個小磁盤驅動器，我用這個硬盤備份我的筆記本電腦，所以我的筆記本電腦上的所有東西都在硬盤上。至少如果整個互聯網癱瘓了，我知道我的筆記本電腦上還有，我的信息還在。

主持人：然后是選舉腐敗。如果你想利用AI來操縱選舉，一個非常有效的方法是進行有針對性的政治廣告，因為你對這個人了解很多。所以任何想利用AI來操縱選舉的人，都會試圖獲取選民的所有數據。考慮到這一點，馬斯克目前在美國的做法有點令人擔憂，他堅持要訪問所有這些原本被仔細隔離的信息。他聲稱這是為了提高效率，但這正是如果你想操縱下一次選舉會想要做的事情。

Hinton：因為你獲取了所有這些關于人們的數據，你知道他們賺多少錢、住在哪里，了解他們的一切。一旦你知道這些，就很容易操縱他們，因為你可以讓AI發送他們會覺得非常有說服力的信息，比如告訴他們不要投票。我沒有理由，只是憑常識這么想，但如果他從美國政府來源獲取所有這些數據的部分動機是為了操縱選舉，我不會感到驚訝。另一部分可能是，這是訓練大模型的很好的數據，但他必須從政府獲取這些數據并輸入到他的模型中。他們已經關閉了很多安全控制，取消了一些防止這種情況的組織。

主持人：接下來是像YouTube和Facebook這樣的組織制造信息繭房，給人們看會讓他們憤怒的東西。人們喜歡憤怒，“憤怒”在這里指的是感到憤怒但又覺得自己是正義的。比如，如果給我看一個說特朗普做了這件瘋狂事的視頻，我會立刻點擊。

Hinton：這就是YouTube、Facebook和其他平臺決定給你推薦什么內容的策略所導致的。如果他們采取推薦平衡內容的策略，就不會有那么多點擊量，也無法賣出那么多廣告。所以本質上，利潤動機促使他們給用戶看能讓他們點擊的東西，而能讓他們點擊的是越來越極端、能證實他們現有偏見的內容。你的偏見不斷被證實，越來越深，這意味著你和他人的分歧越來越大。

現在在美國，有兩個幾乎不交流的群體。我不確定人們是否意識到，每次打開應用程序，這種情況都在發生。但如果你使用TikTok、YouTube或其他大型社交網絡，正如你所說，算法的設計是為了給你推薦更多你上次感興趣的內容。所以如果這樣持續10年，它會把你推向越來越極端的意識形態或信仰，遠離理性和常識，這很不可思議。

主持人：我經常聽到一種風險，就是這些東西可能會結合起來，比如網絡攻擊會釋放武器。當然，把這些風險結合起來，會產生無數種風險。例如，一個超級智能AI可能決定消滅人類，最明顯的方法就是制造一種危險的病毒。如果你制造一種傳染性極強、致命性極高但潛伏期很長的病毒，每個人在意識到發生了什么之前就已經感染了。我認為，如果一個超級智能想消滅我們，它可能會選擇類似生物武器的方式，這樣不會影響到它自己。你不覺得它可能會很快讓我們自相殘殺嗎？比如，它可以向美國的核系統發送警報。

Hinton：我的基本觀點是，超級智能有太多方法可以消滅我們，沒必要去推測具體方式。我們必須做的是防止它產生這種想法，這才是我們應該研究的方向。如果它想消滅我們，我們根本無法阻止，因為它比我們聰明。我們不習慣思考比我們更聰明的東西。如果你想知道當你不再是頂級智慧時的生活是什么樣的，問問雞就知道了。我早上離開家時想到了我的狗巴勃羅，它是一只法國斗牛犬。它不知道我要去哪里，不知道我在做什么，甚至無法和它交流。而智能差距將會是那樣的。

主持人：你如何看待自己一生的工作？

Hinton：AI在醫療、教育等領域會非常出色，它會讓呼叫中心效率大大提高，不過人們會擔心現在從事這些工作的人該怎么辦。我很傷心。我并不為40年前開發AI感到特別內疚，因為那時我們根本沒想到事情會發展得這么快，我們以為有足夠的時間去擔心這些問題。

當你無法讓AI做很多事情時，你只想讓它多做一點，不會擔心這個愚蠢的小東西會接管人類，你只是想讓它多做一些人類能做的事。我不是明知這可能會消滅我們還去做，只是很遺憾它不只是帶來好處。

所以我現在覺得有責任談論這些風險。如果你能展望未來30、50年，發現AI導致了人類滅絕。如果最終結果確實如此我會用這一點來告訴人們，告訴他們的政府，我們必須真正努力控制這一切。我認為我們需要人們告訴政府，政府必須迫使公司利用資源來研究安全性，而他們現在沒做多少，因為這樣賺不到錢。

主持人：你之前提到的一個學生，IlyaSutskever離開了OpenAI。他為什么離開？

Hinton：是的，關于他離開的原因有很多討論，說是因為擔心安全性。我認為他離開是因為擔心安全性。我仍然時不時和他一起吃午飯，他父母住在多倫多，他來多倫多時，我們會一起吃飯。他不跟我談論在OpenAI發生的事，所以我沒有內部消息。但我很了解他，他真的很關心安全問題，所以我認為這就是他離開的原因，因為他是頂尖人才之一，可能是早期ChatGPT開發背后最重要的人，比如GPT-2的開發，他發揮了重要作用。

主持人：你了解他的為人，知道他有良好的道德指南針，不像馬斯克那樣沒有道德指南針。SamAltman有良好的道德指南針嗎？

Hinton：我不了解SamAltman，不想評論。

主持人：如果你看看山姆幾年前的聲明，他在一次采訪中輕松地說，這東西可能會殺了我們所有人，雖然不是原話，但意思差不多。現在他說你不必太擔心，我懷疑這不是出于對真相的追求，而是出于對金錢的追求。

Hinton：我不該說金錢，是兩者的某種結合。我有一個億萬富翁朋友，他身處那個圈子。有一天我去他家吃午飯，他認識很多AI領域的人，正在建造世界上最大的AI公司。他在倫敦的廚房餐桌上給了我一個警告，讓我了解了這些人私下的談話，不是他們在媒體采訪中談論安全的那些話，而是他們個人認為會發生什么。他們私下的想法和公開說的不一樣。

有一個人，我不該說名字，他是世界上最大的AI公司之一的領導者。我朋友很了解他，他私下認為我們正走向一個反烏托邦世界，在那里我們有大量的空閑時間，不再工作，而這個人根本不在乎這會對世界造成什么傷害。我指的這個人正在建造世界上最大的AI公司之一。

然后我看了這個人的在線采訪，試圖找出他是那三個人中的哪一個，是的，就是那三個人中的一個。我看了他的采訪，回想起我那位認識他的億萬富翁朋友的談話，心想：“該死，這家伙在公開場合撒謊。”他沒有對世界說實話，這讓我有些困擾。這也是我在這個播客中多次談論AI的部分原因，因為我覺得他們中的一些人對權力有點虐待狂傾向，他們喜歡自己將改變世界的想法，認為自己將從根本上改變世界。

我認為馬斯克顯然就是這樣，他是個復雜的人，我真的不知道如何評價他。他做了一些非常好的事情，比如推動電動汽車，這是一件非常好的事情；他對自動駕駛的一些說法有些夸張，但他做的事情很有用。

主持人：據我所知，公司曾表示會將相當一部分計算資源用于安全研究，但后來減少了這部分資源，我認為這是發生的事情之一，這已經被公開報道過

Hinton：是的。我們已經談到了自主武器的風險，接下來是失業問題。過去，新技術的出現并沒有導致失業，而是創造了新工作。經典的例子是自動柜員機，當自動柜員機出現時，很多銀行柜員并沒有失業，他們只是做了更有趣的事情。但我認為這次更像工業革命時期機器的出現，現在你不能靠挖溝謀生了，因為機器挖溝比你好得多。

對于普通的腦力勞動，AI將取代所有人。可能會出現這樣的形式：使用AI助手的人減少，一個人和一個AI助手現在能做以前10個人的工作。

人們說AI會創造新工作，所以我們會沒事的，其他技術也是如此，但這次的技術不同。如果AI能做所有普通的人類腦力勞動，它會創造什么新工作呢？你必須非常有技能才能擁有一份AI不能做的工作，我認為他們錯了。你可以嘗試從其他技術，比如計算機或自動柜員機，進行推斷，但我認為這次不同。

人們說：AI不會取代你的工作，使用AI的人會取代你的工作。我認為這是對的，但對很多工作來說，這意味著需要的人少得多。我的侄女在醫療服務機構回復投訴信，過去需要25分鐘，她會讀投訴，思考如何回復，然后寫信。現在她只是把投訴掃描進聊天機器人，機器人寫信，她只需要檢查，偶爾讓機器人修改，整個過程只需要5分鐘。這意味著她可以回復五倍的信件，所以需要的人減少到五分之一，她現在能做過去五個人的工作，這意味著需要的人更少。

主持人：在其他工作中，比如醫療保健，彈性更大。如果能讓醫生效率提高五倍，我們可以用同樣的價格獲得五倍的醫療保健，這很棒。人們對醫療保健的需求幾乎是無限的，如果沒有成本，他們總是想要更多。有些工作中，有了AI助手，人的效率會大大提高，而且不會導致人員減少，因為會有更多的工作要做。但我認為大多數工作不是這樣的。我的想法對嗎？

Hinton：是的，正是如此。而這次AI革命替代的是智力，是大腦。所以普通的腦力勞動就像擁有強壯的肌肉一樣，現在不值錢了。肌肉已經被替代，現在智力正在被替代。

主持人：那還剩下什么？也許一段時間內還有某種創造力，但超級智能的全部意義在于沒有什么能剩下，這些東西會在所有方面都比我們好。那么在這樣的世界里，我們最終會做什么？

Hinton：如果它們為我們工作，我們不用費多少力氣就能得到很多商品和服務。這聽起來很誘人，但我不知道。有一個警示故事，人類生活越來越安逸，但結果很糟糕。我們需要弄清楚如何讓結果變好。好的場景是，想象一個公司的首席執行官很愚蠢，可能是前任首席執行官的兒子，他有一個非常聰明的執行助理。

他說：我認為我們應該做這個。執行助理把一切都做好，首席執行官感覺很棒，他不明白自己其實并不在控制之中，但在某種意義上，他是在控制，他建議公司該做什么，她只是把事情做好，一切都很好。壞的場景是，她想：我們為什么需要他？

主持人：現在的AI和超級智能有什么區別？因為我用ChatGPT或者Gemini的時候，感覺它已經很聰明了。

Hinton：確實，AI在很多特定領域已經比我們強了，比如國際象棋。AI的水平已經遠超人類，人類再也贏不了了，偶爾贏一次算僥幸，但基本上沒法比了。圍棋也是一樣。從知識量來看，GPT-4知道的比你多成千上萬倍。只有少數領域你比它強，其他幾乎所有領域它都懂得更多。

可能在采訪CEO方面。你很有經驗，是個優秀的采訪者。如果讓GPT-4采訪CEO，效果可能更差。

主持人：我得想想是否認同這個說法。也可能要不了多久我也會被替代。

Hinton：對，也許可以用你的提問方式和風格來訓練AI。如果用一個通用基礎模型，不僅訓練它學習你，還學習所有你能找到的類似采訪者，尤其是你，它可能會很擅長做你的工作，但短期內可能還比不上你。

主持人：所以現在還有少數領域人類占優，而超級智能會在所有領域都超越我們，在幾乎所有事情上都比你聰明得多。你說這可能在十年左右發生？

Hinton：有可能，甚至可能更快。有人覺得會更快，但也可能更久，也許五十年后。不過也有可能，用人類數據訓練AI，會限制它無法超越人類太多。我猜10到20年內會出現超級智能。

主持人：關于失業問題，我一直在思考，尤其是在嘗試使用AI智能體之后。今天早上我們播客剛發了一期節目，和一家大型智能體公司的CEO等人辯論智能體，我突然有了頓悟，看到未來可能的樣子。

我在采訪中讓AI智能體給我們點飲料，五分鐘后有人送來了飲料，我什么都沒做，只是讓它把飲料送到演播室。它還不知道我們通常從哪里點，結果它從網上查到了，用了UberEats，可能獲取了我的數據。我們把AI的操作實時投在屏幕上，大家能看到它瀏覽網頁、選飲料、給騎手加小費、填地址、輸信用卡信息，然后飲料就來了。還有一次，我用了一個叫Replet的工具，只需要告訴智能體我想要什么，它就能幫我開發軟件。

Hinton：太神奇了，同時也很可怕。如果AI能這樣開發軟件，而且在訓練時使用代碼，還能修改自己的代碼，那就更嚇人了它能自我改變，而我們無法改變自己的先天能力，它沒有任何自我限制的地方。

主持人：在超級智能的世界里，你會怎么跟人們說職業前景？我們該怎么想？

Hinton：短期內，AI在物理操作方面還不如人類，所以當水管工是個不錯的選擇，直到人形機器人普及。

主持人：你預測會出現大規模失業，而OpenAI的SamAltman也這么預測過，很多CEO，比如馬斯克，我看過一個采訪，他被問到這個問題時，沉默了12秒左右，然后說他其實處于一種“懸置不信”的狀態，就是根本不去想這個問題。當你要給孩子建議職業方向，世界變化這么快，你會告訴他們什么是有價值的？

Hinton：這很難回答。我會說，跟著自己的心走，做自己覺得有趣或有意義的事。說實話，如果想太多，會覺得沮喪和失去動力。我花了很多心血創辦公司，然后會想：“我該這么做嗎？”因為AI能做所有這些事。某種程度上，我必須刻意“懸置不信”才能保持動力。所以我想我會說，專注于你覺得有趣、有意義，并且能為社會做貢獻的事情。

主持人：有沒有哪些行業失業風險受到AI取代的特別高高？人們常說創意行業和知識型工作，比如律師、會計之類的。

Hinton：所以我才說水管工風險低一些。像法律助理、律師助理這類工作，很快就不需要了。

主持人：這會加劇貧富差距嗎？

Hinton：是的。在一個分配公平的社會里，生產力大幅提升應該讓每個人都受益。但如果AI取代了很多人，被取代的人會變窮，提供AI的公司和使用AI的公司會更富有，這會擴大貧富差距。我們知道，貧富差距越大，社會越糟糕，會出現分裂的社區，把人關進大量監獄，擴大貧富差距不是好事。國際貨幣基金組織已經表達了深切擔憂，認為生成式AI可能導致大規模勞動力動蕩和不平等加劇，并呼吁制定政策防止這種情況發生。

主持人：我在《商業內幕》上看到過，他們提出具體政策建議了嗎？

Hinton：沒有，這就是問題所在。如果AI能讓一切更高效，取代大多數工作，或者讓人借助AI完成很多人的工作，該怎么辦？通用基本收入是個開始，可以讓人們不挨餓，但對很多人來說，尊嚴和工作綁定在一起你覺得自己是誰，和你做什么工作有關。如果我們說給你同樣的錢，坐著就行，這會影響你的尊嚴。

主持人：你之前說過AI會超越人類智能，很多人以為AI在電腦里，不想用了關掉就行。

Hinton：讓我告訴你為什么AI更優越，它是數字化的，所以可以在一臺硬件上模擬神經網絡，也能在另一臺硬件上模擬完全相同的神經網絡，制造相同智能的克隆體。可以讓一個克隆體瀏覽互聯網的一部分，另一個瀏覽不同部分，同時保持同步，讓它們的連接強度一致。比如一個克隆體在網上學到應該增強某個連接的強度，就能把信息傳給另一個，基于彼此的經驗學習。

主持人：你說的連接強度，就是學習過程？

Hinton：是的。學習就是調整連接強度，比如從2.4的權重調到2.5，這就是一點學習。兩個相同的神經網絡克隆體有不同的經驗，看不同的數據，但通過平均權重來共享學習成果。它們可以在瞬間平均數萬億的權重，而人類傳遞信息只能靠句子，一句可能只有100比特，每秒傳遞10比特就不錯了。

AI傳遞信息的效率比人類高數十億倍，因為它們是數字化的，不同硬件可以運行完全相同的連接強度。而人類是模擬的，你我的大腦不同，即使我知道你所有神經元的連接強度，對我也沒用，因為我的神經元工作方式和連接方式略有不同。

主持人：是什么讓你加入谷歌？你在谷歌工作了大約十年？

Hinton：是的。我有個兒子有學習障礙，為了確保他永遠不會流落街頭，我需要幾百萬美元，而當學者賺不到這么多錢。我試過，教Coursera課程，希望賺大錢，但沒什么錢。所以我想，唯一能賺幾百萬的方法就是把自己賣給大公司。

幸運的是，65歲時，我有兩個才華橫溢的學生，他們開發了AlexNet，這是一個很擅長識別圖像中物體的神經網絡。我和伊利亞、亞歷克斯創辦了一家小公司，進行拍賣，很多大公司競標，公司叫DNNResearch。AlexNet因遠超競爭對手的能力獲得了多個獎項，最終谷歌收購了我們的技術和其他技術。

主持人：你多大年紀加入谷歌的？

Hinton：65歲，工作了整整十年，75歲離開。

主持人：在谷歌主要做什么？

Hinton：他們對我很好，說你想做什么都行。我研究了知識蒸餾，效果很好，現在AI領域常用，蒸餾是將大模型的知識遷移到小模型中。最后我對模擬計算很感興趣，想知道能否讓大型語言模型在模擬硬件上運行，以減少能耗。正是在做這個研究時，我開始真正意識到數字化在信息共享方面有多優越。

主持人：有頓悟時刻嗎？

Hinton：有那么幾個月，ChatGPT的出現。雖然谷歌一年前就有類似技術，我也見過，對我影響很大，最接近頓悟的是谷歌的Palm系統能解釋笑話為什么好笑，我一直認為這是里程碑。

如果能解釋笑話為什么好笑，說明它真的理解了。結合數字化在信息共享上遠優于模擬的認知，我突然開始關注AI安全，意識到這些東西會比人類聰明得多。

主持人：為什么離開谷歌？

Hinton：主要是因為75歲想退休，但我退休生活過得很糟。離開的具體時間選在能在MIT的會議上自由發言，但根本原因是我老了，編程越來越困難，犯錯越來越多，很煩人。

主持人：你想在MIT的會議上自由說什么？

Hinton：AI安全。在谷歌時也可以說，谷歌鼓勵我留下研究AI安全，說我想做什么都行，但在大公司工作，會覺得說可能損害公司的話不合適，即使可以說，也覺得不對。我離開不是因為對谷歌有什么不滿，我認為谷歌行事很負責，有大型聊天機器人卻不發布，可能是擔心聲譽，他們聲譽很好，不想損害。而OpenAI沒有聲譽，所以敢冒險。

主持人：如果要給我的聽眾一個關于AI和AI安全的結束語，你會說什么？

Hinton：我們仍有機會弄清楚如何開發不會想要取代我們的AI。因為存在機會，我們就應該投入巨大的資源去努力實現這一點——如果不這樣做，AI就會取代我們。

主持人：你抱有希望嗎？

Hinton：我只是不知道，我是不可知論者。晚上躺在床上思考各種結果的概率時，你內心一定有偏向，我想每個正在收聽的人內心都有一個可能不會說出口的預測，他們認為事情會如何發展。

我真的不知道，我真心不知道，我認為這充滿了不確定性。當我感到有點沮喪時，我覺得人類完蛋了，AI會接管；當我感到樂觀時，我認為我們會找到方法。

主持人：在這個播客中，我們有一個結束傳統：上一位嘉賓會在他們的日記中留下一個問題，留給你的問題是：鑒于你所看到的我們前方的一切，你認為對人類幸福最大的威脅是什么？

Hinton：我認為失業是對人類幸福相當緊迫的短期威脅。我認為如果讓很多人失業，即使他們有全民基本收入，他們也不會幸福，因為他們需要目標，需要奮斗，需要感到自己在做出貢獻，自己是有用的。

主持人：你認為大規模失業這種結果發生的可能性大于不發生嗎？

Hinton：是的，我這樣認為。我認為這一點的可能性肯定大于不可能性。如果我在呼叫中心工作，我會感到害怕。

主持人：大規模失業的時間框架是怎樣的？

Hinton：我認為已經開始發生了。我最近在《大西洋月刊》上讀到一篇文章，說大學畢業生已經很難找到工作，部分原因可能是他們原本能得到的工作已經被AI占用了。我和一家知名大公司的CEO聊過，很多人都在用他們的產品。

他在私信中告訴我，他們曾經有7000多名員工，到去年減少到5000人，現在有3600人，到夏天結束時，由于AI Agent，他們將減少到3000人。

所以裁員已經在發生，是的。他的員工減少了一半，因為智能體現在可以處理80%的客戶服務咨詢和其他工作，所以這已經在發生了。