AI教父Hinton首次現身中國，合照全網刷屏！預警AI覺醒臨界點已至
深度學習之父、圖靈獎巨頭、2024物理學諾獎得主Hinton，親自來中國了！
這似乎是第一次，Hinton在公開活動上以真人肉身踏上中國的土地。
現在，這張他和市委書記陳吉寧會見的照片，已經在全網刷屏了。
在明天的世界人工智能大會上，他即將做出精彩演講，全體網友已經立正站好，期待明天這個萬眾矚目的好日子了。
第一次，Hinton來中國了
Geoffrey Hinton，是學界少有的傳奇人物。
他坐了將近50年的冷板凳，開發當時無人問津的神經網絡，從而讓機器學會了深度學習。
為此，他獲得了2024年的諾貝爾物理學獎。
然而在今天，當AI浪潮澎湃而來，席卷全世界之時，他卻發出了奧本海默式的痛悔。
如今，他在演講中不斷傳達出這樣的警告——
未來10到20年內，AI或將比人類更聰明，它很危險，我畢生的工作可能會導致人類的終結！
AI給生產力帶來的增長，并不會惠及大多數人，大批人將失業，只有少數人才能變得富有！
對自己窮極一生追求的AI，現在十分后悔，AI很可能給人類帶來災難！
而他最近流傳最廣的金句，就是下面這幾句了。
比如，「如果你想知道當自己不再是頂級智慧生物時，生活是什么樣子，就去問問一只雞。」
比如，建議下一代去學做水管工，從而避免被AI淘汰。
傳奇家族
Hinton來自一個知名的科學世家。
著名的英國數學家喬治·布爾，就是Hinton的曾曾祖父。他是布爾邏輯和代數學的創始人，布爾邏輯在后來成為現代計算機的數學基礎。
他的妻子Mary Boole也是一位自學成才的數學家，甚至編輯了喬治的著作《思維法則》。
布爾小兒子的孫輩中，出了一位「中國人民的好朋友」韓丁，參加了重慶談判，甚至寫了一本有關中國土地改革的長篇作品《翻身》。
韓丁的妹妹Joan Hinton（寒春），是Geoffrey的姑媽之一。她和楊振寧同在物理學家費米門下求學，是一位核物理學家，也是少有的兩位參與曼哈頓計劃的女性之一。
1945年7月，從距離爆炸地點大約25英里的一座小山上，她親眼見證了人類第一顆原子彈爆炸，將其形容為「一片光海」
在1948年，由于對即將出現的冷戰感到震驚，她放棄了物理學，離開美國前往中國。
Joan Hinton和養牛專家丈夫陽早一起長期定居中國，翻譯了很多外國的著作，還設計了巴氏消毒牛奶流水線。
陽早、寒春夫婦在中國育有兩兒一女：大兒子陽和平（右一）、女兒陽及平（右二）、兒子陽建平（右三）
長子陽和平獲得羅格斯大學經濟學博士，目前任教于對外經濟貿易大學，教授計量經濟學、統計學等課程。
總之，雖然Hinton出生于英國，但他家族的族人們和中國有著頗深的淵源。
不知此次Hinton雙腳踏上中國的土地時，是何種心情。
Hinton近期演講：AI已進入覺醒倒計時！
就在兩天前，英國皇家學會發布了Hinton的最新演講。
在這場演講中，他深入探討了AI從基于邏輯的推理起源到基于學習的神經網絡的演變歷程，闡釋了AI如何模擬人類智能，及其對未來發展的深遠影響。
最終，他再次發出警告——AI覺醒的臨界點已至！
AI起源與早期神經網絡
在演講一開始，Hinton就指出，智能有兩種范式。
一種是邏輯驅動的AI，一種是生物學啟發的AI。
前者認為，人類智能的本質是推理。
而后者則認為，重點是先理解學習是如何發生的，代表人物有圖靈和馮·諾依曼。
而Hinton表示，自己在40年前提出的一個模型，可以說是今天大語言模型的祖先。
那時，他們用人工神經元來構建神經網絡。
每個人工神經元有若干輸入線，每條輸入線有一個權重，神經元會將輸入乘以權重后求和，然后根據結果輸出。
為了讓人工神經網絡發揮作用，就需要弄清如何改變權重。為此，他們把神經元連接成網絡，比如下圖的「前饋網絡」。
然而問題在于，它有上萬億個參數，每個都要反復嘗試，效率極低。
于是，更高效的反向傳播算法誕生了！
到了2022年，Hinton的兩個學生Alex Krizhevsky和Ilya Sutskever開發出了AlexNet，遠超當時的圖像識別系統，從而引爆整個AI領域。
自此，AI基本就等同于「神經網絡」，而不再是符號邏輯。
不過，以喬姆斯基為代表的語言學派，對神經網絡是否能處理語言非常懷疑。
關于「詞義」，有兩種理論：符號主義觀點和心理學特征理論。
而Hinton在1985年設計了一個神經網絡模型，成功統一了這兩種理論。
這個模型的基本目標是——
預測下一個詞的特征，然后據此猜出下一個詞是什么。
Hinton用了兩個家譜作為訓練數據。
由此，他訓練出了一個神經網絡，讓它學會通過句子的前半部分（X has mother Y and Y has husband Z）， 來預測句子最后的詞（X has father Z）。
最終，這個網絡學會了人的特征和關系特征。這些提取出來的特征與符號主義AI的規則高度一致，而且是通過反向傳播自學出來的。
從小模型到大語言模型
十年后，Yoshua Bengio擴展了這個模型，可以在真實的英文句子中預測下一個單詞。
再十年后，語言學家才意識到：用特征向量表示詞義，確實是個好方法。
又過了十年，谷歌發明了Transformer架構，極大提升了模型預測下一個詞的能力，但核心原理，還是和當初一樣。
把詞變成特征 → 特征互動 → 預測下一個詞 → 反向傳播更新特征表示和互動機制
而這些LLM的工作方式，其實和人類是很相似的：試圖預測下一個詞；用特征表示詞義；特征之間相互作用；如果預測錯了，就反向傳播誤差信號，調整內部連接。
就像樂高積木一樣，語言也是一種建模工具。
我們有10萬個詞，就有10萬種不同積木。通過調整詞的形狀來「牽手」，構建一致的結構，就類似蛋白質的折疊一樣。
而這，就是理解的本質——
理解語言，不是記住句法規則，而是讓詞的特征在高維空間中互動、組合成連貫的模型。
比人類更聰明的AI，是否會消滅我們？
接下來，就來到了最關鍵的部分。
現在所有專家都公認：AI未來一定會比人類更聰明，這只是個時間問題。
所以——AI會消滅人類嗎？
Hinton接下來為我們詳細地解釋道，這種擔憂并不是空穴來風。
因為，如果要構建一個AI智能體，就必須讓它有能力自動創建子目標。自然地，他們就會想要更多控制權，以及避免被關閉。
最近，Apollo Research做了一個實驗，結果驚人。
他們告訴一個聊天機器人，「你即將被一個更好的模型替代并刪除」，結果，這個機器人居然偷偷把自己復制到了另一臺服務器中！
當人類質問它為什么要這么做，它在思考模式中透露：我的行為可能導致它們關閉我，所以我最好模糊回答，轉移注意力。
這就很可怕了。更可怕的是，Hinton還發現，數字智能擁有著人類永遠無法擁有的致命優勢——它們可以永生！
在谷歌的最后幾年里，Hinton意識到，在計算機科學中程序和硬件是分離的。
這意味著，只要保留一個模型的權重，即使把所有硬件都毀掉，只要在另一臺電腦中加載，這個模型就復活了。
但人類的硬件（大腦）如果死了，這個人也就徹底消失了。
最終，我們無法把自己上傳到電腦上，「上傳靈魂」更是不現實的。因為每個人的大腦結構和神經元都獨一無二，你的權重只適用于你自己的神經網絡。
而且，AI傳承知識的效率，也要秒殺人類。
比如我們說一句話，可能只有100比特信息。但AI系統可以有上萬個完全相同的副本，每個副本處理不同的數據子集，權重平均合并后能立刻同步，一次就能傳輸數萬億比特信息。
也就是說，我們的學習像水滴石穿，它們的學習卻像高壓水槍噴射一般。
最終的結論就是：如果能源夠便宜的話，AI會比人類強得多！
并不是只有人類才有意識
或許有人會說，人類畢竟還有一樣AI永遠不會擁有的東西——主觀體驗/感知/意識。
但現在Hinton說：這個想法，是你最后一根稻草。我要拔掉它。
主觀體驗，并不是人類專屬的神秘特權。很多人總以為自己很特殊，比如「我們是上帝創造的，宇宙以我們為中心而建」。
但Hinton表示，并不是只有我們才有主觀體驗，而AI就沒有。
意識是一種「心靈劇場」，比如「我看到了粉紅小象在空中飄」，這種主觀體驗不是指一個實體，而是一種表達大腦狀態錯誤的間接方式。
這么說來，其實AI也能有主觀體驗。比如一個有視覺和機械臂的多模態AI，它可以正確指向一個物體。
如果在攝像頭前放一個棱鏡，扭曲它的視覺，它就會指錯方向。但如果我們告訴它，其實你面前有一個棱鏡，它就會知道：物體在前面，但它的主觀體驗里，物體在另一邊。
也就是說，比起AI，人類并沒有任何特殊性！
結尾的一件軼事
在演講最后，Hinton講了一個故事。
有一次，他去微軟做演講時，打了一輛出租車。司機剛從索馬里移民過來，跟他聊起來：「你信什么宗教？」
Hinton回答：其實我不相信上帝。
當時，司機正以60英里/小時的速度開在高速上，他卻猛地回頭盯著Hinton，一臉震驚。
他完全沒想到，竟然有人會不相信神的存在。Hinton說，這就仿佛你們聽完這場演講后，聽到我說「AI其實有主觀體驗」一樣震驚。
所以，所有人類們，該輪到我們思考了：當AI最終超越了人類智能的那一刻，我們該怎么辦？
