Demis Hassabis金句:AGI的承諾、挑戰與未來秩序
1.關于AI的潛力與風險
“我們當然希望這些AI系統能夠帶來它們所承諾的一切,比如找到新的治病方法、新的能源形式,做出很多對整個人類有巨大幫助的事。但同時也確實存在一些擔憂,比如如果最早的AI是在錯誤的價值觀引導下開發的,或者在沒有安全保障的情況下建成的,那可能會帶來很嚴重的問題。”
2.關于AGI的定義和發展節奏
“我們一直把AGI理解為一種能夠具備人類所有核心認知能力的系統。我們之所以以人類大腦為參照,是因為人類智能目前是我們唯一可以證明存在的智能形式。”
“我覺得未來五到十年內,有差不多50%的可能性,我們就能實現我們現在對AGI的定義。”
3.關于當前AI系統的局限性
“現在的系統確實還缺一些能力。用過最新大語言模型或者聊天機器人的人應該都有體會,比如推理、規劃、記憶這些方面還做得不夠。我覺得目前的系統還不能進行真正意義上的發明創造,也很難獨立提出新的科學假設。”
“還有一致性的問題。比如在某些場景下,它可以解出國際數學奧賽級別的難題,表現得非常好……但轉過頭來,又可能在中學數學題上出錯,甚至連一個詞有幾個字母都能數錯。”
4.關于AGI對現實世界的影響
“即便我們有了AGI,現實世界還是要遵循物理規律的,比如工廠、機器人這些都需要時間來部署。所以哪怕數字智能很強,它對實際世界的影響也不會是立刻發生的,可能還要十年甚至更久。”
“如果一切順利,我們應該會進入一個我喜歡稱為‘激進豐裕’(radical abundance)的階段。也就是說,AGI有潛力去解決一些我稱之為‘根節點’的問題,也就是那些長期困擾整個社會的底層難題。”
5.關于地緣政治和AI的競賽問題
“每一個被開發出來的系統,其實或多或少都會反映出它背后的設計者、開發團隊,甚至文化背景的價值取向。”
“我自己最擔心的有兩個方向。一個是,如果這些系統一開始就帶著錯誤的價值觀,或者開發過程不夠安全,那后果會非常嚴重;另一個是,一些惡意行為體——無論是個人還是國家——可能會把這類通用技術拿去做破壞性的事。”
6.關于AI的監管問題
“我一直都覺得,對這些越來越強大的系統,做出合理且專業的監管是非常有必要的。”
“從理想狀態來說,這種監管應該是全球層面的。但以目前世界的運作方式來看,這其實挺難的。問題在于,這些系統本質是數字化的,它們不會受到國界的限制,卻會影響到所有人。”
7.關于AI對工作的影響
“如果一個人對這些工具很熟悉、用得順手,他的生產力可能會提高十倍。我會建議今天的學生或者年輕人,盡早去了解這些系統,深入去接觸。”
“當然就算技術到了,我們也還有很多事情可能不希望交給機器來做。比如醫生或者護士,我經常舉這個例子——這里面有人類的情感、共情能力,以及照護的細節,這些是機器沒法完全替代的。”
8.關于長遠愿景與社會挑戰
“如果發展順利,我們會進入一個‘激進豐裕’的時代。AGI可以幫助我們攻克一些最根本的問題,比如治療疾病、延長健康壽命、開發清潔能源等等。”
“從技術層面講,AGI可以幫我們實現類似‘全球水資源普及’這樣的目標。但在那之后,我希望這也能推動整個社會的思維方式發生變化,從零和博弈,走向一個更非對抗、共贏的方向。這就需要一些杰出的哲學家和社會學者一起來參與。”
9.關于公眾對AI的反應
“當我向大家講述我為什么要做AI的時候——比如是為了推動科學和醫學的發展,舉個例子,AlphaFold就是我們團隊開發的,它對藥物發現非常有幫助,堪稱諾獎級的成果——人們聽完之后往往都會說:‘我們當然需要這樣的技術。’如果這類工具已經觸手可及,但我們卻沒有去用,那反而是一種不負責任。”
10.關于AI帶來的時代性變革
“我認為這場變革至少會和工業革命一樣深遠,甚至可能更大……當然這本身就是個巨大挑戰。但好在,它也是為數不多的那些‘能幫助我們解決其他挑戰’的挑戰之一。”
本文轉載自??????????Andy730??????????,作者:常華?

















