老天奶，奧特曼對GPT的談論，都跨越好幾代來到GPT-8了！

最近他在一檔節(jié)目上，和量子計算奠基人戴維?多伊奇（David Deutsch）展開對話，針對兩人存在分歧的“AI能否發(fā)展為具備意識的超級智能”議題，奧特曼搬出GPT-8來試圖說服多伊奇：

GPT-8搞懂了量子引力，還能跟你講述它是如何做到的——比如它當時在思考哪些問題、為什么決定研究這個領域。但它呈現(xiàn)出的內(nèi)容，看起來依然只是語言模型的輸出，可它確實真的解決了量子引力的問題。那到時候你會認可它嗎？

這段對話吸引了不少網(wǎng)友討論，有網(wǎng)友認為兩人的對話表明AGI（通用人工智能）定義標準模糊、目標不斷變化，根本無法衡量：

有人可能會爭辯說，我們很快就會超越它，并將目光投向ASI（超級人工智能）。

所以，兩人究竟是怎么說的呢？

完整對話整理

節(jié)目中，主持人先是問奧特曼“你最愛的書真的是戴維?多伊奇寫的《無窮的開始》嗎？”，奧特曼做出了肯定回答，接著解釋了為什么喜歡這本書：

即使你沒有讀完整本書，前四五十頁就已經(jīng)非常精彩了。我覺得它極度樂觀地解釋了，哪怕在有AI的世界里，人類依然永遠不會缺少可以做的事、可以發(fā)揮價值的方式、可以解決的問題和可以探索的未知。

而且它還很精彩地解釋了，人類歷史中相對簡單的發(fā)展過程，是如何把我們帶到今天這個令人驚嘆的境地。

在奧特曼分享完對這本書的看法后，戴維?多伊奇隨即以線上形式接入了節(jié)目。

主持人話鋒一轉(zhuǎn)：我記得你和他（戴維?多伊奇）在一個問題上有分歧——人工智能是否有可能發(fā)展成具備意識的超級智能？他（戴維?多伊奇）似乎認為這不可能，而你（奧特曼）覺得是有可能的。或許可以詳細說說你們之間的共識與分歧。

奧特曼迅速表示“不care那個問題，并沒有什么分歧”。

此時戴維?多伊奇開麥，解釋了為什么他認為AI不會發(fā)展成為具備意識的超級智能：

在我的電腦里，我保存了一份清單，記錄著那些我原以為不可能實現(xiàn)、但后來卻實現(xiàn)的進展。其中一項讓我羞于承認，那就是“萬維網(wǎng)”。

還有一項是，我曾認為，沒有任何計算機程序能在自然語言下，就廣泛主題進行開放式對話，除非它是一個AGI，我更愿意把這種能力稱為“解釋性創(chuàng)造力”。

ChatGPT讓我錯了。

它不是AGI，但它能對話。這種能力是知識的副產(chǎn)物。

1960年代的Eliza聊天機器人，只能利用你輸入的詞匯和短語。而ChatGPT可以聊任何東西，它依托于龐大的知識體系，這極其有用。對有些人來說，它“太有用了”，他們會覺得自己在和一個人或一個AGI對話。就像當年的Eliza，用戶也把它當人一樣。

這讓我想到一個廣泛流傳的迷思——圖靈測試。

實際上，圖靈從未提出過AGI的測試或基準。他的“模仿游戲”并不是一個測試，而是一個思想實驗，用來擊碎“機器不能思考”的直覺。事實上，并不存在所謂的基準，因為一個真正通用的智能，必須有能力選擇保持沉默。

這本身已經(jīng)說明，現(xiàn)有的方法無法造出AGI。

現(xiàn)有系統(tǒng)可以也必須用基準來衡量。

反過來講，如果某個事物給出了一個全新的解釋，你根本無法測試這個解釋是它自己創(chuàng)造的，還是人類創(chuàng)造的——即便是由你親自來做這個測試，也做不到。用愛迪生的話來說，智能里有“靈感”的部分，那只有人類能做到；還有“汗水”的部分，那是機器能幫我們解放的。

那既然沒有測試基準，我們怎么知道人類是通用智能呢？答案是通過“講述自身的故事”。

人類的思考，并非機械地將動機轉(zhuǎn)化為行動、將提示詞轉(zhuǎn)化為輸出，而主要是“主動選擇動機”的過程。就像科學研究并非從數(shù)據(jù)中提取理論，而是發(fā)現(xiàn)問題、提出解釋性猜想，然后對猜想進行批判和驗證。

那么你如何判斷某個東西是不是在這么做呢？其實未必總能判斷。有時你確實只是在和一個機器人聊天。

但是如果沒有任何解釋能說明你自己是機器人，或者人類整體是機器人，那么合理的假設就是“我們不是機器人”。

有些人喜歡質(zhì)疑，愛因斯坦是不是真的創(chuàng)造了相對論，還是只是把各種現(xiàn)有觀點東拼西湊、機械組合出來的。我們知道他創(chuàng)造了它，因為我們了解他的“故事”——他當時在解決什么問題，以及為什么要解決這些問題。

就像我們知道，薩姆·奧特曼不需要寫任何代碼，卻讓ChatGPT從技術概念變成了實際產(chǎn)品，成為一種現(xiàn)象級存在。他靠的是直覺，還有那種“認定這是人類下一步該嘗試的正確方向”的魄力。

目前還沒有任何程序能讓計算機擁有這樣的直覺，至少現(xiàn)在還沒有。

聽到這里，奧特曼忍不住想要反駁了，并且搬出了GPT-8：

你提到了愛因斯坦相對論，我非常認同你的看法。我覺得相對論是人類有史以來搞明白的最精妙的事物之一，甚至可以說是最精妙的。而且愛因斯坦有他的“故事”，我們知道他當時在研究什么。

假設幾年后，GPT-8搞懂了量子引力，還能跟你講述它是如何做到的——比如它當時在思考哪些問題、為什么決定研究這個領域。但它呈現(xiàn)出的內(nèi)容，看起來依然只是語言模型的輸出，可它確實真的解決了量子引力的問題。那到時候你會認可它嗎？我知道你會記錄自己之前判斷錯誤的事情，我也會這么做。所以，這種情況能說服你嗎？

戴維?多伊奇：

我覺得可以。沒錯，“過程故事”在這當中至關重要。我也認為這才是判斷的關鍵。

量子計算先驅(qū)：戴維?多伊奇

戴維?多伊奇是牛津大學克拉倫登實驗室量子計算中心創(chuàng)始成員、物理學訪問教授，同時也是牛津大學沃弗森學院的榮譽院士、英國皇家學會和物理研究所的院士，被認為是量子計算和量子信息科學的奠基人之一。

他致力于研究物理學中的基礎性問題，尤其是量子計算與信息理論，以及建構者理論（constructor theory）。

1985年，他提出量子圖靈機理論框架，通過引入量子邏輯門的網(wǎng)絡運算方式，證明量子計算機在理論上可以精確模擬任何符合量子力學規(guī)律的物理系統(tǒng)，為量子計算機的發(fā)展奠定了數(shù)學基礎。

1992年，他與澳大利亞數(shù)學家、理論物理學家Richard Jozsa共同提出Deutsch-Jozsa算法，首次證明量子算法相較經(jīng)典算法具有指數(shù)級加速效應，為后續(xù)Shor算法、Grover算法的發(fā)展奠定了理論基礎。

他還寫過兩本著名的面向普通讀者的書：《真實世界的脈絡》（The Fabric of Reality）和《無窮的開始》（The Beginning of Infinity）。

戴維?多伊奇曾獲得的獎項包括ICTP狄拉克獎、墨子量子獎、2科學突破獎的物理學獎、艾薩克·牛頓獎等。