去年，紐約大學(xué)心理學(xué)和神經(jīng)科學(xué)教授 Gary Marcus 和深度學(xué)習(xí)先驅(qū)、2018 年圖靈獎(jiǎng)得主 Yoshua Bengio 就 AI 技術(shù)的發(fā)展方向展開(kāi)了一場(chǎng)現(xiàn)場(chǎng)辯論。

今年，Gary Marcus 與 Montreal.AI 負(fù)責(zé)人 Vincent Boucher 舉辦了第二場(chǎng)辯論。這次辯論共有包括李飛飛、Judea Pearl、Rich Sutton 在內(nèi)的 16 位學(xué)者參與，大家圍繞「Moving AI Forward: An Interdisciplinary Approach」這一主題展開(kāi)討論。Gary Marcus 表示：「此次辯論旨在展示不同的觀點(diǎn)。」

這場(chǎng)辯論包括「架構(gòu)與挑戰(zhàn)」、「神經(jīng)科學(xué)與心理學(xué)帶來(lái)的洞見(jiàn)」、「構(gòu)建可信任的 AI」三個(gè)主題：

Gary Marcus 首先回顧了去年與 Bengio 的那場(chǎng)辯論，并指出現(xiàn)在是時(shí)候討論下一個(gè)十年了：「如何將人工智能提升到下一個(gè)層次」。

之后，16 位學(xué)者分別談?wù)摿俗约旱难芯亢陀^點(diǎn)，整場(chǎng)辯論持續(xù) 3 個(gè)多小時(shí)。

演講主題匯總：https://montrealartificialintelligence.com/aidebate2/readings.pdf

辯論視頻：https://montrealartificialintelligence.com/aidebate2/

架構(gòu)與挑戰(zhàn)

首先是第一個(gè)主題「架構(gòu)與挑戰(zhàn)」。參與討論的學(xué)者有：Yejin Choi、Luis Lamb、Fei-Fei Li、Robert Ness、Judea Pearl、Ken Stanley 和 Rich Sutton。

斯坦福大學(xué)計(jì)算機(jī)科學(xué)教授李飛飛率先發(fā)言，談?wù)摿?AI「北極星」。她表示，「北極星」是與環(huán)境的交互。

隨后，巴西南大河州聯(lián)邦大學(xué)計(jì)算機(jī)科學(xué)教授 Luís Lamb 談?wù)摿恕干窠?jīng)符號(hào) AI」。Lamb 表示，基于 Marcus 在《The Algebraic Mind》一書(shū)中提到概念的神經(jīng)符號(hào)工作涵蓋了基于神經(jīng)網(wǎng)絡(luò)操縱符號(hào)的需求，「我們需要將二者邏輯形式化的基礎(chǔ)性方法」，如 Judea Pearl 的思想。

隨后，DeepMind 杰出研究科學(xué)家 Rich Sutton 探討了強(qiáng)化學(xué)習(xí)。他首先提到了神經(jīng)科學(xué)家 David Marr 的計(jì)算視覺(jué)信息處理研究三層次：計(jì)算理論、表示與算法、硬件實(shí)現(xiàn)。Marr 對(duì)計(jì)算理論很感興趣，但「目前 AI 領(lǐng)域這方面的研究很少」。Sutton 表示，類(lèi)似梯度下降這類(lèi)思想是關(guān)于「how」，而不是計(jì)算理論所需要的「what」。

Sutton 表示：「AI 需要大家認(rèn)可的智能計(jì)算理論，而強(qiáng)化學(xué)習(xí)是最強(qiáng)勁的候選者。」

緊接著，圖靈獎(jiǎng)獲得者、貝葉斯網(wǎng)絡(luò)之父、暢銷(xiāo)書(shū)《為什么》的作者 Judea Pearl 發(fā)表了主題為「The Domestication of Causal Reasoning」的演講。他表示深度學(xué)習(xí)是個(gè)金礦，「我為推動(dòng)因果革命而打造的新引擎可以表示心理狀態(tài)的計(jì)算模型，即『深度理解』」。」

Pearl 表示，深度理解將成為回答「What is?」、「What if?」和「If Only?」這些問(wèn)題的唯一系統(tǒng)。

接下來(lái)，機(jī)器學(xué)習(xí)研究科學(xué)家 Robert Ness 談?wù)摿恕敢蚬评砼c（深度）概率規(guī)劃」。

Ness 表示：「概率規(guī)劃將是解決因果推理的關(guān)鍵。」概率規(guī)劃可以構(gòu)建能夠反事實(shí)推理的智能體，而這是因果推理的關(guān)鍵。他認(rèn)為這可以解決 Pearl 關(guān)于「If only?」的問(wèn)題。

中佛羅里達(dá)大學(xué)計(jì)算機(jī)科學(xué)教授 Ken Stanley 則探討了進(jìn)化與創(chuàng)造性。「過(guò)去數(shù)千年來(lái)，從火到空間站，新的事物是基于之前事物發(fā)展的，這就是開(kāi)放系統(tǒng)。」Stanley 表示，產(chǎn)生智能的進(jìn)化是一個(gè)并行的「現(xiàn)象系統(tǒng)」（phenomenal system）。「我們從存在開(kāi)始，就獲得了之前數(shù)千年的創(chuàng)造力，我們應(yīng)當(dāng)盡力理解這些現(xiàn)象。」

隨后發(fā)言的是華盛頓大學(xué)計(jì)算機(jī)科學(xué)系副教授 Yejin Choi。她談到了語(yǔ)言的重要性，并表示語(yǔ)言是「生成任務(wù)的推理」。她認(rèn)為：「我們?nèi)祟?lèi)執(zhí)行的是即時(shí)推理，這將成為未來(lái) AI 發(fā)展的關(guān)鍵和根本性挑戰(zhàn)之一。」

她認(rèn)為未來(lái)新的語(yǔ)言模型，如 GPT-4/5/6 等，都遠(yuǎn)遠(yuǎn)不夠。

在幾位學(xué)者發(fā)表完各自觀點(diǎn)后，Marcus 試圖總結(jié)他們的共同關(guān)注點(diǎn)：反事實(shí)、處理不熟悉和開(kāi)放問(wèn)題、集成知識(shí)、Judea Pearl 關(guān)于僅依靠數(shù)據(jù)并不足夠的觀點(diǎn)、常識(shí)的重要性（就 Yejin Choi 關(guān)于「生成式」的觀點(diǎn)而言）。

Marcus 提問(wèn)道：「現(xiàn)在出現(xiàn)了六七種不同的觀點(diǎn)，我們是否想要將它們?nèi)诤掀饋?lái)？是否想要使強(qiáng)化學(xué)習(xí)兼容知識(shí)？」

Luis Lamb 表示，神經(jīng)符號(hào)系統(tǒng)并不在于「如何去做」，重點(diǎn)是要明白，我們擁有相同的目標(biāo)，即在學(xué)習(xí)方面建立非常穩(wěn)固堅(jiān)實(shí)的東西，但是表征要先于學(xué)習(xí)。

Marcus 請(qǐng)各位學(xué)者思考「模塊化」（modularity）。Rich Sutton 表示他可以接受考慮整體問(wèn)題的方法，而不僅僅是表征。他認(rèn)為大家應(yīng)該思考借助計(jì)算理論想要實(shí)現(xiàn)的整體目標(biāo)是什么，「我們需要多種計(jì)算理論。」

Yejin Choi 指出：人類(lèi)有能力信任新奇的事物，并進(jìn)行奇怪的因果推理。她問(wèn)道：「我們是否想要建立一個(gè)類(lèi)人的系統(tǒng)？」她還提到了人類(lèi)有趣的一點(diǎn)，即有能力通過(guò)自然語(yǔ)言交流大量知識(shí)，并通過(guò)自然語(yǔ)言展開(kāi)學(xué)習(xí)。

Marcus 向李飛飛和 Ken Stanley 詢(xún)問(wèn)了「神經(jīng)進(jìn)化」領(lǐng)域的發(fā)展現(xiàn)狀。

李飛飛表示，進(jìn)化是智能中最偉大、最豐富的實(shí)驗(yàn)之一，智能背后隱藏著一系列統(tǒng)一的原則。但是，她表示自己不會(huì)受進(jìn)化生物約束的掣肘，而是將原則提煉出來(lái)。

神經(jīng)科學(xué)與心理學(xué)帶來(lái)的洞見(jiàn)

辯論的第二個(gè)主題是「神經(jīng)科學(xué)與心理學(xué)帶來(lái)的洞見(jiàn)」，Danny Kahneman、Christof Koch、Adam Marblestone、Doris Tsao 和 Barbara Tversky 參與了討論。

斯坦福大學(xué)心理學(xué)名譽(yù)教授 Barbara Tversky 認(rèn)為，所有的生物都必須在空間中運(yùn)動(dòng)，運(yùn)動(dòng)停止，生命也就終結(jié)了。Tversky 還談到了人們?nèi)绾巫鍪謩?shì)，以及做出能夠影響人類(lèi)思維變化的空間 motor 運(yùn)動(dòng)。

她指出，「學(xué)習(xí)、思考、溝通、合作和競(jìng)爭(zhēng)，所有這些都依賴(lài)行動(dòng)和少量話語(yǔ)」。

接下來(lái)是諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主和 AI 推理問(wèn)題權(quán)威書(shū)籍《快思慢想》（Thinking, Fast and Slow）的作者 Daniel Kahneman。他表示自己認(rèn)同書(shū)中的兩種思考范式：System 1 和 System 2 思考。一種是直觀形式，另一種是更高級(jí)的推理形式。

Kahneman 認(rèn)為，System 1 包含了任意非符號(hào)事物，但這不意味著它是非符號(hào)系統(tǒng)。System 1 包含世界的表征，由此人們可以模擬自身生活的世界。大多數(shù)時(shí)候，人們都一成不變地生活著，發(fā)生的事情大多在我們的意料之中。System 1 模型將很多事件認(rèn)定為「正常」，即使出乎意料之外。System 1 拒絕接收其他事件。緊接著 Judea Pearl 的觀點(diǎn)，Kahneman 表示大量的反事實(shí)推理都在 System 1 中，其中對(duì)正常事物的天然理解主導(dǎo)著這種推理。

隨后發(fā)言的是加州理工學(xué)院的生物學(xué)教授 Doris Tsao。她主要講了反饋系統(tǒng)，回顧了早期關(guān)于麥卡洛克和匹茲（McCulloch and Pitts）神經(jīng)元的研究工作。通過(guò)引用多層神經(jīng)網(wǎng)絡(luò)中的反向傳播，她認(rèn)為反饋至關(guān)重要。理解反饋或許能令人們構(gòu)建魯棒性更強(qiáng)的視覺(jué)系統(tǒng)，并且反饋系統(tǒng)也有助于理解幻覺(jué)等現(xiàn)象。最后，她表示自己對(duì)機(jī)器學(xué)習(xí)和系統(tǒng)神經(jīng)科學(xué)的交互非常興奮。

接下來(lái)是 MIT 的 Adam Marblestone，他先前是 DeepMind 的研究科學(xué)家，從事神經(jīng)科學(xué)研究。他認(rèn)為觀察大腦并試圖總結(jié)出大腦運(yùn)行的原理，這些「到現(xiàn)在還處于非常原始的水平」。此外，他還認(rèn)為卷積神經(jīng)網(wǎng)絡(luò)等不過(guò)是在復(fù)制人類(lèi)行為罷了。

西雅圖艾倫腦科學(xué)研究所研究員 Christof Koch 則斷言：「不要指望神經(jīng)科學(xué)來(lái)幫助人工智能的發(fā)展」。他認(rèn)為了解大腦還需要一兩百年的時(shí)間，所以從大腦機(jī)械基質(zhì)中尋求靈感來(lái)加速 AI 發(fā)展是錯(cuò)誤的，這與 Marblestone 的觀點(diǎn)形成了鮮明對(duì)比。他表示：「這與人造物體的特性完全不同。」

對(duì)此，Marcus 提出了更多問(wèn)題，如「多樣性」。大腦皮層的單個(gè)部分能夠讓人們了解其他部分的什么屬性呢？

Tsao 回答道，「相似性」更令人印象深刻，它可能揭示了大腦運(yùn)行的真正深層的普遍原則。預(yù)測(cè)編碼是一種「規(guī)范模型」，可以解釋很多事情。「尋求這種普遍原則將產(chǎn)生重大影響。」

關(guān)于這一點(diǎn)，Koch 表示，細(xì)胞類(lèi)型「大不相同」，例如視覺(jué)神經(jīng)元與前額葉皮質(zhì)神經(jīng)元非常不同。

Marblestone 認(rèn)為「需要更好的數(shù)據(jù)」，以便「從實(shí)證角度理解 Christof 談?wù)摰挠?jì)算意義。」

Marcus 還就「先天性」（innateness）進(jìn)行了提問(wèn)。他詢(xún)問(wèn)了 Kahneman 對(duì)「目標(biāo)文檔」（object file）的看法：「你腦海中用于記錄自己正在追蹤的每件事情的索引卡，它是天生的架構(gòu)嗎？」

Kahneman 回答道，「目標(biāo)文檔」是大腦追蹤物體過(guò)程中產(chǎn)生的永久性概念。他將其比作警方檔案，在收集證據(jù)的過(guò)程中內(nèi)容會(huì)因時(shí)而變。所以，目標(biāo)文檔「當(dāng)然是天生的」。

Marcus 則認(rèn)為深度學(xué)習(xí)中沒(méi)有對(duì)等的「目標(biāo)文檔」。

構(gòu)建可信任的 AI

此次辯論的第三個(gè)主題是「構(gòu)建可信任的 AI」，Ryan Calo、Celeste Kidd、Margaret Mitchell 和 Francesca Rossi 各自發(fā)表了自己的觀點(diǎn)。

加州大學(xué)伯克利分校教授 Celeste Kidd 所在實(shí)驗(yàn)室主要研究人類(lèi)如何形成認(rèn)知。Kidd 表示算法偏見(jiàn)是很危險(xiǎn)的，它們「有時(shí)會(huì)以破壞性的方式影響人類(lèi)認(rèn)知」。她以?xún)?nèi)容推薦的 AI 系統(tǒng)為例，認(rèn)為此類(lèi)系統(tǒng)會(huì)使人們形成「更強(qiáng)大的、難以糾正的錯(cuò)誤認(rèn)知」。比如亞馬遜和領(lǐng)英利用 AI 進(jìn)行招聘，可能對(duì)女性候選者造成負(fù)面影響。

「AI 系統(tǒng)中的偏見(jiàn)強(qiáng)化了使用者的偏見(jiàn)，現(xiàn)在 AI 已經(jīng)令人恐懼了。」Kidd 還提到了 Timnit Gebru 被谷歌解雇一事，稱(chēng)「Timnit 在谷歌經(jīng)歷的事情正是一種常態(tài)。」

谷歌高級(jí)研究科學(xué)家 Margaret Mitchell 表示：「開(kāi)發(fā)機(jī)器學(xué)習(xí)算法的典型方法是收集訓(xùn)練數(shù)據(jù)、訓(xùn)練模型、過(guò)濾輸出，并讓人們看到輸出。」但是人類(lèi)偏見(jiàn)是數(shù)據(jù)收集、標(biāo)注和整個(gè)開(kāi)發(fā)階段中面臨的重要問(wèn)題，它還會(huì)進(jìn)一步影響模型訓(xùn)練。后處理階段也同樣存在偏見(jiàn)。

「人們看到輸出，它變成了一個(gè)反饋回路，我們?cè)噲D打破這個(gè)系統(tǒng)，即洗刷偏見(jiàn)（bias laundering）。」Mitchell 表示：「發(fā)展中不存在中立的東西，發(fā)展是價(jià)值負(fù)荷的。我們需要分解發(fā)展所包含的內(nèi)容，以便人們可以反思它，并朝著『可預(yù)見(jiàn)的利益』努力，遠(yuǎn)離『可預(yù)見(jiàn)的危害和風(fēng)險(xiǎn)』。技術(shù)通常善于彰顯技術(shù)的優(yōu)勢(shì)，但不擅長(zhǎng)處理風(fēng)險(xiǎn)，也不考慮長(zhǎng)期影響」。

IBM fellow Francesca Rossi 討論了創(chuàng)建可信任 AI 生態(tài)系統(tǒng)的任務(wù)。她表示：「我當(dāng)然希望它是準(zhǔn)確的，但除此之外，我們還需要很多屬性，包括價(jià)值觀的一致性、公平性以及可解釋性。可解釋性非常重要，尤其是機(jī)器與人類(lèi)一起工作的語(yǔ)境中。」

Rossi 回應(yīng)了 Mitchel 關(guān)于「透明度」（transparency）的需求。她表示：「原則還不夠。它需要大量咨詢(xún)，在幫助開(kāi)發(fā)者了解如何改變做事方式以及機(jī)構(gòu)內(nèi)部傘式結(jié)構(gòu)方面還有很多要做的事。」Rossi 說(shuō)神經(jīng)符號(hào)系統(tǒng)和 Kahneman 提出的 System 1 和 System 2 對(duì)于機(jī)器中模型的價(jià)值觀非常重要。

最后一位演講者是華盛頓大學(xué)的法學(xué)教授 Ryan Calo，他表示：「我有一些關(guān)于原則的問(wèn)題。原則不是自我執(zhí)行的，違反原則也沒(méi)有相應(yīng)的懲罰。」

「我認(rèn)為原則在很大程度上是沒(méi)有意義的，因?yàn)樵趯?shí)踐中，原則的目的是使決斷沒(méi)有爭(zhēng)議。我認(rèn)為我們不需要原則。我們要做的只是袖手旁觀，評(píng)估人工智能對(duì)人類(lèi) affordance 的影響，然后針對(duì)此改變法律系統(tǒng)。不能對(duì) AI 進(jìn)行監(jiān)管，并不意味著不能改變法律。」

Marcus 回答道：「潘多拉魔盒現(xiàn)在已經(jīng)打開(kāi)，世界處于 AI 發(fā)展的最糟糕時(shí)期。我們擁有的這些系統(tǒng)卻受制于沒(méi)有知識(shí)的數(shù)據(jù)。」

接著，Marcus 詢(xún)問(wèn)了對(duì)「基準(zhǔn)」的看法：機(jī)器能否以某種可靠的方式使我們朝著常識(shí)的方向前進(jìn)？Choi 回答稱(chēng)，基于實(shí)例的機(jī)器訓(xùn)練或自監(jiān)督學(xué)習(xí)是陷阱。

Mitchell 指出，認(rèn)知偏見(jiàn)會(huì)導(dǎo)致歧視，歧視和偏見(jiàn)在模型開(kāi)發(fā)中「緊密相連」。Pearl 回應(yīng)稱(chēng)，如果某些偏見(jiàn)可以被理解，則它們可以通過(guò)算法得到糾正。他表示：「如果某些偏差可以被建模，則可以被修復(fù)。」他將這一過(guò)程稱(chēng)為「偏見(jiàn)洗刷」。

Kidd 表示，她的實(shí)驗(yàn)室工作是為了反思「誤解」。在這個(gè)世界上，人們都會(huì)表現(xiàn)出偏見(jiàn)，即使有些無(wú)法用證據(jù)證明。Ness 則指出，認(rèn)知偏見(jiàn)可能是有用的歸納偏置。他說(shuō)，這意味著人工智能問(wèn)題不僅僅是哲學(xué)問(wèn)題，還可能是「非常有趣的技術(shù)問(wèn)題」。

Marcus 問(wèn)及大家對(duì)機(jī)器人的觀點(diǎn)：如今的大多數(shù)機(jī)器人僅執(zhí)行少量的物理推理，比如房間導(dǎo)航等。我們應(yīng)如何解決這個(gè)對(duì)人類(lèi)非常有效的物理推理問(wèn)題，并延伸至語(yǔ)言領(lǐng)域呢？

李飛飛表示：具象化與交互是智能的一部分。我非常同意物理推理是發(fā)展智能的重要原則，但沒(méi)必要去建造物理機(jī)器人，學(xué)習(xí)智能體可以滿足一部分需求。

Marcus 接著詢(xún)問(wèn)了李飛飛實(shí)驗(yàn)室的模擬工作，尤其是「affordance」：當(dāng)談到具象化時(shí)，很多都是關(guān)于物理 affordance，拿著鉛筆，拿著電話等。我們離這還有多遠(yuǎn)？

李飛飛表示：「非常接近，例如芯片巨頭英偉達(dá)的物理建模工作。在 AI 發(fā)展的下一階段中，我們必須做到這一點(diǎn)。」

Sutton 表示：「我盡量不去思考知識(shí)的具體內(nèi)容」，因此他傾向于把空間看作是思考其他事物的方式，它是關(guān)于從一種狀態(tài)到另一種狀態(tài)的轉(zhuǎn)換。「我反對(duì)這個(gè)問(wèn)題，我不想把物理空間看作是一種特殊情況。」

Tversky 則認(rèn)為「人類(lèi)可以從觀察別人中學(xué)到很多東西。但我也想到了互動(dòng)、模仿。對(duì)于幼兒來(lái)說(shuō)，這不是確切的運(yùn)動(dòng)，而是目標(biāo)。」

Marcus 對(duì)此的回復(fù)是：「目標(biāo)非常重要。」他以嬰兒為例。14 個(gè)月大的嬰兒會(huì)模仿——要么是精確的動(dòng)作，或者他們會(huì)意識(shí)到這個(gè)人在以一種瘋狂的方式做某事，與其進(jìn)行重復(fù)動(dòng)作，嬰兒會(huì)做出別人試圖做的動(dòng)作。先天不等于出生，但是在生命早期，空間和目標(biāo)的表現(xiàn)形式非常豐富，而在 AI 中我們還沒(méi)有針對(duì)這個(gè)的優(yōu)秀系統(tǒng)。」

Choi 再次重申了語(yǔ)言的重要性。「我們想把常識(shí)研究局限在嬰兒身上，還是想建立一個(gè)同樣能捕捉成年人常識(shí)的系統(tǒng)。語(yǔ)言對(duì)我們來(lái)說(shuō)太方便了，它代表了成年人的常識(shí)。」

好奇心

Marcus 將話題轉(zhuǎn)向好奇心：「好奇心是人類(lèi)能力的重要部分，可以以某種方式提高認(rèn)知能力。」

Koch 認(rèn)為：「這不是人類(lèi)獨(dú)有的，幼年黑猩猩、小狗、小貓……，它們同樣想要探索世界。」

Stanley 的觀點(diǎn)是：「這是一個(gè)很大的謎題，因?yàn)楹茱@然，好奇心是早期發(fā)展、學(xué)習(xí)以及擁有人類(lèi)智慧的基礎(chǔ)，但是我們不清楚這種行為是如何形成的？」

「如果我們想擁有一個(gè)好奇的系統(tǒng)，我們必須解決一個(gè)非常主觀的概念：「什么是有趣的」，然后我們必須與主觀性做斗爭(zhēng)，而這正是我們作為科學(xué)家不喜歡的事」。Stanley 說(shuō)。

Pearl 則提出了一個(gè)好奇心不完備理論。哺乳動(dòng)物試圖找到進(jìn)入舒適和可控系統(tǒng)的路徑，驅(qū)動(dòng)好奇心的正是這類(lèi)系統(tǒng)中的漏洞。「只要它有漏洞，你就會(huì)感到惱怒或不安，這會(huì)激發(fā)你的好奇心。當(dāng)你填補(bǔ)這些漏洞時(shí)，你會(huì)感到一切都在掌控之中。」

Sutton 指出，在強(qiáng)化學(xué)習(xí)中，好奇心扮演了一個(gè)低級(jí)角色，用來(lái)驅(qū)動(dòng)探索。「近年來(lái)，人們開(kāi)始把『paly』看作一個(gè)更大的角色。我們?cè)O(shè)定的目標(biāo)現(xiàn)在未必有用，但將來(lái)可能有用。『paly』可能是人類(lèi)做的大事之一，玩是大事。」

在被問(wèn)及「元認(rèn)知」概念時(shí)，Rossi 回答道，「Kahneman 的 System 1 或 System 2 中肯定有某個(gè)地方是關(guān)于實(shí)體自身能力的推理，我可以用這種方式或其他方式進(jìn)行回答，或者設(shè)計(jì)一個(gè)新的程序來(lái)回應(yīng)外界的刺激」。Rossi 認(rèn)為這種能力可能有助于激發(fā)好奇心和「玩」的概念。

李飛飛表示：「作為一名科學(xué)家，我想在科學(xué)知識(shí)與 AI 原則方面進(jìn)行深入探索。我仍然認(rèn)為我們的 AI 時(shí)代是牛頓物理學(xué)之前的時(shí)代。我們還在學(xué)習(xí)現(xiàn)象學(xué)和工程學(xué)。總有一天，我們會(huì)開(kāi)始理解智能的原則。作為一名公民，我希望這種技術(shù)可以在理想的情況下改善人類(lèi)的生活條件。它是如此深刻，可以非常非常糟糕，也可以非常非常好。我希望看到這種技術(shù)的框架以最仁慈的方式開(kāi)發(fā)和部署。」

Lamb 表示：「我喜歡圖靈的一句話。他說(shuō)，我們只能看到前面很短的距離。正如 Fei-Fei 所說(shuō)，作為一名科學(xué)家，我希望 AI 進(jìn)步。但是，AI 影響很大，AI 的發(fā)展是我們的關(guān)鍵責(zé)任。正如 Gary 所說(shuō)，我們必須尋求融合，讓 AI 更公平、少些偏見(jiàn)，使其成為人類(lèi)世界中的積極因素。我們需要以一種非常人性化的方式來(lái)看待我們的領(lǐng)域。我們必須以嚴(yán)肅的倫理原則、法律和規(guī)范為指導(dǎo)。我們正處在 AI 寒武紀(jì)大爆發(fā)的初期，需要非常清楚社會(huì)、倫理和全球影響。我們必須關(guān)注南北分裂，不能只從單一的文化角度來(lái)看待它。」

Sutton 認(rèn)為：「AI 聽(tīng)起來(lái)像是純技術(shù)的東西，但我同意 Lamb 的觀點(diǎn)，這可能是人類(lèi)所有努力中最人性化的東西。我期待著我們能夠加深理解，期待著一個(gè)充滿不同類(lèi)型的智能、增強(qiáng)人類(lèi)、新人類(lèi)、理解、多樣性的新奇世界。」

Pearl 表示：「 我的抱負(fù)相當(dāng)有限。我想要的是一個(gè)智能、友好、能力超群的學(xué)徒。我想了解我自己，怎樣思考、情感如何被喚起。關(guān)于我自己的一些科學(xué)問(wèn)題（如意識(shí)和自由意志），我到現(xiàn)在還沒(méi)有答案。如果我能造出一個(gè)具有像我一樣自由意志的機(jī)器人，我會(huì)認(rèn)為它是最偉大的科學(xué)成就，我預(yù)言，我們會(huì)成功的！」

Ness 表示：「很多討論是關(guān)于將人類(lèi)工作自動(dòng)化的。試想一下，用它來(lái)增強(qiáng)人類(lèi)智能、提升人類(lèi)體驗(yàn)應(yīng)該很有趣。我已經(jīng)看到人類(lèi)用大型模型來(lái)寫(xiě)詩(shī)歌，但如果我們能創(chuàng)造一種幫助詩(shī)人創(chuàng)作新詩(shī)的工具不是更好嗎？我喜歡流行音樂(lè)，但我們也需要聽(tīng)到一些新奇的嘗試。第一批創(chuàng)建 PhotoShop 的工程師創(chuàng)建了那些虛擬現(xiàn)實(shí)人物的矩陣圖像，但現(xiàn)在沒(méi)有設(shè)計(jì)師不知道如何使用 Photoshop。我希望 AI 能像 Photoshop 為設(shè)計(jì)師所做的那樣，為人類(lèi)體驗(yàn)做貢獻(xiàn)。」

Stanley 表示：「對(duì)于我來(lái)說(shuō)，有點(diǎn)像 Robert 說(shuō)的，我們必須為自己做這件事。我們不想擺脫自己。有些事情沒(méi)有別人的幫助是做不成的。當(dāng)我看到偉大的藝術(shù)時(shí)，我知道它是偉大的，但我可以創(chuàng)造偉大的藝術(shù)。我們擁有的這些潛在能力可以通過(guò)助手更明確地發(fā)揮出來(lái)。所以，AI 可以做的就是放大我們的想法，幫助我們更好地表達(dá)自己。我想這就是我們想要做的吧。」

Choi：「有兩件事讓我很興奮。我們一直在談?wù)摵闷嫘摹，F(xiàn)在有趣的是，好奇心如何在學(xué)習(xí)范式中閱讀事物，然后讓我們做出前所未有的驚人創(chuàng)造，這會(huì)給智能帶來(lái)新的力量。我會(huì)保持樂(lè)觀，我們能夠走得很遠(yuǎn)。然后我會(huì)找到新的自己，因此公平與多樣性深深地根植于我的內(nèi)心。我為這將讓世界更加美好而感到非常高興。改善人們的偏見(jiàn)，通過(guò)創(chuàng)建 AI 來(lái)幫助人們了解自己的偏見(jiàn)，我們也許真的可以幫助人們擺脫偏見(jiàn)，我很期待看到明年將會(huì)發(fā)生的事情。」

Tversky：「我看到很多試圖模仿人類(lèi)的 AI。那么人類(lèi)是想讓 AI 模仿自己的錯(cuò)誤，還是想通過(guò) AI 完善自己？我發(fā)現(xiàn)其他人似乎在使用 ast 工具，并擔(dān)心這些工具中存在隱式偏見(jiàn)。創(chuàng)造力、音樂(lè)、詩(shī)歌，所有這些都是有幫助的。我研究人類(lèi)的行為，并且一直對(duì) AI 社區(qū)能夠創(chuàng)造的東西感興趣。」

Kahneman：「我最開(kāi)始對(duì) Demis Hassabis 的新型 AI 感興趣，他比幾年前看起來(lái)謙虛了很多，這讓我很震驚。這是一個(gè)美好的期盼，在最近幾年中這種期盼似乎變得越來(lái)越遙遠(yuǎn)。我還觀察到：AI 學(xué)徒和人類(lèi)的觀念應(yīng)該保持在可控的范圍內(nèi)。一旦 AI 或任何規(guī)則化系統(tǒng)具備堪比人類(lèi)的判斷力，那么它們最終將擁有人類(lèi)的判斷力，或許它們不再需要人類(lèi)的想法。當(dāng) AI 掌握了一個(gè)領(lǐng)域，人類(lèi)的想法在這個(gè)領(lǐng)域中就幾乎沒(méi)有必要了，這可能會(huì)非常復(fù)雜，而且后果非常糟糕。」

Tsao：「我希望理解人類(lèi)的大腦，我希望結(jié)合 AI 和神經(jīng)科學(xué)，為大腦的工作原理提供最美觀、最簡(jiǎn)單的解釋。」

Marblestone：「我希望人類(lèi)的創(chuàng)造力能夠有所增強(qiáng)，最優(yōu)秀的科學(xué)家將有能力做更多的事情，一些孩子能夠設(shè)計(jì)空間站。也許這會(huì)讓我們獲得普遍的基本收入，也許人類(lèi)的后代將進(jìn)入太空。」

Koch：「作為一名科學(xué)家，我期待與 AI 一起了解大腦，了解這些奇妙的數(shù)據(jù)集。但正如李飛飛教授所強(qiáng)調(diào)的那樣，許多 AI 都是幼稚的。人工智能的發(fā)展突飛猛進(jìn)，技術(shù)是造成不平等的原因之一。社會(huì)不平等、種族主義、社會(huì)媒體紛爭(zhēng)日益加劇。今天，我們談?wù)摰赖聲r(shí)，我感到非常驚訝，人們正在對(duì)是否制造殺手機(jī)器人的問(wèn)題進(jìn)行談判。這會(huì)讓軍事問(wèn)題日益激化。」

Kidd：「我沒(méi)有什么要補(bǔ)充的。這并不是問(wèn)題的答案，但我認(rèn)為我想從 AI 中獲得的東西就是我想從人類(lèi)中獲得的東西。這也是我對(duì) AI 含義和能力的不同理解。以疫苗為例，由誰(shuí)獲得疫苗以及決策過(guò)程，這會(huì)指向算法，但人們是落后于算法的。我們真正需要的是從 AI 轉(zhuǎn)變?yōu)橐环N獨(dú)立的東西，這可以歸結(jié)為讓人類(lèi)對(duì)自己的發(fā)展負(fù)責(zé)。」

Mitchell：「我想說(shuō)的話很多和大家一樣。我的目標(biāo)是找到有趣且美好的事物，我們學(xué)術(shù)界非常擅長(zhǎng)事后合理化。但是從根本上說(shuō)，我們正在做的事情是娛樂(lè)自己，自我服務(wù)的拉動(dòng)帶來(lái)了這種情況，但這并不是件好事，像個(gè)書(shū)呆子。我希望 AI 能做的是糾正人類(lèi)的偏見(jiàn)。如果 AI 能夠理解性能評(píng)價(jià)中使用的語(yǔ)言，那么它就可以加入那些關(guān)于偏見(jiàn)的討論中。我很希望 AI 能夠反過(guò)來(lái)處理真正有問(wèn)題的人類(lèi)偏見(jiàn)。」

Rossi：「我必須跟進(jìn) Margaret 所說(shuō)的話。AI 能夠解決棘手問(wèn)題，幫助我們理解自己。但是我認(rèn)為 Margaret 剛才所說(shuō)的話非常重要。從我的角度看，在從事 AI 工作以前，我從未考慮過(guò)自己的價(jià)值觀。AI 系統(tǒng)應(yīng)該用于什么，不用于什么。我認(rèn)為這不僅僅是我個(gè)人的反思，整個(gè)社會(huì)都有機(jī)會(huì)去做這件事。思考 AI 存在的問(wèn)題，是反思我們自身價(jià)值觀的一種方式。我們會(huì)意識(shí)到自己的局限性，并且更清楚自己的價(jià)值觀是怎樣的。」

Calo：「我希望 AI 的成本和收益能夠均衡分配，并且想讓公眾相信這是正在做的事情，我認(rèn)為不修改法律就不可能實(shí)現(xiàn)這一點(diǎn)。」

最后，Marcus 總結(jié)說(shuō)這場(chǎng)辯論比他預(yù)期的還要精彩，并用一句非洲諺語(yǔ)總結(jié)：舉全村之力（It takes a village）。他表示：「今天這里就有 village」。