中斷一年后，由Montreal.AI和紐約大學名譽教授Gary Marcus組織的年度人工智能辯論于上周五晚上回歸，與2020年一樣再次以線上會議形式召開。

今年的辯論——AI辯論3：AGI 辯論——重點關注通用人工智能的概念，即能夠集成無數接近人類水平的推理能力的機器。

視頻鏈接：https://www.youtube.com/watch?v=JGiLz_Jx9uI&t=7s

本次討論共計三個半小時，圍繞與人工智能相關的五個主題展開： 認知與神經科學、常識、架構、倫理與道德以及政策和貢獻。

除了眾多計算機科學領域的大牛外，還有計算神經科學家Konrad Kording等16位專家參與其中。??

本文簡單總結了其中5位大佬的觀點，感興趣的讀者可以通過上面的鏈接觀看完整視頻。

主持人：馬庫斯

作為著名的批評家，馬庫斯引用了自己在《紐約客》上的文章《「深度學習」是人工智能發展的一場革命嗎？》，再次對AI的發展潑了盆冷水。

馬庫斯表示，與李飛飛團隊成功發布ImageNet后人們對人工智能長達十年的熱情浪潮相反，制造無所不能的機器的「愿望」并沒有實現。

DeepMind神經科學家Dileep George

來自谷歌DeepMind的神經科學家Dileep George曾經提出過一個名為「先天性」的概念。

簡單來說，就是某些「內建」在人類思想中的想法。

那么對于人工智能來說，我們應該更關注先天性嗎？

對此，George表示，任何一種從初始狀態到某種穩定狀態的增長和發展都涉及三個因素。

一是初始狀態下的內部結構，二是輸入的數據，三是通用的自然法則。

「事實證明，先天結構在我們發現的每個領域都發揮著非凡的作用。」

對于那些被認為是學習的典型例子，比如習得語言，一旦你開始拆解，就會發現數據幾乎并不會對其產生影響。

自從人類出現以來，語言就沒有改變過，任何文化中的任何孩子都能掌握語言就證明了這一點。

George認為，語言將成為人工智能的核心，從而讓我們有機會搞清楚，到底是什么讓人類成為一個如此獨特的物種。

華盛頓大學教授Yejin Choi

華盛頓大學計算機科學教授Yejin Choi預測道，AI在未來幾年內的表現，將越來越驚人。

但是，由于我們并不知道網絡的深度，它們將繼續在對抗性和邊角案例上犯錯。

「對于機器來說語言和智力的暗物質，可能就是常識。」

當然，這里所說的暗物質，是對人類來說容易但對機器來說很難的東西。

LSTM之父Jürgen Schmidhuber

馬庫斯表示，我們現在可以從大型語言模型中獲取大量的知識，但實際上這種范式需要被轉變。因為語言模型實際上被「剝奪」了多種類型的輸入。

瑞士人工智能實驗室IDSIA主任、LSTM之父Jürgen Schmidhuber回應稱，「我們今天討論的大部分內容，至少在原則上，已經在很多年前通過『通用神經網絡』得到解決。」 這樣的系統「還不如人類」。

Schmidhuber表示，隨著計算能力每隔幾年變得更便宜，「舊理論」又回來了。「我們可以用這些舊算法做很多當時我們做不到的事情。」

接著，IBM研究員Francesca Rossi向Schmidhuber提出了一個問題：「我們怎么會看到仍然沒有我們想要的功能的系統？你怎么看？那些定義的技術仍然沒有進入當前的系統？」

對此，Schmidhuber認為，目前主要是計算成本問題：

循環網絡可以運行任意算法，其中最美妙的方面之一是它還可以學習學習算法。最大的問題是它可以學習哪些算法？我們可能需要更好的算法。改進學習算法的選項。

第一個此類系統出現在1992年。我在1992年寫了第一篇論文。那時候我們對此幾乎無能為力。今天我們可以擁有數百萬和數十億個權重。

最近與我的學生進行的合作表明，這些舊概念在這里和那里進行了一些改進，突然間效果非常好，你可以學習比反向傳播更好的新學習算法。

英屬哥倫比亞大學副教授Jeff Clune

英屬哥倫比亞大學計算機科學副教授Jeff Clune討論的主題是「AI生成算法：通往AGI的最快路徑」。

Clune表示，今天人工智能走的是一條「人工道路」，這也就意味著各種學習規則和目標函數等等都需要靠人來手動完成。

對此他認為，在今后的實踐中，人工設計的方法終究是要讓位于自動生成的。

隨后，Clune又提出了推動AI發展的「三大支柱」：元學習架構、元學習算法，以及自動生成有效的學習環境和數據。

在此，Clune建議增加一個「第四支柱」，即「利用人類數據」。比如，在Minecraft環境里運行的模型，就可以通過學習人類玩游戲的視頻獲得「巨大的提升」。

最后，Clune預測，我們有30%的可能性在2030年實現AGI，而且還不需要新的范式。

值得注意的是，此處AGI被定義為「能夠完成50%以上的有經濟價值的人類工作」。

總結一下

在討論的最后，馬庫斯讓所有參與者在30秒內回答一個問題：「如果你能給學生一條建議，例如，現在我們最需要研究哪個人工智能的問題，或者如何為人工智能日益成為主流和中心的世界做好準備，建議是什么？」

Choi稱：「我們必須處理AI與人類價值觀保持一致的問題，尤其是要強調多元化；我認為這是我們面臨的真正關鍵挑戰之一，更廣泛地應對諸如魯棒性、泛化和可解釋性等挑戰。」

George從研究方向角度給出建議：「先確定好想從事規模化研究還是基礎研究，因為它們有不同的軌跡。」

Clune：「AGI即將到來。所以，對于開發AI的研究人員，我鼓勵你們從事基于工程、算法、元學習、端到端學習等技術，因為這些最有可能被吸收進入我們正在創建的 AGI。對于非AI研究人員來說，最重要的可能是治理問題。例如，開發AGI時的規則是什么？規則由誰來決定？我們又該如何讓全世界的研究人員都遵循這套規則？」

馬庫斯在晚會結束時回憶起他在上一場辯論中的發言：「培養人工智能需要一村子的人。」

「我認為現在更是如此，」他說。「AI以前是個孩子，現在有點像一個鬧騰的少年，還沒有完全具備成熟的判斷力。」

他總結說：「這一刻既令人興奮又危險。」