OpenAI 推出視頻生成模型 Sora 已經(jīng)一周的時(shí)間了，熱度不減，作者團(tuán)隊(duì)還在持續(xù)放出讓人眼前一亮的視頻。比如「一群愛冒險(xiǎn)的小狗探索天空廢墟的電影預(yù)告片」，Sora 一次生成并自己完成剪輯。

當(dāng)然，一個(gè)個(gè)生動(dòng)、逼真的 AI 視頻讓人們好奇為什么是 OpenAI 率先打造出了 Sora 并能夠跑通所有 AGI 技術(shù)棧呢？這一問(wèn)題在社交媒體上引發(fā)了熱烈的討論。

其中，在一篇知乎文章中，加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)博士、作者 @SIY.Z 分析了 OpenAI 成功的一些方法論，他認(rèn)為 OpenAI 的方法論就是通往 AGI 的方法論，并且該方法論構(gòu)建在幾個(gè)重要的「公理」之上，包括了 The bitter lesson、Scaling Law 和 Emerging properties。

知乎原貼：https://www.zhihu.com/question/644486081/answer/3398751210?utm_psn=1743584603837992961

其中 The bitter lesson 源自機(jī)器學(xué)習(xí)先驅(qū) Rich Sutton 在 2019 年的一篇經(jīng)典文章《苦澀的教訓(xùn)》， 通過(guò)探討人工智能近幾十年所走過(guò)的彎路，他拋出的核心觀點(diǎn)是：人工智能如果想要長(zhǎng)期獲得提升，利用強(qiáng)大的算力才是王道。這里的算力隱含了大量的訓(xùn)練數(shù)據(jù)和大模型。

原文鏈接：http://www.incompleteideas.net/IncIdeas/BitterLesson.html

因此，作者 @SIY.Z 認(rèn)為某種意義上，強(qiáng)大算力加持的通用 AI 算法才是 AGI 路徑的王道和 AI 技術(shù)真正進(jìn)步的方向。有了大模型、大算力和大數(shù)據(jù)，The bitter lesson 構(gòu)成了 AGI 的必要條件。再加上 Scaling Law 這一充分條件，通過(guò)算法使大模型、大算力和大數(shù)據(jù)獲得更好的結(jié)果。

無(wú)獨(dú)有偶，本周被瘋傳的 OpenAI 研究人員 Jason Wei 的每日工作時(shí)間線中也提到了 Rich Sutton 的 The bitter lesson。由此可見，很多業(yè)內(nèi)人士將 The bitter lesson 視為圭臬。

來(lái)源：https://twitter.com/_jasonwei/status/1760032264120041684

與此同時(shí)，在另一個(gè)關(guān)于「大語(yǔ)言模型（LLM）是否可以作為自身結(jié)果的驗(yàn)證者」的討論中，有人認(rèn)為 LLM 驗(yàn)證自身結(jié)果時(shí)根本不夠準(zhǔn)確，并且會(huì)導(dǎo)致性能更差（還需要為 API 付出很多代價(jià)）。

來(lái)源：https://twitter.com/curious_vii/status/1759930194935029767

對(duì)于這一觀點(diǎn)，又有推特網(wǎng)友在 Rich Sutton 二十多年前的一篇博客中有了重要的發(fā)現(xiàn)。

原文鏈接：http://incompleteideas.net/IncIdeas/KeytoAI.html

博客中是這樣說(shuō)的：

考慮到任何 AI 系統(tǒng)以及它所擁有的知識(shí)，它可能是一個(gè)專家系統(tǒng)或者像 CYC 這樣的大型數(shù)據(jù)庫(kù)。或者它可能是一個(gè)熟悉建筑物布局的機(jī)器人，或者了解在各種處境下如何做出反應(yīng)。在所有這些情況下，我們可以問(wèn) AI 系統(tǒng)是否可以驗(yàn)證自己的知識(shí)，或者是否需要人們干預(yù)來(lái)檢測(cè)誤差和不可預(yù)見的交互，并進(jìn)行糾正。在后者這種情況下，我們永遠(yuǎn)無(wú)法建立真正龐大的知識(shí)系統(tǒng)。它們總是脆弱且不可靠的，并且規(guī)模僅限于人們可以監(jiān)控和了解的范疇。

沒想到，Rich Sutton 進(jìn)行了回帖，表示這篇寫了一半的博客是 The bitter lesson 的原型。

來(lái)源：https://twitter.com/RichardSSutton/status/1760104125625459171

其實(shí)，在 OpenAI 剛發(fā)布 Sora 不久，就有很多人意識(shí)到了 The bitter lesson 發(fā)揮了重要作用。

還有人將 The bitter lesson 與 Transformer 論文 Attention is All You Need 并列看待。

來(lái)源：https://twitter.com/karanganesan/status/1759782109399662777

文章最后，我們回顧一下 Rich Sutton 的《苦澀的教訓(xùn)》全文。

70 年的人工智能研究史告訴我們，利用計(jì)算能力的一般方法最終是最有效的方法。這個(gè)歸摩爾定律解釋，或者它對(duì)每單位計(jì)算成本持續(xù)指數(shù)級(jí)下降的概括。大部分 AI 研究都是在認(rèn)為智能體可用的計(jì)算為恒定的情況下進(jìn)行的（在這種情況下，利用人類知識(shí)是提高性能的唯一方法），但是，在比典型研究項(xiàng)目稍長(zhǎng)的時(shí)間尺度內(nèi)，我們不可避免地會(huì)需要大量的計(jì)算。

要在短期內(nèi)有所提升，研究人員要利用專門領(lǐng)域的人類知識(shí)。但如果想要長(zhǎng)期的獲得提升，利用計(jì)算能力才是王道。這兩者本無(wú)需對(duì)立，但實(shí)際上它們往往如此。花時(shí)間研究一個(gè)，就會(huì)忽略另一個(gè)。利用人類知識(shí)的方法容易復(fù)雜化，導(dǎo)致其不太適合利用計(jì)算的方法。很多例子表明 AI 研究人員對(duì)這些教訓(xùn)的認(rèn)識(shí)太晚，因此我們有必要回顧一些突出的例子。

在計(jì)算機(jī)國(guó)際象棋中，1997 年擊敗世界冠軍卡斯帕羅夫的方法基于大量深度搜索。當(dāng)時(shí)，大多數(shù) AI 計(jì)算機(jī)象棋研究人員沮喪地發(fā)現(xiàn)了這一點(diǎn)，他們的方法是利用人類對(duì)象棋特殊結(jié)構(gòu)的理解。當(dāng)這個(gè)利用硬件和軟件的基于搜索的更簡(jiǎn)單方法被證明更有效時(shí)，這些基于人類知識(shí)的象棋研究人員卻仍不肯認(rèn)輸。他們認(rèn)為雖然這個(gè)「暴力」搜索方法此次贏了，但它并不是一個(gè)普遍的策略，無(wú)論如何它不是人類下國(guó)際象棋的方法。這些研究人員希望基于人類輸入的方法獲勝，但結(jié)果卻令他們失望了。

計(jì)算機(jī)圍棋中也有類似的研究進(jìn)展模式，只是晚了 20 年。最初研究人員努力利用人類知識(shí)或游戲的特殊性來(lái)避免搜索，但所有的努力都被證明沒什么用，因?yàn)樗阉鞅淮笠?guī)模地有效應(yīng)用。同樣重要的是利用自我對(duì)弈（self play）來(lái)學(xué)習(xí)一種價(jià)值函數(shù)（就像在很多其他游戲甚至國(guó)際象棋中一樣，雖然在 1997 年首次擊敗世界冠軍的比賽中沒起到什么作用）。通過(guò)自我對(duì)弈學(xué)習(xí)和一般學(xué)習(xí)有點(diǎn)像搜索，因?yàn)樗茏尨罅康挠?jì)算發(fā)揮作用。搜索和學(xué)習(xí)是人工智能研究中利用大量計(jì)算的兩種最重要技術(shù)。在計(jì)算機(jī)圍棋中，就像計(jì)算機(jī)國(guó)際象棋中一樣，研究人員最初是想通過(guò)人類理解（這樣無(wú)需太多搜索）來(lái)實(shí)現(xiàn)目的，只是在后來(lái)，通過(guò)搜索和學(xué)習(xí)才取得了巨大成功。

在語(yǔ)音識(shí)別領(lǐng)域，早在上世紀(jì) 70 年代就有一個(gè)由 DARPA 贊助的競(jìng)賽。參賽者利用了很多利用人類知識(shí)的特殊方法：?jiǎn)卧~、因素和人類聲道等。另一方面，還有人利用了基于隱馬爾可夫模型的新方法，這些方法在本質(zhì)上更具統(tǒng)計(jì)性，計(jì)算量也更大。同樣，統(tǒng)計(jì)方法戰(zhàn)勝了基于人類知識(shí)的方法。這導(dǎo)致了自然語(yǔ)言處理領(lǐng)域的重大改變，過(guò)去幾十年來(lái)，統(tǒng)計(jì)和計(jì)算在該領(lǐng)域逐漸占據(jù)主導(dǎo)地位。深度學(xué)習(xí)最近在語(yǔ)音識(shí)別中的興起正是朝著這一方向邁出的最新一步。

深度學(xué)習(xí)方法更少依賴人類知識(shí)，使用更多的計(jì)算，并且伴有大量訓(xùn)練集的學(xué)習(xí)，從而生成更好的語(yǔ)音識(shí)別系統(tǒng)。就像在游戲中一樣，研究人員總是試圖令系統(tǒng)按照他們的思維方式進(jìn)行運(yùn)作 —— 他們?cè)噲D將知識(shí)放在系統(tǒng)中 —— 但事實(shí)證明，最終結(jié)果往往事與愿違，并且極大浪費(fèi)了研究人員的時(shí)間。但是通過(guò)摩爾定律，研究人員可以進(jìn)行大量計(jì)算，并且找到一種有效利用的方法。

計(jì)算機(jī)視覺領(lǐng)域存在相似的模式。早期方法認(rèn)為視覺是為了搜索邊緣、廣義圓柱體或者取決于 SIFT 特征。但是今天，所有這些方法都被拋棄了。現(xiàn)代深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)僅使用卷積和某些不變性的概念即可以取得更好的效果。

這是一個(gè)非常大的教訓(xùn)。因?yàn)槲覀冞€在犯同一類錯(cuò)誤，所以依然未能徹底了解人工智能領(lǐng)域。要看到這一點(diǎn)并且有效地避免重蹈覆轍，我們必須理解這些錯(cuò)誤為何會(huì)讓我們誤入歧途。我們必須吸取慘痛的教訓(xùn)，即從長(zhǎng)遠(yuǎn)看，固守我們的思維模式是行不通的。痛苦的教訓(xùn)基于以下歷史觀察結(jié)果：

1. AI 研究人員常常試圖在自身智能體中構(gòu)建知識(shí)，
2. 從短期看，這通常是有幫助的，能夠令研究人員滿意，
3. 但從長(zhǎng)遠(yuǎn)看，這會(huì)令研究人員停滯不前，甚至抑制進(jìn)一步發(fā)展，
4. 突破性進(jìn)展最終可能會(huì)通過(guò)一種相反的方法 —— 基于以大規(guī)模計(jì)算為基礎(chǔ)的搜索和學(xué)習(xí)。最后的成功往往帶有一絲苦澀，并且無(wú)法完全消化，因?yàn)檫@種成功不是通過(guò)一種令人喜歡、以人為中心的方法獲得的。

我們應(yīng)該從痛苦的教訓(xùn)中學(xué)到的一點(diǎn)：通用方法非常強(qiáng)大，這類方法會(huì)隨著算力的增加而繼續(xù)擴(kuò)展，即使可用計(jì)算變得非常大。搜索和學(xué)習(xí)似乎正是兩種以這種方式隨意擴(kuò)展的方法。

強(qiáng)化學(xué)習(xí)教父 Richard S. Sutton，現(xiàn)任加拿大阿爾伯塔大學(xué)教授。

我們從痛苦的教訓(xùn)中學(xué)到的第二個(gè)普遍觀點(diǎn)是，意識(shí)的實(shí)際內(nèi)容是極其復(fù)雜的；我們不應(yīng)該試圖通過(guò)簡(jiǎn)單方法來(lái)思考意識(shí)的內(nèi)容，如思考空間、物體、多智能體或者對(duì)稱性。所有這些都是任意的、本質(zhì)上復(fù)雜的外部世界的一部分。

它們不應(yīng)該被固有化，其原因是復(fù)雜性是無(wú)窮無(wú)盡的；相反，我們只應(yīng)該構(gòu)建可以找到并捕獲這種任意復(fù)雜性的元方法。這些方法的關(guān)鍵在于它們能夠找到很好的近似值，但對(duì)它們的搜索應(yīng)由我們的方法完成，而不是我們自己。

我們希望 AI 智能體可以像我們一樣發(fā)現(xiàn)新事物，而不是重新找到我們所發(fā)現(xiàn)的。在我們發(fā)現(xiàn)的基礎(chǔ)上構(gòu)建只能令人更加難以看清發(fā)現(xiàn)過(guò)程的完成情況。