AI行業(yè)買英偉達(dá)GPU，花的錢比賺的多17倍

作者：機(jī)器之心 2024-04-01 12:51:55

最近《華爾街日?qǐng)?bào)》一篇有關(guān)明星創(chuàng)業(yè)公司的報(bào)道里給出了答案：投入是產(chǎn)出的 17 倍。

搞 AI 大模型，實(shí)在太燒錢了。

我們知道，如今的生成式 AI 有很大一部分是資本游戲，科技巨頭利用自身強(qiáng)大的算力和數(shù)據(jù)占據(jù)領(lǐng)先位置，并正在使用先進(jìn) GPU 的并行算力將其推廣落地。這么做的代價(jià)是什么？

最近《華爾街日?qǐng)?bào)》一篇有關(guān)明星創(chuàng)業(yè)公司的報(bào)道里給出了答案：投入是產(chǎn)出的 17 倍。

上個(gè)周末，機(jī)器學(xué)習(xí)社區(qū)圍繞這個(gè)數(shù)字熱烈地討論了起來(lái)。

明星創(chuàng)業(yè)公司，幾周估值翻倍：但沒(méi)有收入

由知名投資人 Peter Thiel 支持的 AI 初創(chuàng)公司 Cognition Labs 正在尋求 20 億美元估值，新一輪融資在幾周之內(nèi)就將該公司的估值提高了近六倍。

在如今火熱的生成式 AI 領(lǐng)域里，Cognition 是一家冉冉升起的新星。如果你對(duì)它還不太熟悉，這里有它的兩個(gè)關(guān)鍵詞：國(guó)際奧賽金牌團(tuán)隊(duì)，全球首位 AI 程序員。

Cognition 由 Scott Wu 聯(lián)合創(chuàng)立，其團(tuán)隊(duì)組成吸引眼球，目前只有 10 個(gè)人，但包含許多國(guó)際信息學(xué)奧林匹克競(jìng)賽的金牌選手。

Cognition Labs 的團(tuán)隊(duì)，CEO Scott Wu（后排身穿襯衣）只有 27 歲。

該公司在今年 3 月推出了 AI 代碼工具 Devin，號(hào)稱「第一位接近人類的 AI 程序員」，能夠自主完成復(fù)雜的編碼任務(wù)，例如創(chuàng)建自定義的網(wǎng)站。從開(kāi)發(fā)到部署，再到 debug，只需要人類用自然語(yǔ)言給需求，AI 就能辦到。

該新聞很快就登上了眾多媒體的頭條，也成為了熱搜：

一些投資者表示，Devin 代表了人工智能的重大飛躍，并可能預(yù)示著軟件開(kāi)發(fā)的大規(guī)模自動(dòng)化之路已經(jīng)開(kāi)啟。

Cognition 雖然神奇，但它并不是個(gè)獨(dú)苗。最近一段時(shí)間，生成式 AI 展現(xiàn)了超乎想像的吸金能力。去年 12 月，總部在法國(guó)的 Mistral 獲得了 4.15 億美元融資，估值達(dá)到 20 億美元，比前一年夏天的一輪融資增長(zhǎng)了大約七倍。

3 月初，旨在挑戰(zhàn)谷歌網(wǎng)絡(luò)搜索主導(dǎo)地位的 AI 初創(chuàng)公司 Perplexity 也傳來(lái)新一輪融資的消息，新估值有望達(dá)到近 10 億美元。

而在這其中，作為一家旨在提供 AI 自動(dòng)代碼工具的創(chuàng)業(yè)公司，Cognition 去年才開(kāi)始研發(fā)產(chǎn)品，目前并沒(méi)有獲得有意義的收入數(shù)字。今年初，在 Founders Fund 牽頭的一輪 2100 萬(wàn)美元融資中，該公司的估值達(dá)到了 3.5 億美元。據(jù)介紹，美國(guó)著名創(chuàng)業(yè)投資家、創(chuàng)辦 Founders Fund 的 Peter Thiel 幫助領(lǐng)導(dǎo)了對(duì) Cognition 的投資。

Peter Thiel 是全球暢銷書《從 0 到 1：開(kāi)啟商業(yè)與未來(lái)的秘密》的作者，身家 71 億美元。

AI 編寫代碼看起來(lái)是一個(gè)有前途的大模型應(yīng)用方向，其他提供類似產(chǎn)品的公司也看到了增長(zhǎng)勢(shì)頭。上個(gè)季度，微軟的代碼工具 GitHub Copilot 用戶數(shù)量增長(zhǎng)了 30% 達(dá)到 130 萬(wàn)。Magic AI 是 Cognition 的競(jìng)爭(zhēng)對(duì)手，2 月份獲得了 1.17 億美元的投資。國(guó)內(nèi)也有一些代碼生成自動(dòng)化工具的初創(chuàng)企業(yè)，在生成式 AI 技術(shù)爆發(fā)后正在加速行業(yè)落地。

盡管出現(xiàn)了令人鼓舞的增長(zhǎng)跡象，新公司的估值也不斷膨脹，但這種快速發(fā)展也引發(fā)了人們對(duì)于出現(xiàn)泡沫的擔(dān)憂 —— 到目前為止，很少有初創(chuàng)公司能夠展示他們?nèi)绾钨嶅X，想要收回開(kāi)發(fā)生成式 AI 的高昂成本，似乎還沒(méi)有門道。

在 3 月的一次演講中，紅杉資本（Sequoia Capital）有投資人估計(jì) AI 行業(yè)去年為了訓(xùn)練大模型，僅在英偉達(dá)芯片上就花費(fèi)了 500 億美元，而換來(lái)的收入是 30 億美元。

所以說(shuō)，不算電費(fèi)，開(kāi)銷是收入的 17 倍。

怎么樣，今年還玩得起嗎？

出路在哪

如今生成式 AI 技術(shù)的爆發(fā)，可謂驗(yàn)證了強(qiáng)化學(xué)習(xí)先驅(qū) Richard S. Sutton 在《苦澀的教訓(xùn)》中的斷言，即利用算力才是王道。黃仁勛兩周前在 GTC 上也曾表示：「通用計(jì)算已經(jīng)失去動(dòng)力，現(xiàn)在我們需要更大的模型、更大的 GPU，需要將 GPU 堆疊在一起…… 這不是為了降低成本，而是為了擴(kuò)大規(guī)模。」

但是在千億、萬(wàn)億參數(shù)量的大模型出現(xiàn)之后，通過(guò)提升規(guī)模來(lái)提升智能的方法是否還可以持續(xù)，是一個(gè)無(wú)法回避的問(wèn)題。更何況現(xiàn)在的大模型已經(jīng)很貴了。

華爾街日?qǐng)?bào)的文章迅速引起大量討論。有網(wǎng)友認(rèn)為：「資本支出通常就是一次性的，而投資的收入?yún)s是日積月累的。生成式 AI 剛剛起步，其后續(xù)的經(jīng)濟(jì)收益可能是巨大的。」

但這種樂(lè)觀的觀點(diǎn)很快遭到反駁，另一位網(wǎng)友指出：「資本的支出的確是一次性的，但 GPU 會(huì)相對(duì)較快地貶值。」

為什么說(shuō) GPU 會(huì)快速貶值呢？雖然較老版本的 GPU 也不會(huì)停止支持 CUDA（英偉達(dá)推出的運(yùn)算平臺(tái)）等等，但與 H100 相比，V100 的能源消耗是巨大的浪費(fèi)。

畢竟同樣也是在 3 月份，英偉達(dá)已經(jīng)發(fā)布了全新一代 AI 加速的 GPU Blackwell 系列。

近八年來(lái)，AI 算力增長(zhǎng)了一千倍。

如果使用 V100 可以賺錢，那當(dāng)然沒(méi)問(wèn)題。然而，如諸多媒體報(bào)道所述，對(duì)大多數(shù)公司來(lái)說(shuō)，現(xiàn)階段運(yùn)行大模型并沒(méi)有轉(zhuǎn)化為實(shí)際收入。

另一方面，看看現(xiàn)在大模型每周都在推陳出新的狀態(tài)，即使幾年前的 GPU 在算力角度看可以接受，但大模型也在「快速折舊」。七年后的 AI，用現(xiàn)在的基礎(chǔ)設(shè)施能支撐嗎？

此外，如果一家公司花費(fèi)大量成本來(lái)購(gòu)買 V100，試圖跟上生成式模型的趨勢(shì)，那么可能就會(huì)出現(xiàn)研究團(tuán)隊(duì)雇傭成本不足的問(wèn)題，那么最終可能還是無(wú)法做出有實(shí)際應(yīng)用、經(jīng)濟(jì)收益的產(chǎn)品。

值得注意的是，許多 LLM 都需要額外的處理層來(lái)消除幻覺(jué)或解決其他問(wèn)題。這些額外的層顯著增加了生成式模型的計(jì)算成本。這不是 10% 的小幅增長(zhǎng)，而是計(jì)算量增長(zhǎng)了一個(gè)數(shù)量級(jí)。并且許多行業(yè)可能都需要這種改進(jìn)。

圖源：Reddit 用戶 @LessonStudio

從行業(yè)的角度講，運(yùn)行生成式大模型需要大型數(shù)據(jù)中心。英偉達(dá)已經(jīng)非常了解這個(gè)市場(chǎng)，并持續(xù)迭代更新 GPU。其他公司可能無(wú)法僅僅投資數(shù)百億美元來(lái)與之競(jìng)爭(zhēng)。而這些 GPU 需求還只是來(lái)自各大互聯(lián)網(wǎng)公司的，還有很多初創(chuàng)公司，例如 Groq、Extropic、MatX、Rain 等等。