嘉賓丨楊龔軼凡、蔡哲文

撰稿丨張潔

出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）

OpenAI 前首席科學(xué)家伊利亞曾公開(kāi)表示：“GPU 就是新時(shí)代的比特幣。”

大模型一朝起飛，算力需求激增。作為AI淘金熱里“賣鏟子的人”，英偉達(dá)也因此成為了這輪技術(shù)變革里的最大贏家。隨著AI軍備競(jìng)賽的升級(jí)，即使GPU價(jià)格一路看漲，市面上也常常“一卡難求”。

一方面，GPU產(chǎn)能吃緊，實(shí)在無(wú)法跟上需求；另一方面，若是算力供給受制于人，那就等于將領(lǐng)先窗口期拱手讓人。在這一背景下，眾多廠商要么自研芯片，要么尋找替代方案，在GPU之外尋找新的算力解決之道。

那么，面對(duì)“一卡難求”的困境，到底如何破局？蘋果放棄GPU選擇TPU的背后有何玄機(jī)？國(guó)產(chǎn)芯片創(chuàng)業(yè)企業(yè)如何在巨頭壟斷的賽道上實(shí)現(xiàn)突圍？

本期“AIGC實(shí)戰(zhàn)派”邀請(qǐng)中昊芯英創(chuàng)始人&CEO楊龔軼凡，以及賽智伯樂(lè)投資合伙人蔡哲文就上述議題進(jìn)行了探討。

1.GPU不會(huì)是整個(gè)AI大模型的終點(diǎn)

放眼當(dāng)前的AI芯片市場(chǎng)，英偉達(dá)可以說(shuō)一枝獨(dú)秀。而英偉達(dá)之所以能占據(jù)如今的生態(tài)位，在蔡哲文看來(lái)，可以說(shuō)“三分天注定，七分靠打拼”。

他談到，英偉達(dá)的成功首先得益于它抓住了AI技術(shù)發(fā)展的大趨勢(shì)。正所謂“時(shí)勢(shì)造英雄”，隨著大模型崛起，生成式AI遍地開(kāi)花，算力需求激增，恰好市場(chǎng)上又缺乏專門針對(duì)這一領(lǐng)域的芯片，英偉達(dá)的GPU成為了一個(gè)自然的、合適的選擇，從而占據(jù)了市場(chǎng)的先機(jī)。

更重要的是，英偉達(dá)在發(fā)展過(guò)程中堅(jiān)持不懈地做出了種種努力。“在2006年左右，英偉達(dá)推出了CUDA系統(tǒng)，最初其實(shí)面臨非常大的內(nèi)部阻力，畢竟它不是一個(gè)能賺錢的東西，但最終英偉達(dá)堅(jiān)持了下來(lái)，堅(jiān)持推廣這一系統(tǒng)，讓大家接受并認(rèn)可以此為中心構(gòu)建的生態(tài)，從而自然而然地去用它的芯片。”最終英偉達(dá)成功地培養(yǎng)了用戶習(xí)慣，建立了品牌忠誠(chéng)度，也為它的產(chǎn)品創(chuàng)造了持續(xù)的需求。

那么英偉達(dá)是否會(huì)繼續(xù)這樣一騎絕塵下去呢？未必。

“從產(chǎn)品和技術(shù)角度上來(lái)說(shuō)，我們不認(rèn)為英偉達(dá)的GPU會(huì)是整個(gè)AI大模型的終點(diǎn)。”楊龔軼凡給出了這樣的判斷。

這位在人生的關(guān)鍵節(jié)點(diǎn)選擇了回國(guó)創(chuàng)業(yè)的年輕創(chuàng)始人直接指出：“因?yàn)檫@個(gè)市場(chǎng)過(guò)于大了，所以會(huì)讓大家對(duì)市場(chǎng)上的很多現(xiàn)象產(chǎn)生‘誤解’。為什么如今英偉達(dá)GPU可以形成‘壟斷’？因?yàn)檫€沒(méi)有專業(yè)的芯片出來(lái)，專業(yè)芯片還在設(shè)計(jì)、量產(chǎn)的路上，但此時(shí)整個(gè)行業(yè)應(yīng)用爆發(fā)了。”

人類歷史上，半導(dǎo)體的整個(gè)發(fā)展歷程總是以十年為一個(gè)周期發(fā)生重大變革。每一次變革都是因?yàn)楝F(xiàn)有應(yīng)用的需求超過(guò)了現(xiàn)有工具的能力，當(dāng)這個(gè)臨界點(diǎn)到來(lái)，自然會(huì)催生新的技術(shù)和產(chǎn)品。

楊龔軼凡表示：當(dāng)前AI的爆發(fā)正處于這樣一個(gè)節(jié)點(diǎn)，雖然初期各種應(yīng)用可以利用現(xiàn)有芯片滿足需求，但隨著應(yīng)用的深化和市場(chǎng)擴(kuò)展，專業(yè)AI芯片的出現(xiàn)將不可避免地改變市場(chǎng)格局。

“（未來(lái)）GPU可能只占據(jù)10%到20%的市場(chǎng)，剩下80%的市場(chǎng)都是由新型的AI芯片去占據(jù)。我們希望TPU會(huì)成為80%的市場(chǎng)份額里面的主力軍。這是我們的愿景，也是我們?yōu)槭裁丛趪?guó)內(nèi)成立中昊芯英的原因。”

2.挑戰(zhàn)英偉達(dá)：尋找破局的可能

當(dāng)然也有人說(shuō)，英偉達(dá)的顯卡未必是最適合的AI訓(xùn)練工具，但它的CUDA生態(tài)，全球僅此一家。

由于CUDA的普及，大量的開(kāi)發(fā)者和研究人員開(kāi)始基于CUDA開(kāi)發(fā)應(yīng)用，形成了龐大的用戶基礎(chǔ)和應(yīng)用生態(tài)。這種廣泛的應(yīng)用基礎(chǔ)為英偉達(dá)GPU創(chuàng)造了強(qiáng)大的生態(tài)壁壘，使得其他競(jìng)爭(zhēng)對(duì)手難以企及。但是隨著技術(shù)的發(fā)展和市場(chǎng)需求的變化，CUDA的局限性也逐漸暴露，一些初創(chuàng)公司和團(tuán)隊(duì)正在嘗試擺脫CUDA，尋求開(kāi)發(fā)更高效、更適應(yīng)特定需求的解決方案。

楊龔軼凡認(rèn)為，任何行業(yè)包括人工智能行業(yè)在內(nèi)，一般都可以分成兩個(gè)階段：在研發(fā)階段，迭代速度是關(guān)鍵，因此開(kāi)發(fā)者傾向于使用更熟悉的工具，這些工具的性價(jià)比是否是最優(yōu)的反而不是主要考量因素；在產(chǎn)品化和商業(yè)運(yùn)營(yíng)階段，尤其是大規(guī)模部署往往導(dǎo)致成本的敏感性增加，此時(shí)性價(jià)比往往會(huì)成為關(guān)鍵要素。這也是為什么 CUDA 生態(tài)雖然成熟，但到了產(chǎn)業(yè)化階段，就會(huì)顯現(xiàn)出其在性價(jià)比方面的劣勢(shì)。

“因?yàn)樗型ㄓ玫臇|西，它都是以損失絕對(duì)性能作為代價(jià)的。”楊龔軼凡強(qiáng)調(diào)，CUDA作為一個(gè)通用的軟件棧，雖然提供了廣泛的支持，但這種通用性是以犧牲一定性能為代價(jià)的。在特定應(yīng)用場(chǎng)景下，這種性能損耗可能導(dǎo)致性價(jià)比不高，進(jìn)而促使行業(yè)去尋求更定制化、更優(yōu)化的軟件棧。

另外值得關(guān)注的一點(diǎn)是，英偉達(dá)不僅是GPU制造商，也是大模型的重要構(gòu)建者。遺憾的是，盡管英偉達(dá)在大模型領(lǐng)域投入巨大，但其GPU架構(gòu)和CUDA軟件棧可能無(wú)法滿足未來(lái)技術(shù)演進(jìn)對(duì)計(jì)算性能、成本效益和網(wǎng)絡(luò)互聯(lián)的更高要求。

楊龔軼凡指出，對(duì)于一個(gè)科技公司尤其是芯片公司而言，“它沒(méi)有任何可能性更改自己的核心構(gòu)架，完全去革自己的命”。因?yàn)檫@涉及到從零開(kāi)始重新設(shè)計(jì)和開(kāi)發(fā)，這是一個(gè)漫長(zhǎng)且復(fù)雜的過(guò)程，相應(yīng)的，建構(gòu)在此之上的軟件棧同樣也要從頭開(kāi)始。換言之，無(wú)論是芯片還是軟件棧，后續(xù)迭代都是基于前一代產(chǎn)品的實(shí)驗(yàn)結(jié)果和真實(shí)場(chǎng)景。

某種程度上，“GPU最大的優(yōu)勢(shì)可能就是CUDA，但它的最大的劣勢(shì)也是CUDA”。

“因?yàn)镃UDA軟件棧限制了它。如果將來(lái)我決定不再使用GPU，轉(zhuǎn)而采用TPU、LPU等其他更適合執(zhí)行深度學(xué)習(xí)任務(wù)的硬件架構(gòu)，這種慣性依賴就會(huì)變成它的限制條件。盡管GPU可以通過(guò)優(yōu)化提高性能，但它存在一個(gè)理論上的天花板。相比之下，專門為AI設(shè)計(jì)的芯片如TPU，其性能上限可能遠(yuǎn)高于GPU。隨著大模型的應(yīng)用落地規(guī)模化產(chǎn)業(yè)化，更有效的AI芯片如TPU可能就會(huì)迎來(lái)爆發(fā)，因?yàn)樗鼈兡芴峁└叩男阅芎透偷某杀尽！?/p>

蔡哲文對(duì)此也表達(dá)了認(rèn)同。在他看來(lái)，終有一天 GPU也會(huì)變得不那么合時(shí)宜，正如當(dāng)年GPU取代了CPU在圖形處理方面的功能一樣，現(xiàn)在出現(xiàn)了專門為AI設(shè)計(jì)的芯片，這些專用芯片在處理AI任務(wù)時(shí)比GPU更加高效。只要未來(lái)整個(gè) AI 應(yīng)用的場(chǎng)景持續(xù)不斷迭代，整個(gè)市場(chǎng)變得足夠大，專用芯片逐漸取代GPU在AI領(lǐng)域的主導(dǎo)地位也是一個(gè)必然的趨勢(shì)。

此外，蔡哲文還提到一點(diǎn)：GPU雖然在并行處理方面表現(xiàn)出色，但其能耗相對(duì)較高。隨著對(duì)能效比要求的提升，高能耗可能會(huì)成為GPU在AI領(lǐng)域的一個(gè)劣勢(shì)，尤其是在大規(guī)模計(jì)算任務(wù)中。不同地區(qū)在電力供應(yīng)和新能源技術(shù)方面的差異可能會(huì)影響AI硬件的選擇。如果GPU的高能耗成為限制因素，而專用AI芯片能提供更低的能耗和更高的性能，它們可能會(huì)成為更受歡迎的選擇。

3.TPU 啟示錄：谷歌往事 & 蘋果的選擇

隨著歷史的車輪滾滾向前，GPU 可能不再有今日的地位，但是當(dāng)下GPU 依舊主導(dǎo)了當(dāng)前這個(gè) AI 時(shí)代的硬件供應(yīng)，而就在這樣強(qiáng)勢(shì)的包圍下，谷歌 TPU 依舊穿越了重重考驗(yàn)，在時(shí)間的歷練中成長(zhǎng)為一個(gè)真正富有競(jìng)爭(zhēng)力的對(duì)手。

2016年5月，谷歌在I/O大會(huì)上首次公布了TPU，并且稱這款芯片已經(jīng)在谷歌數(shù)據(jù)中心使用了一年之久，李世石大戰(zhàn) AlphaGo 時(shí)，谷歌直接將 TPU 稱之為 AlphaGo 擊敗李世石的“秘密武器”。那么在已有 GPU 的前提下，谷歌為何執(zhí)意要開(kāi)發(fā)TPU呢？

楊龔軼凡提到，谷歌開(kāi)發(fā)TPU的過(guò)程實(shí)際是一個(gè)“無(wú)心插柳柳成蔭”的故事。TPU的產(chǎn)生并非谷歌高層直接規(guī)劃的結(jié)果，而是內(nèi)部團(tuán)隊(duì)自發(fā)探索、逐步驗(yàn)證、進(jìn)而抓住時(shí)代契機(jī)實(shí)現(xiàn)商業(yè)化的過(guò)程。

最初，它誕生于一個(gè)內(nèi)部創(chuàng)業(yè)項(xiàng)目。因?yàn)楣雀鑳?nèi)部的創(chuàng)業(yè)環(huán)境允許團(tuán)隊(duì)進(jìn)行自主探索和創(chuàng)新，TPU正是這種機(jī)制下的產(chǎn)物。不過(guò)鑒于軟件項(xiàng)目的增長(zhǎng)潛力、變現(xiàn)速度遠(yuǎn)大于硬件，所以 TPU 本身價(jià)值是不符合創(chuàng)始人愿景的，它需要驗(yàn)證其在特定領(lǐng)域的發(fā)展?jié)摿Α?/p>

于是， TPU 流轉(zhuǎn)于谷歌內(nèi)部不同部門之間，在不同的應(yīng)用場(chǎng)景下接受考驗(yàn)。幸運(yùn)的是，通過(guò)不斷地試用和迭代，TPU逐漸展現(xiàn)出其在模型訓(xùn)練和推理中的效率和成本優(yōu)勢(shì)。特別是在谷歌廣告部門使用后，推薦系統(tǒng)的精準(zhǔn)度有所提升，這直接關(guān)聯(lián)到營(yíng)收增長(zhǎng)，證明了TPU的商業(yè)價(jià)值。

這也為谷歌繼續(xù)投入資源進(jìn)行TPU的研發(fā)和迭代提供了動(dòng)力。最終，隨著AI技術(shù)的發(fā)展和大模型的崛起，TPU成為了谷歌在AI領(lǐng)域的一個(gè)重要競(jìng)爭(zhēng)力。

不過(guò)在很長(zhǎng)一段時(shí)間內(nèi)，TPU 還是在 GPU 的暗影下低調(diào)發(fā)展。直到最近，蘋果公布Apple Intelligence的細(xì)節(jié)，才再次讓 TPU 走到臺(tái)前，接受聚光燈的洗禮。根據(jù)相關(guān)論文的披露，蘋果并沒(méi)有采用常見(jiàn)的英偉達(dá) H100 等 GPU，而是選了谷歌的 TPU，訓(xùn)練 Apple Intelligence 的基礎(chǔ)模型，一時(shí)引起了諸多討論。

對(duì)此，楊龔軼凡表示，起初TPU是谷歌自家使用的技術(shù)，并未開(kāi)放供外部使用，但其開(kāi)源文化昭示著它終會(huì)將TPU集群作為云服務(wù)的一部分對(duì)外開(kāi)放，以推動(dòng)整個(gè)行業(yè)的發(fā)展。而蘋果是除了谷歌之外第一個(gè)使用 TPU 進(jìn)行大模型訓(xùn)練的大型玩家。

“從技術(shù)角度來(lái)說(shuō)的話，它主要的商業(yè)驅(qū)動(dòng)力還是性價(jià)比。”楊龔軼凡介紹，TPU在相同制程、工藝和能耗條件下，由于其架構(gòu)的特殊性，在深度學(xué)習(xí)和大模型領(lǐng)域具有更高的芯片利用率，通常可以實(shí)現(xiàn)3到5倍的性能提升，且在相同算力下成本可降低50%。而在商業(yè)化應(yīng)用中，成本節(jié)約變得至關(guān)重要，這時(shí)TPU的高性價(jià)比就成為了關(guān)鍵優(yōu)勢(shì)。因此隨著行業(yè)發(fā)展，像TPU這樣的專用芯片很可能會(huì)成為主流算力平臺(tái)。

蔡哲文則從行業(yè)角度對(duì)蘋果的這一選擇進(jìn)行了分析。在他看來(lái)蘋果轉(zhuǎn)向TPU主要有四個(gè)原因：

一是市場(chǎng)驅(qū)動(dòng)，隨著人工智能的發(fā)展，市場(chǎng)需要性價(jià)比更高且易于復(fù)制的技術(shù)；二是技術(shù)演進(jìn)，最初人工智能缺乏專用芯片，GPU作為一種權(quán)宜之計(jì)被廣泛應(yīng)用。但現(xiàn)在隨著需求激增，需要更具成本效益的芯片。三是市場(chǎng)競(jìng)爭(zhēng)規(guī)律，英偉達(dá)目前占據(jù)主導(dǎo)地位，但這也激發(fā)了競(jìng)爭(zhēng)對(duì)手開(kāi)發(fā)針對(duì)AI優(yōu)化的新芯片來(lái)挑戰(zhàn)其地位。尤其對(duì)于中小型新興企業(yè)而言，涉足TPU領(lǐng)域是個(gè)好機(jī)會(huì)；四是天然匹配度，TPU源自谷歌，在與谷歌的大模型框架的兼容性和商業(yè)匹配上具有天然優(yōu)勢(shì)。總體來(lái)說(shuō)，蘋果的選擇既是偶然也是必然。

本文轉(zhuǎn)載自??51CTO技術(shù)棧??，作者： 張潔