人工智能(AI)技術(shù)的環(huán)境影響，近期引發(fā)了人們的普遍關(guān)注——我堅信，這也將成為AI在未來十年內(nèi)的一大核心難題。這場對話始于艾倫AI研究所的最新研究，他們主張優(yōu)先考慮“綠色AI”的實現(xiàn)通道，即更多關(guān)注AI系統(tǒng)的能源效率。

[[316738]]

這項研究的動機(jī)在于，艾倫研究所發(fā)現(xiàn)目前AI領(lǐng)域的各類重大進(jìn)步背后，都有驚人的碳排放量作為支撐。OpenAI發(fā)表于2018年的博文指出，自2012年以來，全球超大規(guī)模AI訓(xùn)練所帶來的計算量增長了30萬倍。盡管該文沒有計算模型訓(xùn)練帶來的碳排放，但有人敏銳發(fā)現(xiàn)了問題核心并給出答案。根據(jù)Emma Strubel及其同事發(fā)表的論文，美國人平均每年排放二氧化碳約3萬6千噸。與之對應(yīng)，訓(xùn)練并開發(fā)一套運用神經(jīng)結(jié)構(gòu)搜索技術(shù)的機(jī)器翻譯模型，總計將產(chǎn)生62萬6千噸二氧化碳。

遺憾的是，從環(huán)境角度來看，這些所謂“紅色AI”項目造成的實際后果可能比報告上的更加糟糕。實際上，AI項目的時間、能源以及資金總成本通常要比帶來最終成果的階段性成本高出一個數(shù)量級。

現(xiàn)實情況在于，紅色AI項目還存在重要度、大量集中的趨勢(例如開發(fā)新型對象檢測模型以改善復(fù)雜環(huán)境中的自主導(dǎo)航能力，或者從大量非結(jié)構(gòu)化Web數(shù)據(jù)中學(xué)習(xí)富文本表示等)，這意味著只有大型科技企業(yè)以及一部分學(xué)術(shù)機(jī)構(gòu)才有能力掌握如此龐大的計算資源。換言之，超大的數(shù)據(jù)規(guī)模與高昂的計算成本，將導(dǎo)致小體量玩家完全插不上手。

那么，我們該如何推動綠色AI的發(fā)展?或者說，我們應(yīng)不應(yīng)該不惜代價優(yōu)先推動綠色AI項目?

紅色AI不一定是壞事

當(dāng)今，大部分所謂“紅色AI”項目，都將目標(biāo)定在推動自然語言處理、計算機(jī)視覺以及其他重要AI領(lǐng)域的科學(xué)發(fā)展層面。雖然這類項目的碳成本確實可觀，但對社會產(chǎn)生的積極影響同樣值得期待。

例如，人類基因組計劃(HGP)花費27億美元，耗時長達(dá)13年，繪制出完整的人類基因組圖。業(yè)界曾有觀點，認(rèn)為人類基因組計劃太過復(fù)雜、成本高昂而且缺少短時間內(nèi)帶來科學(xué)突破的潛力。但如今，我們完全能夠利用測序技術(shù)在數(shù)小時內(nèi)繪制出特定個體的基因組圖，成本約為100美元。而這項技術(shù)的存在，正是以人類基因組計劃的主要成果(參考基因組)為前提。盡管當(dāng)初的計劃效率低下，但仍為未來可能全面實現(xiàn)的個性化醫(yī)療鋪平了道路。

同樣，衡量紅色AI項目的成本與成果也至關(guān)重要。紅色AI實驗帶來的大量產(chǎn)出(例如，用于對象識別的圖像表示，以及自然語言處理中的單詞嵌入)也有望在更廣泛的應(yīng)用中發(fā)揮巨大的推動作用。

通往綠色AI的道路

但無論具有怎樣的潛在科學(xué)回報，紅色AI項目都注定存在不可持續(xù)性，由此帶來的環(huán)境問題終將抹殺一切。仍然以之前提到的項目為例，人類基因組計劃雖然成功完成了人類基因測序工作，但只有成本更低的新型DNA預(yù)測技術(shù)才有可能使其真正得到推廣。換言之，AI社區(qū)必須在構(gòu)建深度學(xué)習(xí)模型時，充分考慮到徹底能耗的必要性。

下面我分享一點個人拙見，聊聊推動行業(yè)轉(zhuǎn)向綠色AI的幾個可行步驟：

強(qiáng)調(diào)可重復(fù)性：可重復(fù)性與中間成果的共享，對于提升AI開發(fā)效率至關(guān)重要。AI研究成果通常不會公開代碼，否則其他研究人員會發(fā)現(xiàn)自己即使掌握同樣的代碼也無法完成結(jié)果重現(xiàn)。此外，研究人員在開源工作中可能面臨種種內(nèi)部障礙。正是這些因素，導(dǎo)致如今人工智能領(lǐng)域的發(fā)展仍然以紅色AI項目為主導(dǎo)——這類項目能夠用“暴力”解決可重復(fù)性問題，同時阻止一切有效共享。但情況正在緩慢變化，NeruIPS等主影響力會議已經(jīng)在要求參會者提交可重復(fù)的代碼與研究論文。

提高硬件性能：最近幾年，專用型硬件迎來了一大波迅猛發(fā)展，它們不僅在深度學(xué)習(xí)任務(wù)當(dāng)中帶來更佳的性能水平，同時也顯著增強(qiáng)了能源效率(即每瓦性能產(chǎn)出)。AI社區(qū)對于GPU的旺盛需求，促使谷歌公司開發(fā)出TPU，并將其推向芯片市場幫助用戶打造屬于自己的專用方案。在接下來的幾年內(nèi)，相信英偉達(dá)、英特爾、SambaNova、Mythic、Graphcore以及Cerebras等廠商都將把硬件設(shè)計目標(biāo)集中在AI類工作負(fù)載層面。

理解深度學(xué)習(xí)：我們都知道深度學(xué)習(xí)技術(shù)行之有效，但這項已經(jīng)擁有數(shù)十發(fā)展歷史的技術(shù)之上，仍然籠罩著層層迷霧。目前的研究團(tuán)體并不完全理解深度學(xué)習(xí)為何有效以及如何起效。揭開深度學(xué)習(xí)背后的基礎(chǔ)科學(xué)，并對其優(yōu)勢及局限性做出正確表征，無疑有助于幫助從業(yè)者開發(fā)出更加準(zhǔn)確高效的模型方案。

深度學(xué)習(xí)民主化：將深度學(xué)習(xí)的準(zhǔn)確度極限推向新的高度當(dāng)然令人興奮，但俗話常說，“完美是優(yōu)秀的天敵。”現(xiàn)有模型在廣泛對接應(yīng)用場景時已經(jīng)擁有充足的準(zhǔn)確度，而且?guī)缀醺鱾€行業(yè)及科學(xué)領(lǐng)域都可以從深度學(xué)習(xí)工具中受益。如果各個領(lǐng)域的人們都能接觸到這項技術(shù)，我們絕對能夠在性能與能效等層面迎來無數(shù)令人驚訝的創(chuàng)新。

加強(qiáng)合作：世界上大多數(shù)企業(yè)都沒有構(gòu)建AI技術(shù)體系的能力，但這些企業(yè)的領(lǐng)導(dǎo)者已經(jīng)意識到，他們有必要將AI乃至深度學(xué)習(xí)技術(shù)介入未來的產(chǎn)品與服務(wù)當(dāng)中。企業(yè)應(yīng)當(dāng)積極與初創(chuàng)公司、孵化器項目以及高校建立合作伙伴關(guān)系，避免單槍匹馬面對AI發(fā)展戰(zhàn)略這一強(qiáng)敵。

雖然今天我們經(jīng)常能在硅谷的大街上看到跑來跑去的無人駕駛汽車，并心生一種技術(shù)高峰已然到來的錯覺——但請醒醒，我們的AI探索之旅才剛剛邁出第一步。

在航空領(lǐng)域，二十世紀(jì)初的飛行“先鋒時代”表現(xiàn)出重要項目分布于世界各地，但整體進(jìn)展非常緩慢的特征。而到五十年后的飛行“噴氣時代”，航空業(yè)經(jīng)歷了新的持續(xù)發(fā)展新周期——飛機(jī)變得更大、更安全、更快也更省油。為什么?因為工程學(xué)(例如渦輪發(fā)動機(jī))與社會結(jié)構(gòu)(例如監(jiān)管機(jī)構(gòu))的根本性進(jìn)步，為飛行的民主化進(jìn)步帶來了必要的實現(xiàn)前提與推廣基礎(chǔ)。