去年，隨著許多CIO首次準備進行范圍3(Scope 3)報告，GenAI幾乎滲透到了每一個辦公室。有時它是通過正門進來的，但在大多數情況下，它是悄悄滲入的，因為知識工作者在編寫文檔和電子郵件時試驗了它，而不一定承認他們在這樣做。

在許多企業中，使用案例就此止步，但一些IT部門現在正在批準甚至鼓勵將GenAI用于編碼等用途，還有一些企業則希望他們的軟件供應商提供包含GenAI組件的升級。在更遠的范圍內，如瑞典金融科技公司Klarna，不僅在一系列內部項目中集成了GenAI，還在他們銷售的產品中集成了GenAI，并制定了包括AI使用指南在內的AI治理。

自從2022年11月ChatGPT發布以來，Klarna一直在大力使用AI，公司內部普遍認為GenAI可以幫助幾乎所有人變得更有效，無論他們的技能水平或角色是什么。“我們目前在公司內有大約一百個正在生產和開發中的項目，可能會使用GenAI，”Klarna的高級工程總監Martin Elwin說，“不僅僅是工程師在做這件事，財務、法律、市場營銷和其他所有部門的人都在使用。”

幾周前，Klarna宣布了一款AI助手，它幾乎不需要人工支持就能回答用戶問題，其軟件幫助消費者從最相關的商家找到他們想買的東西，并提供支付和售后支持。根據Klarna的通訊負責人Daniel Greaves的說法，這款新的GenAI助手一經推出就立即取得了成功。“在發布后的四周內，這款AI助手已經接管了我們三分之二的客戶服務聊天請求，相當于約700人的工作量。”他說。

然而，盡管這些和其他AI的應用聽起來很有益，但也引起了關注。Rackspace Technology的AI、技術和可持續發展總裁Srini Koushik說：“表面上看，現階段AI和可持續性是相對立的方向。”他說：“AI消耗了大量的電力，無論是訓練大型語言模型還是運行推理，而這只是開始，功耗正以指數級增長。”

盡管如此，Koushik和許多其他技術專家認為，AI的好處遠遠超過其不斷增長的碳足跡，這可能不是其他耗能應用(如加密貨幣)的情況。AI有望幫助研究人員發現更高效的能源，如核聚變，優化當前能源的利用，通過增強電力分配，以及通過分析氣候模式來測量CO2排放的影響。Koushik說：“AI將在許多方面造福人類。從我自己的企業角度來看，如果AI的一個好處是讓我不需要派人從紐約飛往倫敦，那我就已經抵消了能耗。”

不論AI是否能在長期內實現其承諾，CIO們現在需要在其范圍3(Scope 3)報告中包含AI的影響，而這很快就變得復雜起來。例如，如果你使用了別人訓練的模型進行推理，你應該報告你分擔的CO2影響。供應商可能能告訴你訓練的總體成本，但沒有人知道如何在模型的生命周期內將成本分配給所有用戶。

“這一切目前還不明確，因為范圍3報告是新的，GenAI也是新的，”瑞士全球運輸和物流公司Kuehne+Nagel的首席數字官兼高級副總裁Niklas Sundberg說。Sundberg對范圍3報告了解頗多，并在他的書《技術領導者的可持續IT手冊》中涵蓋了這一主題。

盡管存在種種不明確之處，IT領導者們仍在推進AI的應用。在此過程中，有些人發現了三種可以減輕AI對自身可持續發展項目影響的方法，他們分享了這些方法。

1. 使用大型供應商優化利用率

“Klarna已經是AI的高級用戶，我們建議使用共享的按需AI推理環境的供應商來進行AI推理，”Elwin說道。這是合理的，因為使用公共云服務的人越多，利用率就越高。運行耗電的AI應用程序的資源利用率提高，可以對企業的總體碳足跡產生積極影響。

CIO們可以更進一步，向供應商詢問一系列問題，首先是他們如何訓練模型以及如何進行推理。Verne公司(總部位于英國，提供企業和超大規模數據中心解決方案)的CTO Tate Cantrell建議：“如果你只購買推理服務，問問他們如何解釋所有上游影響。推理輸出只需要一瞬間，但神經網絡內的權重之所以是現在這個樣子，是因為大量的訓練——可能需要一到兩個月，耗電量在100到400兆瓦之間——才使得基礎設施達到現在的水平，所以你應該為這些訓練付多少錢?”

Cantrell敦促CIO們詢問供應商關于他們自身報告的問題：“他們是否公開報告了他們服務對可持續性產生的全部上游影響?訓練過程持續了多長時間，有效期是多久，這些權重影響了多少客戶?”

根據Sundberg的說法，理想的解決方案是讓AI模型告訴你它的碳足跡。“你應該能夠問Copilot或ChatGPT你上次查詢的碳足跡是多少，”他說，“據我所知，目前沒有任何工具能回答這個問題。”

2. 使用最合適的模型解決每個問題

當Klarna構建他們的AI助手時，他們沒有使用一個AI模型完成所有任務。相反，他們評估了服務的每一步，看看每個部分真正需要什么。“我們力求資源效率，”Elwin說，“我們確保使用盡可能小的模型，提供完成給定步驟所需的能力。”

Klarna通過發布指南來推廣這種思維方式，確保團隊在構建其他解決方案時也這樣考慮。一個步驟可能需要一個全面的模型，如GPT-4，而服務的另一個部分則可以使用較輕的模型，如GPT-3.5 Turbo。

較小的模型在訓練階段和推理階段都需要較少的電力。最終，企業將不得不測量能耗——這可能是基于每個查詢的基礎，小模型在這方面表現更好。“在保險環境中進行索賠裁定時，你不需要GPT-4，”Koushik說，“你需要的是一個較小的、在更具體領域數據上訓練的模型，它在回答你領域內的問題時比使用GPT-4更準確。”

盡管大型公司已經在機器學習領域工作了一段時間，它們的模型并不像更大的開源模型那樣復雜，Sundberg說。“但它們在解決非常具體的企業問題方面做得更好，比如定價和預測客戶流失。”

3. 優先考慮你的使用案例

CIO可以對使用案例進行平衡評估并優先考慮它們。“大多數人不需要Copilot，”Koushik說，“寫更好的郵件的好處并不足以證明訂閱成本和二氧化碳排放的合理性。另一方面，我們的法律部門確實從Copilot中受益，這些收益抵消了成本，因此我們向他們推廣了該工具。”

優先考慮使用案例意味著IT領導者將不得不告訴一些用戶，AI并不是解決他們問題的適當解決方案。避免引起不滿的最佳方法是及早制定明確的指導方針。首先找出測量AI工具碳足跡的方法，然后將其與每個使用案例的潛在收益進行比較。Sundberg說：“對CIO來說，了解某個應用程序的二氧化碳排放量非常重要。”這使他們能夠權衡成本和收益。如果你無法自己找到碳足跡，試著問你的軟件供應商。”

但這使事情變得更加具有挑戰性，因為供應商并不總是會說出他們知道的東西。“盡管GenAI可以釋放許多可持續性機會，但也有一個沒有被討論的陰暗面——當然不是由供應商討論的，”Sundberg說，“他們太專注于在他們的領域中實現頂級供應商地位的競爭。”