去年，隨著許多CIO首次準(zhǔn)備進(jìn)行范圍3(Scope 3)報(bào)告，GenAI幾乎滲透到了每一個(gè)辦公室。有時(shí)它是通過正門進(jìn)來的，但在大多數(shù)情況下，它是悄悄滲入的，因?yàn)橹R(shí)工作者在編寫文檔和電子郵件時(shí)試驗(yàn)了它，而不一定承認(rèn)他們在這樣做。

在許多企業(yè)中，使用案例就此止步，但一些IT部門現(xiàn)在正在批準(zhǔn)甚至鼓勵(lì)將GenAI用于編碼等用途，還有一些企業(yè)則希望他們的軟件供應(yīng)商提供包含GenAI組件的升級。在更遠(yuǎn)的范圍內(nèi)，如瑞典金融科技公司Klarna，不僅在一系列內(nèi)部項(xiàng)目中集成了GenAI，還在他們銷售的產(chǎn)品中集成了GenAI，并制定了包括AI使用指南在內(nèi)的AI治理。

自從2022年11月ChatGPT發(fā)布以來，Klarna一直在大力使用AI，公司內(nèi)部普遍認(rèn)為GenAI可以幫助幾乎所有人變得更有效，無論他們的技能水平或角色是什么。“我們目前在公司內(nèi)有大約一百個(gè)正在生產(chǎn)和開發(fā)中的項(xiàng)目，可能會(huì)使用GenAI，”Klarna的高級工程總監(jiān)Martin Elwin說，“不僅僅是工程師在做這件事，財(cái)務(wù)、法律、市場營銷和其他所有部門的人都在使用?！?/p>

幾周前，Klarna宣布了一款A(yù)I助手，它幾乎不需要人工支持就能回答用戶問題，其軟件幫助消費(fèi)者從最相關(guān)的商家找到他們想買的東西，并提供支付和售后支持。根據(jù)Klarna的通訊負(fù)責(zé)人Daniel Greaves的說法，這款新的GenAI助手一經(jīng)推出就立即取得了成功?！霸诎l(fā)布后的四周內(nèi)，這款A(yù)I助手已經(jīng)接管了我們?nèi)种目蛻舴?wù)聊天請求，相當(dāng)于約700人的工作量。”他說。

然而，盡管這些和其他AI的應(yīng)用聽起來很有益，但也引起了關(guān)注。Rackspace Technology的AI、技術(shù)和可持續(xù)發(fā)展總裁Srini Koushik說：“表面上看，現(xiàn)階段AI和可持續(xù)性是相對立的方向?！彼f：“AI消耗了大量的電力，無論是訓(xùn)練大型語言模型還是運(yùn)行推理，而這只是開始，功耗正以指數(shù)級增長。”

盡管如此，Koushik和許多其他技術(shù)專家認(rèn)為，AI的好處遠(yuǎn)遠(yuǎn)超過其不斷增長的碳足跡，這可能不是其他耗能應(yīng)用(如加密貨幣)的情況。AI有望幫助研究人員發(fā)現(xiàn)更高效的能源，如核聚變，優(yōu)化當(dāng)前能源的利用，通過增強(qiáng)電力分配，以及通過分析氣候模式來測量CO2排放的影響。Koushik說：“AI將在許多方面造福人類。從我自己的企業(yè)角度來看，如果AI的一個(gè)好處是讓我不需要派人從紐約飛往倫敦，那我就已經(jīng)抵消了能耗。”

不論AI是否能在長期內(nèi)實(shí)現(xiàn)其承諾，CIO們現(xiàn)在需要在其范圍3(Scope 3)報(bào)告中包含AI的影響，而這很快就變得復(fù)雜起來。例如，如果你使用了別人訓(xùn)練的模型進(jìn)行推理，你應(yīng)該報(bào)告你分擔(dān)的CO2影響。供應(yīng)商可能能告訴你訓(xùn)練的總體成本，但沒有人知道如何在模型的生命周期內(nèi)將成本分配給所有用戶。

“這一切目前還不明確，因?yàn)榉秶?報(bào)告是新的，GenAI也是新的，”瑞士全球運(yùn)輸和物流公司Kuehne+Nagel的首席數(shù)字官兼高級副總裁Niklas Sundberg說。Sundberg對范圍3報(bào)告了解頗多，并在他的書《技術(shù)領(lǐng)導(dǎo)者的可持續(xù)IT手冊》中涵蓋了這一主題。

盡管存在種種不明確之處，IT領(lǐng)導(dǎo)者們?nèi)栽谕七M(jìn)AI的應(yīng)用。在此過程中，有些人發(fā)現(xiàn)了三種可以減輕AI對自身可持續(xù)發(fā)展項(xiàng)目影響的方法，他們分享了這些方法。

1. 使用大型供應(yīng)商優(yōu)化利用率

“Klarna已經(jīng)是AI的高級用戶，我們建議使用共享的按需AI推理環(huán)境的供應(yīng)商來進(jìn)行AI推理，”Elwin說道。這是合理的，因?yàn)槭褂霉苍品?wù)的人越多，利用率就越高。運(yùn)行耗電的AI應(yīng)用程序的資源利用率提高，可以對企業(yè)的總體碳足跡產(chǎn)生積極影響。

CIO們可以更進(jìn)一步，向供應(yīng)商詢問一系列問題，首先是他們?nèi)绾斡?xùn)練模型以及如何進(jìn)行推理。Verne公司(總部位于英國，提供企業(yè)和超大規(guī)模數(shù)據(jù)中心解決方案)的CTO Tate Cantrell建議：“如果你只購買推理服務(wù)，問問他們?nèi)绾谓忉屗猩嫌斡绊?。推理輸出只需要一瞬間，但神經(jīng)網(wǎng)絡(luò)內(nèi)的權(quán)重之所以是現(xiàn)在這個(gè)樣子，是因?yàn)榇罅康挠?xùn)練——可能需要一到兩個(gè)月，耗電量在100到400兆瓦之間——才使得基礎(chǔ)設(shè)施達(dá)到現(xiàn)在的水平，所以你應(yīng)該為這些訓(xùn)練付多少錢?”

Cantrell敦促CIO們詢問供應(yīng)商關(guān)于他們自身報(bào)告的問題：“他們是否公開報(bào)告了他們服務(wù)對可持續(xù)性產(chǎn)生的全部上游影響?訓(xùn)練過程持續(xù)了多長時(shí)間，有效期是多久，這些權(quán)重影響了多少客戶?”

根據(jù)Sundberg的說法，理想的解決方案是讓AI模型告訴你它的碳足跡?！澳銘?yīng)該能夠問Copilot或ChatGPT你上次查詢的碳足跡是多少，”他說，“據(jù)我所知，目前沒有任何工具能回答這個(gè)問題?！?/p>

2. 使用最合適的模型解決每個(gè)問題

當(dāng)Klarna構(gòu)建他們的AI助手時(shí)，他們沒有使用一個(gè)AI模型完成所有任務(wù)。相反，他們評估了服務(wù)的每一步，看看每個(gè)部分真正需要什么。“我們力求資源效率，”Elwin說，“我們確保使用盡可能小的模型，提供完成給定步驟所需的能力?！?/p>

Klarna通過發(fā)布指南來推廣這種思維方式，確保團(tuán)隊(duì)在構(gòu)建其他解決方案時(shí)也這樣考慮。一個(gè)步驟可能需要一個(gè)全面的模型，如GPT-4，而服務(wù)的另一個(gè)部分則可以使用較輕的模型，如GPT-3.5 Turbo。

較小的模型在訓(xùn)練階段和推理階段都需要較少的電力。最終，企業(yè)將不得不測量能耗——這可能是基于每個(gè)查詢的基礎(chǔ)，小模型在這方面表現(xiàn)更好?！霸诒ｋU(xiǎn)環(huán)境中進(jìn)行索賠裁定時(shí)，你不需要GPT-4，”Koushik說，“你需要的是一個(gè)較小的、在更具體領(lǐng)域數(shù)據(jù)上訓(xùn)練的模型，它在回答你領(lǐng)域內(nèi)的問題時(shí)比使用GPT-4更準(zhǔn)確。”

盡管大型公司已經(jīng)在機(jī)器學(xué)習(xí)領(lǐng)域工作了一段時(shí)間，它們的模型并不像更大的開源模型那樣復(fù)雜，Sundberg說。“但它們在解決非常具體的企業(yè)問題方面做得更好，比如定價(jià)和預(yù)測客戶流失?！?/p>

3. 優(yōu)先考慮你的使用案例

CIO可以對使用案例進(jìn)行平衡評估并優(yōu)先考慮它們?！按蠖鄶?shù)人不需要Copilot，”Koushik說，“寫更好的郵件的好處并不足以證明訂閱成本和二氧化碳排放的合理性。另一方面，我們的法律部門確實(shí)從Copilot中受益，這些收益抵消了成本，因此我們向他們推廣了該工具?！?/p>

優(yōu)先考慮使用案例意味著IT領(lǐng)導(dǎo)者將不得不告訴一些用戶，AI并不是解決他們問題的適當(dāng)解決方案。避免引起不滿的最佳方法是及早制定明確的指導(dǎo)方針。首先找出測量AI工具碳足跡的方法，然后將其與每個(gè)使用案例的潛在收益進(jìn)行比較。Sundberg說：“對CIO來說，了解某個(gè)應(yīng)用程序的二氧化碳排放量非常重要?！边@使他們能夠權(quán)衡成本和收益。如果你無法自己找到碳足跡，試著問你的軟件供應(yīng)商。”

但這使事情變得更加具有挑戰(zhàn)性，因?yàn)楣?yīng)商并不總是會(huì)說出他們知道的東西?！氨M管GenAI可以釋放許多可持續(xù)性機(jī)會(huì)，但也有一個(gè)沒有被討論的陰暗面——當(dāng)然不是由供應(yīng)商討論的，”Sundberg說，“他們太專注于在他們的領(lǐng)域中實(shí)現(xiàn)頂級供應(yīng)商地位的競爭。”