生成式AI的成本和可持續(xù)性
譯文譯者 | 布加迪
審校 | 孫淑娟?
人工智能(AI)對于任何平臺(包括公共云)而言都是資源密集型的技術(shù)。大多數(shù)AI技術(shù)都需要大量的推理計算,因而提高了對處理器、網(wǎng)絡(luò)和存儲資源的需求,最終增加了電費、基礎(chǔ)設(shè)施成本和碳排放量。?
ChatGPT等生成式AI系統(tǒng)的崛起再次將這個問題推到了前臺??紤]到這項技術(shù)大行其道,加上公司、政府和公眾可能廣泛使用該技術(shù),可以預(yù)料耗電量增長曲線會呈現(xiàn)出令人擔(dān)憂的弧線。?
AI自20世紀(jì)70年代以來一直切實可行,但考慮到成熟完備的AI系統(tǒng)需要大量的資源才能正常工作,最初并沒有多大的商業(yè)影響。我記得我在20多歲時設(shè)計的基于AI的系統(tǒng)需要超過4000萬美元的硬件、軟件和數(shù)據(jù)中心空間才能讓它運行起來。順便說一下,該項目與其他許多AI項目一樣從未迎來發(fā)布日期,商業(yè)方案根本就不可行。?
云計算改變了這一切。借助公共云,曾經(jīng)難以企及的任務(wù)現(xiàn)在能夠以足夠顯著的成本效益來處理。事實上,您可能已經(jīng)猜到了,云計算的興起與過去10年到15年AI的興起相得益彰,我要說現(xiàn)在兩者休戚相關(guān)。?
云資源的可持續(xù)性和成本
其實不需要做太多的研究就能預(yù)測到這個領(lǐng)域會發(fā)生什么。市場對AI服務(wù)的需求將會飆升,比如現(xiàn)在非常流行的生成式AI系統(tǒng)以及其他AI和機(jī)器學(xué)習(xí)系統(tǒng)。引領(lǐng)這股熱潮的將是通過創(chuàng)新尋求優(yōu)勢(比如智能供應(yīng)鏈)的企業(yè),或者甚至是成千上萬希望生成式AI系統(tǒng)來撰寫學(xué)期論文的大學(xué)生。?
對AI的需求加大意味著對這些AI系統(tǒng)使用的資源的需求隨之加大,比如公共云及其提供的服務(wù)。這一需求很可能會由更多容納服務(wù)器和網(wǎng)絡(luò)設(shè)備這些耗電大戶的數(shù)據(jù)中心來滿足。?
公共云提供商就像任何其他公用資源提供商一樣,會隨著需求的增加而提高價格,就像我們看到民用電費季節(jié)性上漲一樣(同樣基于需求)。因此,我們通常控制用電量,在夏天將空調(diào)的溫度開得高一點。?
然而,更高的云計算成本可能不會對企業(yè)產(chǎn)生同樣的影響。企業(yè)可能會發(fā)現(xiàn)這些AI系統(tǒng)并非可有可無,而是驅(qū)動某些關(guān)鍵業(yè)務(wù)流程所必需的。在許多情況下,它們可能會試圖在內(nèi)部節(jié)省資金,可能會采用減少員工數(shù)量以抵消AI系統(tǒng)的成本這種手段。生成式AI系統(tǒng)很快將取代許多信息工作者絕非什么秘密。?
我們能做些什么呢?
如果對運行AI系統(tǒng)的資源的需求會導(dǎo)致更高的計算成本和碳排放量,我們能做些什么呢?答案或許在于找到更高效的方法讓AI充分利用處理器、網(wǎng)絡(luò)和存儲等資源。?
比如說,對流水線進(jìn)行采樣可以通過減少處理的數(shù)據(jù)量來加快深度學(xué)習(xí)。麻省理工學(xué)院(MIT)和IBM的研究表明,使用這種方法可以減少在大型數(shù)據(jù)集上運行神經(jīng)網(wǎng)絡(luò)所需的資源。然而這也限制了準(zhǔn)確性,這對于一些商業(yè)用例而言是可以接受的,但不是對所有商業(yè)用例而言都可以接受。?
另一種已經(jīng)在其他技術(shù)領(lǐng)域應(yīng)用的方法是內(nèi)存中計算。這種架構(gòu)可以通過避免數(shù)據(jù)進(jìn)出內(nèi)存來加快AI處理速度。相反,AI計算直接在內(nèi)存模塊中運行,這大大加快了速度。?
其他方法正在開發(fā)中,比如改變物理處理器(使用協(xié)處理器處理AI計算以提高速度)或者采用量子計算等下一代計算模型。可以預(yù)料,大型公共云提供商會在近期紛紛宣布能夠解決許多這些問題的技術(shù)。?
您該怎么辦?
本文倒不是說要避免AI,以降低云計算費用或拯救地球。AI是一種基礎(chǔ)性的計算方法,大多數(shù)企業(yè)都可以利用它來創(chuàng)造巨大價值。?
建議您在進(jìn)行基于AI的開發(fā)項目或全新的AI系統(tǒng)開發(fā)項目時,應(yīng)清楚地了解成本和可持續(xù)性方面的影響,兩者密切相關(guān)。您必須做出成本/效益選擇,這實際上回到了老話題:投入所需的成本、冒一定的風(fēng)險后,可以為公司帶來什么樣的價值。這方面沒什么新意。?
我相信,這個問題基本上有望通過創(chuàng)新得到解決,無論創(chuàng)新是內(nèi)存中計算、量子計算還是其他尚未出現(xiàn)的技術(shù)。AI技術(shù)提供商和云計算提供商都熱衷于讓AI更具成本效益和更節(jié)能環(huán)保,這是好消息。?
原文標(biāo)題:??The cost and sustainability of generative AI??,作者:David S. Linthicum