自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

警惕!ChatGPT爆火下的能耗危機(jī),數(shù)據(jù)中心運(yùn)營商挑戰(zhàn)巨大

人工智能
即使是數(shù)字產(chǎn)品也需要能源來開發(fā)和消耗,ChatGPT也不例外,據(jù)估計(jì),機(jī)器學(xué)習(xí)工作中推理處理占算力消耗的80-90%,粗略計(jì)算,自ChatGPT于2022年11月30日上線以來,碳排放已超過814.61噸。

近期,美國OpenAI公司旗下智能聊天工具ChatGPT刷爆社交媒體,吸引超百億美元投資,推動(dòng)了資本市場布局人工智能應(yīng)用的巨大熱潮,風(fēng)頭一時(shí)無兩。

圖片

微軟率先宣布砸100億美金入股OpenAI,然后亞馬遜和美版“今日頭條”BuzzFeed宣布將在日常工作中啟用ChatGPT,同時(shí),百度也宣布于3月推出“中國版”的ChatGPT聊天機(jī)器人。在多家科技公司推波助瀾后,ChatGPT瞬間引發(fā)全球關(guān)注。

數(shù)據(jù)顯示,亞馬遜部署的機(jī)器人數(shù)量正在快速增加,每天增量達(dá)到1000個(gè)左右。此外,臉書母公司Meta也計(jì)劃2023年在數(shù)據(jù)中心上額外投入40億至50億美元,預(yù)計(jì)將全部用于人工智能。IBM首席執(zhí)行官克里希納表示,人工智能預(yù)料到2030年將為全球經(jīng)濟(jì)貢獻(xiàn)16萬億美元。

隨著ChatGPT的大火,2023年各巨頭或?qū)⒃谌斯ぶ悄茴I(lǐng)域掀起新一輪鏖戰(zhàn)。

然而,當(dāng)ChatGPT-3預(yù)測出現(xiàn)下一個(gè)的單詞時(shí),就需要進(jìn)行多次推斷計(jì)算,因此占用大量的資源,并耗費(fèi)更多的電力。而為支持云計(jì)算、視頻流媒體和5G網(wǎng)絡(luò)的爆炸式增長而擴(kuò)建的數(shù)據(jù)中心基礎(chǔ)設(shè)施,其GPU和CPU架構(gòu)不能有效地運(yùn)行以滿足迫在眉睫的計(jì)算需求,這為超大規(guī)模數(shù)據(jù)中心運(yùn)營商帶來巨大的挑戰(zhàn)。 

GPT3.5 的訓(xùn)練使用了微軟專門建設(shè)的AI計(jì)算系統(tǒng),由1萬個(gè) V100 GPU 組成的高性能網(wǎng)絡(luò)集群,總算力消耗約 3640 PF-days (即假如每秒計(jì)算一千萬億次,需要計(jì)算3640 天)。如此大規(guī)模、長時(shí)間的 GPU 集群訓(xùn)練任務(wù),對(duì)網(wǎng)絡(luò)互聯(lián)底座的性能、可靠性、成本等各方面都提出極致要求。

例如,Meta宣布暫停在全球范圍內(nèi)的數(shù)據(jù)中心擴(kuò)建,重新配置這些服務(wù)器群,以滿足人工智能的數(shù)據(jù)處理需求。

人工智能平臺(tái)對(duì)數(shù)據(jù)處理的需求是巨大的,ChatGPT的OpenAI創(chuàng)建者在去年11月推出該平臺(tái),如果不搭上微軟即將升級(jí)的Azure云平臺(tái)的便車,它將無法繼續(xù)運(yùn)行。

支持這一數(shù)字轉(zhuǎn)型的數(shù)據(jù)中心基礎(chǔ)設(shè)施——將像人腦一樣被組織成兩個(gè)半球或葉,一個(gè)葉需要比另一個(gè)葉強(qiáng)得多。一個(gè)半球?qū)⒎?wù)于所謂的“訓(xùn)練”,處理多達(dá)300B個(gè)數(shù)據(jù)點(diǎn)所需的計(jì)算能力,以創(chuàng)建ChatGPT生成的單詞沙拉。

訓(xùn)練瓣需要強(qiáng)大的計(jì)算能力和最先進(jìn)的GPU半導(dǎo)體,但在支持云計(jì)算服務(wù)和5G網(wǎng)絡(luò)的數(shù)據(jù)中心集群中,目前所需要的連接性很少。

同時(shí),專注于“培訓(xùn)”每個(gè)人工智能平臺(tái)的基礎(chǔ)設(shè)施將對(duì)電力產(chǎn)生巨大的需求,要求將數(shù)據(jù)中心設(shè)置在千兆瓦可再生能源附近,安裝新的液體冷卻系統(tǒng),以及重新設(shè)計(jì)的備用電源和發(fā)電機(jī)系統(tǒng),以及其他新的設(shè)計(jì)特點(diǎn)。

人工智能平臺(tái)大腦的另一個(gè)半球,被稱為“推理”模式的更高功能的數(shù)字基礎(chǔ)設(shè)施支持交互式“生成”平臺(tái),這些平臺(tái)在輸入問題或指令后的幾秒鐘內(nèi),對(duì)查詢進(jìn)行處理,進(jìn)入建模的數(shù)據(jù)庫,并以令人信服的人類語法作出響應(yīng)。

雖然如今的超連接數(shù)據(jù)中心網(wǎng)絡(luò),如北美最大的數(shù)據(jù)中心集群,北弗吉尼亞州的“數(shù)據(jù)中心”也擁有最廣泛的光纖網(wǎng)絡(luò),可以適應(yīng)人工智能大腦“推斷”葉的下一級(jí)連接需求,但這些設(shè)施也需要升級(jí),以滿足所需的巨大處理能力,并且它們需要更靠近變電站。

此外,有調(diào)研機(jī)構(gòu)數(shù)據(jù)顯示,數(shù)據(jù)中心已然成為全球最大的能源消費(fèi)者,占總用電量的比例將從2017年的3%上升到2025年的4.5%。以中國為例,2030年全國運(yùn)營的數(shù)據(jù)中心用電量預(yù)計(jì)將超過4000億度,占全國總用電量的4%。 

因此,即使是數(shù)字產(chǎn)品也需要能源來開發(fā)和消耗,ChatGPT也不例外,據(jù)估計(jì),機(jī)器學(xué)習(xí)工作中推理處理占算力消耗的80-90%,粗略計(jì)算,自ChatGPT于2022年11月30日上線以來,碳排放已超過814.61噸。

據(jù)專業(yè)機(jī)構(gòu)測算,假設(shè)托管在微軟的Azure云上的ChatGPT每天有100萬用戶咨詢(在特定的響應(yīng)時(shí)間和詞匯量下,每天約29,167小時(shí)),按A100 GPU的最高功率407W(瓦特)計(jì)算,每天碳排放達(dá)到3.82噸,每月排碳超過100噸。如今ChatGPT日訪問用戶超過1000萬,實(shí)際排碳量要遠(yuǎn)超每月100噸。除此之外,訓(xùn)練這樣一個(gè)包含1750 億參數(shù)的語言大模型,需要上萬個(gè) CPU/GPU 24 小時(shí)不間輸入數(shù)據(jù),大概消耗1287MWh的電力,二氧化碳排放量超過552噸。

圖片

從這些大型語言模型的碳排放來看,ChatGPT前身GPT-3碳排放最大。據(jù)悉,美國人平均每年產(chǎn)生16.4噸碳排放,丹麥人平均每年產(chǎn)生11噸碳排放。因此,ChatGPT的模型訓(xùn)練碳排放多于50個(gè)丹麥人每年的碳排放。

云計(jì)算供應(yīng)商們也認(rèn)識(shí)到數(shù)據(jù)中心使用了大量電力,并采取了提高效率的方法措施,例如在北極建設(shè)和運(yùn)營數(shù)據(jù)中心,以利用可再生能源和自然冷卻條件。不過,這還不足以滿足AI應(yīng)用爆炸式增長的需求。

美國勞倫斯伯克利國家實(shí)驗(yàn)室在研究中發(fā)現(xiàn),在過去20年,數(shù)據(jù)中心效率的提高一直在控制能耗的增長,但研究表明,現(xiàn)在的能效措施可能不足以滿足未來數(shù)據(jù)中心的需求。

人工智能產(chǎn)業(yè)現(xiàn)在正處于一個(gè)關(guān)鍵的轉(zhuǎn)折點(diǎn)。生成式AI、圖像識(shí)別和數(shù)據(jù)分析的技術(shù)進(jìn)步揭示了機(jī)器學(xué)習(xí)獨(dú)特的聯(lián)系和用途,但首先需要建立一個(gè)能夠滿足這一需求的技術(shù)解決方案,因?yàn)楦鶕?jù)Gartner的預(yù)測,除非目前能提供更可持續(xù)的選擇,否則到2025年,AI消耗的能源將超過人類活動(dòng)所消耗的能源。?

責(zé)任編輯:華軒 來源: 數(shù)據(jù)中心運(yùn)維管理
相關(guān)推薦

2021-02-10 10:41:04

人工智能數(shù)據(jù)中心AI

2020-03-24 10:27:01

數(shù)據(jù)中心運(yùn)營商冠狀病毒

2022-09-27 11:19:41

數(shù)據(jù)中心運(yùn)營商

2015-09-01 14:00:36

云數(shù)據(jù)中心云轉(zhuǎn)型

2022-08-29 11:05:31

數(shù)據(jù)中心高溫服務(wù)器

2015-08-10 10:54:32

數(shù)據(jù)中心運(yùn)營商

2023-10-26 22:10:51

云回遷數(shù)據(jù)中心

2018-02-23 15:04:01

5G運(yùn)營商數(shù)據(jù)中心

2021-06-09 11:21:03

數(shù)據(jù)中心蓄電池

2015-06-18 14:12:07

數(shù)據(jù)中心運(yùn)營商

2021-02-02 10:58:25

數(shù)據(jù)中心冗余性數(shù)據(jù)中心運(yùn)營

2022-11-15 16:04:52

數(shù)據(jù)中心數(shù)字孿生

2022-11-04 14:08:19

數(shù)據(jù)中心人工智能

2025-03-10 10:34:55

2024-05-10 09:35:01

數(shù)據(jù)中心

2019-04-03 06:16:01

運(yùn)營商5G基站

2023-11-29 10:08:30

數(shù)據(jù)中心直接芯片冷卻

2010-03-08 09:46:32

新一代數(shù)據(jù)中心云計(jì)算

2021-05-14 13:51:05

數(shù)據(jù)中心運(yùn)營商IT

2018-01-08 08:51:49

數(shù)據(jù)中心運(yùn)營商預(yù)測
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)