小扎All in 開源AGI:正訓(xùn)練Llama 3,年底將有35萬(wàn)塊H100
小扎宣布新目標(biāo):All in 開源AGI。
不錯(cuò),小扎又All in了,正是OpenAI谷歌必爭(zhēng)之地。
不過(guò)在AGI之前,著重強(qiáng)調(diào)了是Open Sourse(開源)的。
圖片
此舉受到不少好評(píng),一如此前LIama系列大模型開源之時(shí)。
圖片
圖片
不過(guò)此次又一波All in,不禁讓網(wǎng)友想起上一波All in了:元宇宙去哪里了???
圖片
但必須要說(shuō)的是,此次列的Flag確實(shí)更具體一些,甚至也透露了一些關(guān)鍵數(shù)據(jù)。
比如,
- 年底將有35萬(wàn)塊H100,而包括其他GPU在內(nèi),總算力將相當(dāng)于60萬(wàn)塊H100。
- FAIR團(tuán)隊(duì)的工作將與GenAI團(tuán)隊(duì)更為緊密。
- LIama 3即將到來(lái)。
最后他還打了個(gè)小廣告。他們正在打造以AI為中心的新型計(jì)算設(shè)備,比如Ray Ban Meta 智能眼鏡。
看來(lái)元宇宙還在繼續(xù)。
小扎又All in了
現(xiàn)在,小扎正式宣布加入AGI之爭(zhēng)。
雖然沒(méi)有明確的時(shí)間表,但作為長(zhǎng)期愿景,明確表示兩個(gè)關(guān)鍵點(diǎn):
負(fù)責(zé)任地開源,并廣泛提供,讓每個(gè)人都能從中獲益。
而為了實(shí)現(xiàn)這一目標(biāo),主要有兩件事:
第一,將現(xiàn)有兩大AI研究工作團(tuán)隊(duì)(FAIR 和 GenAI)緊密結(jié)合在一起。
按照LeCun的話說(shuō),就是兩個(gè)成為兄弟部門。
圖片
并表示,Llama-3 is coming!
第二,建設(shè)大規(guī)模的計(jì)算基礎(chǔ)設(shè)施:今年年底將擁有35萬(wàn)塊H100,總算力相當(dāng)于60萬(wàn)個(gè)H100。
按照2.5萬(wàn)美元至3萬(wàn)美元出售價(jià)來(lái)測(cè)算,總算力價(jià)值將達(dá)到150億美元至180億美元。
此前曾有機(jī)構(gòu)預(yù)計(jì),2023年英偉達(dá)朝Meta的H100出貨量能達(dá)到15萬(wàn)塊,同微軟持平,并且至少是其他公司的三倍。
為此小扎表示,我們已經(jīng)建立了這樣的能力,其規(guī)模可能比任何其他單獨(dú)的公司都大。
有網(wǎng)友算了算計(jì)算能力直呼:大腦大小的模型即將到來(lái)。
圖片
不過(guò)也有人質(zhì)疑,英偉達(dá)應(yīng)該生產(chǎn)不了那么多。
圖片
但有Meta領(lǐng)導(dǎo)現(xiàn)身說(shuō)法:H100是包含現(xiàn)有在內(nèi),一共35萬(wàn)塊。
圖片
除此之外,還強(qiáng)調(diào)了硬件設(shè)備上的進(jìn)展。
大佬們對(duì)于AGI的評(píng)價(jià)
在小扎宣布這一消息之前,不少大佬在達(dá)沃斯世界經(jīng)濟(jì)論壇上發(fā)表了不少關(guān)于AGI的評(píng)論。
像LeCun則在The Expanding Universe of Generative Models這一論壇上強(qiáng)調(diào)了AGI實(shí)現(xiàn)路徑中開源的重要性。
我們之所以能在人工智能領(lǐng)域看到如此快速的進(jìn)步,是因?yàn)槿藗冞M(jìn)行了開放研究。
即便他經(jīng)常經(jīng)常對(duì)AGI很快到來(lái)(當(dāng)然不是在未來(lái)五年內(nèi))表示懷疑,但AGI還是到來(lái)了。
圖片
而Transformer主創(chuàng)Aidan Gomez則表示:
目前我們還沒(méi)有完成擴(kuò)展,我們還需要繼續(xù)努力。
至于像OpenAI CEO奧特曼表示,人類水平的人工智能很快到來(lái),但對(duì)世界的改變遠(yuǎn)比我們想象的要小。
通用人工智能(AGI)可能會(huì)在“相當(dāng)接近的未來(lái)”得到開發(fā)。
對(duì)于AGI的發(fā)展,你們?cè)趺纯矗?/p>