4萬(wàn)億攝氏度（345MeV），是美國(guó)紐約布魯克黑文國(guó)家實(shí)驗(yàn)室在2010年利用相對(duì)論性重離子對(duì)撞機(jī)進(jìn)行金離子對(duì)撞實(shí)驗(yàn)時(shí)創(chuàng)造的，人類迄今為止所能制造的最高溫度，是太陽(yáng)核心溫度的26萬(wàn)倍。

如果說(shuō)2023年有一項(xiàng)技術(shù)能夠達(dá)到如此空前的“熱度”，毫無(wú)疑問(wèn)，那就是生成式大語(yǔ)言模型。

但是不同于那不足十億分之一秒的、轉(zhuǎn)瞬即逝的4萬(wàn)億度高溫，大模型對(duì)各行各業(yè)的深遠(yuǎn)影響，在2023年既如“春雷萬(wàn)鈞”，又似“潤(rùn)物無(wú)聲”。所以，如果要用兩個(gè)關(guān)鍵詞形容2023年的大模型產(chǎn)業(yè)，除了“熱”，還有“卷”。

2022年11月，ChatGPT橫空出世，在僅僅兩個(gè)月過(guò)后，ChatGPT月活躍用戶就成功破億，并成為史上月活用戶最快破億的消費(fèi)級(jí)應(yīng)用。初出茅廬的ChatGPT像個(gè)全能戰(zhàn)士，能聊天、會(huì)寫(xiě)代碼、寫(xiě)論文…。在人們感慨這款對(duì)話應(yīng)用功能強(qiáng)大的同時(shí)，其背后的大模型——GPT，第一次真正意義上被推進(jìn)了所有公眾的視野。

現(xiàn)代AI技術(shù)主要是通過(guò)構(gòu)建深度神經(jīng)網(wǎng)絡(luò)來(lái)模擬人腦的學(xué)習(xí)過(guò)程，通過(guò)學(xué)習(xí)大量數(shù)據(jù)“沉淀”出AI模型，用來(lái)完成諸如圖像分類、目標(biāo)檢測(cè)、機(jī)器翻譯、語(yǔ)言理解等特定任務(wù)。但這一次的大模型不一樣了，超大規(guī)模的數(shù)據(jù)量、算力和神經(jīng)網(wǎng)絡(luò)規(guī)模使得模型產(chǎn)生了“智能涌現(xiàn)”。

目前，“智能涌現(xiàn)”最通俗的解釋，可能來(lái)自于百度創(chuàng)始人李彥宏，他認(rèn)為，過(guò)去的人工智能是，想讓機(jī)器學(xué)會(huì)什么技能，就教它什么技能。教過(guò)的，有可能會(huì)；沒(méi)教過(guò)的，就不會(huì)。大模型出現(xiàn)“智能涌現(xiàn)”之后，以前沒(méi)教過(guò)的技能，它也有可能會(huì)了。

2023年，大模型領(lǐng)域的研究與創(chuàng)新在國(guó)內(nèi)外“兩翼齊飛”。全球科技大廠與眾多創(chuàng)業(yè)公司、學(xué)術(shù)機(jī)構(gòu)紛紛投身這場(chǎng)技術(shù)浪潮。粗略統(tǒng)計(jì)，目前全球已經(jīng)發(fā)布了數(shù)百個(gè)大模型，可謂是在一年時(shí)間里，把一項(xiàng)通用技術(shù)“卷”上了天。

但是要在千行百業(yè)里種下大模型的“花”，除了模型本身，還需要針對(duì)大模型升級(jí)云計(jì)算基礎(chǔ)設(shè)施、配套相應(yīng)的平臺(tái)與工程化能力、配套面向上層應(yīng)用的全新范式開(kāi)發(fā)工具。

卷模型：全球已發(fā)布幾百個(gè)基礎(chǔ)大模型，2024進(jìn)入大規(guī)模淘汰賽

作為大模型技術(shù)研究的全球領(lǐng)導(dǎo)者，OpenAI背靠微軟這位“金主爸爸”，在2023年3月、9月和11月，相繼推出GPT-4、GPT-4V、GPT-4 Turbo，在基礎(chǔ)大模型表現(xiàn)方面被公認(rèn)為遙遙領(lǐng)先，被全球同行玩家視作追趕對(duì)象和比較基準(zhǔn)。

但是在11月，OpenAI上演了一出聯(lián)合創(chuàng)始人、CEO——Sam Altman，被董事會(huì)閃電解雇，到加入微軟、最終回歸的“宮斗”鬧劇后，不少人也對(duì)OpenAI未來(lái)前景產(chǎn)生了一定擔(dān)憂。

作為OpenAI最強(qiáng)有力的競(jìng)爭(zhēng)對(duì)手，Anthropic由前OpenAI高管創(chuàng)立。

23年3月和7月，Anthropic陸續(xù)發(fā)布了旗下大模型產(chǎn)品Claude和Claude 2，并且推出了直接與ChatGPT競(jìng)爭(zhēng)的對(duì)話機(jī)器人應(yīng)用，強(qiáng)調(diào)打造“安全且負(fù)責(zé)任的AI”。值得一提的是，Claude 2剛推出時(shí)支持100k上下文窗口，11月升級(jí)2.1版本，支持200k“超大杯”上下文窗口，分別對(duì)GPT-4和GPT-4 Turbo實(shí)現(xiàn)了碾壓。Anthropic優(yōu)異的表現(xiàn)也在23年下半年吸引了來(lái)自亞馬遜的40億美元、谷歌的20億美元新投資。

如果說(shuō)OpenAI賦予了GPT靈魂，那么這具“軀殼”在早年間可以說(shuō)是Google給的。

作為Transformer架構(gòu)的始作俑者，Google在2023年也不甘落后，推出了PaLM 2 、Gemini等現(xiàn)象級(jí)大模型；在大模型領(lǐng)域沉寂許久的云計(jì)算巨頭AWS，在4月發(fā)布Titian大模型后，直至年底才被爆料正在訓(xùn)練一個(gè)新的、內(nèi)部代號(hào)為「Olympus」的大模型，參數(shù)將高達(dá)2萬(wàn)億；此外，阿聯(lián)酋的技術(shù)創(chuàng)新研究所（TII）與Meta則發(fā)力開(kāi)源，TII最新發(fā)布的Falcon 180B對(duì)Meta的Llama 2實(shí)現(xiàn)了超越，成為迄今為止最強(qiáng)的開(kāi)源大模型。

回到國(guó)內(nèi)市場(chǎng)，最先發(fā)力大模型的企業(yè)是百度。

2023年3月，百度率先推出生成式大語(yǔ)言模型——文心一言，填補(bǔ)了國(guó)內(nèi)這一領(lǐng)域空白，并在發(fā)布后四個(gè)月內(nèi)，高速迭代至3.5版本，相比3.0版本，訓(xùn)練速度提高了2倍，推理速度提高了30倍，模型效果累計(jì)提升超過(guò)50%。在首個(gè)真正意義上的權(quán)威機(jī)構(gòu)評(píng)測(cè)（IDC《AI大模型技術(shù)能力評(píng)估報(bào)告，2023》）中，文心大模型超越GPT-3.5，并摘得國(guó)內(nèi)大模型表現(xiàn)第一名的桂冠。10月，李彥宏宣布文心大模型4.0正式發(fā)布，并發(fā)表了“文心大模型4.0綜合能力與GPT-4相比毫不遜色”的豪言壯語(yǔ)。

此外，阿里巴巴與騰訊則分別在上、下半年發(fā)布了自家的大模型：通義千問(wèn)和混元。隨著百川智能、智譜AI、零一萬(wàn)物等一眾初創(chuàng)公司加入基礎(chǔ)大模型混戰(zhàn)，國(guó)內(nèi)大模型市場(chǎng)徹底進(jìn)入“戰(zhàn)國(guó)”時(shí)代。

卷算力：大模型率先重構(gòu)云計(jì)算，2024智能計(jì)算開(kāi)始拼「性價(jià)比」

大模型需要巨量的算力資源來(lái)支撐龐大的系統(tǒng)和訓(xùn)練、推理任務(wù)。

從全球主流大模型玩家的成分中我們不難看出，如AWS、微軟、Google、百度、阿里等，本身都是云計(jì)算廠商，有著充足的算力儲(chǔ)備。而OpenAI、Anthropic、智譜AI、百川智能等創(chuàng)業(yè)公司雖然自身不具備云服務(wù)能力，但也需要依附云計(jì)算廠商才能實(shí)現(xiàn)模型的迭代升級(jí)。

收入創(chuàng)下 181.2 億美元的紀(jì)錄，環(huán)比增長(zhǎng) 34%，同比增長(zhǎng) 206%；數(shù)據(jù)中心收入創(chuàng)下 145.1 億美元的紀(jì)錄，環(huán)比增長(zhǎng) 41%，同比增長(zhǎng) 279%，這是英偉達(dá)交出的第三季度財(cái)報(bào)數(shù)據(jù)。創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“從公司強(qiáng)勁的增長(zhǎng)中可知，各行各業(yè)都在經(jīng)歷從通用計(jì)算到加速計(jì)算和生成式 AI 的平臺(tái)轉(zhuǎn)型?！?/p>

云計(jì)算廠商在大模型發(fā)展浪潮中有著創(chuàng)業(yè)公司無(wú)法比擬的巨大優(yōu)勢(shì)。近期，Omdia Research發(fā)布的英偉達(dá)GPU出貨量測(cè)算圖在網(wǎng)絡(luò)上走紅，則在一定程度上反映了云計(jì)算大廠對(duì)AI算力的焦慮。但是大模型的算力僅靠買買買就夠了嗎？

事實(shí)上，云計(jì)算廠商普遍選擇多條腿走路的方式，除了囤積GPU以外，基于自身對(duì)大模型技術(shù)的理解，打造面向大模型訓(xùn)練、推理場(chǎng)景的專屬的DSA（Domain Specific Architecture）架構(gòu)芯片，規(guī)模化使用后不但可以攤薄成本，還可以避免未來(lái)被單一GPU供應(yīng)商所綁定。比如AWS打造的Trainium和Inferentia系列芯片、微軟的Maia、華為的昇騰、百度昆侖芯等。

隨著摩爾定律放緩甚至失效，大模型對(duì)智算集群有效算力、穩(wěn)定性提出極高要求，異構(gòu)算力和智算集群的系統(tǒng)級(jí)優(yōu)化至關(guān)重要，比如微軟除了大宗采購(gòu)英偉達(dá)GPU之外，還將大力引入AMD Instinct MI300X等異構(gòu)算力，并大力優(yōu)化基于自研芯片Maia的智算集群。

國(guó)內(nèi)，以百度為首的云計(jì)算廠商也在智算領(lǐng)域投入了大量精力。比如百度在年底發(fā)布了基于自研昆侖芯和華為昇騰打造的兩款A(yù)I計(jì)算實(shí)例，升級(jí)AI異構(gòu)計(jì)算平臺(tái)百舸3.0，萬(wàn)卡集群有效訓(xùn)練時(shí)間占比達(dá)到98%，同時(shí)兼容一眾國(guó)內(nèi)外主流AI芯片等舉措，可謂是珠玉在前，國(guó)內(nèi)市場(chǎng)無(wú)人出其右。

卷工具：大模型從“毛坯房”到“精裝修”，2024繼續(xù)卷“平臺(tái)配套”

大模型技術(shù)的突破，除了大數(shù)據(jù)、大算力這些“硬疙瘩”，背后常常被忽視的還有平臺(tái)、工程化等方面的積累，這些也是客戶用好大模型的關(guān)鍵要素。

創(chuàng)業(yè)公司普遍聚焦開(kāi)發(fā)大模型本身，并且有不少選擇了開(kāi)源路線。雖然開(kāi)源擁有更好的靈活性，但是大模型時(shí)代，除了昂貴的算力成本，缺少配套工具還會(huì)產(chǎn)生極高的隱形成本，并對(duì)客戶AI技術(shù)儲(chǔ)備和二次開(kāi)發(fā)能力提出了極高要求。對(duì)于用戶來(lái)說(shuō)，大模型不應(yīng)該是“毛坯房”，也不能沒(méi)有“物業(yè)”。

有別于傳統(tǒng)深度學(xué)習(xí)時(shí)代小模型的開(kāi)發(fā)范式，大模型需首先要全新的、完整的工具鏈來(lái)支撐從數(shù)據(jù)管理、到模型的重訓(xùn)、精調(diào)、評(píng)估等開(kāi)發(fā)的全流程。而在全球范圍內(nèi)，首先推出此類平臺(tái)的既不是OpenAI、也不是微軟、AWS、Google這些海外巨頭，而是百度。

大模型本身和配套工具必須得齊步走，不然光說(shuō)大模型落地千行百業(yè)，模型廠商能挨家挨戶做定制化嗎？這一點(diǎn)上，百度想的很清楚。

2023年3月，百度推出文心一言大模型時(shí)，李彥宏講到文心一言更大的故事是在云計(jì)算。短短10天之后，百度智能云就揭曉了答案，推出全球首個(gè)企業(yè)級(jí)一站式大模型平臺(tái)千帆，宣告百度不但能做出國(guó)內(nèi)最好的大模型，還要幫其他人做好大模型。而在5月的一場(chǎng)活動(dòng)中，百度工程師還在國(guó)內(nèi)首次演示了如何基于一站式平臺(tái)微調(diào)行業(yè)專屬大模型的全過(guò)程。

圖片

隨后，阿里云CTO周靖人在10月底的云棲大會(huì)發(fā)布了阿里云百煉大模型服務(wù)平臺(tái)；微軟則是在11月中旬發(fā)布了自家大模型服務(wù)平臺(tái)Azure AI Studio；AWS則是在11月底才更新了Amazon Bedrock服務(wù)功能，新增包括模型微調(diào)、基于Amazon Titan大模型的預(yù)訓(xùn)練等功能。

卷應(yīng)用：應(yīng)用開(kāi)發(fā)范式被全面顛覆，2024 AI原生應(yīng)用將涌現(xiàn)

在模型之上，如何幫助用戶開(kāi)發(fā)大模型應(yīng)用，也是必須解決的問(wèn)題。說(shuō)到底，大模型是一項(xiàng)新技術(shù)，本身并不帶來(lái)價(jià)值，真正創(chuàng)造巨大價(jià)值的是模型上層的應(yīng)用。對(duì)此，各大廠商的思路則有所不同。

OpenAI、微軟選擇了相對(duì)封閉的，強(qiáng)化自身應(yīng)用生態(tài)的策略。比如OpenAI在23年11月召開(kāi)的首屆開(kāi)發(fā)者大會(huì)上，連續(xù)放出GPTs和AssistantAPI兩大GPT原生應(yīng)用開(kāi)發(fā)殺手锏，也給一直趨附自己的AI Agent創(chuàng)業(yè)公司和大模型中間件廠商敲響了警鐘；微軟則推出Copilot Studio，幫助用戶構(gòu)建基于Microsoft 365全家桶的智能助理。

其他廠商選擇了更開(kāi)發(fā)的方式，但在幫助用戶開(kāi)發(fā)大模型應(yīng)用這件事兒上，除百度以外則鮮有發(fā)力。百度在2023下半年針對(duì)大模型應(yīng)用開(kāi)發(fā)，發(fā)布了AI原生應(yīng)用開(kāi)發(fā)工作臺(tái)AppBuilder，將開(kāi)發(fā)大模型應(yīng)用常用的原子化組件、RAG（檢索生成增強(qiáng)）、Agent等框架進(jìn)行了封裝和模板呈現(xiàn)，開(kāi)放低代碼和代碼態(tài)兩種產(chǎn)品形態(tài)去適配不同開(kāi)發(fā)者的需要。值得一提的是，百度沒(méi)有將應(yīng)用開(kāi)發(fā)與自家文心大模型做緊耦合，而是在文心大模型之外預(yù)置了經(jīng)過(guò)增強(qiáng)處理的幾十個(gè)主流開(kāi)源大模型，給開(kāi)發(fā)者更多選擇。

圖片

不同于HuggingFace、魔搭等模型社區(qū)，更多面向開(kāi)發(fā)者的定位，百度更注重應(yīng)用與產(chǎn)業(yè)生態(tài)的建設(shè)，從大模型平臺(tái)調(diào)好的模型直接通往應(yīng)用工作臺(tái)，從應(yīng)用工作臺(tái)開(kāi)發(fā)好的應(yīng)用則可以上架AI原生應(yīng)用市場(chǎng)，形成技術(shù)到市場(chǎng)，再到商業(yè)的鏈路閉環(huán)。

而在大模型落地行業(yè)方面，前有華為喊出盤(pán)古大模型“不作詩(shī)、只做事”，后有百度智能云基于大模型重構(gòu)政務(wù)、金融、工業(yè)、交通四大行業(yè)解決方案，為行業(yè)ISV提供全鏈路支持體系。我們有理由期待，在大模型技術(shù)落地行業(yè)方面，中國(guó)速度將再次震驚世界。

回望2023，大模型這個(gè)科技界的“天選之子”破圈突圍，成為全社會(huì)熱點(diǎn)，但它畢竟還是個(gè)“孩子”，在熱切的期待下也難免會(huì)使人感受到落差。對(duì)于普通民眾和來(lái)說(shuō)，大模型引領(lǐng)的“智能曙光”正在照進(jìn)現(xiàn)實(shí)；但對(duì)于投身大模型浪潮的科技公司來(lái)說(shuō)，還有很多亟待完成的工作。

Sam Altman在圣誕節(jié)前夕寫(xiě)下了OpenAI 的2024發(fā)展清單。下一個(gè)，又會(huì)是誰(shuí)？