爆！爆！爆！好火爆的一場AI主題盛會。

智東西4月19日報道，為期兩天的2024中國生成式AI大會，今日在京圓滿收官。

54位產(chǎn)學(xué)研投嘉賓代表全程干貨爆棚，報名咨詢?nèi)藬?shù)逾5200人，超過1800位觀眾到場參會，線上觀看人次更是超過850萬。

參會觀眾們的熱情溢滿了1230平方米主會場，連分會場收費制的具身智能、AI智能體技術(shù)研討會和免費開放的中國智算中心創(chuàng)新論壇都座無虛席，展區(qū)附近交流討論聲此起彼伏。

▲中國智算中心創(chuàng)新論壇座無虛席，連追加兩排座椅，還有不少觀眾站著聽會

還有多個“行業(yè)首發(fā)”：會上，2024「AI生產(chǎn)力創(chuàng)新先鋒（AiiP）-中國生成式AI企業(yè)TOP50」正式揭曉，李未可科技發(fā)布面向眼鏡等未來終端定向優(yōu)化的自研WAKE-AI多模態(tài)大模型，58同城宣布其大語言模型平臺今晚將上線Llama 3。

▲智一科技聯(lián)合創(chuàng)始人、智車芯產(chǎn)媒矩陣總編輯張國仁公布年度榜單

大會以“重構(gòu)世界 奔赴未來”為主題，聚集54位產(chǎn)學(xué)研投嘉賓代表同臺共探生成式AI全產(chǎn)業(yè)鏈的發(fā)展現(xiàn)狀與未來趨勢，為業(yè)界把握時代脈搏提供原創(chuàng)性、高質(zhì)量的洞見參考。

清華大學(xué)計算機NLP實驗室是國內(nèi)開展NLP研究最早、深具影響力的科研單位。清華NLP實驗室的學(xué)術(shù)帶頭人——歐洲人文和自然科學(xué)院外籍院士、清華大學(xué)人工智能研究院常務(wù)副院長孫茂松教授，為生成式AI大會作開場報告。

孫茂松分享道，通用人工智能已開始登上歷史舞臺，生成式AI會開啟人類全新的創(chuàng)造模式。原來的創(chuàng)作往往是從人類創(chuàng)造的現(xiàn)實空間出發(fā)，現(xiàn)在機器創(chuàng)造了更大的現(xiàn)實可能空間，使人們能通過鑒賞選擇和修改提升進行創(chuàng)作。

當(dāng)前生成式AI的基本定位是啟發(fā)、輔助人類，不會取代人類，因為其均屬于概率式方法范式，兼具創(chuàng)造與幻覺一枚硬幣的兩面，難以精確操控。生成式AI面臨的近期挑戰(zhàn)，一是走向多智能體，需要讓模型在盡量減少人為干預(yù)的情況下完成某些任務(wù)更加“靠譜”，二是走向具身智能，其中的關(guān)鍵難點是如何有效建立可計算的世界模型。

▲歐洲人文和自然科學(xué)院外籍院士、清華大學(xué)人工智能研究院常務(wù)副院長孫茂松

國內(nèi)資深大模型行業(yè)投資人，“清華系”、“北大系”、“前大廠高管”等光環(huán)加身的明星創(chuàng)業(yè)者，國內(nèi)外頂級AI大廠的資深算法專家，三大國內(nèi)頭部AI研究機構(gòu)的科學(xué)家與青年學(xué)者，最懂AI基礎(chǔ)設(shè)施的大廠與創(chuàng)企嘉賓代表，異軍突起的爆款A(yù)IGC應(yīng)用先行者，他們悉數(shù)而來。

大會首日，25位嘉賓暢談大語言模型、視頻生成、具身智能、音樂生成、世界模型、垂類行業(yè)大模型、AI全棧軟件、加速大模型端側(cè)部署等前沿議題。（生成式AI大會沸騰北京！從Sora到具身智能，25位大佬密集輸干貨）

今日，來自生成式AI前線的學(xué)術(shù)代表、商業(yè)領(lǐng)袖、技術(shù)專家、青年學(xué)者們，繼續(xù)分享對關(guān)鍵技術(shù)創(chuàng)新、全棧軟件及智算基礎(chǔ)設(shè)施升級、AI應(yīng)用落地探索實踐、可持續(xù)商業(yè)模式的趨勢洞察。其中多位嘉賓cue到了昨夜新鮮登場的Llama 3。

一、AI Infra專場：攻克這些“基建”挑戰(zhàn)，才能通往高階AGI

頂尖大模型的強大性能，不止有賴于技術(shù)研發(fā)實力，還需要扎實的工程功底。底層算力基礎(chǔ)設(shè)施和AI軟件基礎(chǔ)設(shè)施的升級，都在加速大模型訓(xùn)練與部署的過程中發(fā)揮了關(guān)鍵作用。

開源大模型領(lǐng)導(dǎo)者Meta最新發(fā)布的開源力作Llama 3 8B和70B，再度例證攻克“基建”難關(guān)何其重要。據(jù)Meta披露，兩款模型是同體量中最好的開源模型，Llama 3 400B還在訓(xùn)練中；Llama 3用兩個定制24K GPU集群進行訓(xùn)練，訓(xùn)練數(shù)據(jù)量逾15T tokens，比Llama 2的7倍還多。

▲Meta研究團隊在4月15日評估了預(yù)訓(xùn)練和Instruct版中經(jīng)過部分訓(xùn)練的模型，并報告了性能數(shù)據(jù)

這背后，Meta采用指令微調(diào)技術(shù)來改善對話效果，并結(jié)合了數(shù)據(jù)并行、模型并行、流水線并行三類并行方式來訓(xùn)練Llama 3，再加上其他優(yōu)化策略，綜合訓(xùn)練效率比Llama 2提高了約3倍。

在大會AI Infra專場，來自潞晨科技、NVIDIA、星環(huán)科技、中科加禾、天津大學(xué)&派歐云、阿里云、焱融科技、Zenlayer的嘉賓代表，分享了類Sora開源架構(gòu)、大模型全棧AI解決方案、應(yīng)用開發(fā)工具鏈、編譯器、分布式算力網(wǎng)絡(luò)、高效存儲等方向的技術(shù)、挑戰(zhàn)與策略。

新加坡國立大學(xué)校長青年教授、潞晨科技創(chuàng)始人兼董事長尤洋談到模型訓(xùn)練流程開源的重要性，包括模型架構(gòu)、模型權(quán)重、訓(xùn)練細節(jié)、數(shù)據(jù)處理等。正如Meta最新發(fā)布Llama 3，其超過4000億個參數(shù)的版本開源后，將造福大量開發(fā)者。

面向視頻生成領(lǐng)域，他認為現(xiàn)在正處于“GPT-2時刻”，還沒有出現(xiàn)成熟的應(yīng)用。尤洋帶領(lǐng)團隊開源的全球首個類Sora架構(gòu)視頻生成模型Open-Sora采用STDiT架構(gòu)，相比DiT成本大幅降低。Open-Sora未來的發(fā)展方向主要是完善數(shù)據(jù)處理流程以及訓(xùn)練視頻壓縮Encoder。

▲新加坡國立大學(xué)校長青年教授、潞晨科技創(chuàng)始人兼董事長尤洋

NVIDIA解決方案架構(gòu)與工程總監(jiān)王淼談到大語言模型生態(tài)系統(tǒng)四大趨勢，一是新基礎(chǔ)大語言模型發(fā)布提速，最新代表便是Meta剛發(fā)布的Llama 3，二是新算子和定制技術(shù)持續(xù)優(yōu)化，三是模型規(guī)模繼續(xù)增加，四是從Dense到MoE轉(zhuǎn)變趨勢形成。這意味著需要全棧AI解決方案助力模型開發(fā)和應(yīng)用部署。

NVIDIA如何搭建大語言模型基礎(chǔ)設(shè)施？王淼分享說，NVIDIA為GPU增加的FP8支持相比FP16、BF16實現(xiàn)2倍吞吐性能提升，同時進一步將數(shù)據(jù)精度縮減到FP4并勝任推理任務(wù)。他還分享了NVIDIA在網(wǎng)絡(luò)基礎(chǔ)設(shè)施上的布局，包括融合標(biāo)準(zhǔn)以太網(wǎng)連接和專業(yè)高性能架構(gòu)的NVIDIA Spectrum-X以太網(wǎng)平臺、助攻大語言模型應(yīng)用落地全流程的NVIDIA NeMo、NVIDIA Triton推理服務(wù)器等。

▲NVIDIA解決方案架構(gòu)與工程總監(jiān)王淼

星環(huán)科技大模型產(chǎn)品負責(zé)人童欣欣談道，當(dāng)下大模型幻覺問題凸顯，通用的大模型難以解決特定場景的問題。企業(yè)內(nèi)部落地大模型應(yīng)用時，可通過組合提示詞工程、檢索增強、智能體、有監(jiān)督微調(diào)及預(yù)訓(xùn)練等不同方式，來解決垂直場景的業(yè)務(wù)問題。他還表示大模型及應(yīng)用開發(fā)和落地不是一錘子買賣，需要企業(yè)級別的長期運維和監(jiān)控。

Sophon LLMOps是星環(huán)科技推出的企業(yè)級大模型和應(yīng)用開發(fā)工具鏈，提供語料知識精細化處理入庫、提示詞開發(fā)、語料數(shù)據(jù)標(biāo)注、大模型微調(diào)訓(xùn)練、大模型評估部署到大模型應(yīng)用構(gòu)建和應(yīng)用部署上線的全鏈路工具能力。此外，星環(huán)科技還推出大模型和應(yīng)用開發(fā)服務(wù)一體機，通過預(yù)裝Sophon LLMOps工具平臺，用戶可按需快速的體驗大模型開發(fā)和應(yīng)用的全流程能力。

▲星環(huán)科技大模型產(chǎn)品負責(zé)人童欣欣

中科加禾創(chuàng)始人、CEO崔慧敏談道，在AI芯片落地過程中，關(guān)鍵是要構(gòu)建整個基礎(chǔ)軟件的能力，從而增強可持續(xù)發(fā)展能力。正如CUDA成就了英偉達，軟件生態(tài)成為AI基礎(chǔ)設(shè)施的標(biāo)準(zhǔn)和競爭優(yōu)勢，決定了芯片的可用性和市場接受度。

崔慧敏強調(diào)了跨平臺編譯技術(shù)的重要性，對標(biāo)CUDA層次，能跨多種芯片的底層編譯工具是解決國產(chǎn)芯片長期可持續(xù)的重要基礎(chǔ)能力。中科加禾利用編譯技術(shù)構(gòu)建的大模型推理引擎可以實現(xiàn)一套軟件對多種AI加速卡的支持。

▲中科加禾創(chuàng)始人、CEO崔慧敏

天津大學(xué)計算機科學(xué)與技術(shù)學(xué)院教授、PPIO派歐云首席科學(xué)家王曉飛分享了三個AGI時代的思考：首先，計算與算力供需長尾化且分布不均；其次，計算任務(wù)和需求是否完美匹配、能否精準(zhǔn)調(diào)度；第三，“核心+邊緣”分層協(xié)同的算力網(wǎng)絡(luò)計算范式及算力經(jīng)濟。

基于上述思考，他認為要搭建AGI Infra，分布式算力網(wǎng)絡(luò)是云邊端協(xié)同計算基礎(chǔ)設(shè)施的收斂形態(tài)。PPIO推出的“派歐算力云”覆蓋全國數(shù)千個分布式算力節(jié)點，通過智能調(diào)度和推理加速技術(shù)，可以實現(xiàn)算力性價比提升數(shù)十倍，推理成本大幅度降低。

▲天津大學(xué)計算機科學(xué)與技術(shù)學(xué)院教授、PPIO派歐云首席科學(xué)家王曉飛

阿里云高級技術(shù)專家、阿里云異構(gòu)計算AI推理團隊負責(zé)人李鵬談道，大模型的發(fā)展給計算體系結(jié)構(gòu)帶來了功耗墻、內(nèi)存墻和通訊墻等多重挑戰(zhàn)。其中，大模型訓(xùn)練層面，用戶在模型裝載、模型并行、通信等環(huán)節(jié)面臨各種現(xiàn)實問題；在大模型推理層面，用戶在顯存、帶寬、量化上面臨性能瓶頸。

對于如何進一步釋放云上性能？阿里云彈性計算為云上客戶提供了ECS GPU DeepGPU增強工具包，幫助用戶在云上高效地構(gòu)建AI訓(xùn)練和AI推理基礎(chǔ)設(shè)施，從而提高算力利用效率。目前，阿里云ECS DeepGPU已經(jīng)幫助眾多客戶實現(xiàn)性能的大幅提升。其中，LLM微調(diào)訓(xùn)練場景下性能最高可提升80%，Stable Difussion推理場景下性能最高可提升60%。

▲阿里云高級技術(shù)專家、阿里云異構(gòu)計算AI推理團隊負責(zé)人李鵬

焱融科技CTO張文濤解讀了存儲對大模型訓(xùn)練和推理的重要性，從數(shù)據(jù)加載、協(xié)議、模型加載到Checkpoint保存等，過程中存在大量小的讀寫請求、GPU傳輸?shù)取τ诙嗄B(tài)大模型，高性能存儲對訓(xùn)練的提升效果更好，效率可提升20-40%。

針對訓(xùn)練推理，焱融科技推出了多云存儲解決方案，基于統(tǒng)一的數(shù)據(jù)湖底座，通過數(shù)據(jù)編排將數(shù)據(jù)按需加載到數(shù)據(jù)中心，并異步將新增的模型數(shù)據(jù)推到數(shù)據(jù)湖。數(shù)據(jù)加載支持對接OSS、COS、BOS等各大主流對象存儲平臺。

▲焱融科技CTO張文濤

Zenlayer行業(yè)拓展總監(jiān)陳秀忠談道，通往更高級AGI的挑戰(zhàn)在于更即時的交互、更廣的數(shù)據(jù)、更廣的算力。因此，面向AGI的全球邊緣云方案需要考慮支持實時交互的全球網(wǎng)絡(luò)、數(shù)據(jù)本地存儲和全球流動、大量的邊緣節(jié)點。

專線對中國企業(yè)在海外部署關(guān)鍵應(yīng)用十分重要。陳秀忠稱，安全合規(guī)的跨境專線是企業(yè)連接全球的第一跳。Zenlayer通過邊緣數(shù)據(jù)中心服務(wù)，可為企業(yè)提供定制化的機房托管和托管主機解決方案。

▲Zenlayer行業(yè)拓展總監(jiān)陳秀忠

二、AIGC應(yīng)用專場：核心問題是高質(zhì)量數(shù)據(jù)，3D生成今年將實現(xiàn)真正可用

過去一年，中國生成式AI產(chǎn)業(yè)出現(xiàn)很多代表性的商業(yè)化探索成果。在手機、互聯(lián)網(wǎng)、影視、音樂、游戲、金融、電商、文娛、教育、工業(yè)、自動駕駛、生活服務(wù)等應(yīng)用場景，搜索、辦公、寫作、創(chuàng)意到繪畫、修圖、視頻編輯、3D建模等AI提效工具如雨后春筍般蓬勃而生。

探索視頻生成和世界模型的極佳科技，用AIGC賦能影視行業(yè)的天圖萬境，將3D生成帶入秒級時代的VAST，為生活服務(wù)打造垂類大模型的58同城，提供決策式AI和生成式AI相輔相成技術(shù)方案的百融云創(chuàng)，打造游戲行業(yè)一站式AI賦能平臺的行者AI，提供全鏈路電商內(nèi)容生成引擎的極?？萍?，用AIGC降低音樂制作門檻的靈動音DeepMusic，均在今天下午的AIGC應(yīng)用專場進行分享。

極佳科技創(chuàng)始人兼CEO黃冠認為，當(dāng)下所有“通用智能”都在走向“端到端大模型”，一切問題都變成了“高質(zhì)量數(shù)據(jù)”問題?！笆澜缒Ｐ汀笔俏磥砭呱碇悄茏钪匾摹案哔|(zhì)量數(shù)據(jù)”來源，它結(jié)合互聯(lián)網(wǎng)數(shù)據(jù)、仿真數(shù)據(jù)、遙操數(shù)據(jù)、真實采集數(shù)據(jù)等多種數(shù)據(jù)，學(xué)習(xí)、訓(xùn)練、組合，從而得到交互式物理世界模擬器。

極佳科技正基于世界模型打造新一代數(shù)據(jù)平臺，面向端到端自動駕駛和通用機器人提供服務(wù)。極佳科技DriveDreamer自動駕駛世界模型、WorldDreamer通用世界模型目前已成功商業(yè)化落地。

▲極佳科技創(chuàng)始人兼CEO黃冠

天圖萬境創(chuàng)始人圖拉古認為，AI應(yīng)該是能夠給人們帶來溫暖、彌合世界的創(chuàng)作工具，而不是取代人工作的的“內(nèi)卷武器”。因此AI不能離開應(yīng)用談技術(shù)，而是要建立到應(yīng)用端的完整產(chǎn)業(yè)鏈。天圖萬境從AI文本創(chuàng)作，到視頻生成，再到服務(wù)用戶的應(yīng)用端，打造了全產(chǎn)業(yè)鏈技術(shù)解決方案，且都早于國際巨頭發(fā)布了對應(yīng)產(chǎn)品，目前正在快速迭代中。

其展示的聲音生成工具Sora Opera，可以自動感知、智能識別視頻畫面中的物理邏輯，精準(zhǔn)配出風(fēng)格多變的音樂音效，為視頻增加聲音的魅力。還有聲音克隆工具SoundMax，它不走傳統(tǒng)TTS路線，而是將輸入的人聲轉(zhuǎn)換成其他聲線。這樣的人工智能工具，不會讓配音演員失業(yè)，而是讓他們在演繹不同角色時插上飛翔的創(chuàng)意翅膀。

▲天圖萬境創(chuàng)始人圖拉古

從文字、圖片到視頻、3D，信息載體不斷升級，VAST創(chuàng)始人兼CEO宋亞宸談道，3D的體驗質(zhì)量、信息密度不斷提升且更具互動性。他認為目前3D生成已經(jīng)達到類似Midjourney V3的效果，今年9月將達到類V4效果，年底達到類V5效果，實現(xiàn)真正可用。

為了應(yīng)對3D生成創(chuàng)作成本和門檻過高的挑戰(zhàn)，VAST將3D內(nèi)容平臺和大眾級創(chuàng)作者平臺結(jié)合。VAST的3D大模型Tripo已實現(xiàn)模型生成數(shù)量超150萬個。

▲VAST創(chuàng)始人兼CEO宋亞宸

58同城TEG-AI Lab大語言模型算法部負責(zé)人孫啟明認為，通用大模型+提示不會代替一切，應(yīng)用方需要結(jié)合自身業(yè)務(wù)場景，微調(diào)出自己的大模型。58同城構(gòu)建了模型領(lǐng)先、敏捷易用的AI平臺，助力AI應(yīng)用在內(nèi)部各業(yè)務(wù)線快速落地。

58同城搭建了一套支持大語言模型訓(xùn)練、推理的平臺，集成開源通用大模型，今晚將上線Meta最新推出的Llama 3模型。基于大語言模型平臺，58同城已推出了垂類大語言模型靈犀大模型（ChatLing），相比官方開源大模型實現(xiàn)了更好效果。

▲58同城TEG-AI Lab大語言模型算法部負責(zé)人孫啟明

百融云創(chuàng)AI創(chuàng)新負責(zé)人談道，生成式AI是AGI的先導(dǎo)，其與決策式AI最大的區(qū)別在于問題空間的擴大。傳統(tǒng)模型提供的優(yōu)化候選集合約為數(shù)千個。而Llama 2提供詞表中包含3.2萬個選項，對信息的壓縮比達到14倍；剛剛發(fā)布的Llama 3候選詞表擴充超過了12萬個，對信息的壓縮比也提升到30倍以上。

面向金融行業(yè)，百融云創(chuàng)開發(fā)了百融大模型一站式應(yīng)用開發(fā)平臺，針對信息安全、復(fù)雜溝通等需求構(gòu)建了BR-Coder編程助手、數(shù)字員工和交互式數(shù)字人Web-Copilot等應(yīng)用。

▲百融云創(chuàng)AI創(chuàng)新負責(zé)人分享生成式AI是AGI的先導(dǎo)

行者AI創(chuàng)始人&CEO尹學(xué)淵認為，此前AI輔助內(nèi)容創(chuàng)作在快、好、便宜之間的“不可能三角”，被生成式AI打破了，并為教育、文旅行業(yè)開啟了交互式、沉浸式新體驗。

在他看來，大模型走向落地時，“最后一公里”需要結(jié)合具體行業(yè)、具體領(lǐng)域工作流，一致、可控、高精度是工業(yè)化AI成為工具必不可少的特性。而行者AI的解決方案可以將產(chǎn)品策劃、美術(shù)總監(jiān)等用戶的工作效率提升3-5倍。

▲行者AI創(chuàng)始人&CEO尹學(xué)淵

極?？萍紕?chuàng)始人兼CEO武彬談道，當(dāng)下電商行業(yè)圖文和短視頻的內(nèi)容數(shù)量與需求都在大幅上升，內(nèi)容關(guān)聯(lián)著平臺、賣家與買家的核心交易訴求，但內(nèi)容制作效率嚴(yán)重不足。

成立于2017年的極?？萍紝Ｗ⒂诖蛟祀娚虄?nèi)容生成引擎，推出了ECGPT+FashionCLIP基座模型及多種電商垂直大模型，可支持商品AI拍攝、AI排版上新、AI直播切片、AI生成商品短視頻、AI帶貨、一站式AI技術(shù)與數(shù)據(jù)服務(wù)平臺、智能商品操作系統(tǒng)等多種功能，目前已合作超4萬電商客戶。

▲極?？萍紕?chuàng)始人兼CEO武彬

DeepMusic CEO劉曉光分享說，當(dāng)前的音樂商業(yè)格局，主要面向泛音樂愛好者的聽歌及淺度實踐用戶的唱歌消費體驗，而中間有1億以上活躍的音樂人、音樂實踐者群體，其需求尚未得到好的產(chǎn)品滿足；同時音樂制作流程長、門檻高，這使得音樂AIGC技術(shù)有用武之地。

對此，DeepMusic構(gòu)建了跨平臺一站式AI音樂工作站“和弦派”，以更直觀的音樂知識呈現(xiàn)、編輯形式，解決音樂中歌詞、旋律、伴奏等不同模態(tài)之間溝通困難的問題，覆蓋音樂創(chuàng)作、制作多個流程；未來DeepMusic也會通過積累的精細化標(biāo)注數(shù)據(jù)數(shù)據(jù)，實現(xiàn)對音頻模型的精細化控制。

▲DeepMusic CEO劉曉光

除了上述嘉賓外，另有7位嘉賓在分會場的中國智算中心創(chuàng)新論壇進行分享，6位嘉賓在分會場收費制的智猩猩AI智能體技術(shù)研討會上輸出干貨。

智東西后續(xù)將整理中國智算中心創(chuàng)新論壇的精華報道，以及部分嘉賓的演講干貨，敬請關(guān)注。

結(jié)語：下一站，上海見！

“我們正站在歷史的轉(zhuǎn)折處，見證和參與由生成式AI引領(lǐng)的新一輪科技變革?！敝且豢萍悸?lián)合創(chuàng)始人、CEO龔倫常代表主辦方為大會致辭。

過去一年，生成式AI狂飆突進，整個產(chǎn)業(yè)鏈成為全球創(chuàng)新、投資和應(yīng)用最活躍的領(lǐng)域之一，每位參與者都在與時間賽跑。作為智能產(chǎn)業(yè)的長期觀察者，我們期待見證并記錄中國生成式AI浪潮之變，并將持續(xù)邀請這股浪潮中的生力軍們，分享他們最新的技術(shù)進展與商業(yè)化探索。

今日，為期兩天的2024中國生成式AI大會·北京站圓滿收官。半年后的11月份，我們將在上海，為中國生成式AI產(chǎn)業(yè)再辦一場秋日盛會。

除此之外，智一科技旗下AI與硬科技知識分享社區(qū)智猩猩將聯(lián)合智能汽車產(chǎn)業(yè)新媒體車東西、芯片產(chǎn)業(yè)新媒體芯東西，6月在上海舉行中國智能汽車算力峰會，9月在深圳舉行第六屆全球AI芯片峰會，12月在深圳舉行第四屆全球自動駕駛峰會。歡迎參會交流。