全美TOP 5高校的機(jī)器學(xué)習(xí)博士，實驗室卻連一塊能夠提供大量算力的GPU都沒有？

2024年中旬，一位網(wǎng)友在reddit上發(fā)的帖子，立刻引發(fā)了社區(qū)大討論——

年底，Nature的一篇報道更是揭露了學(xué)術(shù)界在GPU獲取上面臨的嚴(yán)峻挑戰(zhàn)——研究者竟然需要排隊申請學(xué)校GPU集群的使用時間。

同樣，在我國高校的實驗室內(nèi)，GPU嚴(yán)重匱乏的問題也很普遍。甚至還曾曝出過大學(xué)要求學(xué)生自備算力上課這樣十分離譜的新聞。

可見，「算力」這個瓶頸，甚至讓AI本身都變成了一件門檻極高的課程。

AI人才緊缺，且算力不足

與此同時，大模型、具身智能等前沿技術(shù)的迅猛發(fā)展，則正在全球范圍內(nèi)引發(fā)人才短缺。

根據(jù)牛津大學(xué)教授的計算，在美國，要求具備AI技能的工作崗位的比例增加了5倍。

放眼全球，技術(shù)人工智能（Tech-AI）的工作崗位增長了9倍，廣義人工智能（Broad-AI）的工作崗位增長了11.3倍。

在這一時期內(nèi)，亞洲的增長尤為顯著。

雖然世界各地的大學(xué)都在試圖幫助學(xué)生掌握關(guān)鍵的AI性能，但正如前文所說，算力如今已經(jīng)成為了一種「奢侈品」。

為了彌合這一差距，企業(yè)與高校的合作便成了一個重要手段。

鯤鵬昇騰科教創(chuàng)新孵化中心，開啟高?？蒲胁季?/h3>

好在，為了在我國高校培養(yǎng)起同樣的創(chuàng)新體系，華為已經(jīng)開始布局了！

現(xiàn)在，華為已經(jīng)和北大、清華、上交、浙大、中科大這5所頂尖高校，共同簽訂了「鯤鵬昇騰科教創(chuàng)新卓越中心」的合作。

此外，華為也同步推進(jìn)和復(fù)旦大學(xué)、哈爾濱工業(yè)大學(xué)、華中科技大學(xué)、西安交通大學(xué)、南京大學(xué)、北京航空航天大學(xué)、北京理工大學(xué)、電子科技大學(xué)、東南大學(xué)、北京郵電大學(xué)等10所高校，開展了「鯤鵬昇騰科教創(chuàng)新孵化中心」的合作。

卓越中心和孵化中心的成立，是產(chǎn)教融合的典范：

• 通過引入昇騰生態(tài)，彌補(bǔ)了高校的算力短缺，極大促進(jìn)了更多科研成果的迸發(fā)；
• 通過改革課程體系，以科研課題、產(chǎn)業(yè)課題、競賽課題驅(qū)動，來培養(yǎng)計算產(chǎn)業(yè)的頂尖人才；
• 通過攻堅體系架構(gòu)、計算加速能力、算法能力、系統(tǒng)能力，力爭孕育世界級的創(chuàng)新成果；
• 通過打造諸多「AI+X」交叉學(xué)科，引領(lǐng)智能化的生態(tài)發(fā)展。

為AI科研構(gòu)建完全自主的國產(chǎn)算力

如今，AI for Science的意義，已經(jīng)不言自明。

根據(jù)谷歌DeepMind的最新調(diào)查，每三位博士后研究員中就有一位使用大語言模型來協(xié)助完成文獻(xiàn)綜述、編程和文章撰寫等工作。

而今年的諾貝爾物理學(xué)獎和化學(xué)獎，更是都頒發(fā)給了AI領(lǐng)域的研究人員。

可以看到，在AI賦能科研的過程中，GPU憑借著在這些對高性能計算有需求的領(lǐng)域里出色的性能，以及針對 LLM 訓(xùn)練和推理的強(qiáng)大能力，成為了彌足珍貴的「黃金」，遭到了微軟、xAI、OpenAI等各大公司的瘋搶。

然而，美國針對GPU的封鎖，讓我國在AI和科研領(lǐng)域的進(jìn)展舉步維艱。

為了跨越這道鴻溝，我們必須構(gòu)建起自主完整的生態(tài)體系并將其發(fā)展壯大。

在算力層面，華為昇騰系列AI處理器承擔(dān)起了重塑我國競爭力的重任。

而在算力之上，我們還需要有一個自研的計算框架去適配，以便充分發(fā)揮出NPU/AI處理器的優(yōu)勢。

眾所周知，專為英偉達(dá)GPU而設(shè)計的CUDA架構(gòu)，在AI和數(shù)據(jù)科學(xué)領(lǐng)域較為常見。

在國內(nèi)真正與之抗衡的，實現(xiàn)替代的就只有CANN了。

作為華為針對AI場景推出的異構(gòu)計算架構(gòu)，CANN對上支持PyTorch、TensorFlow以及昇思MindSpore等業(yè)界主流AI框架，對下使能昇騰AI處理器，是提升昇騰AI處理器計算效率的關(guān)鍵平臺。。

正因如此，CANN天生就在技術(shù)上擁有諸多優(yōu)勢。其中最為關(guān)鍵的，是對AI計算更深入的軟硬結(jié)合優(yōu)化以及更加開放的軟件棧：

• 首先，它可以支持多種AI框架，包括自家的昇思MindSpore，以及第三方的PyTorch、TensorFlow等；
• 其次，它針對多樣化應(yīng)用場景，提供了多層次編程接口，支持用戶快速構(gòu)建基于昇騰平臺的AI應(yīng)用和業(yè)務(wù)；
• 而且，它還提供了模型遷移工具，方便開發(fā)者將項目快速遷移到昇騰平臺。

目前，CANN已經(jīng)初步構(gòu)建起了自己的生態(tài)系統(tǒng)。在技術(shù)層面，CANN囊括了大量的應(yīng)用、工具、庫，擁有完善的技術(shù)生態(tài)，給用戶提供了一站式的開發(fā)體驗。同時基于昇騰技術(shù)底座的開發(fā)者隊伍也逐步壯大，為未來的技術(shù)應(yīng)用和創(chuàng)新埋下了沃土。

在異構(gòu)計算架構(gòu)CANN之上，我們還需要AI模型搭建的深度學(xué)習(xí)框架。

幾乎所有的AI開發(fā)者，都需要用深度學(xué)習(xí)框架，而且?guī)缀跛蠨L算法和應(yīng)用，也都要通過深度學(xué)習(xí)框架去實現(xiàn)。

如今市面上已有熟知的谷歌TensorFlow，以及Meta的PyTorch等主流框架，并且形成了巨大的生態(tài)。

邁入大模型訓(xùn)練的時代，深度學(xué)習(xí)框架更需要在面對數(shù)千臺計算機(jī)規(guī)模時，進(jìn)行有效訓(xùn)練。

2020年3月正式開源的全場景深度學(xué)習(xí)框架——華為昇思MindSpore，彌補(bǔ)了國內(nèi)在這一領(lǐng)域的空缺，實現(xiàn)了真正的自主可控。

MindSpore具備云邊端全場景部署、原生支持大模型訓(xùn)練、支持AI+科學(xué)計算等關(guān)鍵特性，構(gòu)建了全場景協(xié)同且全流程極簡的原生開發(fā)環(huán)境，加速了國內(nèi)科研創(chuàng)新和產(chǎn)業(yè)應(yīng)用。

特別之處在于，作為昇騰AI處理器的「最佳搭檔」，MindSpore支持「端、邊、云」全場景，可以實現(xiàn)統(tǒng)一架構(gòu)，一次訓(xùn)練，多處部署。

從大到地球系統(tǒng)模擬、自動駕駛，小到蛋白質(zhì)結(jié)構(gòu)預(yù)測，統(tǒng)統(tǒng)都可以通過昇思MindSpore實現(xiàn)。

深度學(xué)習(xí)開源框架，只有廣泛的開發(fā)者生態(tài)，才能促進(jìn)它的完善，釋放出更大價值。

研究機(jī)構(gòu)Omdia于2023年發(fā)布的《中國人工智能框架市場調(diào)研報告》顯示，MindSpore已經(jīng)沖進(jìn)AI框架使用率的第一梯隊，僅次于TensorFlow。

此外，千行百業(yè)的推理應(yīng)用，才是釋放AI價值的關(guān)鍵。在GenAI加速發(fā)展過程中，不論是高校，還是企業(yè)對加速推理速度高需求亟待解決。

例如高性能優(yōu)化編譯器TensorRT，就是提升大模型推理性能的得力工具。借助量化和稀疏性，它能夠降低模型的復(fù)雜性，進(jìn)而高效地優(yōu)化深度學(xué)習(xí)模型的推理速度。但問題在于，它僅支持英偉達(dá)的GPU。

如上同理，我們既有了計算架構(gòu)、深度學(xué)習(xí)框架，也就會有與之相配套的推理引擎——華為昇騰MindIE。

MindIE是一款全場景AI推理加速引擎，集成了業(yè)界最先進(jìn)的推理加速技術(shù)，并繼承了開源PyTorch的特性。

其設(shè)計兼顧了靈活性和實用性，可無縫對接多種主流AI框架，同時支持不同類型的昇騰AI處理器，為用戶提供多層次編程接口。

通過全棧聯(lián)合優(yōu)化、分層開放AI能力的方式，MindIE能夠釋放昇騰硬件的極致算力，為用戶提供高效、快速的深度學(xué)習(xí)推理解決方案，解決模型推理和應(yīng)用開發(fā)中技術(shù)難度大、開發(fā)步驟多的問題，提升模型吞吐性能，縮短應(yīng)用上線時間，使能百模千態(tài)，滿足多元化的AI業(yè)務(wù)需求。

可以看到，CANN、MindSpore、MindIE等自主創(chuàng)新技術(shù)，不僅填補(bǔ)了國產(chǎn)算力短板，更在模型訓(xùn)練、框架易用性、推理性能等方面實現(xiàn)跨越式突破，甚至直接對標(biāo)國外的先進(jìn)技術(shù)棧。

構(gòu)建世界級的孵化中心

除了技術(shù)上具備優(yōu)勢以外，可以說，在未來幾十年內(nèi)，使用昇騰算力也更加符合國情需要。

只有國產(chǎn)自研算力，才能擺脫風(fēng)云變幻的外部環(huán)境影響，保證科研底座的穩(wěn)定性。

現(xiàn)在，平臺搭好了，怎樣讓高校的老師和學(xué)生們學(xué)會使用呢？

從去年9月6號開始，華為已陸續(xù)在北大、上交、浙大、中科大四大高校舉辦了第一期昇騰AI專場特訓(xùn)營。在幾百名報名參與的學(xué)生中，碩博生占比90%，課程涵蓋了昇騰領(lǐng)域CANN、MindSpore、MindIE、MindSpeed、HPC、鯤鵬開發(fā)工具等多方面的課程。

在特訓(xùn)營中，學(xué)生們不僅能詳細(xì)了解核心技術(shù)，還有動手實踐的機(jī)會。這樣的安排非常符合學(xué)生對于新知識的吸收特點，由淺入深，循序漸進(jìn)。

比如在上交場，第一天的課程會以遷移為主題，讓學(xué)生了解昇騰AI基礎(chǔ)軟硬件解決方案、Pytorch模型昇騰原生開發(fā)案例實踐、MindIE推理解決方案特性及遷移案例等內(nèi)容。

第二天的課程則會以優(yōu)化為主題，包括昇騰異構(gòu)計算架構(gòu)CANN、Ascend C算子開發(fā)、大模型長序列推理優(yōu)化實操等。

遷移和優(yōu)化課程的設(shè)置，可謂計之深遠(yuǎn)。

要知道，現(xiàn)在許多高校的實操課程，基本都是基于CUDA/X86設(shè)置的，但在制裁的影響之下，算力不足這一問題愈發(fā)顯著。此時，如果掌握了遷移的方法，就可以將項目放到昇騰的平臺上，讓學(xué)術(shù)持續(xù)運轉(zhuǎn)下去。

掌握了基本知識后，學(xué)生們就可以在實踐案例部分中親自動手了。華為的專家會手把手指導(dǎo)學(xué)生們，讓他們在大模型量化、推理、Codelabs代碼實現(xiàn)展開等過程中，學(xué)習(xí)昇騰技術(shù)棧，體驗大模型推理全流程。

經(jīng)過實操后，學(xué)生們會通過親身體驗對于昇騰生態(tài)有更多的了解，為之后技術(shù)領(lǐng)域的工作打下堅實的基礎(chǔ)。

上交的第一期特訓(xùn)營，學(xué)生們正在動手實操

除了課程之外，華為還將面向高校開發(fā)者舉辦算子挑戰(zhàn)賽，挖掘算子開發(fā)精英。

比賽鼓勵開發(fā)者基于昇騰算力資源、CANN的基礎(chǔ)能力進(jìn)行深度創(chuàng)新與實踐，加速AI與行業(yè)融合，促進(jìn)開發(fā)者能力提升。

此外，孵化中心對于學(xué)術(shù)成果也十分重視。

基于鯤鵬或昇騰計算關(guān)鍵技術(shù)與工具進(jìn)行學(xué)術(shù)研究的學(xué)生，還可以申報研究生獎學(xué)金。在此期間，如果論文發(fā)表在了國際頂會和國內(nèi)頂刊上，也會有相應(yīng)的獎勵。

同時，華為還聯(lián)合了鯤鵬&昇騰生態(tài)伙伴，發(fā)起了優(yōu)才計劃。

該計劃讓在校生從理論走向?qū)嵺`，走進(jìn)企業(yè)的真實工作場景，同時幫助優(yōu)秀學(xué)生提前與企業(yè)對接。

現(xiàn)在，優(yōu)才計劃已經(jīng)在15個城市聯(lián)合了200多家企業(yè)，提供了2000多個技術(shù)崗位，讓一萬多名高校學(xué)生應(yīng)聘到了崗位。

總的來說，通過這些教學(xué)實踐和激勵計劃，可以大大增加學(xué)生的參與熱情。不僅能他們提升學(xué)術(shù)經(jīng)驗、做出科研成果，也會讓經(jīng)歷和背景更加亮眼，從而獲得就業(yè)市場上的加分，更容易獲得國內(nèi)外頂尖公司的青睞。

那么，在掌握了最新的技術(shù)及其運用之后，如何在AI日新月異的今天，培育出真正具有突破性的科研成果呢？

自從Sora掀起了2024年文生視頻的AI熱浪，文生視頻大模型就在不斷涌現(xiàn)。北大和兔展的開源文生視頻項目Open-Sora Plan，就曾在業(yè)內(nèi)引起震動。

其實早在Sora面世時，團(tuán)隊就已經(jīng)在籌備開源版Sora了，然而算力和數(shù)據(jù)的要求達(dá)不到，項目一度擱置。好在，北大與華為聯(lián)手成立鯤鵬昇騰科教創(chuàng)新卓越中心，讓團(tuán)隊迅速得到算力支持。

原本團(tuán)隊使用的是英偉達(dá)A100，遷移昇騰生態(tài)后，他們有了種種驚喜的發(fā)現(xiàn)——

CANN的支持，能實現(xiàn)高效能的并行計算，顯著加快大規(guī)模數(shù)據(jù)集處理速度；Ascend C接口類庫，簡化了AI應(yīng)用的開發(fā)流程；算子加速庫進(jìn)一步優(yōu)化了算法運行性能。

更重要的是，開放的昇騰生態(tài)，能快速實現(xiàn)大模型和應(yīng)用的適配。

因此，團(tuán)隊成員雖然是從0開始接觸昇騰生態(tài)，卻能在很短的時間內(nèi)迅速上手。

接下來的訓(xùn)練中，團(tuán)隊不斷發(fā)現(xiàn)驚喜：比如使用torch_npu進(jìn)行開發(fā)時，整體代碼都可以無縫在昇騰NPU上訓(xùn)練和推理。

需要進(jìn)行模型切分時，昇騰MindSpeed分布式加速套件提供了豐富的大模型分布式算法及并行策略。

另外，在大規(guī)模訓(xùn)練中，使用MindSpeed和昇騰硬件的穩(wěn)定性遠(yuǎn)高于其他計算平臺，可以連續(xù)一周不中斷。

因此，短短一個月后，Open-Sora Plan就正式推出，獲得了業(yè)內(nèi)的極大認(rèn)可。

Open-Sora Plan生成的這段《黑神話：悟空》畫面堪比電影大片，驚艷了無數(shù)網(wǎng)友

另外，面向昇騰算力，東南大學(xué)還開發(fā)了一個多模式交通大模型MT-GPT。

以前交通大模型的落地十分困難，原因包括不同政府部門收集數(shù)據(jù)導(dǎo)致的數(shù)據(jù)孤島問題、數(shù)據(jù)格式和標(biāo)準(zhǔn)不統(tǒng)一、交通數(shù)據(jù)的異質(zhì)多源等等。

為了解決這些問題，團(tuán)隊專門構(gòu)思了一個名為MT-GPT（Multimodal Transportation GenerativePre-trained Transformer）的多模式交通大模型概念框架，為多模式交通系統(tǒng)任務(wù)中的多方位、多顆粒度的決策問題提供數(shù)據(jù)驅(qū)動。

然而大模型的開發(fā)訓(xùn)練中，無疑對算力底座的要求極高。

為此，團(tuán)隊選擇借助昇騰AI的能力，來加速交通大模型的開發(fā)、訓(xùn)練、調(diào)優(yōu)和部署。

在開發(fā)階段，Transformer大模型開發(fā)套件，通過多源異構(gòu)知識語料與多模態(tài)特征編碼，協(xié)同提升了多模態(tài)生成式問題的理解精度。

在訓(xùn)練階段，昇騰MindSpeed分布式訓(xùn)練加速套件，為交通大模型提供了多維度、多模式、多模態(tài)的加速算法。

在調(diào)優(yōu)階段，昇騰MindStudio全流程工具鏈，結(jié)合了微調(diào)交通專有領(lǐng)域知識進(jìn)行訓(xùn)練微調(diào)。

在部署階段，昇騰MindIE推理引擎能夠助力交通大模型的一站式推理，還能支持跨城市的遷移分析、開發(fā)、調(diào)試和調(diào)優(yōu)。

總結(jié)來看可以發(fā)現(xiàn)，北大Open-Sora是復(fù)現(xiàn)Sora的遷移項目，同時作為開源項目，它也能更好地賦能全球開發(fā)者做更多場景的應(yīng)用。

而東南大學(xué)的多模式交通大模型MT-GPT則體現(xiàn)出了昇騰算力在成果轉(zhuǎn)化上的實際能力，直接賦能了城市的交通行業(yè)。

由此，就充分形成了產(chǎn)學(xué)研的閉環(huán)。

這些豐碩的成果也更加證明了這一點：卓越中心/孵化中心不僅可以為高校提供學(xué)術(shù)研究、科學(xué)創(chuàng)新的沃土，還能夠培養(yǎng)一大批AI頂尖人才，進(jìn)而孵化出引領(lǐng)世界的科研成果。

比如，就在北大團(tuán)隊研發(fā)Open-Sora Plan的過程中，袁粒老師會每天組織同學(xué)們和華為昇騰團(tuán)隊一起就代碼和算法的開發(fā)進(jìn)行頭腦風(fēng)暴。

在摸著石頭過河的過程中，北大團(tuán)隊的眾多學(xué)生親自參與了一場高質(zhì)量的科研實踐，展現(xiàn)出了極高的科研創(chuàng)造力。

這支平均年齡23歲的的團(tuán)隊，也成為了推動國產(chǎn)AI視頻應(yīng)用的中堅力量。

在這個過程中，掌握了鯤鵬昇騰生態(tài)的青年學(xué)習(xí)隊伍，也在不斷壯大。

因此，高?；趪a(chǎn)算力、平臺做研究，不僅獲得頂尖智力的加持，也在這個過程中擴(kuò)展了華為技術(shù)生態(tài)和應(yīng)用。

我國應(yīng)該打造怎樣的創(chuàng)新體系？

可以看到，校企合作這種新范式，華為已正式起航。

自2019年建立起計算產(chǎn)品線后，華為很快就在2020年和教育部簽了智能基座的合作項目，在全國頭部的72所高校中，開展教學(xué)合作。

當(dāng)時，鯤鵬/昇騰的一些技術(shù)知識，就已經(jīng)融入了一些大學(xué)本科的必修課里。

不過，在高校的投入，是一個中長期的培育過程。只有讓學(xué)生和老師優(yōu)先去了解相關(guān)技術(shù)，未來若干年后才可能發(fā)揮出更大價值。

因此，華為計劃每年投入10億元，來發(fā)展鯤鵬、昇騰的原生生態(tài)與人才。這一戰(zhàn)略的實施，將為高校人才和開發(fā)者提供更豐富的資源和更廣闊的發(fā)展空間，也已經(jīng)啟動了10萬片鯤鵬開發(fā)板和昇騰推理開發(fā)板贈送計劃，以鼓勵他們在教學(xué)實驗、競賽實踐和科技創(chuàng)新中積極探索和應(yīng)用鯤鵬、昇騰技術(shù)。

根據(jù)此計劃，師生可以近距離地接觸和試用開發(fā)板。無論是老師的教學(xué)，還是科研實驗，高校師生都能在上面常識想要做的創(chuàng)新，激發(fā)出新的靈感。

香橙派與華為昇騰攜手推出的OrangePi AIpro開發(fā)板，滿足大多數(shù)AI算法原型驗證、推理應(yīng)用開發(fā)的需求，可廣泛適用于AI邊緣計算、深度視覺學(xué)習(xí)、無人機(jī)、云計算等領(lǐng)域，表現(xiàn)出了強(qiáng)大的實力和廣泛的適用性

另一方面，我國目前的特殊處境——來自外界的技術(shù)封鎖，也意味著留給我們的時間不多了。我們必須要有一套獨立可控的技術(shù)棧。

原生開發(fā)，在未來已經(jīng)勢在必行。唯有Made in China，才最符合中國未來的大國情趨勢。

隨著國產(chǎn)化成為大勢所趨，諸如鯤鵬/昇騰這類的國產(chǎn)技術(shù)棧，也將遍及到各個IT基礎(chǔ)設(shè)施之上。

卓越中心和孵化中心的啟航，也讓業(yè)內(nèi)越來越有信心。

可以預(yù)見，在幾年的孵化之后，掌握國產(chǎn)技術(shù)底座的科研人才，將源源不斷地將鯤鵬/昇騰技術(shù)路線發(fā)揚光大，孵化出足夠引領(lǐng)世界的科研成果。