近期，AI 創(chuàng)新圈再次發(fā)布重磅產(chǎn)品更新。OpenAI 全新旗艦版多模態(tài)模型 GPT-4o 橫空出世，其打通文本、圖像、視頻的富媒體理解能力以及敏捷的智能化對(duì)話，將 AI 助手的人性化表達(dá)效果，提升至更高水平。

從技術(shù)源頭來看，AI 大模型的卓越表現(xiàn)，得益于高效的 AI 訓(xùn)練與推理的過程，這正需要有規(guī)?；脑朴?jì)算作為算力支撐?！霸?AI”兩者之間才能如魚得水、相輔相成。當(dāng)下，“智”算，已然成為云計(jì)算的重要驅(qū)動(dòng)力。

延伸閱讀，點(diǎn)擊鏈接了解Akamai Cloud Computing

IDC 和浪潮聯(lián)合發(fā)布的《2022-2023中國(guó)人工智能計(jì)算力發(fā)展評(píng)估報(bào)告》顯示，預(yù)計(jì)2026年，智能算力規(guī)模將進(jìn)入每秒十萬億億次浮點(diǎn)計(jì)算(ZFlops)級(jí)別。算力需求激增趨勢(shì)下，企業(yè)對(duì)算力“水煤電”的使用現(xiàn)狀，也并非足夠順暢，而是存在多重維度的挑戰(zhàn)：

集中云只是 AI 大腦，分布式才是 AI 抓手

為了擺脫創(chuàng)新者的窘境，擁有敏銳創(chuàng)新嗅覺的云從業(yè)人員發(fā)現(xiàn)，云形態(tài)正在因 AI 風(fēng)向的不同發(fā)生顯著改觀。傳統(tǒng)集中云，能夠?qū)崿F(xiàn)大規(guī)模的資源拓展，但高度集中的中心形態(tài)，更需要分枝散葉、如觸手一般在近端呈現(xiàn)為分布形態(tài)。如高“智”商的章魚物種一般，多觸點(diǎn)、才敏捷。

ITDM 調(diào)查顯示，技術(shù)負(fù)責(zé)人認(rèn)識(shí)到分布式云的實(shí)用性特別適合于大數(shù)據(jù)和分析應(yīng)用場(chǎng)景(56%)以及 AI/ML 工作負(fù)載 (47%)。而根據(jù) ClearPath Strategies 在2023年進(jìn)行了一項(xiàng)全球性研究，有三分之二的 IT 決策者表示在未來 12 個(gè)月內(nèi)其分布式云服務(wù)的使用量預(yù)計(jì)會(huì)顯著增加。超過三分之一的受訪者表示，分布式云好處眾多（如快速、高效處理和分析 AI/ML 數(shù)據(jù)能力），是 IT 策略不可或缺的一部分。

無處不在，布局邊緣：強(qiáng)勢(shì)助攻 AI 創(chuàng)新

業(yè)界同仁的 AI 智算之道，正與 Akamai 云計(jì)算戰(zhàn)略不謀而合。作為 CDN 行業(yè)鼻祖，Akamai 在分布式云方面有天然優(yōu)勢(shì)，始終秉持著在貼近終端用戶的位置，一路積淀、融合、構(gòu)建了云計(jì)算、云安全、云分發(fā)三位一體的快捷服務(wù)。

如今，Akamai 云計(jì)算平臺(tái)戰(zhàn)略的關(guān)鍵一步，便是 Akamai Generalized Edge Compute (Gecko) 泛化邊緣計(jì)算計(jì)劃，以支持企業(yè)與開發(fā)者利用分布式云形態(tài)，可突破云綁定模式，獲得云的便攜性，助力企業(yè)開發(fā)者在多云容器化格局下，高效開發(fā)、降本增效。

應(yīng)對(duì) AI 創(chuàng)新的海量算力資源需求，Akamai 近日云產(chǎn)品陣容中新添一款基于 NVIDIA RTX 4000 Ada Generation GPU 的媒體優(yōu)化型產(chǎn)品，并能用于 Gen AI/ML 場(chǎng)景，非常適合利用神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練和推理任務(wù)，可并行執(zhí)行大量計(jì)算，更快、更高效地訓(xùn)練新模型，提高準(zhǔn)確性和性能。

從 GPU 到 CP：提升 AI 推理性能

為突破邊緣推理 GPU 容量不足、算力不足等難題，Akamai 攜手 Neural Magic 和 AMD 展開三方戰(zhàn)略合作，推出了基于 CPU 的 AI 推理技術(shù)。Neural Magic 通過稀疏化算法優(yōu)化 AI 模型，降低算力需求，可以把 LLM 機(jī)器視覺 NLP 模型的運(yùn)行至 CPU 上；并協(xié)同 AMD 四代 CPU 特定更新的向量指令集，提升運(yùn)行效率。

Akamai 用 NLP 模型進(jìn)行性能測(cè)試，基于兩款入門Akamai 兩核 CPU 虛機(jī)，若處理4萬條電影評(píng)論的文本情感分析，僅需20分鐘即可完成。月費(fèi)成本上，每個(gè)月可處理8600萬條推理請(qǐng)求，單月推理成本低至82美金。Neural Magic 也使用 NLP 模型，對(duì)比了 CPU/GPU 推理效率。在維持原有模型推理準(zhǔn)確性的同時(shí)，推理效率的兩端，效率相差1000倍之多，更有助于保障企業(yè)的 AI 創(chuàng)新業(yè)務(wù)的可持續(xù)盈利能力。

基于分布式云，加速推薦引擎 AI 推理

在電商、社交媒體、廣告等行業(yè)，往往需要借助融合 AI、深度學(xué)習(xí)和大語言模型算法的推薦引擎，來發(fā)掘用戶偏好，主動(dòng)推薦可能感興趣的內(nèi)容和商品。但若缺失高質(zhì)量的網(wǎng)絡(luò)性能保障，泛互聯(lián)網(wǎng)產(chǎn)業(yè)廣為使用的推薦引擎，將受限于網(wǎng)絡(luò)訪問時(shí)延。

面對(duì)阻礙推薦引擎的網(wǎng)絡(luò)訪問時(shí)延問題，除優(yōu)化網(wǎng)絡(luò)架構(gòu)、使用更快的網(wǎng)絡(luò)設(shè)備、優(yōu)化數(shù)據(jù)傳輸協(xié)議等措施，更可以基于邊緣的分布式云計(jì)算網(wǎng)絡(luò)、具有 AI 算力的邊緣計(jì)算節(jié)點(diǎn)，支持行業(yè)用戶化解推薦引擎部署、性能、延時(shí)等方面的難題。Akamai 特別建議出海企業(yè)，將 AI 推薦引擎部署距離用戶更近的 Akamai Gecko 站點(diǎn)，獲得全球范圍的邊緣優(yōu)勢(shì)。

一直以來，在推薦引擎場(chǎng)景的成功實(shí)踐之外，Akamai 云計(jì)算服務(wù)也以靈活、易用的分布式形態(tài)與智能應(yīng)用，長(zhǎng)期助力廣告科技、游戲、數(shù)據(jù)庫等行業(yè)，顯著降低云成本，在保障性能的同時(shí)，提升 IT 投資回報(bào)率。

整體來看，Akamai 云計(jì)算服務(wù)，在 IaaS、容器、存儲(chǔ)、數(shù)據(jù)庫、網(wǎng)絡(luò)與開發(fā)工具方面也有全方位的云服務(wù)，可助力企業(yè)與開發(fā)者擺脫云綁定模式，靈活進(jìn)行微服務(wù)創(chuàng)新，更快速、更高效地打造泛智能的創(chuàng)新型產(chǎn)品。

如今，Akamai Qualified Computing Partner Program(QCP)合作伙伴計(jì)劃，正在火熱納新中，Akamai 廣邀在 AI 訓(xùn)練&推理等領(lǐng)域的合作伙伴，共創(chuàng)、共構(gòu)生態(tài)特定行業(yè)場(chǎng)景解決方案，重塑智能化時(shí)代的用戶體驗(yàn)與創(chuàng)新效率。

如您所在的企業(yè)也在考慮采購(gòu)云服務(wù)或進(jìn)行云遷移，

點(diǎn)擊鏈接了解Akamai Linode的解決方案