自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

分布式云的真正實力:從GPU到CPU,邊緣算力助攻AI創(chuàng)新

云計算
Akamai 云計算服務在 IaaS、容器、存儲、數據庫、網絡與開發(fā)工具方面也有全方位的云服務,可助力企業(yè)與開發(fā)者擺脫云綁定模式,靈活進行微服務創(chuàng)新,更快速、更高效地打造泛智能的創(chuàng)新型產品。

近期,OpenAI 全新旗艦版多模態(tài)模型 GPT-4o 橫空出世,其打通文本、圖像、視頻的富媒體理解能力以及敏捷的智能化對話,將 AI 助手的人性化表達效果,提升至更高水平。

從技術源頭來看,AI 大模型的卓越表現得益于高效的 AI 訓練與推理的過程,而這需要有規(guī)?;脑朴嬎阕鳛樗懔χ巍?/span>日前,ChatGPT(包括網站、App和桌面應用)的大規(guī)模服務中斷持續(xù)了數個小時,無處可去的用戶選擇暫時用Gemini、Claude和Perplexity替代工作,結果導致了它們也相繼出現短暫故障。

這一事件的原因雖然尚未得到詳細說明,但“云+AI”兩者之間的重要關系不言而喻?!爸恰彼?,已然成為云計算的重要驅動力。

延伸閱讀,點擊鏈接了解Akamai Cloud Computing

IDC 和浪潮聯(lián)合發(fā)布的《2022-2023中國人工智能計算力發(fā)展評估報告》顯示,預計2026年,智能算力規(guī)模將進入每秒十萬億億次浮點計算(ZFlops)級別。算力需求激增趨勢下,企業(yè)對算力“水煤電”的使用現狀,也并非足夠順暢,而是存在多重維度的挑戰(zhàn):

集中云是大腦,分布式云則是抓手

擁有敏銳創(chuàng)新嗅覺的云從業(yè)人員發(fā)現,云形態(tài)正在因 AI 風向的不同發(fā)生顯著改觀。傳統(tǒng)集中云能夠實現大規(guī)模的資源拓展,但高度集中的中心形態(tài)更需要分枝散葉、如觸手一般在近端呈現為分布形態(tài)——如高“智”商的物種章魚一般,多觸點、才敏捷。

ITDM 調查顯示,技術負責人認識到分布式云的實用性特別適合于大數據和分析應用場景(56%)以及 AI/ML 工作負載 (47%)而根據 ClearPath Strategies 在2023年進行了一項全球性研究,有三分之二的 IT 決策者表示在未來 12 個月內其分布式云服務的使用量預計會顯著增加。超過三分之一的受訪者表示,分布式云好處眾多(如快速、高效處理和分析 AI/ML 數據能力),是 IT 策略不可或缺的一部分。

布局邊緣強勢助攻 AI 創(chuàng)新

AI 智算之道與 Akamai 云計算戰(zhàn)略不謀而合。作為 CDN 行業(yè)鼻祖,Akamai 在分布式云方面有天然優(yōu)勢,始終秉持著在貼近終端用戶的位置,一路積淀、融合、構建了云計算、云安全、云分發(fā)三位一體的快捷服務。

如今,Akamai 云計算平臺戰(zhàn)略的關鍵一步,便是 Akamai Generalized Edge Compute (Gecko) 泛化邊緣計算計劃支持企業(yè)與開發(fā)者利用分布式云形態(tài),可突破云綁定模式,獲得云的便攜性,助力企業(yè)開發(fā)者在多云容器化格局下,高效開發(fā)、降本增效。

應對 AI 創(chuàng)新的海量算力資源需求,Akamai 云產品陣容中新添一款基于 NVIDIA RTX 4000 Ada Generation GPU 的媒體優(yōu)化型產品,能用于 Gen AI/ML 場景,非常適合利用神經網絡進行訓練和推理任務,可并行執(zhí)行大量計算,更快、更高效地訓練新模型,提高準確性和性能。

從 GPU 到 CPU提升 AI 推理性能

為突破邊緣推理 GPU 容量不足、算力不足等難題,Akamai 攜手 Neural Magic 和 AMD 展開三方戰(zhàn)略合作,推出了基于 CPU 的 AI 推理技術。

Neural Magic 通過稀疏化算法優(yōu)化 AI 模型,降低算力需求,可以把 LLM 機器視覺 NLP 模型的運行至 CPU 上;并協(xié)同 AMD 四代 CPU 特定更新的向量指令集,提升運行效率。

Akamai 用 NLP 模型進行性能測試,基于兩款入門Akamai 兩核 CPU 虛機,若處理4萬條電影評論的文本情感分析,僅需20分鐘即可完成。月費成本上,每個月可處理8600萬條推理請求,單月推理成本低至82美金。Neural Magic 也使用 NLP 模型,對比了 CPU/GPU 推理效率。在維持原有模型推理準確性的同時,推理效率的兩端,效率相差1000倍之多,更有助于保障企業(yè)的 AI 創(chuàng)新業(yè)務的可持續(xù)盈利能力。

基于分布式云加速推薦引擎 AI 推理

電商、社交媒體、廣告等行業(yè)往往需要借助融合 AI、深度學習和大語言模型算法的推薦引擎來發(fā)掘用戶偏好,主動推薦可能感興趣的內容和商品。但若缺失高質量的網絡性能保障,泛互聯(lián)網產業(yè)廣為使用的推薦引擎,將受限于網絡訪問時延。

面對阻礙推薦引擎的網絡訪問時延問題,除優(yōu)化網絡架構、使用更快的網絡設備、優(yōu)化數據傳輸協(xié)議等措施,更可以基于邊緣的分布式云計算網絡、具有 AI 算力的邊緣計算節(jié)點,支持行業(yè)用戶化解推薦引擎部署、性能、延時等方面的難題。Akamai 特別建議出海企業(yè)將 AI 推薦引擎部署距離用戶更近的 Akamai Gecko 站點,獲得全球范圍的邊緣優(yōu)勢。

一直以來,在推薦引擎場景的成功實踐之外,Akamai 云計算服務也以靈活、易用的分布式形態(tài)與智能應用,長期助力廣告科技、游戲、數據庫等行業(yè),顯著降低云成本,在保障性能的同時,提升 IT 投資回報率。

Akamai云計算平臺上優(yōu)化AI應用的架構設計

整體來看,Akamai 云計算服務在 IaaS、容器、存儲、數據庫、網絡與開發(fā)工具方面也有全方位的云服務,可助力企業(yè)與開發(fā)者擺脫云綁定模式,靈活進行微服務創(chuàng)新,更快速、更高效地打造泛智能的創(chuàng)新型產品。

例如,一個基于QwikOpenAI服務的Web項目如果搭建在Akamai的云計算服務(即Akamai Linode)上,完全可以通過引入邊緣計算來提高性能,獲得更快的響應時間和更好的用戶體驗(當然,API調用也更少)。

日常的應用開發(fā)與Akamai的云計算和邊緣計算服務整合,不僅僅能改善性能,還可以獲得很多非常酷的安全功能。例如,在Akamai的網絡上,我們可以使用諸如Web應用程序防火墻(WAF)、分布式拒絕服務(DDoS)防護、智能爬蟲檢測等功能,從而更好地保障應用程序、數據、客戶信息的安全性。

如今,Akamai Qualified Computing Partner Program(QCP)合作伙伴計劃,正在火熱納新中,Akamai 廣邀在 AI 訓練&推理等領域的合作伙伴,共創(chuàng)、共構生態(tài)特定行業(yè)場景解決方案,重塑智能化時代的用戶體驗與創(chuàng)新效率。

歡迎點擊以下鏈接,試用 Akamai 云計算系列產品;同時,Akamai 也歡迎志同道合的創(chuàng)新團隊加入 Akamai QCP 合作伙伴計劃。

如您所在的企業(yè)也在考慮采購云服務或進行云遷移,

點擊鏈接了解Akamai Linode的解決方案


責任編輯:張燕妮
相關推薦

2024-05-29 14:23:10

Akamai云計算服務

2024-01-29 14:46:22

分布式計算云計算邊緣計算

2022-03-24 15:44:06

邊緣計算CDN

2025-03-21 14:42:28

2021-11-26 06:43:19

Java分布式

2024-01-22 13:55:00

2022-12-04 22:41:15

IPC分布式機制

2017-09-01 05:35:58

分布式計算存儲

2022-02-24 10:01:05

數字化網絡安全邊緣計算

2023-08-25 09:39:20

數據存力

2017-11-10 06:15:35

2021-04-15 11:04:13

云計算分布式邊緣計算邊緣計算

2024-06-07 07:41:03

2023-08-18 09:00:00

Kubernetes數據庫SQL

2024-03-20 11:07:57

AI計算CPUGPU

2021-12-28 20:21:38

計算

2023-04-02 21:34:48

大數據云計算

2021-12-13 16:55:50

數字化

2023-02-20 10:15:00

云協(xié)同邊緣
點贊
收藏

51CTO技術棧公眾號