2024年，我們見證了人工智能創(chuàng)新的空前爆發(fā)。AI的快速發(fā)展令很多人驚嘆，為了訓練更先進的大語言模型（LLM），科技巨頭爭相獲取強大的GPU。如今，AI正在無縫融入我們世界的每個角落。

延伸閱讀，點擊鏈接了解 Akamai Cloud Computing

在眾多新興AI公司、模型和應用的浪潮中，有個趨勢愈發(fā)清晰：AI的重點正在從訓練轉向推理。彭博社預測，到2032年，AI推理市場規(guī)模將增至1.3萬億美元，這一觀點也得到了很多最新報告的支持。市場的這一變化表明，2025年將成為加速分布式AI推理發(fā)展的關鍵一年。

“持續(xù)改進”和“不斷適應”的往復循環(huán)

盡管在打造強大AI模型的過程中，訓練工作仍將發(fā)揮關鍵作用，但未來的重點將會是推理：即部署這些模型，進而為企業(yè)和消費者提供實時、可行的見解和結果。同時，通過從邊緣設備將動態(tài)數(shù)據(jù)回饋至訓練過程，推動模型持續(xù)改進與適應，形成一個不斷優(yōu)化的循環(huán)。

AI推理的應用方式

AI推理是人工智能從“畫在紙上的餅”轉變?yōu)閷嶋H應用并產(chǎn)生現(xiàn)實影響的關鍵環(huán)節(jié)。Akamai的客戶正在多個行業(yè)和應用場景中利用AI推理，包括：

• 智慧城市：優(yōu)化交通流量以減少擁堵并提升安全性，通過智能監(jiān)控改善公共安全。
• 自動駕駛車輛：實現(xiàn)瞬時決策，促進高效的車隊編排。
• 工業(yè)物聯(lián)網(wǎng)與制造業(yè)：實施預測性維護以防止停機，通過實時視頻分析提升質(zhì)量控制。
• 智能零售：提供個性化購物體驗，并通過智能結賬和庫存管理優(yōu)化運營。
• 醫(yī)療與遠程醫(yī)療：實時監(jiān)測患者健康狀況，通過圖像處理加速醫(yī)學診斷，支持先進的可穿戴設備。
• 媒體娛樂：定制個性化內(nèi)容，實現(xiàn)實時視頻轉碼和直播增強。

這些示例只是客戶借助AI推理所能實現(xiàn)的廣泛應用的冰山一角。隨著邊緣計算不斷發(fā)展，預計將在各個行業(yè)看到更多創(chuàng)新性的應用。

AI推理的常見挑戰(zhàn)

這種創(chuàng)新也帶來了一些常見挑戰(zhàn)，包括延遲、成本和可擴展性。多年來，Akamai始終致力于解決這些問題。

將大量通用且性能過剩的GPU集中在數(shù)據(jù)中心的方式，已無法滿足大眾對高效AI推理的規(guī)?；晚憫俣鹊男枨蟆Ｎ覀冃枰捎萌路妒?，使推理架構更貼近用戶，也就是要通過分布式云模型來實現(xiàn)。

通過分布式云模型實現(xiàn)AI推理

在采用分布式云模型提供AI推理時，需要考慮一些獨特因素，包括：

• 延遲與響應速度：在集中式云數(shù)據(jù)中心之間傳輸數(shù)據(jù)會影響用戶體驗，并可能導致業(yè)務機會流失。去中心化的分布式架構則可提升推理響應速度。
• 資源約束：邊緣設備在功耗、存儲和計算能力方面存在限制。因此無比要通過部署輕量化、更高效的AI模型來實現(xiàn)強大的性能。
• 安全與數(shù)據(jù)隱私：本地數(shù)據(jù)處理可減少數(shù)據(jù)在傳輸過程中的暴露，從而增強安全性。這對醫(yī)療、金融和政府等需遵守嚴格數(shù)據(jù)本地化和隱私法規(guī)的行業(yè)尤為重要。
• 可擴展性與分布式架構：隨著托管AI應用的分布式位置數(shù)量增加，跨網(wǎng)絡管理和更新AI模型的復雜性也隨之上升。因此，必須要能提供可擴展的模型部署和維護解決方案。
• 帶寬與成本效益：去中心化AI推理可大幅減少傳輸至集中式云服務器的數(shù)據(jù)量，不僅能緩解網(wǎng)絡擁堵，還能顯著降低數(shù)據(jù)傳輸和存儲成本。

這些因素是在分布式、去中心化云基礎設施上部署AI時的關鍵考量，所有希望高效利用AI的企業(yè)都應重點關注。

Akamai強大生態(tài)系統(tǒng)帶來卓越的性能和可擴展性

Akamai致力于構建全球分布的云。我們的全球基礎設施經(jīng)過近30年發(fā)展，已容納超過25個核心計算區(qū)域、快速擴展的分布式計算位置，以及超過4000個邊緣節(jié)點。這一強大生態(tài)系統(tǒng)已經(jīng)為滿足企業(yè)在當前和未來AI推理需求做好了準備。

我們意識到，盡管客戶對高性能有很高需求，但他們也越來越擔心傳統(tǒng)云服務商常見的高額成本超支。Akamai云旨在解決這一日益增長的問題。

我們并沒有沿襲傳統(tǒng)做法囤積昂貴的通用GPU，這些GPU對AI推理任務來說往往過于強大。相反，我們?yōu)榭蛻籼峁┝艘环N平衡的GPU替代方案：Nvidia RTX 4000 Ada系列GPU。這些GPU兼具性能和成本效益，非常適合AI推理、運行小型語言模型以及處理像媒體轉碼這樣的專用工作負載。

強大但不失成本效益的方法

這種方法使我們能將卓越的AI能力更貼近用戶，同時保持對客戶的成本效益。我們的測試顯示，在運行生成式AI類Stable Diffusion模型時，與傳統(tǒng)公有云服務商提供的同類GPU替代方案相比，我們的成本節(jié)省幅度超過了80%。

相信這種方法能帶來最強大且兼具成本效益的結果，并能夠推動新的AI應用場景繼續(xù)發(fā)展。

分布式推理是使用AI的全新構想

隨著AI的實用性不斷提升，Akamai認為：分布式推理不僅僅是技術的進步，更是對AI使用方式的根本性重新構想。從集中的資源密集型計算轉向更高效的分布式邊緣計算，這一轉變已經(jīng)在不知不覺中開始了。

Akamai不僅在觀察這一變革，也在積極塑造這場變革。通過將遍布全球的分布式網(wǎng)絡、戰(zhàn)略性的云計算投資（包括圍繞推理工作進行優(yōu)化的GPU）以及對性能和成本效益的深刻理解等因素緊密結合在一起，Akamai正專注于幫助企業(yè)釋放AI推理的真正潛力。

很多企業(yè)也已經(jīng)意識到，對于采用AI推理這件事，真正的問題已經(jīng)不再是“是否”，而是“如何”。邊緣不再僅僅是數(shù)據(jù)的目的地，而是正成為AI提供最具影響力、實時見解的主要領域。歡迎進入計算的下一世代。

—————————————————————————————————————————————————

如您所在的企業(yè)也在考慮采購云服務或進行云遷移，

點擊鏈接了解Akamai Linode的解決方案