AI讓邊緣計算與CIO更加相關
新時代的自主系統(tǒng)將需要更快速的數(shù)據(jù)處理,且靠近數(shù)據(jù)源進行處理,這使得一些CIO將AI加入他們2025年的邊緣計算規(guī)劃中。
分析師預測,企業(yè)AI的下一個階段將引入自主系統(tǒng),幾乎無需人工干預。據(jù)Gartner最近的一份報告顯示,今年已有75%的CIO增加了AI預算。隨著GenAI嵌入更多設備,實現(xiàn)自主決策將依賴實時數(shù)據(jù)處理,并且避免高昂的云計算成本,這正是邊緣計算發(fā)揮作用的地方。
通過靠近數(shù)據(jù)源處理數(shù)據(jù),邊緣計算能夠加快決策速度,減少數(shù)據(jù)傳輸,從而降低成本,成為AI應用的理想環(huán)境?!斑吘売嬎阏诳焖侔l(fā)展,從一個有前景的概念演變?yōu)樵S多行業(yè)的關鍵工具,”前白宮CIO、Fortalice Solutions網(wǎng)絡安全公司創(chuàng)始人Theresa Payton說道,“到2025年,隨著AI和物聯(lián)網(wǎng)的擴展,邊緣計算將更加普及?!?/p>
以位于威斯康星州的電力供應公司Dairyland Power Cooperative為例,他們采用GenAI來優(yōu)化和提升現(xiàn)場基礎設施的性能和效率?!癆I讓邊緣計算對CIO更具吸引力,因為它幫助我們減少數(shù)據(jù)處理的延遲,而在我們追求實時處理的情況下,這帶來了巨大優(yōu)勢?!痹摴镜母笨偛眉鍯IO Nate Melby表示。
其他人也認為,隨著AI在關鍵企業(yè)應用中的普及,邊緣計算的處理能力將隨之提升?!半S著AI應用在關鍵任務的企業(yè)用例中大量增加,其中一些AI應用將轉移到邊緣,”分布式云計算平臺公司Akamai的執(zhí)行副總裁兼CTO Robert Blumofe說道,“邊緣計算能夠減少延遲、降低成本,并降低數(shù)據(jù)暴露的風險?!?/p>
然而,企業(yè)中的GenAI引發(fā)了大量的炒作,實際的價值應用案例卻屈指可數(shù)。分析師對此泡沫進行了揭穿,一些技術領導者也選擇停止相關項目。針對最近AI熱潮的降溫,AVOA的CIO戰(zhàn)略顧問Tim Crawford提醒領導者要做出理性的投資決策。不過,他仍然認為,在提高效率的驅動下,GenAI和某些邊緣應用有著值得探索的機會。
CIO對邊緣計算的興趣
近年來,邊緣計算的關注度迅速上升。據(jù)IDC估計,2024年全球在邊緣計算上的支出增長了14%。推動這種興趣的一個重要因素是將AI投入實際應用,這需要低延遲和高隱私的結合,而這正是邊緣計算的優(yōu)勢所在。
“我們看到邊緣計算的使用迅速擴大,”Blumofe說道,“我們在自己的應用中使用它,客戶也越來越多地采用它?!闭雇?025年,更多CIO計劃在邊緣實現(xiàn)AI的應用。
“明年,我們的企業(yè)計劃利用邊緣計算來增強運營決策智能,并推動我們向智能資產(chǎn)的方向發(fā)展,”Melby補充道。在他們的領域中,AI和邊緣計算正變得必不可少,以實現(xiàn)下一代高度智能化的工業(yè)數(shù)字運營。他表示,這是一個新型的、網(wǎng)絡化的動態(tài)能源生態(tài)系統(tǒng)的基礎。
根據(jù)Fortalice Solutions的Payton的說法,將數(shù)據(jù)處理靠近數(shù)據(jù)產(chǎn)生的地方,尤其有利于需要即時行動和實時洞察的應用,無論是在零售、制造業(yè),還是客戶體驗領域。她表示:“那些優(yōu)先考慮實時決策和數(shù)據(jù)處理的企業(yè),應在其2025年及以后的路線圖中納入邊緣計算?!?/p>
AI與邊緣計算攜手并進
邊緣計算的核心是實時處理數(shù)據(jù),在數(shù)據(jù)收集并需要處理的端點進行操作,而AI在其中成為了明顯的助手。軟件公司Bizagi的CIO Antonio Vázquez表示:“AI可以通過在數(shù)據(jù)傳輸、可擴展性、安全性和成本方面提高效率,幫助解決過去阻礙技術采用的問題?!?/p>
運營方面的收益也值得考慮,計算公司Macrometa的CEO兼聯(lián)合創(chuàng)始人Chetan Venkatesh補充道:“AI通過實現(xiàn)網(wǎng)絡邊緣的實時智能數(shù)據(jù)處理,使邊緣計算對CIO來說更加重要。”在他看來,這種結合解鎖了性能提升、增強的用戶體驗、新的應用交付方式以及更好的韌性,而另一個額外的好處是數(shù)據(jù)隱私,這也是AI系統(tǒng)中備受爭議的話題?!霸诒镜靥幚砻舾袛?shù)據(jù),可以解決日益增長的數(shù)據(jù)主權和合規(guī)性問題?!彼f。
提升數(shù)據(jù)處理的方式和地點,也意味著積極的業(yè)務成果。Payton表示:“AI使邊緣計算對CIO來說極具相關性,因為它讓企業(yè)能夠在數(shù)據(jù)生成的地方進行處理和分析。隨著AI的不斷發(fā)展,它對快速數(shù)據(jù)處理的依賴使得邊緣計算不僅有益,而且對保持競爭優(yōu)勢來說至關重要?!?/p>
邊緣AI的應用場景
AI推理可以部署在設備上、本地或云端,但在許多需要速度和隱私的場景中,邊緣計算尤其突出。Venkatesh表示:“邊緣AI允許在最重要的地方——靠近數(shù)據(jù)源進行即時決策?!边@為一些以前不可能的用例打開了大門。
許多面向用戶的場景都能從基于邊緣的AI中受益,Payton強調(diào)了面部識別技術、為半自動駕駛汽車提供實時交通更新,以及連接設備和智能手機上的數(shù)據(jù)驅動增強功能作為可能的應用領域?!霸诹闶垲I域,AI可以通過智能設備實時提供個性化體驗,”她說,“在醫(yī)療保健領域,基于邊緣的AI可以通過可穿戴設備立即提醒醫(yī)療專業(yè)人員發(fā)現(xiàn)的異常情況,從而可能挽救生命。”
Bizagi的Vázquez指出,AI和邊緣計算在智慧城市中的應用是一個明確的勝利。他表示,邊緣的AI模型可以在交通燈控制之外,幫助提升市民安全、自動化交通、智能電網(wǎng)和自愈基礎設施等領域。以他為例,巴林、格拉斯哥和拉斯維加斯等城市已經(jīng)開始進行AI實驗,以改善城市規(guī)劃、緩解交通流量并幫助公共安全。
自主管理的智能基礎設施正是Dairyland的Melby重點關注的領域。能源行業(yè)正在利用AI實現(xiàn)減排目標,向可再生能源過渡,并提高電網(wǎng)的韌性?!拔覀冋崿F(xiàn)更靈活的能源交換,分散能源的生成,并在實時操作中整合多種資源,”他說,“通過利用AI和邊緣計算,我們可以通過機器決策設定明確且可預測的邊界,從而有效降低一些復雜操作決策的風險。”一個具體的領域是基于成本和預測自動優(yōu)化雙向電力流的同時,選擇和平衡多種能源來源,如風能、太陽能或電池儲存。
制造業(yè)也是一個相關行業(yè),Akamai的Blumofe指出,制造商可以利用邊緣的AI算法監(jiān)控生產(chǎn)質(zhì)量和工作場所安全,并實時調(diào)整生產(chǎn)流程,這還可以包括預測性維護和機器自診斷。
AVOA的Crawford表示,還有一些特殊情況與GenAI的應用相關,比如將GenAI帶到戰(zhàn)場上的士兵手中,然而,總體來說,他對邊緣AI持更加務實的看法,認為它更像是一種特定的應用場景,而非包羅萬象的技術手段?!癆I和邊緣計算仍然非常小眾化,”他說。他部分歸因于模型訓練的高昂成本和較低的回報,“必須有足夠大的價值來抵消這些成本?!?/p>
邊緣計算對業(yè)務的影響
CIO們普遍對邊緣AI對業(yè)務的影響持積極態(tài)度,認為它可以帶來更高的可靠性、減少數(shù)據(jù)傳輸、增強個性化體驗并降低數(shù)據(jù)暴露的風險。
其中一個關鍵優(yōu)勢是提升邊緣的可靠性?!白杂到y(tǒng)是提高任何需要優(yōu)化資源的技術可靠性的關鍵,因為它靠近事件發(fā)生地,遠離系統(tǒng)管理位置,”Bizagi的Vázquez表示。通過使用AI驅動的組件來實現(xiàn)負載平衡、故障容忍或預測性異常檢測,這一目標可以實現(xiàn)。
除了傳統(tǒng)的保護措施之外,邊緣的自主AI還將解鎖前所未有的實時操作響應能力。Melby表示:“提高決策智能、實現(xiàn)連續(xù)且無縫的自動化,以及向確保未來互操作性數(shù)字生態(tài)系統(tǒng)的邁進,都是巨大的優(yōu)勢?!碧貏e是在能源行業(yè),它可以通過從反應性維護轉向預測性維護,幫助提升電網(wǎng)的維護效率。
除了運營優(yōu)勢之外,其他人還期待通過邊緣AI提供更加快速、個性化的客戶體驗。Macrometa的Venkatesh指出:“當今的用戶期望即時、智能和富有洞察力的在線體驗?!比欢@些日益動態(tài)的交互通常需要通過遠程服務器的API請求鏈,導致延遲。他表示:“設計良好、部署得當?shù)倪吘堿I可以通過最少的代碼更改集成更多功能,使企業(yè)能夠提供用戶所期望的實時互動體驗?!?/p>
雖然潛在的好處非常多,但Crawford提醒,期望值必須建立在現(xiàn)實基礎上,因為如果業(yè)務結果無法實現(xiàn),許多應用場景將逐漸被淘汰。
此外,由于AI訓練和推理所需的強大能耗,也提高了技術的門檻,帶來了物理上的限制。他舉了最近愛爾蘭電網(wǎng)故障的例子,說明了高能耗計算如AI處理可能面臨的挑戰(zhàn)。
做好邊緣AI的實施
對邊緣AI實施的興奮感應當與謹慎的樂觀態(tài)度相結合。例如,Payton建議將AI戰(zhàn)略與業(yè)務成果對齊,并采取“慢走不要跑”的方式?!拔医ㄗhCIO們通過試點測試和學習的方法,確保在實施AI和邊緣計算時充分了解總擁有成本、安全性考慮以及業(yè)務韌性計劃?!彼f。
CIO們還必須為投資提供合理的依據(jù),并優(yōu)化其物理資產(chǎn)的使用。Melby建議企業(yè)仔細考慮他們試圖解決的問題以及預期結果?!霸谖业男袠I(yè)中,我們正在努力提高效率和韌性,邊緣計算與AI將在我們之前無法實現(xiàn)的領域提供幫助,”他說,“這種潛力具有變革性?!彼a充道,CIO們應仔細規(guī)劃模塊化或小型數(shù)據(jù)中心的邊緣位置,以最大化價值。
Blumofe指出,成功還取決于為當前應用選擇合適的模型,因為并非每個AI應用都需要運行在耗電量大、性能強大的GPU上的大型語言模型(LLM)。“在許多企業(yè)用例中,一個經(jīng)過優(yōu)化的小型AI模型,可以在普通CPU上運行,往往是更好的解決方案,”他說,“這種在邊緣運行的優(yōu)化模型可以顯著減少延遲并大幅降低成本。”隨著市場上LLM的數(shù)量迅速增加,單是解析可用選項就成為一項任務。
除了做出明智的決策外,整合與平臺無關的工具和最前沿的蜂窩技術進步,對于邊緣計算的未來也至關重要。Payton表示:“優(yōu)先考慮可擴展的、去中心化的架構,這些架構能夠處理AI工作負載,并利用將邊緣、云端和本地系統(tǒng)無縫集成的混合云解決方案。此外,像5G這樣的技術將在支持更快數(shù)據(jù)傳輸方面發(fā)揮關鍵作用,使邊緣計算更加可行和有效。”
為更清潔的未來做好準備
Crawford表示,CIO們還沒有充分討論到的挑戰(zhàn)即將快速到來,其中之一就是碳足跡。例如,歐盟《企業(yè)可持續(xù)發(fā)展報告指令》(CSRD)將在2025年初生效,要求公司對其環(huán)境影響進行精確的報告。
這樣的法規(guī)可能會使處理密集型的AI項目的推廣變得更加復雜。因此,在這樣的環(huán)境中,CIO們必須保持精明和有針對性。Crawford鼓勵他們在全力投入AI之前,先設想整個價值鏈,評估技術債務的風險,并加強系統(tǒng)的韌性。
Payton補充道:“在各個層面,實施強調(diào)安全性、韌性、透明度、公平性和問責制的最佳實踐至關重要,以應對偏見、安全漏洞和倫理問題等風險。”
雖然AI帶來的風險可能讓人猶豫,但不進步的替代選擇同樣不可行?!皩τ谙M嵘A設施的CIO們來說,擁抱邊緣計算和AI不僅是一個趨勢,更是保持競爭力的必要條件?!盫enkatesh說道。