AI讓邊緣計算與CIO越來越緊密相關(guān)
自主系統(tǒng)的新時代將需要在更靠近源頭的地方進(jìn)行快速數(shù)據(jù)處理,這使得一些CIO把網(wǎng)絡(luò)邊緣的AI加入到他們的2025年路線圖中。
根據(jù)Gartner最新的報告預(yù)測,企業(yè)AI即將到來的階段,將預(yù)示著出現(xiàn)只要最少人工干預(yù)的代理系統(tǒng),僅今年一年就有75%的CIO增加了AI預(yù)算。隨著生成式AI被嵌入到越來越多的設(shè)備中,賦予它自主決策權(quán)就將取決于實時數(shù)據(jù),以及避免過高的云成本,這就是邊緣計算的用武之地。
通過在更靠近源頭的地方處理數(shù)據(jù),邊緣計算可以通過最大限度地減少數(shù)據(jù)傳輸來實現(xiàn)更快的決策并降低成本,成為AI一個具有吸引力的環(huán)境。前美國白宮首席信息官、網(wǎng)絡(luò)安全公司Fortalice Solutions創(chuàng)始人Theresa Payton表示:“邊緣計算正在迅速發(fā)展,從一個有前途的概念演變成許多行業(yè)的關(guān)鍵工具。到2025年,邊緣計算將變得更加普及,尤其是隨著AI和物聯(lián)網(wǎng)的擴大?!?/p>
例如,總部位于美國威斯康星州的電力供應(yīng)公司Dairyland Power Cooperative已經(jīng)轉(zhuǎn)向利用AI來改善現(xiàn)場基礎(chǔ)設(shè)施的優(yōu)化和性能?!癆I讓邊緣計算變得和CIO相關(guān)性更高,因為它可以幫助我們降低數(shù)據(jù)處理延遲。在我們追求實時處理的情況下,這可能是一個巨大的優(yōu)勢,”該公司副總裁、首席信息官Nate Melby表示。
其他人也表示認(rèn)同,隨著AI的全面推出,邊緣處理的增加將自然而然地出現(xiàn)。分布式云計算平臺公司Akamai的高級副總裁、首席技術(shù)官Robert Blumofe表示:“隨著AI應(yīng)用在關(guān)鍵任務(wù)企業(yè)用例中的激增,一些AI應(yīng)用將轉(zhuǎn)向邊緣,邊緣計算可以減少延遲、降低成本以及數(shù)據(jù)暴露的風(fēng)險?!?/p>
但企業(yè)中的生成式AI被大肆炒作,實際上增值用例很少,分析師們戳破了這些泡沫,一些技術(shù)領(lǐng)導(dǎo)者也放棄了。最近人們對AI的興趣有所減弱,AVOA公司的首席信息官、戰(zhàn)略顧問Tim Crawford就提醒,領(lǐng)導(dǎo)者們要進(jìn)行謹(jǐn)慎的投資。不過他認(rèn)為,生成式AI以及某些邊緣應(yīng)用有很多以效率為導(dǎo)向的機會,這些機會是值得我們探索的。
投資邊緣計算的CIO
近年來,人們對邊緣計算的興趣呈滾雪球式增長。根據(jù)IDC的估計,到2024年,全球在邊緣計算上的支出將增加14%。引起人們興趣的一大驅(qū)動力就是把AI投入實際應(yīng)用,這需要低延遲和隱私性,而邊緣計算在這些方面表現(xiàn)出色。
Blumofe表示:“我們看到邊緣計算的使用范圍在迅速擴大,我們將邊緣計算用于我們自己的應(yīng)用中,客戶也越來越多地將其用于他們的應(yīng)用中?!闭雇?025年,有越來越多的CIO計劃在邊緣實施AI。
Melby表示:“明年,我們的組織希望利用邊緣計算來幫助增強運營決策智能,以及改善我們向智能資產(chǎn)邁進(jìn)的軌跡?!彼麄兯诘念I(lǐng)域,AI和邊緣計算正在成為實現(xiàn)下一代高度智能的工業(yè)數(shù)字化運營的必要條件。他說,這是建立新的、網(wǎng)絡(luò)化的、動態(tài)的能源生態(tài)系統(tǒng)的基礎(chǔ)。
據(jù)Fortalice Solutions的Payton稱,將數(shù)據(jù)處理轉(zhuǎn)移到更接近數(shù)據(jù)創(chuàng)建地點,這對于那些需要立即采取行動和實時洞察的應(yīng)用來說尤其有益,無論是在零售、制造還是客戶體驗領(lǐng)域?!澳切﹥?yōu)先考慮實時決策和數(shù)據(jù)處理的組織,應(yīng)該在2025年及以后的路線圖中計劃采用邊緣計算。”
AI與邊緣計算齊頭并進(jìn)
軟件公司Bizagi的首席信息官Antonio Vázquez表示,邊緣計算就是在數(shù)據(jù)收集和處理終端進(jìn)行實時數(shù)據(jù)處理,因此AI自然而然就成了邊緣計算的搭檔。“AI可以通過提高數(shù)據(jù)傳輸、可擴展性、安全性和成本方面的效率,幫助解決過去阻礙邊緣技術(shù)采用的那些問題?!?/p>
運營方面的收益也值得考慮。“AI通過在網(wǎng)絡(luò)邊緣實現(xiàn)實時的、智能的數(shù)據(jù)處理,使邊緣計算與CIO之間的相關(guān)性越來越高,”計算公司Macrometa的首席執(zhí)行官、聯(lián)合創(chuàng)始人Chetan Venkatesh這樣表示。對他來說,這種組合可以帶來提升的性能提升、增強的用戶體驗、新的應(yīng)用交付方法以及更好的彈性。另一個好處是數(shù)據(jù)隱私,這是AI系統(tǒng)一個有爭議的話題。他說:“在本地處理敏感數(shù)據(jù),可以解決人們對數(shù)據(jù)主權(quán)和合規(guī)性日益增長的擔(dān)憂?!?/p>
提高數(shù)據(jù)處理方式和位置,也會帶來積極的業(yè)務(wù)成果。Payton表示:“AI使邊緣計算與CIO高度相關(guān),因為它讓企業(yè)可以在更接近數(shù)據(jù)生成地點的地方處理和分析數(shù)據(jù)。隨著AI的不斷發(fā)展,它對快速數(shù)據(jù)處理的依賴使邊緣計算不僅有益,而且對競爭優(yōu)勢至關(guān)重要?!?/p>
邊緣AI的用例
AI推理可以放在設(shè)備上、本地或者云端,但邊緣在速度和隱私至關(guān)重要的眾多場景中大放異彩。Venkatesh說:“邊緣AI讓你可以在最重要的地方——靠近數(shù)據(jù)源的地方進(jìn)行即時決策,實現(xiàn)了那些以前不可能實現(xiàn)的用例?!?/p>
許多面向用戶的場景,都可以從基于邊緣的AI中受益。Payton特別強調(diào)了面部識別技術(shù)、半自動駕駛汽車的實時交通更新以及聯(lián)網(wǎng)設(shè)備和智能手機上的數(shù)據(jù)驅(qū)動增強功能,都是潛在的領(lǐng)域。她說:“在零售業(yè),AI可以通過智能設(shè)備實時提供個性化體驗;在醫(yī)療領(lǐng)域,可穿戴設(shè)備中基于邊緣的AI可以檢測到異常時,立即提醒醫(yī)療專業(yè)人員,從而有可能挽救生命?!?/p>
Bizagi的Vázquez表示,AI和邊緣計算在智能城市中取得了明顯的勝利。他表示,邊緣AI模型除了控制交通信號燈之外,還可以提供多種幫助例如公民安全、自動駕駛、智能電網(wǎng)和自我修復(fù)基礎(chǔ)設(shè)施。就他而言,巴林、格拉斯哥和拉斯維加斯等城市已經(jīng)在試水AI了,目的是加強城市規(guī)劃、緩解交通流量和提高公共安全。
自主管理的智能基礎(chǔ)設(shè)施,這無疑是Dairyland的Melby的首要考慮因素,因為能源行業(yè)正在努力利用AI來實現(xiàn)排放目標(biāo)、過渡到可再生能源、以及提高電網(wǎng)的彈性。他說:“我們正試圖接受更靈活的能源交換,分配能源生產(chǎn),并在實時運營中融合多種資源。通過利用AI和邊緣計算,我們可以建立具有明確和可預(yù)測邊界的機器決策,從而有效地降低一些復(fù)雜的運營決策的風(fēng)險?!逼渲幸粋€特定領(lǐng)域,就是根據(jù)成本和預(yù)測選擇和平衡多種能源,例如風(fēng)能、太陽能或電池存儲,以及自動優(yōu)化雙向電力流。
另一個領(lǐng)域是制造業(yè)。Akamai的Blumofe指出,制造商可以使用邊緣AI算法來監(jiān)控生產(chǎn)質(zhì)量和工作場所安全,并對生產(chǎn)流程進(jìn)行實時調(diào)整,還包括預(yù)測性維護和機器自我診斷等。
AVOA的Crawford表示,其他特殊情況也很重要,例如讓戰(zhàn)區(qū)士兵使用生成式AI。然而,總的來說,他對邊緣AI的看法更為務(wù)實一些,認(rèn)為它更像是一種專業(yè)用例,而不是一種包羅萬象的技術(shù)。他說:“邊緣AI和計算仍然非常小眾”,他將其中一部分歸因于訓(xùn)練模型的高成本和低回報,“必須有顯著的價值來抵消成本”。
邊緣對業(yè)務(wù)的影響
CIO們往往對邊緣AI給業(yè)務(wù)帶來的影響持積極態(tài)度,認(rèn)為它可以提高可靠性、減少數(shù)據(jù)傳輸、增強個性化并降低數(shù)據(jù)泄露風(fēng)險。
其中一個關(guān)鍵好處,就是將可靠性帶到了邊緣。Bizagi公司的Vázquez表示:“對于任何需要優(yōu)化資源、靠近事件發(fā)生地點、遠(yuǎn)離系統(tǒng)管理地點的技術(shù)來說,自我修復(fù)系統(tǒng)是提高其可靠性的關(guān)鍵”,可以通過使用AI驅(qū)動的組件來實現(xiàn)負(fù)載平衡、容錯或預(yù)測異常檢測。
除了傳統(tǒng)的保護措施外,邊緣自主AI將帶來前所未有的實時操作響應(yīng)能力。Melby說:“改進(jìn)的決策智能,持續(xù)和無縫的精簡自動化,以及實現(xiàn)確保未來互操作性的數(shù)字生態(tài)系統(tǒng),這這些都是巨大的好處?!碧貏e是在能源行業(yè),邊緣自主AI可以通過從被動方法轉(zhuǎn)向預(yù)測方法來幫助改善電網(wǎng)維護。
除了運營效益外,其他人還希望通過邊緣AI提供更快速的、更個性化的體驗來提升客戶體驗。Macrometa公司的Venkatesh表示:“當(dāng)今的用戶期望獲得即時的、智能的且富有洞察力的在線體驗?!比欢?,這些日益動態(tài)的交互往往需要向遠(yuǎn)程服務(wù)器發(fā)出API請求鏈,但這會導(dǎo)致延遲。他說:“設(shè)計精良的、部署良好的邊緣AI集成了更多功能,并且代碼更改極少,使企業(yè)能夠提供用戶渴望的實時交互式體驗?!?/p>
雖然潛在的好處比比皆是,但期望必須基于現(xiàn)實,因為如果沒有業(yè)務(wù)成果,很多用例就會被拋在一邊,Crawford說。
由于AI訓(xùn)練和推理的絕對功率要求很高,因此門檻也很高,這就造成了物理上的限制。他指出,愛爾蘭最近發(fā)生的一次電網(wǎng)故障就給AI處理等能源密集型計算任務(wù)造成了影響。
正確使用邊緣AI
在邊緣實施AI,應(yīng)該是和謹(jǐn)慎樂觀的態(tài)度相平衡的。例如,Payton建議把AI戰(zhàn)略和業(yè)務(wù)成果相結(jié)合,采取“走而不跑”的方法?!拔医ㄗhCIO實施試點-測試-學(xué)習(xí)的方法,確保在實施AI和邊緣計算時充分了解總體擁有成本、安全注意事項和業(yè)務(wù)彈性計劃,”她說。
CIO們還必須證明投資的合理性,優(yōu)化對實物資產(chǎn)的使用。Melby建議組織要仔細(xì)考慮他們試圖解決的問題以及結(jié)果會是什么。他說:“我所在的行業(yè)中,我們正在努力提高效率和彈性,而AI的邊緣計算將以我們從前無法實現(xiàn)的方式提供幫助,這種潛力是變革性的?!彼a充說,CIO們應(yīng)該仔細(xì)規(guī)劃模塊化或小型數(shù)據(jù)中心在邊緣的位置,以獲得最大的價值。
Blumofe說,成功還取決于為現(xiàn)有的應(yīng)用選擇正確的模型,因為并非每個AI應(yīng)用都需要在耗電的高端GPU上運行大型語言模型等繁重工作。他說:“在很多企業(yè)用例中,針對普通CPU運行而優(yōu)化的小型AI模型是一個更好的解決方案。這種在邊緣運行的優(yōu)化模型可以顯著降低延遲和成本?!彪S著市場中大型語言模型的數(shù)量不斷激增,簡單地分析可用的選項也是一項任務(wù)。
除了做出合理的判斷之外,在蜂窩技術(shù)中融入與平臺無關(guān)的工具和前沿技術(shù),這對于邊緣的未來也很重要。Payton說:“優(yōu)先考慮可擴展的、分散的架構(gòu),這種架構(gòu)可以在處理AI工作負(fù)載的同時利用無縫集成了邊緣、云和本地系統(tǒng)的混合云解決方案。此外,5G等技術(shù)將在支持更快的數(shù)據(jù)傳輸方面發(fā)揮關(guān)鍵作用,使邊緣計算更加可行和有效。”
為更清潔的未來做好準(zhǔn)備
Crawford說,來自各個方向的阻力很快就會到來,而CIO們還沒有充分意識到這些阻力。其中之一就是碳足跡,例如,歐盟《企業(yè)可持續(xù)發(fā)展報告指令》(CSRD)將在2025年初生效,該指令要求準(zhǔn)確核算企業(yè)對環(huán)境的影響。
此類法規(guī)可能會使不少AI計劃的部署變得更加復(fù)雜。因此,在這種環(huán)境下,CIO們必須是聰明且有意識的。Crawford鼓CIO在涉足AI之前就設(shè)想好價值鏈,評估風(fēng)險技術(shù)債務(wù)的前景,重點提高彈性。
Payton表示:“總體來看,實施強調(diào)安全性、可靠性、透明度、公平性和問責(zé)制的最佳實踐非常重要,這可以解決偏見、安全漏洞和道德問題等風(fēng)險?!?/p>
雖然AI帶來的風(fēng)險可能會讓人停下來思考,但不變革就會面臨失敗。Venkatesh表示:“對于那些希望增強基礎(chǔ)設(shè)施的CIO來說,采用AI進(jìn)行邊緣計算不僅是一種趨勢,而且是保持競爭力的必要條件。”