機器人、智能設(shè)備的邊緣AI即將問世
Souped up工業(yè)機器人和智能設(shè)備將徹底改變我們在邊緣側(cè)使用AI的方式,并加深我們對云和數(shù)據(jù)中心的理解。
人形機器人、智能設(shè)備和自動駕駛經(jīng)常被引為邊緣側(cè)利潤豐厚的商業(yè)應(yīng)用場景。但邊緣側(cè)AI計算將把AI從數(shù)據(jù)中心和云中的集中式服務(wù)器中解放出來,部署到制造工廠、手術(shù)室以及整個市政中心,實時處理數(shù)據(jù),更接近物聯(lián)網(wǎng)設(shè)備、傳感器和智能系統(tǒng)。它還提供了低延遲和自主決策功能,使AI無處不在,并使全自主工業(yè)設(shè)施成為可能,從而徹底改變商業(yè)和日常生活。
羅克韋爾自動化公司的CIO深知這一點,該公司是英偉達(dá)的客戶和合作伙伴,在邊緣側(cè)AI計算方面處于前沿地位?!癆I從以云為中心的架構(gòu)向基于邊緣的部署的分散化轉(zhuǎn)變,不僅僅代表著技術(shù)上的演進(jìn),”這位數(shù)字轉(zhuǎn)型提供商的CIO克里斯·納爾代基亞說道。上個月,該公司在英偉達(dá)GTC大會上展示了其Emulate3D高級工廠規(guī)模虛擬控制測試技術(shù)。“這從根本上重新定義了AI能力如何融入我們工業(yè)和個人環(huán)境的各個方面?!?/p>
該解決方案與英偉達(dá)的Omniverse API集成,將使制造商能夠通過虛擬工廠驗收測試,在物理部署之前驗證自動化系統(tǒng)。
例如,邊緣側(cè)AI能夠使企業(yè)在倉庫中的智能設(shè)備或機器人上部署AI應(yīng)用程序,在數(shù)據(jù)源附近而不是從公有云或數(shù)據(jù)中心運行計算密集型推理和決策模型,這大大加快了AI的速度。
在最近的會議上,英偉達(dá)繼續(xù)大力推動邊緣側(cè)發(fā)展,推出了一系列先進(jìn)的AI硬件、軟件平臺和開發(fā)者框架,包括Jetson Orin、Xavier和Nano平臺、針對邊緣側(cè)高級應(yīng)用增強的Blackwell Ultra AI芯片、用于自主機器的Groot N1 AI機器人模型、用于工業(yè)和醫(yī)療需求的IGX Orin工業(yè)級邊緣側(cè)AI平臺,以及英偉達(dá)AI數(shù)據(jù)平臺,以在邊緣側(cè)實現(xiàn)數(shù)據(jù)分析。
特別是英偉達(dá)的核心EGX企業(yè)邊緣側(cè)AI平臺,為醫(yī)療、制造和零售行業(yè)提供實時AI工作負(fù)載支持,而其Metropolis平臺則為智慧城市提供邊緣側(cè)視頻分析支持。
在英偉達(dá)GTC大會上推出的Jetson Nano超級工作站,將為遠(yuǎn)程辦公室或商業(yè)中心的企業(yè)用戶提供強大的AI功能。而其針對醫(yī)療行業(yè)的Clara、針對自動駕駛的Drive和針對5G網(wǎng)絡(luò)的Aerial,也將提供實時監(jiān)控、預(yù)測性維護(hù)和流程優(yōu)化功能,以減少現(xiàn)場工業(yè)資產(chǎn)的停機時間,提高整個生命周期內(nèi)的系統(tǒng)性能。
一位分析師表示,英偉達(dá)用于物理AI的平臺和產(chǎn)品陣容,如用于工業(yè)數(shù)字化的Omniverse,凸顯了英偉達(dá)正在從單純的半導(dǎo)體制造商,擴展成為硬件、平臺、工具和框架提供商。
“市場還沒有理解英偉達(dá)此舉的意義,”Gartner集團(tuán)首席AI分析師奇拉格·德卡特說?!斑@真的令人嘆為觀止。EGX和Jetson的組合,再加上英偉達(dá)的Cosmos平臺,你可以在其中開發(fā)結(jié)合了AI和數(shù)字孿生優(yōu)勢的物理AI類環(huán)境,從而創(chuàng)建一個環(huán)境,幫助加速可以在邊緣側(cè)部署的智能的訓(xùn)練。而邊緣側(cè)正是他們現(xiàn)在正在改造我們的機器人、智能機器人、自動駕駛汽車和人形機器人的地方。他們正在形成一個新的增長領(lǐng)域,就像他們在數(shù)據(jù)中心使用GPU時所做的那樣?!?/p>
事件順序
市場最初接受了用于內(nèi)容創(chuàng)作的GenAI,然后轉(zhuǎn)向了自主式AI,使模型能夠進(jìn)行推理和執(zhí)行任務(wù)。但工業(yè)AI革命的核心是物理AI或啟用AI的機器人,它可以實現(xiàn)完全自主的工業(yè)設(shè)施,其中大部分部署在邊緣側(cè)。
例如,羅克韋爾的自主導(dǎo)航機器人(AMR)在吞吐量、勞動力優(yōu)化和節(jié)省時間方面產(chǎn)生了可衡量的影響。納爾代基亞說,這些機器人作為移動邊緣計算平臺,在本地處理傳感器數(shù)據(jù),同時將匯總的見解反饋給公司的FactoryTalk Edge Manager。
英偉達(dá)用于邊緣計算的平臺將擴展、豐富和公開工業(yè)數(shù)據(jù),通過應(yīng)用和分析創(chuàng)造新的價值來源。納爾代基亞說,當(dāng)物理AI和自主式AI相結(jié)合時,這種能力變得特別強大,能夠?qū)崿F(xiàn)真正的自主系統(tǒng),可以在最少的人工干預(yù)下感知、決策和行動。他還表示,羅克韋爾對Otto Motors和Clearpath Robotics的戰(zhàn)略收購,使該公司在生產(chǎn)物流自動化方面處于有利地位。
邊緣側(cè)AI正在改變工業(yè)數(shù)字化
根據(jù)IDC對27個企業(yè)行業(yè)的最新預(yù)測,今年全球在邊緣計算解決方案上的支出將達(dá)到近2610億美元,預(yù)計將以13.8%的復(fù)合年增長率(CAGR)增長,到2028年將達(dá)到3800億美元。
IDC研究副總裁、云和邊緣服務(wù)部門負(fù)責(zé)人戴夫·麥卡錫表示:“邊緣計算有望重新定義企業(yè)如何利用實時數(shù)據(jù),其未來取決于針對獨特運營需求量身定制的行業(yè)特定解決方案?!薄拔覀兛吹椒?wù)提供商正在加倍投資,建設(shè)低延遲網(wǎng)絡(luò),增強AI驅(qū)動的邊緣分析,并建立合作伙伴關(guān)系,以提供可擴展且安全的基礎(chǔ)設(shè)施。這些努力對于充分發(fā)揮邊緣計算的潛力至關(guān)重要,從更智能的制造工廠到響應(yīng)迅速的醫(yī)療系統(tǒng),最終推動各行各業(yè)的新一輪創(chuàng)新?!?/p>
因此,CIO們正在規(guī)劃他們的下一代AI架構(gòu),利用強大的平臺、工具和框架來打造機器人和物聯(lián)網(wǎng)設(shè)備,而這些設(shè)備和機器人需要具備自主決策能力。
“CIO們肯定計劃將AI用于邊緣工作負(fù)載,” Dairyland Power Cooperative的CIO Nate Melby說,他正著眼于此類進(jìn)步,以在暴風(fēng)雨中管理電網(wǎng),并使系統(tǒng)能夠在危險環(huán)境中進(jìn)行快速分析和決策。人們還預(yù)計,在其他人類難以到達(dá)的物理環(huán)境中使用邊緣AI設(shè)備將帶來新的商業(yè)機會和盈利結(jié)果。
Melby說:“通過將AI推向邊緣,我們可以減少對集中式架構(gòu)的依賴,從而建立彈性,并通過將云資源與本地設(shè)備相結(jié)合來優(yōu)化和處理更敏感或關(guān)鍵任務(wù)數(shù)據(jù),以實現(xiàn)更容易的擴展和資源靈活性。但這還需要一段時間才能發(fā)展成熟?!?/p>
邊緣計算的興趣倍增
包括OpenAI、谷歌、亞馬遜和創(chuàng)新的AI初創(chuàng)公司在內(nèi)的許多頂級云和AI供應(yīng)商都在瞄準(zhǔn)邊緣計算。例如,云提供商Oracle最近為其Oracle Roving Edge Device添加了一個GPU優(yōu)化配置?!拔覀兛吹娇蛻魧吘売嬎鉇I有需求,”O(jiān)racle Cloud Infrastructure的現(xiàn)場和行業(yè)營銷高級副總裁Dave Rosenberg說。
Insight Enterprises產(chǎn)品創(chuàng)新的首席技術(shù)官Amol Ajgaonkar補充說,除了制造業(yè)之外,許多行業(yè)也將利用邊緣AI,但這并不容易。如果將邊緣定義為任何不在云中的東西——比如筆記本電腦、制造車間的一臺機器、零售店中的銷售點設(shè)備——那么醫(yī)療保健、零售和金融等行業(yè)將成為邊緣AI的主要目標(biāo),他說。
Ajgaonkar說:“在邊緣使用AI,一個很大的挑戰(zhàn)是確定哪些數(shù)據(jù)對手頭的任務(wù)是有用的,哪些是無用的,并設(shè)置流程,以便AI代理或一組代理可以在不需要人類持續(xù)參與的情況下進(jìn)行管理。當(dāng)創(chuàng)建預(yù)測模型(例如管理工廠車間機器的持續(xù)維護(hù))時,如果未經(jīng)過濾就存在某些偏差或畸形數(shù)據(jù),則會影響模型并扭曲代理產(chǎn)生的結(jié)果。干凈的數(shù)據(jù)輸入始終對干凈的輸出至關(guān)重要,但這是一項微妙的平衡?!?/p>
AI咨詢公司Intelagen的CEO兼前CIO Tom Richer說,他建議CIO們密切關(guān)注Nvidia的進(jìn)步,因為Nvidia在AI基礎(chǔ)設(shè)施、數(shù)據(jù)中心轉(zhuǎn)型和邊緣AI能力方面占據(jù)主導(dǎo)地位,所有這些都直接影響組織的創(chuàng)新和競爭能力。
他說:“隨著邊緣計算越來越多地被用于AI工作負(fù)載,這是由低延遲、帶寬優(yōu)化和增強的安全性需求所驅(qū)動的,這需要在內(nèi)部部署和服務(wù)提供商部署之間做出戰(zhàn)略決策,而混合方法通常被證明在平衡控制和可擴展性方面最有效。而這需要CIO們制定明確的戰(zhàn)略、投資必要的基礎(chǔ)設(shè)施,并時刻關(guān)注不斷演變的技術(shù)。”
從邊緣獲益
物理AI的實施需要強大的邊緣計算能力,以處理傳感器數(shù)據(jù)并執(zhí)行復(fù)雜的算法,同時保持最小的延遲。邊緣計算通過將數(shù)據(jù)處理帶到更接近數(shù)據(jù)源的地方,從而實現(xiàn)更快的響應(yīng)時間、更高的數(shù)據(jù)傳輸效率和更強的安全性——這對于機器人技術(shù)和工業(yè)自動化中的應(yīng)用而言都是關(guān)鍵因素,Rockwell的Nardecchia解釋道。
隨著平臺和技術(shù)的不斷成熟,我們可以預(yù)計AI將越來越多地嵌入到工業(yè)環(huán)境中的物理系統(tǒng)中。
對于像Rockwell這樣的公司而言,這一演變代表了一個機會,可以在其產(chǎn)品組合中整合邊緣AI能力。適當(dāng)管理的邊緣計算帶來的業(yè)務(wù)成果是巨大的,包括以可負(fù)擔(dān)的價格訪問數(shù)據(jù)、更快的軟件部署、未來就緒的分析平臺、改進(jìn)的安全態(tài)勢、更好地擴展數(shù)字化轉(zhuǎn)型舉措以及降低總擁有成本。
Edge AI Foundation表示,CIO和企業(yè)希望在邊緣實現(xiàn)自動化和智能設(shè)備。該非營利組織的首席執(zhí)行官Pete Bernard說:“邊緣AI的核心是在數(shù)據(jù)產(chǎn)生的地方運行AI工作負(fù)載,向邊緣靠攏的引力意味著更低的成本、更低的功耗、更大的影響力,通常也意味著增強的隱私、更低的延遲、更高的靈活性和清晰度。CIO們負(fù)責(zé)確定信息戰(zhàn)略。您希望將計算盡可能移動到數(shù)據(jù)產(chǎn)生的地方,避免云的入口和出口費用以及運營成本,并總體上對您的處理擁有更多的控制權(quán)?!?/p>
隨著平臺和技術(shù)的不斷成熟,我們可以預(yù)計AI將越來越多地嵌入到工業(yè)環(huán)境中的物理系統(tǒng)中。
Analog Devices的邊緣AI副總裁Paul Golding說:“基礎(chǔ)模型的興起正通過提煉和量化的轉(zhuǎn)換器以及小型基礎(chǔ)模型向邊緣擴展。這一轉(zhuǎn)變需要在邊緣部署密集且計算密集的基礎(chǔ)設(shè)施。同時,實時處理、低延遲和隱私的需求正推動AI更接近數(shù)據(jù)源——我們通常稱之為傳感器或物理邊緣。自主式AI能夠在異構(gòu)節(jié)點上自主學(xué)習(xí)、適應(yīng)和實時行動,這將徹底改變?nèi)蝿?wù)編排,隨著我們從機器自動化邁向機器自主,將出現(xiàn)新的分布式智能形式,使關(guān)鍵任務(wù)能夠在邊緣運行,而無需依賴集中式云系統(tǒng)。AI的前沿仍然廣闊無垠?!?/p>