企業(yè)AI如何落地?紅帽建議“三步走”
原創(chuàng)“紅帽秉持開源精神,100%的開源?!?/span>
近日,在紅帽“以開源的方法將AI帶入企業(yè)”媒體溝通會上,面對“未來AI是開源還是閉源?”這一問題,紅帽全球副總裁兼大中華區(qū)總裁曹衡康斬釘截鐵地給出了紅帽的選擇。
作為開源技術(shù)的積極倡導(dǎo)者,紅帽堅信開源模式是促進(jìn)技術(shù)創(chuàng)新和普及的有效途徑。在人工智能領(lǐng)域,紅帽一如秉承這一理念,通過開源的協(xié)作模式,協(xié)助企業(yè)以更高效、更創(chuàng)新的方式利用AI技術(shù),充分釋放其業(yè)務(wù)潛力,實現(xiàn)價值的最大化。
AI是開源,也是混合
在媒體溝通會之前,紅帽也對參會媒體發(fā)起了小調(diào)查,面對“現(xiàn)在AI領(lǐng)域有‘開源派’和‘閉源派,您’挺‘哪一派?”這一問題,50%的媒體朋友選擇了“開源派”,結(jié)果與當(dāng)日媒體溝通會的主題不謀而合。
其實,開源派與閉源派之爭由來已久,體現(xiàn)的是不同的開發(fā)哲學(xué)。兩者各有利弊,實踐中往往需要找到平衡點。
在紅帽看來,開源AI的核心優(yōu)勢在于其對技術(shù)創(chuàng)新和社區(qū)協(xié)作的促進(jìn)作用。開源模式打破了傳統(tǒng)閉源軟件的限制,使得全球的開發(fā)者、研究者和企業(yè)能夠共同參與到AI技術(shù)的開發(fā)和完善中。這種開放的環(huán)境不僅加速了AI技術(shù)的發(fā)展,還促進(jìn)了新想法和解決方案的快速迭代。正如曹衡康所指出的,開源AI能夠快速響應(yīng)安全問題,因為整個社區(qū)都會參與到問題的發(fā)現(xiàn)和解決中,這種集體智慧是閉源模式難以比擬的。
此外,紅帽還認(rèn)為在“多云”環(huán)境實現(xiàn)AI的落地。曹衡康先生強調(diào),AI的部署不應(yīng)當(dāng)局限于單一的云平臺,而應(yīng)當(dāng)跨越公有云、私有云以及邊緣計算設(shè)備,形成一個多維度的計算網(wǎng)絡(luò)。這種混合云策略賦予了企業(yè)更大的自主性和選擇性,使它們能夠根據(jù)業(yè)務(wù)需求、成本效益和安全標(biāo)準(zhǔn)來定制AI解決方案。
在混合云架構(gòu)下,AI應(yīng)用可以更接近數(shù)據(jù)源進(jìn)行部署,減少了數(shù)據(jù)傳輸?shù)难舆t和成本,提高了處理速度和效率。同時,企業(yè)也能夠更好地控制數(shù)據(jù)的存儲和訪問,滿足了數(shù)據(jù)隱私和安全的要求?;旌显七€支持了AI應(yīng)用的可擴(kuò)展性。隨著業(yè)務(wù)需求的增長,企業(yè)可以輕松地在云端擴(kuò)展AI應(yīng)用的計算資源,而無需擔(dān)心基礎(chǔ)設(shè)施的瓶頸。這種彈性伸縮能力確保了AI應(yīng)用能夠靈活應(yīng)對不同的工作負(fù)載,保持高性能和穩(wěn)定性。
曹衡康強調(diào),AI并非僅僅關(guān)于模型,而是一個涉及基礎(chǔ)架構(gòu)、應(yīng)用層和模型的綜合體系。因此,紅帽的AI解決方案旨在提供一個全面的、開源的、混合的環(huán)境,以支持企業(yè)在各個層面上的AI需求。
AI落地,看見冰山下的問題
“很多企業(yè)在談到AI實施時跟我說的第一件事情就是,你們紅帽能幫忙買到GPU卡嗎?”紅帽大中華區(qū)解決方案架構(gòu)部高級總監(jiān)王慧慧笑稱,許多企業(yè)在構(gòu)建AI基礎(chǔ)設(shè)施時面臨GPU卡獲取難題。
企業(yè)需要GPU卡來訓(xùn)練模型,而缺乏這些硬件會嚴(yán)重阻礙AI項目的發(fā)展。王慧慧介紹,紅帽不能幫助企業(yè)購買GPU卡,但是紅帽通過云服務(wù),將智算中心的算力“池化”提供共享的算力資源,并以公有云或混合云的形式,使企業(yè)能夠按需訪問這些資源,克服AI基礎(chǔ)架構(gòu)建設(shè)的障礙,避免了企業(yè)自行建立成本高昂的小型計算中心。
當(dāng)然,實施AI遠(yuǎn)不止買GPU或者選擇模型那么簡單,冰山之下暗藏諸多問題。企業(yè)需要評估AI應(yīng)用場景,并運用AI專業(yè)知識來為特定場景選擇適當(dāng)?shù)哪P筒⑶疫€必須處理AI實施過程中的各項顯著難題,加上AI學(xué)科高門檻和人才的稀缺性,使得情況更為復(fù)雜。紅帽總結(jié)了企業(yè)在實施AI創(chuàng)新時的六大挑戰(zhàn):
- 安全性與合規(guī)性(Security & Compliance):企業(yè)在AI應(yīng)用中需要處理數(shù)據(jù)泄露風(fēng)險和數(shù)據(jù)隱私侵犯問題,同時要滿足行業(yè)和政府的高監(jiān)管要求,避免違反數(shù)據(jù)主權(quán)風(fēng)險。
- 成本(Cost):AI實施中的成本問題,尤其是GPU硬件昂貴且難以購置,增加了企業(yè)實施AI的財務(wù)負(fù)擔(dān)。
- 復(fù)雜性(Complexity):AI模型的訓(xùn)練與調(diào)優(yōu)過程復(fù)雜,導(dǎo)致回報率低和周期長,時間成本高。此外,工具和框架的選擇多樣,架構(gòu)復(fù)雜,業(yè)務(wù)目標(biāo)實現(xiàn)困難。
- 投資回報(ROI):從AI項目中獲得的回報可能不如預(yù)期,存在回報周期長和時間成本高的問題。
- 協(xié)作(Collaboration):企業(yè)在使用AI模型為企業(yè)應(yīng)用賦能時,可能面臨協(xié)作效率低下的問題,包括數(shù)據(jù)科學(xué)和AI人才的稀缺,以及缺乏知識技能導(dǎo)致的學(xué)習(xí)曲線陡峭。
- 人才(Talent):數(shù)據(jù)科學(xué)家難以招聘,企業(yè)數(shù)據(jù)訓(xùn)練和模型調(diào)優(yōu)的協(xié)作效率低,組織AI技術(shù)更新可能落后于技術(shù)趨勢。
“三步走”,構(gòu)建企業(yè)AI應(yīng)用
為了幫助企業(yè)更好地構(gòu)建和部署AI應(yīng)用,紅帽提出了“三步走”策略,為企業(yè)提供了一套清晰、高效的解決方案。
首先,在項目初期,企業(yè)利用紅帽的InstructLab工具在桌面環(huán)境中進(jìn)行小數(shù)據(jù)集的初步模型訓(xùn)練。這一步驟旨在快速驗證AI模型的概念和功能,同時降低資源消耗。InstructLab的易用性和靈活性使AI模型的初步開發(fā)變得更為便捷高效。
當(dāng)模型通過初步測試后,企業(yè)進(jìn)入第二步,即生產(chǎn)級模型訓(xùn)練階段。王慧慧介紹,紅帽的RHEL AI平臺能提供了一個穩(wěn)定、安全的環(huán)境,支持利用合成數(shù)據(jù)生成技術(shù)擴(kuò)充數(shù)據(jù)集,并采用“教師-學(xué)生”模型訓(xùn)練方法提升模型性能。通過基礎(chǔ)模型(教師)指導(dǎo)新模型(學(xué)生),實現(xiàn)模型的快速迭代和優(yōu)化。RHEL AI還提供了模型調(diào)優(yōu)所需的工具和平臺,幫助企業(yè)解決數(shù)據(jù)、工具和模型短缺的問題。
最后,在模型經(jīng)過生產(chǎn)級訓(xùn)練并驗證其有效性后,企業(yè)需將其部署到大規(guī)模分布式集群中,以實現(xiàn)更廣泛的應(yīng)用和更高的性能。紅帽的OpenShift AI平臺在此階段發(fā)揮了重要作用。作為一個強大的AI平臺級產(chǎn)品,OpenShift AI不僅支持MLOps實踐,包括模型的創(chuàng)建、調(diào)整、對齊和服務(wù)監(jiān)控,還能在混合云環(huán)境中高效部署AI應(yīng)用。該平臺能夠管理和調(diào)度多種異構(gòu)GPU資源,如NVIDIA、AMD、英特爾等,確保模型的高效運行。此外,OpenShift AI還提供了完整的DevOps平臺功能,支持AI應(yīng)用的開發(fā)、測試、部署和運行。
紅帽的“三步走”策略為企業(yè)提供了一套完整的AI應(yīng)用構(gòu)建和部署流程,并通過其產(chǎn)品如InstructLab、RHEL AI和OpenShift AI,提供了強大的技術(shù)支持和平臺服務(wù)。這一策略不僅簡化了AI應(yīng)用的開發(fā)和部署過程,還幫助企業(yè)克服了AI實施過程中的技術(shù)和資源挑戰(zhàn),加速了企業(yè)數(shù)字化轉(zhuǎn)型的步伐。
生態(tài)共建,以開源反哺開源
開源社區(qū)一直被視為AI技術(shù)創(chuàng)新的重要引擎。紅帽公司深諳此道,推出了如OpenShift AI和InstructLab等一系列前沿的開源工具。當(dāng)企業(yè)選擇參與并貢獻(xiàn)于這一生態(tài)時,它們不僅為開源社區(qū)注入了寶貴的資源和活力,同時也在這一過程中深化了對AI領(lǐng)域的理解,增強了自身的競爭實力。通過開源貢獻(xiàn),企業(yè)能夠跨越地域的界限,與全球的開發(fā)者攜手合作,共同解決難題,推動AI技術(shù)的邊界不斷拓寬。
持續(xù)的創(chuàng)新和優(yōu)化始終是開源生態(tài)的核心動力。隨著越來越多的企業(yè)和開發(fā)者加入這一大家庭,AI技術(shù)得以不斷演進(jìn)和完善。紅帽的開源工具和平臺正是這一持續(xù)創(chuàng)新的堅實基石,它們幫助企業(yè)緊跟技術(shù)潮流,保持行業(yè)領(lǐng)先地位,實現(xiàn)業(yè)務(wù)目標(biāo)與技術(shù)創(chuàng)新的和諧共進(jìn)。通過共同建設(shè)開源生態(tài),紅帽攜手全球的開發(fā)者和企業(yè),共同塑造AI技術(shù)的未來。