市場上有很多生成式AI平臺的選擇，為什么要選擇紅帽?

紅帽總裁兼CEO Matt Hicks直言紅帽的不同之處在于運行位置的核心靈活性。企業(yè)既可以對小型開源模型進行混合部署，也可以在公有云或自有數(shù)據(jù)中心訓(xùn)練模型，同時支持主要的GPU供應(yīng)商。

最近在Red Hat Summit上，紅帽發(fā)布了一系列與人工智能相關(guān)的內(nèi)容，包括Linux AI(RHEL AI)和OpenShift AI的最新進展。

Matt Hicks表示，RHEL用于運行所有可以在Linux上運行的應(yīng)用程序，RHEL AI則用于運行你可以通過訓(xùn)練和定制的大型語言模型的AI部分。OpenShift用于管理可以在RHEL上以分布式方式跨集群運行的所有應(yīng)用程序，OpenShift AI則以相同的方式管理一系列模型，高效地分割訓(xùn)練、使用和提供服務(wù)。

紅帽總裁兼CEO Matt Hicks

Linux AI(RHEL AI)開源AI的創(chuàng)新

RHEL AI是一個基礎(chǔ)模型平臺，能夠使用戶更加便捷地開發(fā)、測試和部署生成式人工智能(GenAI)模型。該解決方案被封裝成一個優(yōu)化的、可啟動的RHEL鏡像，用于在混合云環(huán)境中部署單個服務(wù)器，并已集成到OpenShift AI中。

在意識到IBM研究院開發(fā)的大規(guī)模對話機器人對齊(LAB)技術(shù)能顯著提升模型性能后，IBM和紅帽決定推出InstructLab，這是一個圍繞LAB方法和IBM開源Granite模型構(gòu)建的開源社區(qū)。InstructLab項目的目標是使開發(fā)者通過簡化LLM的創(chuàng)建、構(gòu)建和貢獻過程，像參與任何其他開源項目一樣，將LLM開發(fā)的權(quán)力交到開發(fā)者手中。

RHEL AI融合了企業(yè)級就緒的InstructLab項目和Granite語言與代碼模型，及全球領(lǐng)先的企業(yè)級Linux平臺，簡化了混合基礎(chǔ)設(shè)施環(huán)境中的部署。RHEL AI包括：

• 紅帽支持和保障的開源許可Granite語言和代碼模型;
• 提供支持并具有生命周期管理的InstructLab分發(fā)版本，這是一種可擴展且成本效益高的解決方案，能夠增強大型語言模型(LLM)的功能，并使知識與技能的貢獻得到更廣泛的用戶接納;
• 通過RHEL鏡像方式提供的優(yōu)化可啟動模型運行實例，包括Granite模型和InstructLab工具包，及優(yōu)化的Pytorch運行時庫和針對AMD Instinct? MI300X、Intel和NVIDIA GPU以及NeMo框架的加速器;
• 紅帽提供的完整企業(yè)支持和生命周期保證，從可信的企業(yè)產(chǎn)品分發(fā)開始，提供24小時全天候生產(chǎn)支持和擴展的生命周期支持。

“RHEL AI的主要目標是利用硬件加速，進行模型的訓(xùn)練和運行?！盡att Hicks說，RHEL AI更專注于為大型語言模型創(chuàng)建業(yè)務(wù)安全、管理生命周期和提供可預(yù)測性，并使企業(yè)能夠?qū)ζ溥M行修改。

OpenShift AI增強預(yù)測性和生成式AI的靈活性

紅帽O(jiān)penShift AI是基于紅帽O(jiān)penShift構(gòu)建的開放式混合人工智能(AI)和機器學(xué)習(xí)(ML)平臺，幫助企業(yè)在混合云環(huán)境中大規(guī)模創(chuàng)建并交付人工智能支持的應(yīng)用。

紅帽O(jiān)penShift AI引入了新的增強功能，包括獲取最新的AI/ML創(chuàng)新和以人工智能為中心的龐大合作伙伴生態(tài)系統(tǒng)的支持。最新版本紅帽O(jiān)penShift AI 2.9，提供了邊緣模型服務(wù)、增強型模型服務(wù)、采用Ray支持分布式工作負載、改進模型開發(fā)、模型監(jiān)控和可視化、新的加速器配置文件。

在Matt Hicks看來，構(gòu)建一個堅實的混合云基礎(chǔ)對企業(yè)AI至關(guān)重要。許多企業(yè)嘗試使用規(guī)模較小的模型進行微調(diào)和訓(xùn)練，但往往成效不佳。所以他們會轉(zhuǎn)向“全知模型”——通常在公共云中運行的模型，參數(shù)量超過一萬億，這些模型雖然是開箱即用，但運行和訓(xùn)練成本相當之高。

無論是在筆記本、邊緣還是任何地方，混合云對云充分發(fā)揮AI的潛力都是關(guān)鍵。企業(yè)必須改進這些小型模型，使其更好地適應(yīng)實際任務(wù)，這就需要在特定用例上完成最后一段訓(xùn)練。

Red Hat Summit上紅帽展示了在開放混合云中賦能人工智能戰(zhàn)略，支持人工智能工作負載在數(shù)據(jù)所在的地方運行，無論是在數(shù)據(jù)中心、多個公有云或邊緣。紅帽的平臺為這些工作負載提供跨環(huán)境的一致性，無論它們在何處運行，都可以順利推進企業(yè)的人工智能創(chuàng)新。