JFrog（納斯達(dá)克股票代碼：FROG），現(xiàn)已通過收購 Qwak AI將業(yè)務(wù)擴(kuò)展至涵蓋統(tǒng)一 MLOps 平臺，近期宣布與NVIDIA NIM 微服務(wù)（NVIDIA AI Enterprise 軟件平臺的一部分）進(jìn)行新的產(chǎn)品集成。將JFrog Artifactory模型注冊和NVIDIA NIM集成至JFrog Platform，有望實現(xiàn)在端到端軟件供應(yīng)鏈工作流中將GPU優(yōu)化、預(yù)獲批的AI模型與集中式DevSecOps流程相結(jié)合，使企業(yè)能夠以極快的速度將安全的機(jī)器學(xué)習(xí)（ML）模型和大語言模型（LLM）投入生產(chǎn)，并提高透明度、可追溯性和信任度。

JFrog戰(zhàn)略執(zhí)行副總裁Gal Marder表示：“ 隨著企業(yè)快速采用AI技術(shù)，落實確保效率和安全性的實踐，并以負(fù)責(zé)任的方式采用AI至關(guān)重要。通過NVIDIA NIM微服務(wù)，將DevOps、安全和MLOps流程集成至端到端軟件供應(yīng)鏈工作流中，客戶將能夠高效地將安全模型投入生產(chǎn)，同時在整個流水線中保持高度的可視性、可追溯性和可控性?！?/p>

隨著AI在軟件應(yīng)用中的興起和市場需求的快速增長，數(shù)據(jù)科學(xué)家和ML工程師在企業(yè)環(huán)境中擴(kuò)展ML模型部署時面臨著多樣化的挑戰(zhàn)。碎片化的資產(chǎn)管理、安全漏洞、合規(guī)性問題和性能瓶頸，再加上將AI工作流與現(xiàn)有軟件開發(fā)流程集成的復(fù)雜性，以及在各種環(huán)境中靈活、安全部署的應(yīng)用需求，使問題變得更加復(fù)雜。這種復(fù)雜性的疊加可能導(dǎo)致部署周期漫長且成本高昂，甚至許多情況下會導(dǎo)致AI應(yīng)用計劃的失敗。

NVIDIA 企業(yè)戰(zhàn)略合作伙伴副總裁Pat Lee表示：“隨著企業(yè)擴(kuò)大生成式AI的部署規(guī)模，中央存儲庫可以幫助他們快速選擇和部署已獲準(zhǔn)開發(fā)的模型。將NVIDIA NIM微服務(wù)集成到JFrog Platform，可以幫助開發(fā)人員快速獲得完全合規(guī)、性能優(yōu)化的模型，并迅速投入生產(chǎn)?！?/p>

JFrog Artifactory提供了一種單一解決方案，該方案適用于存儲和管理整個軟件供應(yīng)鏈中使用的所有制品、二進(jìn)制文件、軟件包、文件、容器和組件。JFrog Platform與NVIDIA NIM的集成有望將容器化AI模型作為軟件包納入現(xiàn)有的軟件開發(fā)工作流。通過將NVIDIA NGC（一個GPU優(yōu)化深度學(xué)習(xí)、ML和HPC模型的中心）與JFrog Platform和JFrog Artifactory模型注冊中心相結(jié)合，企業(yè)將能夠為所有軟件包和AI模型維護(hù)單一事實來源，同時利用企業(yè)DevSecOps最佳實踐來獲得對整體軟件供應(yīng)鏈的可視性、管理和控制。

JFrog Platform與NVIDIA NIM的集成有望帶來多項優(yōu)勢，包括

● 統(tǒng)一管理：在 JFrog Artifactory（作為模型注冊表）中，對所有資產(chǎn)（包括專有制品和開源軟件依賴項）以及 NIM 微服務(wù)容器進(jìn)行集中訪問控制和管理，實現(xiàn)與現(xiàn)有 DevSecOps 工作流的無縫集成。

● 全面的安全性和完整性：在開發(fā)的每個環(huán)節(jié)（包括容器和依賴項）進(jìn)行持續(xù)掃描，通過 JFrog 審計和使用情況統(tǒng)計來提供對 NIM 微服務(wù)的上下文洞察，從而促進(jìn)合規(guī)性。

● 卓越的模型性能和可擴(kuò)展性：利用NVIDIA加速計算基礎(chǔ)設(shè)施來優(yōu)化AI應(yīng)用性能，提供低延遲和高吞吐量，以便在大規(guī)模生產(chǎn)環(huán)境中實現(xiàn)具有可擴(kuò)展性的LLM部署。

● 靈活部署：通過 JFrog Artifactory 提供靈活的部署選項，包括自托管、多云和離線部署選項。