在推動生成式AI落地應用的進程中，除了高性能的算力之外，面向不同行業(yè)的不同場景，如何快速開發(fā)構(gòu)建應用也成為擺在很多企業(yè)面前的主要挑戰(zhàn)。在GTC 2024上，NVIDIA發(fā)布了一系列面向生成式AI應用開發(fā)的軟件包，讓人眼前一亮。

那么，NVIDIA都發(fā)布了哪些軟件開發(fā)工具？它們都有哪些看點。接下來，讓我們來盤點一下。

創(chuàng)造性的發(fā)布生成式AI軟件開發(fā)方式

GTC 2024上，黃仁勛認為，生成式 AI 改變了應用程序的編寫方式。未來的公司不應該把精力放在編寫軟件上，而是要放在組裝 AI 模型，賦予它們?nèi)蝿?，給出工作產(chǎn)品示例，并審查計劃和中間結(jié)果。

為此，NVIDIA推出了專為加速計算庫和生成式AI模型建的全新軟件包，供開發(fā)者在已安裝 NVIDIA CUDA GPU 的系統(tǒng)中創(chuàng)建和部署生成式 AI 助手。與此同時，NVIDIA發(fā)布Omniverse Cloud API，為眾多工業(yè)數(shù)字孿生軟件工具提供助力。

NVIDIA用生成式AI微服務的方式，創(chuàng)造式的改變了生成式AI軟件的開發(fā)方式。對于企業(yè)而言，他們可以利用這些微服務，在自己的平臺上快速創(chuàng)建和部署定制化的應用，并能夠保留對知識產(chǎn)權(quán)的完整所有權(quán)和控制權(quán)。

我們不可能從頭開始編寫代碼，也不用寫一大堆Python 代碼或類似的東西。黃仁勛認為，未來如何構(gòu)建軟件，只需要組建一支AI團隊就足夠了。這支AI團隊可以使用現(xiàn)成的 NIM 微服務構(gòu)建專屬的AI和AI助手，為不同公司所需的模型提供專門訓練，幫助他們創(chuàng)建更好的新服務。

在GTC 2024上，NVIDIA推出了數(shù)十項企業(yè)級生成式 AI 微服務，其中包括 NVIDIA NIM? 微服務，能夠適用于 NVIDIA 及合作伙伴生態(tài)系統(tǒng)中 20 多個熱門的 AI 模型進行推理優(yōu)化。另外，用戶現(xiàn)能夠以 NVIDIA CUDA-X 微服務的形式使用 NVIDIA 加速軟件開發(fā)套件、庫和工具，用于檢索增強生成（RAG）、護欄、數(shù)據(jù)處理、HPC 等。除此之外，NVIDIA 還發(fā)布了 20 多項醫(yī)療 NIM 和 CUDA-X 微服務。

1）NIM 微服務

NIM 微服務提供基于 NVIDIA 推理軟件的預構(gòu)建容器，包括 Triton 推理服務器? 和 TensorRT?-LLM，使開發(fā)者能夠?qū)⒉渴饡r間從幾周縮短至幾分鐘。

在語言、語音和藥物發(fā)現(xiàn)等領域，NIM 微服務提供了行業(yè)標準 API，使開發(fā)者能夠使用安全托管在自己的基礎設施中的專有數(shù)據(jù)，來快速構(gòu)建 AI 應用。這些應用可按需擴展，從而為在 NVIDIA 加速計算平臺上運行生產(chǎn)級生成式 AI 提供靈活性和性能。

除此之外，NIM 微服務還能夠為部署 NVIDIA、A121、Adept、Cohere、Getty Images 和 Shutterstock 的模型，以及谷歌、Hugging Face、Meta、微軟、Mistral AI 和 Stability AI 的開放模型提供快速且性能出色的生產(chǎn)級 AI 容器。

據(jù)了解，用戶可以從亞馬遜 SageMaker、谷歌 Kubernetes Engine 和微軟 Azure AI 中訪問 NIM 微服務，并與 Deepset、LangChain 和 LlamaIndex 等流行的 AI 框架集成。

由于NVIDIA NIM 軟件包是根據(jù) NVIDIA 的加速計算庫和生成式 AI 模型構(gòu)建的，因此用戶可以在 NVIDIA 龐大的 CUDA 安裝基礎上工作，針對新 GPU 進行重新優(yōu)化，并不斷掃描安全漏洞和威脅。

大會現(xiàn)場，黃仁勛展示了NVIDIA全新的醫(yī)療微服務套件，其包含經(jīng)過優(yōu)化的 NVIDIA NIM? AI 模型和工作流，并提供行業(yè)標準應用編程接口（API），用于創(chuàng)建和部署云原生應用。NVIDIA醫(yī)療微服務套件還提供先進的醫(yī)學影像、自然語言和語音識別以及數(shù)字生物學生成、預測和模擬功能。

2）CUDA-X 微服務

CUDA-X 微服務為數(shù)據(jù)準備、定制和訓練提供端到端的構(gòu)建模塊。GTC 2024上，NVIDIA推出了定制語音和翻譯 AI 的 NVIDIA Riva、用于路由優(yōu)化的 NVIDIA cuOpt?，以及用于高分辨率氣候和天氣模擬的 NVIDIA Earth-2。

除此之外，NVIDIA還推出了能夠讓開發(fā)者將其 AI 應用鏈接到業(yè)務數(shù)據(jù)的NeMo Retriever?微服務，包括文本、圖像以及條形圖、折線圖和餅圖等可視化內(nèi)容，以生成高度準確、與上下文相關的結(jié)果。借助當中的RAG 功能，企業(yè)可以向助手、聊天機器人和生成式 AI 生產(chǎn)力工具提供更多數(shù)據(jù)，從而提高準確性和洞察力。

據(jù)了解，NVIDIA面向更多的用于定制模型開發(fā)的 NVIDIA NeMo? 微服務也將陸續(xù)發(fā)布，其中包括構(gòu)建用于訓練和檢索的簡潔數(shù)據(jù)集的 NVIDIA NeMo Curator、用于利用特定領域數(shù)據(jù)微調(diào) LLM 的 NVIDIA NeMo Customizer、用于分析 AI 模型性能的 NVIDIA NeMo Evaluator 以及用于 LLM 的 NVIDIA NeMo Guardrails。

NVIDIA 微服務已經(jīng)被NVIDIA 生態(tài)系統(tǒng)中的數(shù)據(jù)、基礎設施和計算平臺提供商使用，包括 Box、Cloudera、Cohesity、Datastax、Dropbox 和 NetApp 在內(nèi)的頂級數(shù)據(jù)平臺提供商正在使用 NVIDIA 微服務，幫助客戶優(yōu)化 RAG 管道，并將專有數(shù)據(jù)集成到生成式 AI 應用中。

另外，企業(yè)可以在自己選擇的基礎設施上部署 NVIDIA AI Enterprise 5.0 中的 NVIDIA 微服務，例如領先的亞馬遜云科技（AWS）、谷歌云、Azure 和 Oracle Cloud Infrastructure 等云平臺。超過 400 個 NVIDIA 認證系統(tǒng)也支持 NVIDIA 微服務，包括思科、戴爾科技、慧與（HPE）、惠普、聯(lián)想和超微的服務器和工作站。

黃仁勛表示，NVIDIA合作伙伴擁有多年來創(chuàng)建的所有這些令人驚嘆的工具（和數(shù)據(jù)）。他強調(diào)，“企業(yè)IT行業(yè)正坐在一座‘金礦’上，如果他們能把這個‘金礦’變成 AI 助手，就能給用戶提供更多可能。

3）Omniverse Cloud API

NVIDIAI Omnivers Cloud是全球領先的工業(yè)數(shù)字孿生應用和工作流創(chuàng)建平臺。為了幫助更多的軟件廠商加速AI研發(fā)，在GTC 2024上，NVIIDIA正式宣布通過API的方式，將該平臺的覆蓋范圍擴展至整個軟件制造商生態(tài)系統(tǒng)。

NIVIDIA總共推出了五個Omniverse Cloud API，它們即可以單獨使用，也可以組合作用。

USD Render：生成OpenUSD數(shù)據(jù)的全光線追蹤NVIDIA RTX?渲染

USD Write：讓用戶能夠修改OpenUSD數(shù)據(jù)并與之交互

USD Query：支持場景查詢和交互式場景

USD Notify：追蹤USD變化并提供更新信息

Omniverse Channel：連接用戶、工具和世界，實現(xiàn)跨場景協(xié)作。

借助五個全新 Omniverse Cloud 應用編程接口（API），開發(fā)者能夠輕松地將 Omniverse 的核心技術直接集成到現(xiàn)有的數(shù)字孿生設計與自動化軟件應用中，或是集成到用于測試和驗證機器人或自動駕駛汽車等自主機器的仿真工作流中。

黃仁勛在現(xiàn)場宣布，NVIDIA 將把 Omniverse 引入 Apple Vision Pro 中，通過新的 Omniverse Cloud API，開發(fā)者可以將交互式工業(yè)數(shù)字孿生流式傳輸?shù)?VR 頭顯中。

GTC 2024現(xiàn)場，黃仁勛分享了一個機器人倉庫的演示，展示其工作原理——它使用多攝像頭感知和追蹤，看顧工人并協(xié)調(diào)機器人叉車，在整個機器人堆棧運行的情況下，這些叉車能夠?qū)崿F(xiàn)自動駕駛。

據(jù)了解，一些全球大型工業(yè)軟件制造商正在采用 Omniverse Cloud API，包括 Ansys、Cadence、達索系統(tǒng)旗下 3DEXCITE 品牌、Hexagon、微軟、羅克韋爾自動化、西門子和 Trimble 等。

寫在最后：

除了高性能計算之外，企業(yè)在部署生成式AI應用時，軟件開發(fā)也是至關重要的一環(huán)。通過GTC 2024上發(fā)布的一系列產(chǎn)品來看，NVIDIA不僅僅是為用戶提供了更高算力的產(chǎn)品，而且通過一系列的平臺和工具賦能AI應用軟件開發(fā)，加速AI在企業(yè)中的落地。而這種創(chuàng)造式的軟件開發(fā)方式，也將徹底改變企業(yè)應用開發(fā)的模式。正如黃仁勛所述，未來如何構(gòu)建軟件，只需要組建一支AI團隊就足夠了。