在巴塞羅那舉行的世界移動(dòng)大會(huì)（MWC 2024）上，英偉達(dá)發(fā)布了最新款的入門級(jí)移動(dòng)版工作站GPU，RTX 500 Ada和RTX 1000 Ada。

這兩款入門級(jí)移動(dòng)工作站GPU與之前發(fā)布的RTX 2000、3000、3500、4000和5000一起，構(gòu)成了英偉達(dá)移動(dòng)工作站GPU的整個(gè)產(chǎn)品線。

按照英偉達(dá)官方的說法，配備了入門級(jí)GPU的筆記本電腦，相較于使用CPU來處理AI任務(wù)的設(shè)備，效率能暴增14倍！

這兩款新的GPU，將會(huì)在今年第一季度搭載在OEM的合作伙伴推出的筆記本電腦中上市。

入門級(jí)工作站移動(dòng)GPU，補(bǔ)全產(chǎn)品線的最后一塊拼圖

從功耗上我們就能看出來，這兩款入門級(jí)的產(chǎn)品基本上是針對(duì)輕薄本推出的產(chǎn)品。

雖然配備的核心數(shù)，內(nèi)存數(shù)遠(yuǎn)遠(yuǎn)低于產(chǎn)品線中的其他信號(hào)，但是Ada構(gòu)架所支持的特性卻是一點(diǎn)沒有縮水。

- 第三代RT核心：

光線追蹤性能是前代的兩倍，實(shí)現(xiàn)了高度真實(shí)感的渲染效果。

- 第四代Tensor核心：

處理速度是上一代的兩倍，加快了深度學(xué)習(xí)訓(xùn)練、推理過程和AI驅(qū)動(dòng)的創(chuàng)意任務(wù)。

- Ada構(gòu)架的CUDA核心：

相比前代，單精度浮點(diǎn)（FP32）處理能力提高了30%，在圖形處理和計(jì)算任務(wù)上大幅提升了性能。

- 專用GPU內(nèi)存：

RTX 500搭載了4GB內(nèi)存，而RTX 1000則配備了6GB內(nèi)存，足以應(yīng)對(duì)復(fù)雜的3D和AI應(yīng)用，處理大型項(xiàng)目和數(shù)據(jù)集，以及多應(yīng)用并行工作流程。

- DLSS 3：

這一AI圖形技術(shù)的突破性進(jìn)展，通過產(chǎn)生更多高質(zhì)量畫面顯著提高了性能。

- AV1編碼器：

第八代編碼器（NVENC）支持AV1編碼，比H.264編碼高效40%，為視頻直播、流媒體和視頻通話提供了更多可能。

基于Ampere構(gòu)架的上一代產(chǎn)品，RTX A500和RTX A1000的的核心數(shù)都只有2048。

這一代更新后的RTX 500 Ada，保留2024個(gè)核心數(shù)不變，但是RTX 1000 Ada的核心數(shù)就提升了1/4，達(dá)到2560個(gè)，內(nèi)存直接標(biāo)配6GB。

而且對(duì)比上一代產(chǎn)品，英偉達(dá)這兩個(gè)型號(hào)的GPU功率都有了不小的提升。

RTX 500從20-60W提升到了35-60W，RTX 1000從35-95W提升到了35-140W，而且RTX 1000還支持了Dynamic Boost，功耗可以再額外提升15W。

AI應(yīng)用進(jìn)入日常生活，入門級(jí)GPU大有可為

英偉達(dá)稱，與單純依賴CPU的配置相比，新款RTX 500 GPU能夠在執(zhí)行像Stable Diffusion這類模型時(shí)，提供高達(dá)14倍的AI性能。

此外，AI照片編輯速度提升3倍，3D渲染的圖形性能提升了10倍，將為各種工作流程帶來了巨大的生產(chǎn)力飛躍。

隨著生成式AI和混合式工作環(huán)境日益成為常態(tài)，從內(nèi)容創(chuàng)作者到研究人員，再到工程師，幾乎所有專業(yè)人士都需要一款功能強(qiáng)大的、支持AI加速的筆記本電腦，以便在任何地點(diǎn)都能有效應(yīng)對(duì)行業(yè)挑戰(zhàn)（加班）。

隨著各大硬件廠商都在布局AI PC和AI手機(jī)，可以預(yù)料在不遠(yuǎn)的將來，除了專業(yè)的開發(fā)者和內(nèi)容創(chuàng)作者之外，普通老百姓也會(huì)在日常生活中接觸到大量的AI應(yīng)用。

老黃在MWC如此重要的場合，拋出的卻是兩款最入門的移動(dòng)GPU。

這似乎就是在對(duì)外宣稱，在算力巨頭眼里，普通的消費(fèi)者也同樣能夠享受到技術(shù)普及帶來的紅利。

而傳統(tǒng)的CPU廠家，也在今年初推出了自己帶有AI能力的產(chǎn)品，希望從產(chǎn)品形態(tài)上和英偉達(dá)形成差異化競爭。

AMD第一代基于XDNA架構(gòu)的神經(jīng)處理單元（NPU）去年上市，作為其「Phoenix」Ryzen 7040移動(dòng)處理器系列的組成部分。

其中，XDNA通過一系列特殊設(shè)計(jì)的 AI Engine 處理單元組成的網(wǎng)絡(luò)來實(shí)現(xiàn)空間數(shù)據(jù)流處理。

每個(gè)AI Engine單元都配備了一個(gè)向量處理器和一個(gè)標(biāo)量處理器，還有用于存儲(chǔ)程序和數(shù)據(jù)的本地內(nèi)存。

這種設(shè)計(jì)避免了傳統(tǒng)架構(gòu)中頻繁從緩存中讀取數(shù)據(jù)所帶來的能量消耗，通過使用板載上內(nèi)存和專門設(shè)計(jì)的數(shù)據(jù)流，AI Engine能夠AI和信號(hào)處理任務(wù)中實(shí)現(xiàn)高效和低功耗的計(jì)算。

幾個(gè)月后，英特爾推出了同樣配備NPU的Core Ultra「Meteor Lake」構(gòu)架。

英特爾的 Meteor Lake SoC將CPU，NPU，GPU結(jié)合在一起，來應(yīng)對(duì)未來可能出現(xiàn)的不同AI應(yīng)用。

Meteor Lake擁有三個(gè)功能齊全的AI引擎，Arc Xe-LPG顯卡保證了AI需求的算力上限。

相比之下，NPU及其兩個(gè)神經(jīng)計(jì)算引擎用來承擔(dān)持續(xù)的人工智能工作負(fù)載，以進(jìn)一步提高能效。

CPU本身以及Redwood Cove（P）和Crestmont（E）內(nèi)核的組合可以以更低的延遲處理AI工作負(fù)載，從而提高精度。

最近有消息稱，微軟最新推出的Windows 11 DirectML預(yù)覽版將為Core Ultra NPU提供初步支持。

隨著微軟在操作系統(tǒng)層面對(duì)于AI的全面更新和支持，英特爾和AMD在CPU中加入了應(yīng)對(duì)AI負(fù)載的NPU，入門級(jí)AI應(yīng)用的硬件競爭必將越演越烈。

本地化運(yùn)行自己的大模型，英偉達(dá)誓要將AI應(yīng)用的門檻打下來

除了不斷更新自己的硬件收割科技大廠，英偉達(dá)在前段時(shí)間也上線了自己第一款支持本地運(yùn)行的大模型系統(tǒng)——Chat with RTX。

它可以讓用戶利用手上的消費(fèi)級(jí)GPU本地化地運(yùn)行開源LLM，利用用戶自己的數(shù)據(jù)和知識(shí)庫，定制一款專屬于自己的聊天機(jī)器人。

這是英偉達(dá)推出的第一款面向普通消費(fèi)者的AI應(yīng)用。

簡單來說，它就是英偉達(dá)自己推出的開源大模型啟動(dòng)器，目的是讓沒有技術(shù)背景的消費(fèi)者能夠真的在自己的設(shè)備上運(yùn)行大模型。

用戶想要運(yùn)行Chat with RTX的要求也非常簡單，只要是使用英偉達(dá)消費(fèi)級(jí)的30/40系的顯卡，或者Ampere/Ada GPU，擁有16G的內(nèi)存，100G的空余硬盤空間，就能使用。

安裝模型的時(shí)候，會(huì)自動(dòng)根據(jù)顯存提供支持的模型。

安裝完成后，通過瀏覽器界面就能直接使用聊天機(jī)器人了。

而現(xiàn)階段，只支持開源的Mistral 7B和 Llama2 13B。

但因?yàn)轱@存的關(guān)系，剛剛發(fā)布的RTX 500和1000 Ada似乎還不能運(yùn)行這個(gè)系統(tǒng)。

但主要是因?yàn)閮煽钪С值拈_源模型尺寸對(duì)于消費(fèi)級(jí)GPU來說還是比較大。

如果未來英偉達(dá)能讓Chat with RTX支持更多的開源模型，比如說微軟前段時(shí)間推出的Phi-2 2.7B，那么即便是4G顯存的RTX 500Ada也將可以本地化地跑大模型了。