在全面“本地化”前,所有AI PC都是“偽AI PC”?
先思考一個(gè)問題:
一個(gè)依賴于云端 AI 的 PC,能夠稱之為 AI PC 嗎?
2024 年的 PC 市場(chǎng),AI PC 無疑會(huì)是最重要的概念之一,主流 PC 廠商以及英特爾、AMD 都在下重金押注。但對(duì)于已經(jīng)發(fā)布的 AI PC 產(chǎn)品,不少人并不認(rèn)可,核心在于這些 AI PC 中「AI」與「PC」(硬件)基本是分離的。
很簡(jiǎn)單,就拿目前 PC 上最大的 AI 用例——微軟 Copilot 來說,在英特爾與微軟對(duì)「AI PC」的聯(lián)合定義中,強(qiáng)調(diào)必須配備混合架構(gòu)芯片、Copilot 及其對(duì)應(yīng)的物理按鍵。但事實(shí)是,所有升級(jí)到最新 Windows 11 版本的 PC 都能使用 Copilot,因?yàn)?Copilot 只依賴于微軟 Azure 云端算力,與 PC 硬件本身無關(guān)。
換言之,無論是不是頂著「AI PC」的光環(huán),不論是依賴云端算力抑或是本地性能強(qiáng)大,一切PC看似都是AI PC,大家用起來都是「眾生平等」。
這樣看,似乎現(xiàn)在的AI PC全都是“偽概念”,只有等到 Copilot 能在本地運(yùn)行,并且深入 Windows 系統(tǒng)層面,或許才會(huì)出現(xiàn)真正的 AI PC。
好消息是,這個(gè)時(shí)間點(diǎn)可能就是下一代。
Copilot 將支持本地運(yùn)行,Windows 12 大變革
Copilot 要支持本地運(yùn)行的消息,之前其實(shí)就有包括集邦咨詢?cè)趦?nèi)的機(jī)構(gòu)和媒體傳出,但傳聞終歸是傳聞,云計(jì)算已經(jīng)是第一大支柱業(yè)務(wù)的微軟,未必會(huì)允許 Copilot「下云」。
所幸在臺(tái)北舉辦的英特爾人工智能峰會(huì)上,英特爾客戶端計(jì)算事業(yè)部副總裁 Todd Lewellen 在接受采訪時(shí)表示,Copilot 將很快支持在 PC 上本地運(yùn)行。
當(dāng)然不是全部功能。眾所周知,終端算力不可能和云端算力相比,想要讓 Copilot 保持強(qiáng)大的性能和「智商」還是離不開云端的支持。但據(jù) Todd Lewellen 介紹,Copilot 的很多關(guān)鍵功能將直接運(yùn)行在本地的 NPU 上。
也不只是我們今天所看到的云端 Copilot。
早在雷科技之前關(guān)于下一代 Windows(以下簡(jiǎn)稱「Windows 12」)的報(bào)道中,我們就引用消息源指出,微軟將引入 AI 驅(qū)動(dòng)的 Windows Shell,通過「高級(jí)版 Copilot」,持續(xù)幫助系統(tǒng)增強(qiáng)搜索、啟動(dòng)項(xiàng)目或工作流、上下文理解等生成式 AI 能力。
同時(shí),微軟還在開發(fā)一項(xiàng)新的時(shí)間線功能,允許讓 Copilot 記下所有應(yīng)用、網(wǎng)站瀏覽等活動(dòng)記錄,并且能夠隨時(shí)進(jìn)行回溯,甚至是通過 Copilot 增強(qiáng)的搜索能力,快速找到過去某個(gè)時(shí)刻在 Windows 上的活動(dòng)。
除此之外,微軟還有更多基于 AI 改造 Windows 的想法和計(jì)劃。
但不管是 Copilot 的本地運(yùn)行還是在系統(tǒng)層面的深度引入,都意味著未來「AI 味」越來越重的 Windows 需要更強(qiáng)的端側(cè)算力。
「將進(jìn)入下一代 AI PC,NPU(算力)的要求為 40 TOPS,」Todd Lewellen 表示,「我們即將推出的下一代產(chǎn)品將屬于這一類別?!?/p>
真AI PC需要強(qiáng)悍算力,芯片巨頭燃戰(zhàn)火
從之前多個(gè)來源的傳聞以及英特爾高管的說法來看,40 TOPS(每秒萬億次運(yùn)算)是微軟對(duì)于下一代 AI PC 的最低算力要求,而且需要注意的是,這是對(duì) NPU 的要求,不同于當(dāng)下混合架構(gòu)(CPU+GPU+NPU)提供的算力。
而僅從 NPU 提供的算力來看,今天所有宣稱「AI PC」的筆記本電腦產(chǎn)品,都?jí)虿坏轿④浵乱淮?AI PC 的資格。
比如英特爾最新的酷睿 Ultra,也就是 Meteor Lake,在 CPU+GPU+NPU 共同參與運(yùn)算下的 AI 算力可達(dá) 34 TOPS,但如果僅算 NPU 就只有 10 TOPS,GPU 才是出力的大頭。而 AMD 最新一代銳龍 8040 系列(Hawk Point),NPU 的算力也只有 16 TOPS:
兩者都低于 40 TOPS 的性能要求。
相比之下,將在年中集中上市的驍龍 X Elite 筆記本倒是滿足了要求,混合架構(gòu)下的 AI 算力可以達(dá)到 75 TOPS,僅 NPU 的算力也能達(dá)到 45 TOPS。
不過這種優(yōu)勢(shì)大概只能保持半年。
英特爾這邊是確定了下一代 Lunar Lake(預(yù)計(jì)年底發(fā)布)的 NPU 算力將超過 40 TOPS。AMD 那邊雖然沒有消息,但如果不出意外也會(huì)在下一代大幅提升 NPU 算力,以滿足微軟對(duì)于 AI PC 的標(biāo)準(zhǔn)和 Windows 系統(tǒng)的需求。
至于為什么微軟只看 NPU,其實(shí)不難理解。Todd Lewellen 表示,微軟堅(jiān)持讓 Copilot 在 NPU 而不是 GPU 上運(yùn)行,以盡量減少對(duì)電池壽命的影響:
去年(與微軟)進(jìn)行了很多討論,我們問『為什么我們不能在 GPU 上運(yùn)行它?』他們說是希望確保 GPU 和 CPU 被釋放出來完成其他工作。而且我們希望確保出色的電池壽命體驗(yàn),如果在 GPU 上運(yùn)行 Copilot 和其中一些工作負(fù)載,你會(huì)看到對(duì)電池續(xù)航的巨大影響。
核心其實(shí)就是兩點(diǎn):一是不能影響 CPU 和 GPU 日常干活;二是 GPU 用于 AI 運(yùn)算功耗太大了,對(duì)續(xù)航的影響太大,NPU(神經(jīng)網(wǎng)絡(luò)處理器)作為專門為神經(jīng)網(wǎng)絡(luò)運(yùn)算而設(shè)計(jì)的處理器,則恰恰有更高的效率和更低的功耗。
而這也從一個(gè)側(cè)面說明了,目前已發(fā)布的 AI PC 產(chǎn)品,并沒有準(zhǔn)備好面對(duì)「AI 真正改變 PC 體驗(yàn)」的未來。
但 PC 的未來又是什么?
依賴云有致命問題,本地對(duì)AI PC意味著什么?
個(gè)人終端的特性決定了,基于云端運(yùn)行的 AI 存在太多問題,首當(dāng)其沖的就是隱私安全。一個(gè)表現(xiàn)是,在與 Copilot 或者 ChatGPT 等 AI 聊天機(jī)器人的對(duì)話中,用戶是不敢發(fā)送個(gè)人隱私信息的。
當(dāng)微軟要基于 AI 改造 Windows 系統(tǒng)的時(shí)候,肯定要讓 AI 從系統(tǒng)層面了解和處理大量關(guān)于系統(tǒng)、軟件運(yùn)行以及用戶的數(shù)據(jù),但不管是網(wǎng)絡(luò)連接還是模型訓(xùn)練,都會(huì)大幅放大用戶隱私泄露的風(fēng)險(xiǎn)。
從這個(gè)角度,雖然我們離不開云端運(yùn)行的強(qiáng)大 AI,但同時(shí),基于本地運(yùn)行的 AI,又是必需的。
另外受制于網(wǎng)絡(luò)連接,延遲和穩(wěn)定性都會(huì)影響云端 AI 的實(shí)際處理能力,從而影響到用戶的終端體驗(yàn),還有云端的持續(xù)成本等問題,都是英特爾、高通以及各大 PC 和手機(jī)廠商強(qiáng)調(diào)「端側(cè) AI」的重要原因。
不過更本質(zhì)的問題是,只有將 AI 平臺(tái)化,自下而上從系統(tǒng)層面重新設(shè)計(jì)產(chǎn)品體驗(yàn),將算力平臺(tái)化,讓應(yīng)用可以充分利用端側(cè)算力,才能真正稱得上 AI 化。而這些,都需要 AI 能在本地運(yùn)行,終端也能提供相應(yīng)的端側(cè)算力。
這也是 PC 的未來。也只有當(dāng) Windows 開始自我革命,改造基于 AI 的個(gè)人電腦操作系統(tǒng);當(dāng)處理器廠商毅然決然轉(zhuǎn)身,大幅提高 AI 運(yùn)算效率;當(dāng) PC 廠商腳踏實(shí)地,真正思考 AI 時(shí)代的 PC 體驗(yàn):
PC 才會(huì)是真正的 AI PC。
本文轉(zhuǎn)載自??鈦媒體??
