最近一輪AI之戰(zhàn)，OpenAI、谷歌、微軟都交卷了，現(xiàn)在，全世界的目光齊刷刷看向蘋果。

全球開發(fā)者大會(huì)，就在6月上旬。選擇這個(gè)時(shí)機(jī)發(fā)布新產(chǎn)品，蘋果勇氣可嘉。

被一眾競品搶盡風(fēng)頭后，蘋果得拿出什么重大突破來，才能證明自己在AI領(lǐng)域還能讓人興奮？

看起來，蘋果可走的路數(shù)不多了，所以外媒記者才意味深長地暗示：這次WWDC的主題應(yīng)該是「迎頭趕上」，而非「超越」。

畢竟，在LLM上，繼ChatGPT和Gemini之后，蘋果早已失去了先發(fā)優(yōu)勢(shì)；微軟面向開發(fā)者的CoPilot生態(tài)，也是XCode短時(shí)間內(nèi)無法企及的。

和英偉達(dá)的舊仇，也讓蘋果孤注一擲發(fā)展自研芯片，然而比起英偉達(dá)GPU，M2系列在成本和實(shí)際應(yīng)用性能上都有些差強(qiáng)人意。

硬氣的蘋果，無疑在進(jìn)行一場豪賭。

蘋果，拼命追趕

彭博社記者M(jìn)ark Gurman發(fā)出了一篇爆料文，預(yù)測(cè)了蘋果即將在開發(fā)者大會(huì)上祭出的殺手锏。

Gurman分析道，比較引人矚目的消息，就是蘋果和OpenAI CEO Sam Altman的合作了。

在WWDC上，雙方的合作伙伴關(guān)系很可能會(huì)昭告天下。

這就有點(diǎn)微妙了。一方面，這一舉動(dòng)，相當(dāng)于讓蘋果向公眾承認(rèn)了，自己無法在AI最熱門的領(lǐng)域競爭，通過「曲線救國」，它倒是可以擁有最先進(jìn)的聊天機(jī)器人，從而硬剛一波使用Gemini的三星。

另一方面，最近Altman的名聲不大好，OpenAI的公司結(jié)構(gòu)看起來也不太穩(wěn)定。

因此，蘋果根本無法對(duì)OpenAI作為iOS新功能的單一供應(yīng)商感到放心。（這就是為什么它還在和谷歌達(dá)成協(xié)議，把Gemini也作為備選）

根據(jù)預(yù)測(cè)，蘋果很有可能著重發(fā)力軟件方面，比如推出iOS 18、iPadOS 18、macOS 15等操作系統(tǒng)的更新。

iPad已經(jīng)用上了最新的M4芯片，也許它會(huì)繼續(xù)被集成到Mac Pro和MacBook Pro中？

對(duì)于外界最關(guān)注的AI功能，蘋果將「另辟蹊徑」，推出「Project Greymatter」，重點(diǎn)關(guān)注普通人在日常生活中可以使用的工具，滿足用戶對(duì)于「實(shí)用」的需求。

一系列新功能將分布在手機(jī)、平板和PC端，包括——

- 更靈活的主屏幕布局、自定義app圖標(biāo)顏色

- 語音備忘錄轉(zhuǎn)文字

- AI照片編輯

- 隨短信內(nèi)容變化的自定義表情符號(hào)

- Spotlight搜索更快速、準(zhǔn)確

- Safari搜索改進(jìn)

- 郵件和短信的自動(dòng)回復(fù)建議

如果僅是這些功能，那就不免令人有些失望，畢竟，這些功能并不是革命性的，也很難吸引眼球，絕大部分都已經(jīng)在谷歌或Meta的相關(guān)應(yīng)用中存在。

OpenAI的GPT-4o語音最近雖然飽受爭議，但讓我們看到了語音助手可以擬人化、智能化到什么程度。

于是，全網(wǎng)期待的目光落在了被傳和OpenAI合作的蘋果上。作為最流行的語音助手之一，Siri有望在功能和聲音上升級(jí)嗎？

也有預(yù)測(cè)稱，ChatGPT可能被植入到iOS18中作為聊天機(jī)器人插件；同時(shí)蘋果也在「兩手準(zhǔn)備」，和谷歌洽談Gemini的交易。

蘋果的AI戰(zhàn)略：數(shù)據(jù)中心、設(shè)備、云計(jì)算

與此同時(shí)，SemiAnalysis的著名爆料研究員Dylan Patel和Myron Xie一起，剛剛發(fā)了一篇文章，全面分析了蘋果的AI戰(zhàn)略。

在這篇文章中，兩位記者提出了一個(gè)困擾著許多人的問題：蘋果在AI領(lǐng)域到底在做什么？

要知道，現(xiàn)在全球都在瘋狂搶購英偉達(dá)的GPU，然而蘋果卻沒有參與這一「囤貨」大潮。調(diào)查顯示，蘋果對(duì)GPU的采購微乎其微，連英偉達(dá)的十大客戶都不是。

在WWDC大會(huì)前夕，各種傳言滿天飛。

兩位記者對(duì)目前的各路消息來了個(gè)匯總。

加大M系列處理器產(chǎn)量，還要做自己的AI服務(wù)器

首先，有多個(gè)消息來源稱，蘋果今年將加大M系列處理器的產(chǎn)量，甚至達(dá)到創(chuàng)紀(jì)錄的水平。

所謂M系列處理器，主要指的是M2 Ultra，它由2個(gè)片上M2 Max拼接而成，被蘋果稱之為「UltraFusion」。（有趣的是，據(jù)悉蘋果的M3 Ultra被取消了。）

Ultrafusion指的是使用本地硅互連技術(shù)將兩個(gè)M2 Max芯片連接在一起。在軟件層面上，這兩個(gè)芯片被看作一個(gè)單一的芯片。M2 Ultra利用了臺(tái)積電的InFO-LSI封裝技術(shù)。這與臺(tái)積電的CoWoS-L概念相似，英偉達(dá)的Blackwell和未來的加速器也將采用這種技術(shù)。要說蘋果和英偉達(dá)兩種方法之間的唯一區(qū)別，就是蘋果的InFO是芯片先行工藝流程， 而英偉達(dá)的CoWoS-L是芯片后行工藝流程，另外它們使用的是不同類型的內(nèi)存

但是稍微仔細(xì)一想，就會(huì)發(fā)現(xiàn)：M2 Ultra的增產(chǎn)實(shí)在是很奇怪。

在需求上就完全找不到理由。M2 Ultra僅用于高端Mac Studio和Mac Pro，這些產(chǎn)品一年了都沒什么有意義的更新，也沒聽說有哪個(gè)新產(chǎn)品要用到M2 Ultra。

總之，高端的臺(tái)式PC和MacBook的需求都相當(dāng)?shù)兔?，沒有任何跡象表明，有什么消費(fèi)需求能消耗掉這些設(shè)備。

所以，蘋果究竟在下一盤什么棋？

跟M2 Ultra的增產(chǎn)消息呼應(yīng)的，就是華爾街日?qǐng)?bào)和彭博社最近的報(bào)道——蘋果正在自己的數(shù)據(jù)中心，使用自己的芯片，為蘋果用戶提供AI服務(wù)。

另外，蘋果在擴(kuò)建數(shù)據(jù)中心基礎(chǔ)設(shè)施上，也有著野心勃勃的計(jì)劃。

兩位記者發(fā)現(xiàn)，蘋果目前至少有7個(gè)數(shù)據(jù)中心，涉及到30多座建筑，這還不包括計(jì)劃中的項(xiàng)目。結(jié)果就是，這些數(shù)據(jù)中心的總?cè)萘吭诙虝r(shí)間內(nèi)，就會(huì)翻一番。

上圖是蘋果公司即將建成的最大數(shù)據(jù)中心。目前只有一個(gè)數(shù)據(jù)中心，但明年將有許多數(shù)據(jù)中心陸續(xù)建成

挖來基礎(chǔ)設(shè)施大牛

另外，蘋果還在幾個(gè)月內(nèi)進(jìn)行了一系列重大招聘，招兵買馬擴(kuò)張基礎(chǔ)設(shè)施團(tuán)隊(duì)。

比如，他們挖來了云基礎(chǔ)設(shè)施領(lǐng)域的大牛Sumit Gupta，來操刀蘋果的基礎(chǔ)設(shè)施。

Gupta在2007年到2015年效力于英偉達(dá)，參與了英偉達(dá)進(jìn)軍加速計(jì)算的初級(jí)階段。隨后他又入職IBM，再于2021年加入谷歌的AI基礎(chǔ)設(shè)施團(tuán)隊(duì)，成為谷歌基礎(chǔ)設(shè)施產(chǎn)品經(jīng)理，包括TPU和基于Arm的數(shù)據(jù)中心CPU。

谷歌和英偉達(dá)算是目前唯二大規(guī)模部署AI基礎(chǔ)設(shè)施的公司，能挖來這樣的大牛，蘋果要做的事恐怕不小。

蘋果自研AI芯片

然而尷尬的是，M2 Ultra對(duì)于AI服務(wù)器來說，恐怕并不是個(gè)好主意。

雖然業(yè)界普遍認(rèn)為，蘋果的M系列芯片在AI性能上表現(xiàn)出色，但這僅限于設(shè)備端的AI應(yīng)用，服務(wù)器上就不一定了。

現(xiàn)實(shí)的情況是，蘋果的競爭對(duì)手們?cè)诠P記本和臺(tái)式電腦上使用的內(nèi)存架構(gòu)要差得多：現(xiàn)有的英特爾、AMD和高通筆記本，都只有128位的內(nèi)存總線，而蘋果的內(nèi)存總線寬度要遠(yuǎn)遠(yuǎn)吊打他們的CPU。

這就會(huì)導(dǎo)致這樣一種后果：雖然其他筆記本電腦可以配備與蘋果內(nèi)存帶寬相當(dāng)?shù)挠ミ_(dá)GPU，但是英偉達(dá)采用的是成本較低的GDDR6內(nèi)存架構(gòu)，而蘋果采用的是高成本的LPDDR架構(gòu)，這就需要更寬的總線、更大的芯片邊緣面積。

這就讓英偉達(dá)GPU受到了限制，它無法在內(nèi)存中放下蘋果CPU能夠容納的高級(jí)模型，比如Llama 3-70B。雖然蘋果的每GB成本實(shí)際上更低，但LPDDR的內(nèi)存容量太高。

這種優(yōu)勢(shì)并不能延伸到云端的AI性能。設(shè)備端主要關(guān)注模型是否能夠運(yùn)行，而云端則更關(guān)心經(jīng)濟(jì)性。

在云端，雖然原始帶寬和容量很重要，但FLOPS的數(shù)量更關(guān)鍵，因?yàn)樵S多用戶通過批處理同時(shí)服務(wù)。高批處理大小，可以將推理成本（tokenomics）降低到10倍以上。

這樣的結(jié)果就是，M2 Ultra就像是一個(gè)糟糕社區(qū)中最好的一棟房子，它無法與數(shù)據(jù)中心其他GPU很好地協(xié)同。

不僅內(nèi)存帶寬方面落后于競爭對(duì)手，但更重要的差距，在于其FLOPS較少，導(dǎo)致并發(fā)用戶數(shù)也大大減少。

Apple GPU中擁有的FLOPS數(shù)雖然極少，但幸運(yùn)的是，好在他們還有神經(jīng)引擎。

在蘋果設(shè)備上運(yùn)行LLM的一種策略，是將多層感知器（multi-layer perceptron）運(yùn)行在神經(jīng)引擎上，同時(shí)將注意力機(jī)制（attention mechanism）運(yùn)行在GPU上。

不過需要注意的是，這里還是存在一個(gè)帶寬問題，所以在總FLOPS方面，結(jié)果并不理想。

而且，就算我們能神奇地將GPU和神經(jīng)引擎的FLOPS相加，性能仍然比數(shù)據(jù)中心GPU差了35倍到85倍。這意味著實(shí)現(xiàn)高批處理大小的能力有限，每個(gè)芯片服務(wù)的用戶數(shù)量也會(huì)大幅減少。

對(duì)于Llama 3-70B，M2 Ultra的每個(gè)芯片能服務(wù)4-6個(gè)用戶就算走運(yùn)了，然而GPU卻常能實(shí)現(xiàn)64或更多的批處理大小。

靠成本能彌補(bǔ)嗎？

而且，目前我們還沒有分析最重要的變量之一——成本。

采用自研M2 Ultra，蘋果就無需支付商用硅或者定制設(shè)計(jì)合作者的高額利潤了。

計(jì)算下來， 兩個(gè)M2 Max芯片、InFO-L封裝和192GB的LPDDR，成本大約在2000美元左右。相比之下，H100的成本達(dá)到了10倍之多。

但同時(shí)也要考慮到超過10倍的性能差異。即使對(duì)于Llama 3-70B這類模型，蘋果也很難讓M2 Ultra具備很高的成本效益。

此外，當(dāng)模型規(guī)模超出單個(gè)芯片時(shí)，這種情況并不適用。

計(jì)算并不是簡單地線性擴(kuò)展，尤其是M系列的SoC并不是為這種擴(kuò)展設(shè)計(jì)的。

芯片間唯一的互連是UltraFusion橋，將兩個(gè)M2 Max結(jié)合成一個(gè)M2 Ultra。但這與英偉達(dá)的NVLink的高速Serdes芯片間擴(kuò)展完全不同。

雖然蘋果芯片在單位美元下能提供相當(dāng)可觀的總計(jì)算量，但是和直接購買英偉達(dá)GPU相比，也沒差太多。

因?yàn)樗械母↑c(diǎn)計(jì)算無法被集成到單一集群中，模型推理會(huì)被降級(jí)到以人類語速運(yùn)行，規(guī)模上限是Llama 3同等大小，無法運(yùn)行千億參數(shù)模型。

為什么要自研芯片？

理性原因

如果蘋果只是為了提供更好的Siri，自研芯片有點(diǎn)夸張。但實(shí)際上，蘋果的目標(biāo)遠(yuǎn)不止于此。

他們的目標(biāo)是將所有數(shù)據(jù)、服務(wù)與AI集成在一起，這意味著從設(shè)備端到云端，從底層計(jì)算、操作系統(tǒng)到應(yīng)用程序和數(shù)據(jù)，用戶都會(huì)有無縫銜接的流暢操作。

這種愿景符合蘋果一直以來對(duì)于用戶體驗(yàn)的追求。但這不僅需要強(qiáng)大的AI計(jì)算性能，還需要從芯片到軟件的高度垂直的完整技術(shù)鏈。

比如Siri可能需要在云中運(yùn)行，在手機(jī)或者Apple Watch上應(yīng)答，同時(shí)保證強(qiáng)大功能、高速通信和流暢交互。

其中的另一個(gè)賣點(diǎn)在于，蘋果會(huì)在自己的數(shù)據(jù)中心處理用戶數(shù)據(jù)，而不是發(fā)送到第三方云服務(wù)，保護(hù)數(shù)據(jù)的隱私和安全。

非理性原因

但搭建自己的數(shù)據(jù)中心需要大量芯片和服務(wù)器，英偉達(dá)作為全球首屈一指的公司，完全可以提供所有高性能計(jì)算的基礎(chǔ)設(shè)施，自己從頭開始顯然不是最優(yōu)解。

這看起來不太理性的商業(yè)決策，確實(shí)蘊(yùn)含著一些情感因素，這里就牽扯到蘋果和英偉達(dá)的一樁舊怨了。

雖然如今英偉達(dá)已憑「毫無瑕疵的工程執(zhí)行力」封神，但過去的英偉達(dá)，也曾犯下不少重大的工程錯(cuò)誤。

最大的一個(gè)，就是2006至2009年間的「bumpgate」丑聞。

在那段時(shí)間里，英偉達(dá)的整個(gè)55nm和65nmGPU系列由于高熱量和糟糕的封裝設(shè)計(jì)，早期故障率極高，超過40%。芯片和封裝基板之間的凸點(diǎn)由于應(yīng)力容易破裂，導(dǎo)致故障率完全不可接受。這是因?yàn)?，英偉達(dá)選擇了一種Tg過低的劣質(zhì)填充物，因此在操作循環(huán)期間的高溫下無法正確支撐凸點(diǎn)，導(dǎo)致了它們的疲勞。

這就影響了GeForce 6000、7000、8000和9000系列，以及各種移動(dòng)芯片組。

蘋果、Dell和HP出售的含有英偉達(dá)芯片組的筆記本，全部受到影響。而糟糕的，就是英偉達(dá)的處理方式。起初，它拒絕承擔(dān)責(zé)任，蘋果、Dell和HP怒而對(duì)英偉達(dá)提起集體訴訟，迫使英偉達(dá)同意更換已售出的有缺陷GPU。

從此，蘋果和英偉達(dá)的關(guān)系可以說是徹底破裂，英偉達(dá)再也沒有被設(shè)計(jì)進(jìn)任何一份蘋果產(chǎn)品中。

甚至，蘋果不惜選擇性能和功耗更差的AMD GPU，甚至和AMD合作開發(fā)了一款在筆記本中使用HBM的定制GPU。

所有這些歷史包袱，都會(huì)讓蘋果對(duì)再次依賴英偉達(dá)，感到心里打鼓。

蘋果「芯」的未來

M2 Ultra推出只是蘋果給出的一個(gè)臨時(shí)的解決方案，并在逐步開發(fā)更強(qiáng)大的芯片。

不過，目前M3 Ultra已在內(nèi)部取消。

M4 Ultra還未投入生產(chǎn)階段，甚至可能會(huì)被擱置，成為下一個(gè)夭折的產(chǎn)品。

而目前，這些芯片還沒有針對(duì)大模型所需的計(jì)算完成優(yōu)化，其神經(jīng)引擎結(jié)構(gòu)帶寬嚴(yán)重不足，需要加以改造，才能適配。

不過，蘋果并不會(huì)去依賴其他芯片供應(yīng)商，去幫助自己開發(fā)AI芯片。

我們可能看到，蘋果授權(quán)使用高速串行通信（SerDes）技術(shù)，去設(shè)計(jì)開發(fā)數(shù)據(jù)中心的專用芯片。

但，這一過程還需要數(shù)年的時(shí)間，目前還處于構(gòu)想階段。

因此，在今年和明年，我們?nèi)詫⒖吹教O果Macbook和Mac mini上，使用增強(qiáng)版的蘋果芯片。

在AI PC時(shí)代「迎頭趕上」

在大模型方面，毋庸置疑，蘋果目前的成果無法和GPT、Gemini或者Claude等系列相提并論。

然而，繼微軟提出AI PC之后，可以預(yù)料到，AI與硬件和操作系統(tǒng)進(jìn)行更深度的集成是大勢(shì)所趨。

蘋果想要繼續(xù)走在智能硬件的前沿，就必須拿出有競爭力的AI模型，提供符合「蘋果風(fēng)格和價(jià)值觀」的AI服務(wù)。

然而，他們似乎并沒有儲(chǔ)備足夠的算力和AI人才來訓(xùn)練自己的AI大模型。

雖然App Store已經(jīng)提供了ChatGPT應(yīng)用的下載，但作為一個(gè)傾向于高度垂直整合的公司，做到這一步遠(yuǎn)遠(yuǎn)不夠。

彭博社披露稱，蘋果已經(jīng)與OpenAI達(dá)成協(xié)議，并正在和谷歌、Anthropic討論，也許這類成熟的模型會(huì)直接被集成、封裝在在蘋果設(shè)備上，并使用與蘋果品牌形象一致的系統(tǒng)prompt。

另一個(gè)值得關(guān)注的方面是搜索功能。

谷歌每年向蘋果支付200億美元，換取Chrome作為蘋果的默認(rèn)搜索引擎。但這其實(shí)是一個(gè)雙贏的交易，從龐大且有錢的蘋果用戶身上，谷歌用搜索中的廣告收入賺回這筆錢綽綽有余。

但隨著ChatGPT、Llama與Claude相繼發(fā)力向搜索工具轉(zhuǎn)型，蠶食谷歌在搜索引擎方面的巨大市場份額，這種穩(wěn)定的商業(yè)模式或許會(huì)發(fā)生改變。

歸根結(jié)底，蘋果不能只滿足于硬件供應(yīng)商的地位，無論其他公司的AI模型有怎樣的進(jìn)展，它至少要保持「迎頭趕上」的節(jié)奏。

僅僅在App Store上線各種AI模型和應(yīng)用會(huì)讓它失去控制權(quán)，失去在數(shù)據(jù)和隱私方面的品牌原則，也錯(cuò)過生成式AI可能帶來的用戶增長和廣告收入。

此外，和微軟的AI PC全部在本地運(yùn)行AI推理不同，蘋果的「Project Greymatter」采用混合的工作方式——

大部分計(jì)算強(qiáng)度較低的 AI 功能在設(shè)備上完成，但如果需要更多算力，則將被推送到云端。

這項(xiàng)服務(wù)一經(jīng)推出，很有可能在短時(shí)間內(nèi)迎來大規(guī)模流量涌入，這對(duì)蘋果的AI基礎(chǔ)設(shè)施會(huì)是一個(gè)考驗(yàn)。

雖然在AI之戰(zhàn)中短暫落后，但蘋果有一個(gè)不能忽視的獨(dú)特優(yōu)勢(shì)——龐大的忠實(shí)用戶群。

一旦發(fā)布AI功能，全球的數(shù)億臺(tái)蘋果設(shè)備，都可以在短時(shí)間內(nèi)更新，并提供給用戶試用。

在未來某個(gè)時(shí)間節(jié)點(diǎn)，蘋果可能一夜之間成為全球AI競技場上最大的玩家。