不知道大家有沒有發(fā)現(xiàn)一個現(xiàn)象，似乎從去年下半年開始，各大手機(jī)廠商都開始爭相競逐AI賽道了。從AI語音助手到AI拍照修圖，再到AI通話摘要……可以說是迫不及待地想要將AI深度嵌入到大眾日常生活中的每一寸縫隙之中。

某天，當(dāng)你輕觸屏幕，你的手機(jī)不再僅僅是響應(yīng)你的指令，而是超前預(yù)測你的需求......是不是突然覺得有點(diǎn)鋼鐵俠的賈維斯那個味兒了。

以前我們總覺得“手機(jī)賈維斯”時代似乎還停留在紙上談兵的階段，距離實(shí)現(xiàn)還是有很長一段距離，但現(xiàn)在來看，AI手機(jī)似乎已經(jīng)實(shí)實(shí)在在地步入了“人工智能化”時代。

在9月10日舉辦的2024蘋果秋季新品發(fā)布會上，蘋果除了推出iPhone 16全系列和其他幾件硬件產(chǎn)品外，還著重介紹了“蘋果智能”（Apple Intelligence），將于下月起隨iOS 18.1、iPadOS 18.1和macOS Sequoia 15.1發(fā)布。蘋果智能功能的Writing Tools可以對用戶輸入的文本進(jìn)行改寫、校對和摘要；可以錄制音頻，將其轉(zhuǎn)寫為文字和摘要；照片APP中可以使用自然語言搜索特定照片。還可以幫助用戶精簡通知，比如將用戶收件箱內(nèi)的郵件生成摘要；Siri也更加自然、靈活，與系統(tǒng)體驗(yàn)深度集成。這些要素在今年6月份的“全球開發(fā)者大會”（WWDC）上已有所提及。

雖然AI作為iPhone 16的大招，引起了無數(shù)果粉的討論，但是馬斯克卻一直堅定地diss蘋果AI不安全。

蘋果AI保護(hù)用戶隱私安全的背后有什么“大招”？

據(jù)介紹，Apple Intelligence是一項(xiàng)蘋果與OpenAI深度合作的成果，Apple Intelligence的核心在于其強(qiáng)大的數(shù)據(jù)處理和情境感知能力。它不僅能夠深入理解設(shè)備中的各類數(shù)據(jù)，包括照片、郵件、信息等，并據(jù)此為用戶提供包括了智能助手、郵件摘要、圖片修改、自動翻譯等多項(xiàng)個性化智能服務(wù)。

伴隨 Apple Intelligence 上線 iOS 18、iPadOS 18 和 macOS Sequoia，蘋果也發(fā)布了自家大模型的技術(shù)報告，并公布了大量技術(shù)細(xì)節(jié)，受到業(yè)界的廣泛關(guān)注。

Apple Intelligence 包含了多個高效能的生成模型，它們快速、高效，專為用戶日常任務(wù)而設(shè)計，并能即時適應(yīng)用戶當(dāng)前的活動。構(gòu)建到 Apple Intelligence 中的基礎(chǔ)模型已經(jīng)為用戶體驗(yàn)進(jìn)行了優(yōu)化，如寫作和潤色文本、優(yōu)先級排序和匯總通知、為與家人和朋友的對話創(chuàng)建有趣的圖片，以及采取應(yīng)用內(nèi)操作以簡化跨應(yīng)用交互。

在技術(shù)報告中，蘋果團(tuán)隊(duì)詳細(xì)介紹了其中兩個模型——一個約 30 億參數(shù)的語言模型 AFM（Apple Foundation Model），以及一個更大的、基于服務(wù)器的 AFM-server 語言模型——是如何構(gòu)建和適配的，從而高效、準(zhǔn)確地執(zhí)行專業(yè)任務(wù)。

而除了先進(jìn)的AI技術(shù)以外，用戶也開始擔(dān)心個人信息是否會被泄露。這一矛盾使得蘋果在開發(fā)新功能時，需要在技術(shù)創(chuàng)新與隱私保護(hù)之間找到一個平衡點(diǎn)。

對此，蘋果伴隨Apple Intelligence推出了私密云計算技術(shù)（Private Cloud Compute, PCC）。這一技術(shù)的核心在于如何在提升智能服務(wù)的同時，確保用戶隱私得到有效保護(hù)。據(jù)悉，私密云計算允許在云端執(zhí)行諸如郵件總結(jié)、圖片生成等AI任務(wù)，而不必將用戶數(shù)據(jù)暴露在風(fēng)險之中。

蘋果為私密云計算設(shè)計了專用服務(wù)器和定制化的操作系統(tǒng)，旨在為用戶提供一個保護(hù)隱私的計算環(huán)境。不同于傳統(tǒng)的私有云，私密云計算強(qiáng)調(diào)在數(shù)據(jù)處理過程中，始終保持用戶信息的安全和隱私。蘋果采取了“本地優(yōu)先”的策略，優(yōu)勢主要在于用戶更愿意將敏感數(shù)據(jù)，如影像、語音和郵件等交給端側(cè)AI處理，不必?fù)?dān)心數(shù)據(jù)被第三方緩存或泄露。

蘋果高管克雷格·費(fèi)德里吉表示，這項(xiàng)技術(shù)標(biāo)志著云服務(wù)隱私保護(hù)的一個重大突破，目標(biāo)是將iPhone本地的隱私保障體系擴(kuò)展到云端。該技術(shù)通過減少數(shù)據(jù)持久性存儲，確保每一次服務(wù)器重啟后，數(shù)據(jù)都不會被保留。服務(wù)器配置精簡，內(nèi)置蘋果專用的硬件加密管理器，隨機(jī)生成的加密密鑰加強(qiáng)了數(shù)據(jù)的安全性。

這種設(shè)計不僅消除了多種可能的攻擊面，也為用戶提供了一種全新的隱私保障體驗(yàn)。即便是需要云端處理的復(fù)雜任務(wù)，蘋果也有一整套加密和隔離技術(shù)來確保用戶的信息不會被泄露，主要有以下幾個：

• 硬件安全模塊 (Hardware Security Modules, HSMs)：在需要與云端交互時，蘋果的 iCloud 數(shù)據(jù)也經(jīng)過復(fù)雜的加密處理。蘋果使用 HSMs 存儲和管理密鑰，確保即便云端被攻擊，用戶的數(shù)據(jù)依然安全。
• 數(shù)據(jù)加密：蘋果設(shè)備上的數(shù)據(jù)在存儲和傳輸時會進(jìn)行加密。比如在 iPhone 上，文件和數(shù)據(jù)庫都會自動進(jìn)行硬件級加密，使用的是AES (Advanced Encryption Standard) 256 位加密算法。用戶數(shù)據(jù)即使被竊取，也無法被解讀，除非擁有解密密鑰。
• 安全隔區(qū) (Secure Enclave)：iPhone 和其他蘋果設(shè)備中的 Secure Enclave 是一個特殊的處理器區(qū)域，專門用來處理敏感信息，如指紋、面容 ID 和密碼。這一部分?jǐn)?shù)據(jù)不會直接進(jìn)入主系統(tǒng)，避免被惡意軟件或應(yīng)用訪問。
• 差分隱私 (Differential Privacy)：蘋果在部分場景中使用差分隱私技術(shù)，即在收集數(shù)據(jù)前對其進(jìn)行隨機(jī)化處理，使得即使蘋果獲取了一些數(shù)據(jù)，也難以將這些數(shù)據(jù)與特定用戶關(guān)聯(lián)。
• 端到端加密 (End-to-End Encryption)：蘋果的 iMessage 和 FaceTime 通信服務(wù)采用端到端加密，確保數(shù)據(jù)在發(fā)送方和接收方之間傳輸時都被加密，任何中間節(jié)點(diǎn)包括蘋果本身都無法解讀這些通信內(nèi)容。
• 隱私隔離 (Privacy Isolation)：應(yīng)用程序運(yùn)行在受控的沙盒環(huán)境中，無法訪問超出其權(quán)限的系統(tǒng)數(shù)據(jù)，蘋果通過這類隔離措施來防止惡意應(yīng)用侵入用戶數(shù)據(jù)。

同時，蘋果還采取了一些額外的措施來保護(hù)用戶隱私，比如模糊用戶的IP地址和MAC地址，防止應(yīng)用通過這些數(shù)據(jù)來追蹤用戶。簡單來說，蘋果可以把用戶的一些網(wǎng)絡(luò)身份信息“隱藏”起來，讓應(yīng)用很難知道用戶和數(shù)據(jù)的具體信息。

蘋果試圖保護(hù)用戶隱私，但卻被馬斯克瘋狂diss

但盡管蘋果針對Apple Intelligence提出了諸多技術(shù)措施，也一再強(qiáng)調(diào)將用戶隱私擺在首位，仍然沒能消除外界對于隱私數(shù)據(jù)安全外泄的擔(dān)憂。用戶普遍擔(dān)心，智能移動設(shè)備所帶來的更加定制化、智能化的功能，以及更加“聰明貼心”的服務(wù)，是否意味著會收集更多的用戶信息？蘋果又是否真的能100%確保收集來的用戶信息不外泄？這些憂慮也讓不少人在“到底要不要嘗試AI手機(jī)”這個問題的答案上反復(fù)橫跳。

大家的擔(dān)心也并非沒有道理，因?yàn)榧词固O果用心為iPhone打造了一套安全保險體系，一旦有第三方應(yīng)用接入，隱私的那道防線就可能不再牢固。

但是接入三方應(yīng)用存在風(fēng)險問題不可避免，是所有用戶面臨的共同考驗(yàn)。這里隱私安全責(zé)任其實(shí)不主在蘋果，屬于用戶和第三方應(yīng)用之間的權(quán)責(zé)關(guān)系。

事實(shí)上，關(guān)于Apple Intelligence第三方應(yīng)用可能牽扯到用戶隱私安全的問題，前一陣子就已經(jīng)鬧得沸沸揚(yáng)揚(yáng)。起因是埃隆·馬斯克對Apple Intelligence的發(fā)布表示了強(qiáng)烈的質(zhì)疑和不滿。他在X平臺上連發(fā)多條推文，指責(zé)蘋果“出賣用戶數(shù)據(jù)”，并威脅說要禁止旗下公司使用蘋果設(shè)備。

圖片來源：X平臺

馬斯克認(rèn)為，蘋果不夠聰明，無法自主開發(fā)AI，卻表示能夠確保OpenAI可以保護(hù)用戶的安全和隱私，這顯然是荒謬的。他還表示，一旦用戶將自己的數(shù)據(jù)交給OpenAI，蘋果也不知道將來會發(fā)生什么，他們這么做完全是在出賣用戶。

的確，不同數(shù)據(jù)提供商的隱私政策如何保持一致性，是需要監(jiān)管機(jī)構(gòu)加強(qiáng)管理的方向。

例如iPhone允許接入像OpenAI這樣的第三方大模型服務(wù)，用戶在訪問時可能沒有意識到某些請求已被發(fā)送到OpenAI的GPT產(chǎn)品，可能導(dǎo)致敏感信息泄露。用戶以為操作是在本地進(jìn)行，但實(shí)際上這些查詢請求已被轉(zhuǎn)發(fā)到云端。

而且，OpenAI等第三方的用戶數(shù)據(jù)處理并不受蘋果監(jiān)管，用戶可能誤以為數(shù)據(jù)由蘋果全程保護(hù)，實(shí)際數(shù)據(jù)已被第三方處理，并遵循第三方的隱私政策，這些政策可能比蘋果的寬松，這都是潛在的風(fēng)險。

不止蘋果，全球AI手機(jī)都正面臨同樣的安全風(fēng)險

根據(jù)Canalys的數(shù)據(jù)，2024年，全球16%的智能手機(jī)出貨量為AI手機(jī)，到2028年，這一比例預(yù)計將激增至54%?？梢夾I手機(jī)的快速發(fā)展已經(jīng)成為全球智能手機(jī)市場的重要趨勢。

放眼國內(nèi)，在當(dāng)前人工智能蓬勃發(fā)展的背景下，各大廠商均已拉起自身的AI移動端產(chǎn)品線。去年8月，華為宣布HarmonyOS 4系統(tǒng)全面接入盤古大模型；隨后，小米則訓(xùn)練出輕量級語言大模型，參數(shù)規(guī)模為13億和60億兩種；同年11月，vivoX100系列手機(jī)也首次搭載了自研vivo藍(lán)心大模型......

據(jù)IDC統(tǒng)計，中國AI手機(jī)出貨量預(yù)計在2027年達(dá)到1.5億部，市場滲透率將超過50%。這一增長趨勢表明，中國市場對AI手機(jī)的需求也在迅速攀升，而用戶量的激增也意味著，AI手機(jī)安全問題迫在眉睫，亟待引起重視。

其實(shí)蘋果目前面臨的安全問題也正是全球其他所有AI手機(jī)同樣面臨的安全問題。比如：

AI手機(jī)搭載的AI大模型系統(tǒng)在訓(xùn)練和推理過程中需大量收集用戶個人信息和敏感數(shù)據(jù)，一旦數(shù)據(jù)泄露或不當(dāng)使用可能引發(fā)隱私保護(hù)問題，影響用戶信任度和企業(yè)聲譽(yù)。

同時，AI手機(jī)還可能生成或傳播不適當(dāng)、不準(zhǔn)確甚至有害的內(nèi)容，對用戶造成不良影響。

攻擊者還可能會通過AI手機(jī)的安全漏洞竊取用戶敏感信息，如API安全漏洞，這可能引發(fā)用戶數(shù)據(jù)泄露，對用戶的隱私構(gòu)成威脅。甚至可能會提取到AI手機(jī)內(nèi)包括模型的權(quán)重、算法參數(shù)或訓(xùn)練數(shù)據(jù)，從而竊取專有AI模型的核心技術(shù)等等。

不過所幸到目前為止，還沒有發(fā)生影響廣泛的AI手機(jī)安全事件，并沒有給用戶造成困擾。這些安全問題仍停留在“潛在風(fēng)險”的階段。

不過，究竟該如何在AI技術(shù)的廣泛應(yīng)用與用戶隱私保護(hù)之間找到微妙的平衡，是AI手機(jī)廠商需要持續(xù)思考的課題。

技術(shù)、法規(guī)雙管齊下，或是AI手機(jī)安全“解藥”

隨著AI技術(shù)的快速發(fā)展，越來越多的AI應(yīng)用被集成到智能手機(jī)中。而智能手機(jī)也無可厚非地成為我們生活中不可或缺的一部分，但無論如何以犧牲自己的隱私為代價換取便利的做法都是不可取的。那么面對如今AI手機(jī)可能帶來的一系列安全威脅，是否有什么策略能夠“對癥下藥”？

首先肯定是基于數(shù)據(jù)層面所制定的法律法規(guī)，因?yàn)檫@對所有相關(guān)涉及的企業(yè)均有所約束。

目前來看，與AI安全相關(guān)的法律法規(guī)有歐盟的GDPR、美國的CCPA、中國的《數(shù)據(jù)安全法》《網(wǎng)絡(luò)安全法》和《個人信息保護(hù)法》，這些法律都涵蓋了數(shù)據(jù)安全和個人信息保護(hù)，各類AI手機(jī)等移動設(shè)備均受其管轄。此外，還有AI隱私相關(guān)的規(guī)定，比如2023年中國發(fā)布的生成式人工智能服務(wù)管理暫行辦法；2024年歐盟發(fā)布的人工智能法案以及人工智能與人權(quán)、民主和法治框架公約，其中涉及57個國家參與，重點(diǎn)關(guān)注AI風(fēng)險和安全問題，包括數(shù)據(jù)安全和隱私保護(hù)。

不過綜合來看，目前全球法律對這個領(lǐng)域的安全要求各不相同，如果未來針對此出臺全球通用的法規(guī)，并設(shè)計數(shù)據(jù)安全基線，確定一些通用的服務(wù)能力，或?qū)⒛苡行苿涌萍紕?chuàng)新。

另外，新興的技術(shù)手段也或?qū)锳I安全提供更多“捷徑”。比如，量子計算能夠提供基于量子密鑰分發(fā)（QKD）的通信安全技術(shù)，這種技術(shù)可以監(jiān)測試圖竊取數(shù)據(jù)的黑客，從而保護(hù)AI手機(jī)中的數(shù)據(jù)不被未授權(quán)。此外，量子通信網(wǎng)絡(luò)使用量子物理學(xué)原理，使得信息在傳輸過程中無法被入侵，這對于AI手機(jī)來說是一個巨大的安全優(yōu)勢。雖然目前還暫未有太多實(shí)際結(jié)合的應(yīng)用，但是這的確為AI安全提供了新思路。

參考資料：

• https://www.thepaper.cn/newsDetail_forward_28262512
• https://baijiahao.baidu.com/s?id=1810868235082638284&wfr=spider&for=pc