不知道大家有沒有發現一個現象，似乎從去年下半年開始，各大手機廠商都開始爭相競逐AI賽道了。從AI語音助手到AI拍照修圖，再到AI通話摘要……可以說是迫不及待地想要將AI深度嵌入到大眾日常生活中的每一寸縫隙之中。

某天，當你輕觸屏幕，你的手機不再僅僅是響應你的指令，而是超前預測你的需求......是不是突然覺得有點鋼鐵俠的賈維斯那個味兒了。

以前我們總覺得“手機賈維斯”時代似乎還停留在紙上談兵的階段，距離實現還是有很長一段距離，但現在來看，AI手機似乎已經實實在在地步入了“人工智能化”時代。

在9月10日舉辦的2024蘋果秋季新品發布會上，蘋果除了推出iPhone 16全系列和其他幾件硬件產品外，還著重介紹了“蘋果智能”（Apple Intelligence），將于下月起隨iOS 18.1、iPadOS 18.1和macOS Sequoia 15.1發布。蘋果智能功能的Writing Tools可以對用戶輸入的文本進行改寫、校對和摘要；可以錄制音頻，將其轉寫為文字和摘要；照片APP中可以使用自然語言搜索特定照片。還可以幫助用戶精簡通知，比如將用戶收件箱內的郵件生成摘要；Siri也更加自然、靈活，與系統體驗深度集成。這些要素在今年6月份的“全球開發者大會”（WWDC）上已有所提及。

雖然AI作為iPhone 16的大招，引起了無數果粉的討論，但是馬斯克卻一直堅定地diss蘋果AI不安全。

蘋果AI保護用戶隱私安全的背后有什么“大招”？

據介紹，Apple Intelligence是一項蘋果與OpenAI深度合作的成果，Apple Intelligence的核心在于其強大的數據處理和情境感知能力。它不僅能夠深入理解設備中的各類數據，包括照片、郵件、信息等，并據此為用戶提供包括了智能助手、郵件摘要、圖片修改、自動翻譯等多項個性化智能服務。

伴隨 Apple Intelligence 上線 iOS 18、iPadOS 18 和 macOS Sequoia，蘋果也發布了自家大模型的技術報告，并公布了大量技術細節，受到業界的廣泛關注。

Apple Intelligence 包含了多個高效能的生成模型，它們快速、高效，專為用戶日常任務而設計，并能即時適應用戶當前的活動。構建到 Apple Intelligence 中的基礎模型已經為用戶體驗進行了優化，如寫作和潤色文本、優先級排序和匯總通知、為與家人和朋友的對話創建有趣的圖片，以及采取應用內操作以簡化跨應用交互。

在技術報告中，蘋果團隊詳細介紹了其中兩個模型——一個約 30 億參數的語言模型 AFM（Apple Foundation Model），以及一個更大的、基于服務器的 AFM-server 語言模型——是如何構建和適配的，從而高效、準確地執行專業任務。

而除了先進的AI技術以外，用戶也開始擔心個人信息是否會被泄露。這一矛盾使得蘋果在開發新功能時，需要在技術創新與隱私保護之間找到一個平衡點。

對此，蘋果伴隨Apple Intelligence推出了私密云計算技術（Private Cloud Compute, PCC）。這一技術的核心在于如何在提升智能服務的同時，確保用戶隱私得到有效保護。據悉，私密云計算允許在云端執行諸如郵件總結、圖片生成等AI任務，而不必將用戶數據暴露在風險之中。

蘋果為私密云計算設計了專用服務器和定制化的操作系統，旨在為用戶提供一個保護隱私的計算環境。不同于傳統的私有云，私密云計算強調在數據處理過程中，始終保持用戶信息的安全和隱私。蘋果采取了“本地優先”的策略，優勢主要在于用戶更愿意將敏感數據，如影像、語音和郵件等交給端側AI處理，不必擔心數據被第三方緩存或泄露。

蘋果高管克雷格·費德里吉表示，這項技術標志著云服務隱私保護的一個重大突破，目標是將iPhone本地的隱私保障體系擴展到云端。該技術通過減少數據持久性存儲，確保每一次服務器重啟后，數據都不會被保留。服務器配置精簡，內置蘋果專用的硬件加密管理器，隨機生成的加密密鑰加強了數據的安全性。

這種設計不僅消除了多種可能的攻擊面，也為用戶提供了一種全新的隱私保障體驗。即便是需要云端處理的復雜任務，蘋果也有一整套加密和隔離技術來確保用戶的信息不會被泄露，主要有以下幾個：

• 硬件安全模塊 (Hardware Security Modules, HSMs)：在需要與云端交互時，蘋果的 iCloud 數據也經過復雜的加密處理。蘋果使用 HSMs 存儲和管理密鑰，確保即便云端被攻擊，用戶的數據依然安全。
• 數據加密：蘋果設備上的數據在存儲和傳輸時會進行加密。比如在 iPhone 上，文件和數據庫都會自動進行硬件級加密，使用的是AES (Advanced Encryption Standard) 256 位加密算法。用戶數據即使被竊取，也無法被解讀，除非擁有解密密鑰。
• 安全隔區 (Secure Enclave)：iPhone 和其他蘋果設備中的 Secure Enclave 是一個特殊的處理器區域，專門用來處理敏感信息，如指紋、面容 ID 和密碼。這一部分數據不會直接進入主系統，避免被惡意軟件或應用訪問。
• 差分隱私 (Differential Privacy)：蘋果在部分場景中使用差分隱私技術，即在收集數據前對其進行隨機化處理，使得即使蘋果獲取了一些數據，也難以將這些數據與特定用戶關聯。
• 端到端加密 (End-to-End Encryption)：蘋果的 iMessage 和 FaceTime 通信服務采用端到端加密，確保數據在發送方和接收方之間傳輸時都被加密，任何中間節點包括蘋果本身都無法解讀這些通信內容。
• 隱私隔離 (Privacy Isolation)：應用程序運行在受控的沙盒環境中，無法訪問超出其權限的系統數據，蘋果通過這類隔離措施來防止惡意應用侵入用戶數據。

同時，蘋果還采取了一些額外的措施來保護用戶隱私，比如模糊用戶的IP地址和MAC地址，防止應用通過這些數據來追蹤用戶。簡單來說，蘋果可以把用戶的一些網絡身份信息“隱藏”起來，讓應用很難知道用戶和數據的具體信息。

蘋果試圖保護用戶隱私，但卻被馬斯克瘋狂diss

但盡管蘋果針對Apple Intelligence提出了諸多技術措施，也一再強調將用戶隱私擺在首位，仍然沒能消除外界對于隱私數據安全外泄的擔憂。用戶普遍擔心，智能移動設備所帶來的更加定制化、智能化的功能，以及更加“聰明貼心”的服務，是否意味著會收集更多的用戶信息？蘋果又是否真的能100%確保收集來的用戶信息不外泄？這些憂慮也讓不少人在“到底要不要嘗試AI手機”這個問題的答案上反復橫跳。

大家的擔心也并非沒有道理，因為即使蘋果用心為iPhone打造了一套安全保險體系，一旦有第三方應用接入，隱私的那道防線就可能不再牢固。

但是接入三方應用存在風險問題不可避免，是所有用戶面臨的共同考驗。這里隱私安全責任其實不主在蘋果，屬于用戶和第三方應用之間的權責關系。

事實上，關于Apple Intelligence第三方應用可能牽扯到用戶隱私安全的問題，前一陣子就已經鬧得沸沸揚揚。起因是埃隆·馬斯克對Apple Intelligence的發布表示了強烈的質疑和不滿。他在X平臺上連發多條推文，指責蘋果“出賣用戶數據”，并威脅說要禁止旗下公司使用蘋果設備。

圖片來源：X平臺

馬斯克認為，蘋果不夠聰明，無法自主開發AI，卻表示能夠確保OpenAI可以保護用戶的安全和隱私，這顯然是荒謬的。他還表示，一旦用戶將自己的數據交給OpenAI，蘋果也不知道將來會發生什么，他們這么做完全是在出賣用戶。

的確，不同數據提供商的隱私政策如何保持一致性，是需要監管機構加強管理的方向。

例如iPhone允許接入像OpenAI這樣的第三方大模型服務，用戶在訪問時可能沒有意識到某些請求已被發送到OpenAI的GPT產品，可能導致敏感信息泄露。用戶以為操作是在本地進行，但實際上這些查詢請求已被轉發到云端。

而且，OpenAI等第三方的用戶數據處理并不受蘋果監管，用戶可能誤以為數據由蘋果全程保護，實際數據已被第三方處理，并遵循第三方的隱私政策，這些政策可能比蘋果的寬松，這都是潛在的風險。

不止蘋果，全球AI手機都正面臨同樣的安全風險

根據Canalys的數據，2024年，全球16%的智能手機出貨量為AI手機，到2028年，這一比例預計將激增至54%。可見AI手機的快速發展已經成為全球智能手機市場的重要趨勢。

放眼國內，在當前人工智能蓬勃發展的背景下，各大廠商均已拉起自身的AI移動端產品線。去年8月，華為宣布HarmonyOS 4系統全面接入盤古大模型；隨后，小米則訓練出輕量級語言大模型，參數規模為13億和60億兩種；同年11月，vivoX100系列手機也首次搭載了自研vivo藍心大模型......

據IDC統計，中國AI手機出貨量預計在2027年達到1.5億部，市場滲透率將超過50%。這一增長趨勢表明，中國市場對AI手機的需求也在迅速攀升，而用戶量的激增也意味著，AI手機安全問題迫在眉睫，亟待引起重視。

其實蘋果目前面臨的安全問題也正是全球其他所有AI手機同樣面臨的安全問題。比如：

AI手機搭載的AI大模型系統在訓練和推理過程中需大量收集用戶個人信息和敏感數據，一旦數據泄露或不當使用可能引發隱私保護問題，影響用戶信任度和企業聲譽。

同時，AI手機還可能生成或傳播不適當、不準確甚至有害的內容，對用戶造成不良影響。

攻擊者還可能會通過AI手機的安全漏洞竊取用戶敏感信息，如API安全漏洞，這可能引發用戶數據泄露，對用戶的隱私構成威脅。甚至可能會提取到AI手機內包括模型的權重、算法參數或訓練數據，從而竊取專有AI模型的核心技術等等。

不過所幸到目前為止，還沒有發生影響廣泛的AI手機安全事件，并沒有給用戶造成困擾。這些安全問題仍停留在“潛在風險”的階段。

不過，究竟該如何在AI技術的廣泛應用與用戶隱私保護之間找到微妙的平衡，是AI手機廠商需要持續思考的課題。

技術、法規雙管齊下，或是AI手機安全“解藥”

隨著AI技術的快速發展，越來越多的AI應用被集成到智能手機中。而智能手機也無可厚非地成為我們生活中不可或缺的一部分，但無論如何以犧牲自己的隱私為代價換取便利的做法都是不可取的。那么面對如今AI手機可能帶來的一系列安全威脅，是否有什么策略能夠“對癥下藥”？

首先肯定是基于數據層面所制定的法律法規，因為這對所有相關涉及的企業均有所約束。

目前來看，與AI安全相關的法律法規有歐盟的GDPR、美國的CCPA、中國的《數據安全法》《網絡安全法》和《個人信息保護法》，這些法律都涵蓋了數據安全和個人信息保護，各類AI手機等移動設備均受其管轄。此外，還有AI隱私相關的規定，比如2023年中國發布的生成式人工智能服務管理暫行辦法；2024年歐盟發布的人工智能法案以及人工智能與人權、民主和法治框架公約，其中涉及57個國家參與，重點關注AI風險和安全問題，包括數據安全和隱私保護。

不過綜合來看，目前全球法律對這個領域的安全要求各不相同，如果未來針對此出臺全球通用的法規，并設計數據安全基線，確定一些通用的服務能力，或將能有效推動科技創新。

另外，新興的技術手段也或將為AI安全提供更多“捷徑”。比如，量子計算能夠提供基于量子密鑰分發（QKD）的通信安全技術，這種技術可以監測試圖竊取數據的黑客，從而保護AI手機中的數據不被未授權。此外，量子通信網絡使用量子物理學原理，使得信息在傳輸過程中無法被入侵，這對于AI手機來說是一個巨大的安全優勢。雖然目前還暫未有太多實際結合的應用，但是這的確為AI安全提供了新思路。

參考資料：

• https://www.thepaper.cn/newsDetail_forward_28262512
• https://baijiahao.baidu.com/s?id=1810868235082638284&wfr=spider&for=pc