AI 時代，如何為消費電子設備的安全性保駕護航？

者：Arm 終端事業部技術戰略及業務拓展總監 盧旻盛

人工智能 (AI) 為消費電子設備實現了更綜合、更加個性化且更智能的體驗。而這也意味著設備上運行的軟件和系統將愈發復雜，對安全性產生了直接的影響。舉例來說，如果代碼行數增加 10 倍，出現更多漏洞的風險也會增加 10 倍。

雖然端側 AI 創造了大量的機遇，新模型、功能、算子類型和量化技術不斷涌入市場，但這種快速的變化在安全方面也帶來了嚴峻的挑戰，尤其是對消費電子設備而言。因此，建立起保護客戶隱私與數據的安全技術和倡議，必須與 AI 帶來的優勢和持續機遇相輔相成。

本文，我們將探討針對消費電子設備（尤其是智能手機）上的 AI 用例，以及我們在計算和數據安全方面應該有怎樣的設計思考。

常見的 AI 安全挑戰

無論是用于內容創作還是日常使用，具有 AI 功能的智能手機依然是消費者最常使用的個人電子設備。在智能手機上，新的 AI 創新、模型和用例層出不窮，而這些 AI 需要更多的數據才能提供更加個性化的體驗。因此，AI 會在這些設備上收集大量數據，這也使得消費者隱私和數據保護成為越來越重要的考量因素，并重點關注新的資產、攻擊途徑和軟件棧。

惡意行為者可以利用 AI 發動可擴展的攻擊，攻擊者只需付出極少的努力或成本，便能在許多設備上高效執行這些攻擊。如相關產業報告 ^[1] 所述，AI 可通過深度偽造，對身份驗證和訪問控制（如基于語音和生物特征的身份驗證）構成威脅，使設備及其內容面臨被黑客攻擊和假冒的風險。

什么是 Arm 安全原則？

作為一家將最終用戶的安全、信任和隱私放在戰略首位的公司，Arm 通過開發新特性和新技術來持續優化產品路線圖。Arm 架構提供一整套的安全特性，目的是防范不法分子的攻擊，并在設備使用期間抵御新的威脅。這些安全特性一方面是為了增加黑客的攻擊難度，使攻擊行為需要耗費大量資源和時間，不再具有經濟價值，另一方面是為了保護全球消費者的重要憑證和數據。

在保護消費電子設備的計算安全方面，Arm 的基本原則側重于以下部分：

通過避免代碼出現漏洞，使開發者能夠“基于 Arm 平臺創建更好的軟件”，從而確保任何 AI 應用都能實現預期成果，防止被非法侵占；

通過可信執行環境，隨時隨地保護數據和計算免受不法分子的攻擊；

持續改進消費電子設備的功耗、性能和面積 (PPA)，以促進更多計算任務在本地（端側）和個人設備上完成 —— 基本上可以實現任何在設備上進行的計算都會保留在設備上；

為旨在保護用戶隱私和數據的倡議貢獻力量；

應對不斷變化的威脅環境和新的安全風險。

Arm 如何保護軟件安全

隨著代碼量的增加，漏洞和發生人為錯誤的可能性也會攀升。因此，Arm 在根源處設置保護措施并建立“設計保證安全 (security by-design)” 的環境，從而保護軟件安全。此舉可確保在開發周期中盡早發現任何安全漏洞，使任何 AI 應用都能實現預期成果而不被非法侵占，同時提供與操作系統 (OS) 的隔離，確保任何應用及其內容都能保持完整性。

通過與安卓的合作，Arm 推出新的 Armv9 安全特性與技術，助力在基于 Arm 架構的安卓移動設備上提供更優質、更安全的軟件，從而幫助計算基礎設施實現巨大突破。例如 Arm 的指針驗證 (PAC)、分支目標識別 (BTI) 和 內存標記擴展 (MTE) 技術 ，它們有助于消除黑客以往利用過的各種內存安全漏洞。這一點非常重要，因為 Google 的 Chromium 項目團隊指出 ^[2] ，內存安全問題在所有嚴重安全漏洞中占到了 70%。侵害內存安全可能會對用戶產生巨大不利影響，因為惡意應用和不法分子會利用不安全的內存來訪問機密和敏感數據，比如用戶憑證和密碼。消除整類漏洞后，構建漏洞利用鏈的難度將大幅增加。

如何隨時隨地保護數據

相較于在設備與云端和數據中心之間來回傳輸數據，在端側運行 AI 處理具有延遲低、功耗小和成本低等優勢，因此這種做法正變得越來越普遍。然而，在某些情況下，考慮到模型或數據的體量，AI 處理仍需要在云端進行。

因此，一套混合安全的模式有其必要性，能從云端到端側提供全程保護。Arm 提供從云端到移動端的隔離技術，比如 TrustZone、虛擬化和機密領域管理擴展 (RME)。RME 是 Arm 機密計算架構 (CCA) 的硬件組件，允許對模型進行機密處理并提供保護環境，以防不法分子竊取個人數據。此外，云端和端側一旦具有相似的安全態勢，就意味著數據可以在相同的安全邊界內無縫流動和共享，從而使混合部署得以進一步擴展。

如何實現更加個性化的計算

在邊緣側進行 AI 處理有助于更好地保護消費者的數據隱私，同時也有利于在設備上提供個性化的計算體驗。如果數據不離開設備，就不用擔心存儲在云端的數據可能發生泄露風險。得益于消費電子設備算力的不斷提升，更多的端側 AI 成為可能。例如，過去 10 年間，通過 新的 CPU 、 GPU 、 Arm 終端計算子系統 (CSS for Client) 和 Arm Kleidi 軟件庫 等 Arm 技術，基于 Arm 架構的移動設備的計算性能提高了 110 倍。

如今，Arm 持續在 Armv9 架構中實現更多的 AI 加速特性，如 可伸縮矩陣擴展 (SME) 。通過 SME，更多的高級 AI 工作負載可在邊緣側處理，從而在消費電子設備上提供更加個性化的計算體驗。此外，Arm 安全技術有助于支持可驗證的安全環境，并允許在創建和存儲內容的 AI 智能手機上安全地處理圖像處理管線。

為行業倡議和標準貢獻力量

Arm 正積極參與并推動全球性倡議，比如旨在保護內容和數據免遭不法分子利用的內容來源和真實性聯盟 (Coalition for Content Provenance and Authenticity, C2PA)。而且，Arm 積極參與致力于為未來 AI 安全奠定基礎的組織，如可信計算組織 (Trusted Computing Group, TCG) 和開源安全基金會 (OpenSSF)。

新涌現的 AI 安全用例

與此同時，Arm 與生態系統持續合作，以應對新涌現的 AI 安全用例，例如：

開發者不希望自己的 AI 模型暴露給其他第三方，而 OEM 廠商著眼于為在傳輸（指數據在兩個來源或系統之間移動時）和執行（指數據加載到內存中并準備由應用進行處理時）過程中部署模型的開發者提供安全保護；

遵守全球網絡安全法規，保障弱勢群體免受非法或有害內容的侵害；

與 OEM 伙伴合作，為其設備上生成的內容提供內容來源信息；

為用于監控和檢測異常行為、欺詐與詐騙的 AI 模型提供保護；

保護為提供更加個性化的體驗和建議而存儲于不同設備和服務中的個人用戶數據。

Arm 將不斷研究新的安全解決方案、特性和技術，以應對許多新出現的用例和威脅，從而確保在產品開發周期結束后，生態系統仍能得到長期保護。

Arm 安全基礎

在 Arm，安全是一切工作的重中之重，內置架構特性和技術可為全球數十億基于 Arm 架構的消費電子設備的安全性提供支持，進而為各種消費電子設備上的 AI 工作負載提供了安全基礎。在 AI 時代，Arm 的產品和原則將持續演進，為計算技術的未來發展保駕護航。