人工智慧時代的資料安全與隱私權：以史丹佛白皮書為基礎的觀點

‍

隨著企業越來越多地採用人工智慧解決方案來推動效率和創新，資料安全和隱私權問題已成為重中之重。正如斯坦福《人工智能時代的資料隱私與保護》（2023）白皮書的執行摘要所強調的，「資料是所有人工智能系統的基礎」，「人工智能的發展將繼續增加開發人員對訓練資料的渴求，助長比我們過去幾十年更激烈的資料獲取競賽」。人工智能在提供巨大機遇的同時，也帶來了獨特的挑戰，需要我們從根本上重新思考資料保護的方法。本文將探討組織在導入 AI 系統時，在安全性與隱私權方面的主要考量，並提供在整個 AI 生命週期中保護敏感資料的實用指引。

‍

瞭解人工智慧的安全性與隱私權狀況

正如史丹福白皮書第 2 章「資料保護與隱私權：關鍵概念與法規格局」所指出，人工智慧時代的資料管理需要考慮超越單純技術安全的相互關聯層面。根據執行摘要，有三項關鍵建議可減緩人工智慧的發展與採用所造成的資料隱私風險：

1. 預設資料收集非正規化，從選擇不接受系統轉變為選擇接受系統
2. 專注於 AI 資料供應鏈，以改善隱私權和資料保護
3. 改變個人資料的建立和管理方式，支援新管理機制的發展

這些層面需要超越傳統 IT 安全實務的特定方法。

人工智能時代的資料收集反思

正如斯坦福白皮書中明確指出的，「大體上不受限制的資料收集帶來了超越個人層面的獨特隱私風險--它們彙總起來會造成社會傷害，而這些傷害無法僅透過行使個人資料權利來解決」。這是執行摘要中最重要的觀點之一，要求我們從根本上重新思考資料保護策略。

預設資料收集非標準化

直接引用斯坦福執行摘要的第一項建議：

• 從「拒絕服務」轉為「接受服務」：「透過從「拒絕服務」轉為「接受服務」模式，使預設資料收集非標準化。資料收集者必須透過「預設隱私」策略促進真正的資料最小化，並為有意義的同意機制採用技術標準和基礎架構"。
• 有效的資料最小化：根據白皮書第 3 章「規定與預測」的建議，只收集特定使用個案所嚴格需要的資料，以落實「預設隱私」。
• 有意義的同意機制：採用技術標準和基礎架構，允許真正知情且明細的同意

‍

實施建議：實施資料分類系統，自動標籤敏感項目，並依據敏感等級套用適當的控管，以及預先定義的非收集設定。

‍

‍

提高人工智能資料鏈的透明度

根據斯坦福執行摘要的第二項建議，整個資料鏈的透明度和問責性是任何處理資料隱私的監管系統的根本。

專注於 AI 資料鏈

白皮書明確指出，必須「聚焦於人工智能資料供應鏈，以改善隱私和資料保護。确保数据集在整个生命周期内的透明度和问责制，必须成为任何解决数据隐私问题的监管体系的目标"。這需要：

• 完整追蹤性：保留資料來源、轉換和使用的詳細記錄
• 資料集的透明度：確保模型中使用的資料組成與來源的可視性，尤其是考慮到第 2 章中對於生成式 AI 系統所提出的疑慮。
• 定期審核：對資料獲取和利用流程進行獨立審核

實施建議：實施資料來源系統，記錄用於訓練和操作 AI 系統的資料的整個生命週期。

改變資料建立與管理的方式

斯坦福執行摘要的第三項建議指出，需要「改變個人資料的建立與管理方式」。正如文件中所報告的，「決策者應該支持開發新的治理機制和技術基礎設施（例如，資料經紀人和資料授權基礎設施），以支持個人資料權利和偏好的行使並使其自動化」。

新的資料管理機制

• 資料中介人：按照白皮書的明確建議，支持開發可代表個人擔任受託人的實體
• 資料授權基礎架構：建立可讓個人就其資料的使用表達詳細偏好的系統
• 個人權利的自動化：開發可自動行使個人資料權利的機制，如第 3 章所強調，並承認單靠個人權利並不足夠。

實施建議：採用或協助開發資料授權的開放標準，使不同系統和服務之間能夠互通。

保護人工智慧模型

AI 模型本身需要特定的保護：

• 模型安全性：透過加密和存取控制保護模型的完整性和機密性
• 安全部署：使用容器化和代碼簽署保證模型的完整性
• 持續監控： 執行監控系統以偵測未經授權的存取或異常行為

實施建議：在開發管道中建立「安全閘門」，要求在模型投入生產前進行安全與隱私驗證。

防禦對方攻擊

AI 系統面臨獨特的攻擊媒介：

• 資料中毒：防止篡改訓練資料
• 擷取敏感資訊：防範可從模型回應中擷取訓練資料的技術
• 成員推斷：防止確定特定資料對訓練資料集的成員關係

實施建議：實施敵對者訓練技術，讓模型在開發過程中特別暴露於潛在的攻擊媒介。

特定產業的考量

不同部門對隱私權和安全性的要求有很大差異：

醫療保健

• 受保護健康資訊符合 HIPAA 規範
• 基因組與生物特徵資料的特殊保護
• 平衡研究效用與隱私權保護

金融服務

• 支付資訊的 PCI DSS 要求
• 反洗錢 (AML) 合規注意事項
• 以不同的隱私權方法管理敏感的客戶資料

公營部門

• 公民資料保護條例
• 演算法決策過程的透明度
• 遵守當地、國家和國際隱私權法規

實用的實施架構

在人工智能中實施全面的資料隱私與安全方法需要：

1. 隱私與安全設計
   • 在開發的早期階段加入隱私權考量
   • 針對每個 IA 用例進行隱私影響評估
2. 整合式資料管理
   • 將 AI 管理與更廣泛的資料治理計畫結盟
   • 在所有資料處理系統中採用一致的控制方法
3. 持續監控
   • 實施持續的隱私權合規性監控
   • 建立偵測異常的基本指標
4. 法規一致性
   • 確保符合現行及不斷演進的法規
   • 為法規稽核記錄隱私權措施

案例研究：在金融機構中的實施

一家全球性金融機構採用分層方式實施了一套以 AI 為基礎的詐欺偵測系統：

• 資料隱私等級：在處理敏感客戶資訊前，先將資訊記名化
• 同意管理：細緻的系統可讓客戶控制哪些資料可被使用，以及用於哪些目的。
• 透明度：為客戶提供儀表板，顯示其資料在 AI 系統中的使用方式
• 監控： 持續分析輸入、輸出和績效指標，以偵測潛在的隱私權違規行為

總結

正如斯坦福白皮书的执行摘要中明确指出的，「虽然基于全球公认的公平信息做法（FIPs）的现有和拟议的隐私立法隐含地规范了人工智能的发展，但不足以解决竞相获取数据以及由此产生的个人和系统性隐私危害」。此外，「即使是包含关于算法决策和其他形式人工智能的明确规定的立法，也没有提供必要的数据治理措施，对人工智能系统中使用的数据进行有意义的监管」。

在人工智能時代，資料保護和隱私權不能再被視為次要。各機構必須遵循白皮書的三項主要建議：

1. 從不加選擇的資料收集模式，轉變為以有意識的選擇加入為基礎的模式
2. 確保整個資料鏈的透明度和問責性
3. 支援新的管理機制，讓個人對其資料有更多控制權

‍

這些建議的實施代表著我們在人工智能生態系統中構想和管理資料方式的根本性轉變。正如斯坦福白皮書中的分析所顯示，目前的資料收集和使用方式是不可持續的，並有可能破壞大眾對人工智慧系統的信任，同時造成遠遠超越個人的系統漏洞。

‍

為了因應這些挑戰，法規面貌已經在改變，這從國際間愈來愈多的討論可以看出，不僅要對人工智慧的結果，也要對哺育這些系統的資料擷取程序進行法規管理。然而，僅僅遵守法規是不夠的。

‍

採用合乎道德且透明的資料管理方式的組織，將能在這個新環境中處於更有利的位置，透過使用者的信任與更高的營運復原力，獲得競爭優勢。我們面臨的挑戰是如何平衡技術創新與社會責任，並認識到人工智慧的真正永續性取決於其尊重與保護服務對象基本權利的能力。