什麼是 AI 資料安全？範例與最佳實務

在過去幾年中，AI 已經席捲整個科技產業。這包括企業使用 LLMs（大型語言模型）來解決各種業務與日常問題。不僅是 Apple、Google 和 Microsoft 等科技巨頭在其產品環境中使用並整合人工智慧。中小型企業也正在加入 AI 競賽。隨著越來越多使用者與企業採用 AI，其處理的資料量已大幅增加，使其成為威脅行為者的目標。AI 系統會在多個步驟中使用資料，從訓練資料開始，到使用者輸入資訊以取得回應為止。由於 AI 系統處理的是敏感資料，因此保護這些系統及其資料變得相當重要。這正是 AI 資料安全發揮作用的地方。

在這篇部落格文章中，我們將討論資料在 AI（人工智慧）中的角色，以及組織在 AI 資料安全方面可能面臨的挑戰。我們也將探討實作 AI 資料安全以獲得更佳成果的最佳實務，以及如何使用 SentinelOne 來達成相同目的。

AI 與資料安全概述

人工智慧，通常稱為 AI，是電腦科學的一個領域，專注於建立模擬人類自然智慧與邏輯能力的智慧機器。AI 基本上能夠執行人類的認知功能，而且速度通常更快、準確性也更高。

我們知道 AI 依賴資料。資料是讓 AI 系統持續運作的核心，並使其能夠隨時間推移以更完善的方式學習與預測新資訊。 機器學習，作為人工智慧的一部分，可讓電腦系統從資料中學習，而無需特別為此進行程式設計。AI 系統在處理不同類型的資料時表現會更好。

資料在 AI 中的角色

資料在 AI 中的重要性十分顯著。它會在不同階段中被應用，以協助 AI 的開發與處理。

• 訓練：訓練的第一階段是 AI 演算法從資料中學習，以識別模式並進行預測。
• 測試：使用多個資料集來測試模型的能力與效率。
• 運作：AI 系統在部署後會處理新的資料，以協助即時決策或預測。
• 改進：大多數 AI 系統都會以新資料進行訓練，以強化演算法並提升效能。

AI 中資料安全的重要性

在處理機器學習系統時，有多項因素顯示資料安全與隱私的重要性。AI 會處理敏感與機密資訊，因此保護這些資料的隱私非常重要。

遭到破壞的資料會危及 AI 模型的完整性，而在醫療或金融等應用中的失敗可能導致嚴重後果。AI 系統也需要遵循資料保護法規，例如 PCI DSS、HIPAA 等。以下是一些最常見的 AI 威脅：

• 資料操弄： 攻擊者可使用經過特殊修改的訓練資料來引入偏差，並降低 AI 模型的準確性。
• 內部威脅： 這種威脅是由從組織內部攻擊 AI 系統的人所造成。此類人員可能竊取並販售資料、修改模型以攔截結果，並降低整體系統效能。
• 資料外洩： 攻擊者通常會透過資料外洩取得大量有價值的資料，例如個人資訊、財務資料、商業機密或基礎架構相關資訊。

識別 AI 資料安全威脅

為了實作 AI 資料安全，組織必須了解各種不同類型的威脅。讓我們討論以下幾項：

• 資料投毒（攻擊者如何操弄訓練資料）

資料投毒 是 AI 系統面臨的嚴重威脅。建立虛假樣本基本上就是對 AI 模型的訓練資料動手腳。攻擊者可以透過加入偽造的資料點，輕易改變 AI 系統的行為或決策流程。

其中一個例子是影像辨識系統，攻擊者可能在訓練期間注入錯誤標記的影像。這類錯誤標記或有缺陷的資料，可能導致 AI 在真實世界的使用情境中錯誤分類物件，並造成極具破壞性的後果，例如自動駕駛或醫療診斷。

• 模型反演攻擊（從模型中擷取敏感資料）

模型反演攻擊是 AI 資料安全的另一項重要威脅。這類攻擊會試圖解構或逆向工程 AI 模型，以取得訓練資料中所使用模式的相關資訊。

攻擊者本質上會以精心挑選的輸入多次呼叫模型，並研究其輸出，以了解可能用於訓練模型的資料。這可能造成嚴重的隱私疑慮，尤其當訓練資料包含敏感的個人或商業資訊，例如醫療紀錄與財務細節時。

• 對抗性攻擊（透過變更輸入來操弄 AI 模型）

對抗性攻擊 會鎖定 AI 輸入以迫使其產生錯誤。資料投毒發生在訓練期間，而對抗性攻擊則是針對已部署的模型進行。攻擊者會精心建立專門設計來欺騙 AI 模型的輸入，方法是變更與真實資料幾乎無異的極小數值，但這些變更可能對任何以資料為基礎的模型造成巨大影響。

一個典型例子是稍微調整影像，讓分類 AI 完全誤判，例如將停止標誌分類成另一種速限標誌。這類攻擊可能對將 AI 系統納入其環境中的安全關鍵應用構成危險，並可能導致受影響系統發生錯誤。

• 自動化惡意軟體

自動化惡意軟體是由 AI 驅動的惡意軟體，能夠執行目標式攻擊。它也可用於規避威脅偵測，並透過識別投遞酬載的最佳時機與適當情境來提升感染成效。

DeepLocker 是一種概念驗證的 AI 驅動惡意軟體，會將其惡意意圖隱藏在應用程式中，並且只有在透過預先指定的標記運算後到達特定受害者時，才會解鎖其惡意酬載以供執行。

如何保護 AI 模型

AI 模型在訓練階段與部署後都需要安全防護。讓我們來看看一些常見策略，以在這兩個階段保護 AI 模型，從而實現適當的 AI 資料安全。

保護 AI 模型訓練

保護 AI 模型訓練是主要的 AI 安全技術，建立在信賴與訓練的基礎上。在安全環境中進行訓練非常重要。這些環境需要是隔離且受控的系統，並具備受控的存取機制。對於 AI 訓練而言，雲端型解決方案具備多項安全措施，可讓資料更難被竊取或外洩。

在保護 AI 之前，確保資料驗證與清理非常重要。這包括詳細檢視資料輸入中的異常、不一致或潛在攻擊向量。使用離群值偵測與資料清理等方法，可維持訓練資料集近似完整性，作為防止投毒攻擊的基礎系統。

這涉及使用最佳化技術，使我們能夠建立較不易受到攻擊的模型。交叉驗證與正則化等技術有助於提升模型的泛化能力，並增強其對對抗性攻擊的抵抗力。對抗式訓練則是透過模擬潛在攻擊情境，讓 AI 學習並加以識別。

保護已部署的 AI 模型

AI 模型在部署後面臨的挑戰截然不同。您需要確保只有預期的使用者可以執行呼叫，並且在包含驗證與加密的服務管線中，模型通過各種服務/裝置/閘道時未遭到竄改。

對已部署模型而言，驗證與清理是必要措施。所有輸入在傳遞給 AI 處理之前，都應經過徹底驗證與清理。這有助於防止各種提示注入攻擊，並確保您的模型只會接收乾淨的資料。

異常偵測

異常偵測系統是可即時執行並檢查異常模式與行為的監控系統。例如，請求流量突然增加且看起來不像自然負載、來自被禁止 IP 的外部請求等。它會提供可能出現問題的資訊，但不會提供足夠的細節來說明攻擊的實際性質／類型。它們會持續監控非預期的輸出、異常的輸入模式，或正常行為中的大幅偏差，以便立即回應可能的風險並處理該情況。

保護 AI 資料對於維持資料完整性與隱私至關重要。 Singularity Endpoint Protection 可確保您的端點安全，並防止未經授權存取敏感的 AI 資料。

維護 AI 資料隱私的不同方法

隨著 AI 系統日益普及，保護用於訓練 AI 系統之資料的隱私變得相當重要。讓我們討論幾種維護 AI 資料安全的不同方法：

匿名化與假名化

匿名化用於刪除或加密資料集中的個人可識別資訊，基本上是將該資料轉換為一種外部來源永遠無法將其還原並與客戶、員工或任何人建立關聯的形式。這就是假名化的作用。它不會揭露個人識別資訊，而是以人工識別碼取代真實識別碼。雖然這些資訊通常會被分開保存，以便重新還原原始資料，但假名化會使個人資訊更難與特定個人建立連結。

以下是假名化的範例

假名化之前：

假名化之後：

在此範例中，可識別個人身分的資訊（姓名與特定城市）已替換為假名（ID）與較一般化的位置資料。這使得識別個人的難度提高，同時仍保留可供分析的實用資訊。

K-匿名性與 L-多樣性

K-匿名性是指，對於識別屬性的每個可能值，表格中都有 k 個其他資料列具有相同的值。簡單來說，L-多樣性可確保每個應包含相似資料的記錄群組中，至少有 L 個不同的敏感屬性值。可編修簽章比單純匿名化能提供更強的隱私保證。

原始資料集：

套用 2-匿名性後：

在此範例中，我們透過將年齡泛化為範圍，並移除郵遞區號的最後一位數，達成了 2-匿名性。

隱私保護記錄連結 (PPRL)

PPRL 與傳統交叉連結方法不同，指的是不同組織可根據共同的人員或實體來連結其資料集，但無須揭露真實的識別詳細資訊。例如，進行醫學研究的人員可能希望整合來自醫院的資料，而不會損害病患機密性。通常會採用密碼學技術，在不揭露實際資料的情況下，比對不同資料集之間的記錄。

合成資料生成

重抽樣方法是創新的技術，可產生行為類似原始表格的人工資料。更進階的技術，例如 Generative Adversarial Networks (GANs)，可以產生在外觀與特性上都與真實資料幾乎相同的合成資料集。這進而有助於 AI 模型從與真實世界資訊無法區分、且不包含任何專有個人識別細節的資料中學習。它已成為多個產業的一部分，例如醫療保健領域，其中使用經 AI 訓練的模型來診斷罕見疾病。它也用於金融產業中的詐欺偵測與風險建模。

AI 資料安全最佳實務

實施隱私控制是確保 AI 資料安全的步驟之一，但不是唯一的步驟。企業需要實施資料保護策略，以保護 AI 系統及其使用的資料。

#1. 建立安全框架

組織必須實施明確定義的安全政策，以協助安全工程師實作存取控制與身分識別管理 (IAM)。對於資料的儲存與傳輸，應建立適當的驗證機制。組織應定期進行評估，並制定復原計畫，以因應與 AI 相關的災難。

#2. 持續監控與更新

應定期監控 AI 系統以發現任何風險，並定期升級。定期稽核可協助組織在潛在威脅遭攻擊者利用之前將其識別出來。

#3. 員工訓練與認知

安全與開發團隊負責管理 AI 資料的安全。組織應教育員工如何保護其資料，並實施 AI 最佳實務。定期訓練課程與研討會可協助員工掌握與 AI 系統相關的最新安全威脅與緩解技術。

#4. 協作與資訊分享

組織應與專注於 AI 安全且可能對獨特威脅有更深入見解的教育機構與研究中心合作。與監管機構合作可協助組織維持合規，並影響政策發展。

實施 AI 資料安全最佳實務至關重要。 Singularity XDR 有助於實施主動式措施，以保護 AI 資料並防止資料外洩。

法規與倫理考量

隨著 AI 技術的發展，全球各地的監管機構採取一些行動以確保個人隱私並協助遏止 AI 遭濫用，這點相當重要。以下是一些最廣為人知的法規：

一般資料保護規則 (GDPR)

GDPR 要求組織遵循嚴格準則，其中包括個人資料的蒐集、處理與儲存。它也指出，儲存在 AI 內的資料應具備管理限制。GDPR 強調資料最小化與目的限制，並賦予被遺忘權。

在營運中使用 AI 的企業應遵循這些標準，並應取得資料處理的法律許可，且需要明確說明 AI 在其營運中的用途，因為這可能直接影響其客戶。

加州消費者隱私法案(CCPA)

CCPA 賦予組織的權利非常有限。CCPA 規定有權知道正在蒐集哪些資料以及這些資料如何被使用。它甚至允許美國居民選擇其資料是否可以被出售。

倫理 AI 實務的重要性

對組織而言，保持合乎倫理非常重要。這些倫理可確保 AI 系統始終受到檢視，不僅是為了維持公眾信任，也是為了藉由這些系統為社會帶來一些益處。應遵循的三項原則是：

1. 為避免對種族、性別和年齡的歧視，檢查訓練資料中的任何問題非常重要。應定期稽核 AI 輸出，以確保其不違反倫理。
2. AI 系統應清楚透明地說明其如何做出某些決策，尤其是對於處理醫療保健資料或刑事司法的組織而言。
3. 如果 AI 採取任何不合倫理的行動或做出任何不合倫理的決策，應明確說明由誰或何者負責。

SentinelOne 的 AI 資料安全

SentinelOne 產品是保護 AI 系統及其資料的最佳工具之一。該平台提供行為分析和機器學習，以建立多層式安全防護，協助組織防範各種威脅。

主要產品與功能

• Behavioral AI: SentinelOne 使用機器學習模型來偵測任何可能顯示網路攻擊的行為，包括對 AI 系統的潛在威脅。
• 自動化回應： 該平台可自動回應威脅，避免 AI 資料和組織基礎架構面臨風險。
• 雲端工作負載防護： 此功能有助於保護雲端環境中的 AI 系統與資料。

Singularity™ AI SIEM

Target threats in real time and streamline day-to-day operations with the world’s most advanced AI SIEM from SentinelOne.

Get a Demo

結論

AI 已成為我們生活的一部分，並且會隨著時間持續發展。因此，保護 AI 以及用於 AI 的資料免受網路威脅侵害非常重要。同時也應將客戶與組織的安全納入考量。這可確保 AI 不會受到威脅，也不會威脅消費者的生活。

組織使用 AI 來提升其日常營運的效率。對組織而言，了解其可能正在使用或已開發之 AI 模型的安全性非常重要。若組織了解將會影響其所使用 AI 的威脅，便能做到這一點。本文將協助組織保護 AI 模型，並找出維持 AI 資料安全的不同方法。在實施 AI 資料安全時，應採用最佳實務，而組織可以利用SentinelOne 以獲得更佳的安全防護。

SentinelOne 是一個智慧平台，利用行為分析來找出 AI 資料安全的任何潛在威脅。它提供自動化回應、雲端工作負載防護和資料保護功能等不同特性，協助組織確保其業務安全。若要進一步了解 SentinelOne 如何提升貴組織的安全性，申請示範，立即行動。