AI 可接受使用政策：最佳實務與範例

什麼是 AI 可接受使用政策?

AI 可接受使用政策 (AUP) 定義貴組織核准使用哪些 AI 工具、哪些資料絕不可輸入工具、何時必須由人工推翻輸出結果，以及由誰負責。AI 使用政策的涵蓋範圍比標準可接受使用政策更廣，因為生成式 AI 帶來標準政策制定時未曾考量的風險：幻覺、提示詞注入和代理自主性。

資料一旦離開組織，這些規則就更顯重要。2025 年 11 月，一家聯邦法院在一宗 著作權訴訟中命令 OpenAI 提交 2,000 萬筆去識別化的 ChatGPT 對話紀錄，而地區法院法官於 2026 年 1 月維持該命令。這些紀錄背後的使用者都不是訴訟當事人。員工貼入消費者版 AI 帳戶的任何內容，也可能面臨同樣的情況：進入您無法掌控的系統，並捲入您無法掌控的爭議。

AI 可接受使用政策與網路安全的關係

員工每次未經正式核准或監督就使用工具，都會產生 影子 AI 風險。 ISACA 指出，這種風險「超越影子 IT 所帶來的風險」。可能造成的損害包括資料外洩和智慧財產 (IP) 遭竊。

敏感資料會隨著一次次輸入提示詞而洩漏至公開模型。 提示詞注入 則提供另一條途徑。 NIST AI 600-1，也就是 NIST AI 風險管理架構 (AI RMF) 的生成式 AI 設定檔，將提示詞注入描述為修改輸入內容，使 生成式 AI 系統產生非預期行為。當企業模型可存取內部資料庫時，成功的注入攻擊可能使其成為資料外洩工具。法規遵循風險更使問題加劇： EU AI Act 針對適用的 AI 系統訂定分級義務。政策可將這些未解問題逐一轉化為明確的管控措施。

AI 可接受使用政策的核心要素

一份可落實的 AI 可接受使用政策，會在事件迫使組織面對問題之前，先回答八個營運問題：政策適用於誰、允許使用哪些工具、哪些資料不得使用、何時須由人工審查輸出結果、由誰負責決策、如何監控使用情況、如何通報事件，以及違規後如何處置。以下要素依序對應這八個問題。

• 範圍與適用對象： AI 工具可接受使用政策首先要明定規範對象與範圍。政策涵蓋使用任何工作裝置的員工、承包商、供應商和實習生，包括依據 自攜裝置 (BYOD) 計畫使用的個人裝置。系統範圍包括生成式 AI 和 代理式 AI，以及嵌入已核准 SaaS 產品的 AI 功能。
• 核准與禁止的工具： 區分核准、限制與禁止使用的類別。NIST AI 600-1 的 GV-6.1-010 行動項目建議更新可接受使用政策，將專有及開源生成式 AI 與第三方人員一併納入。
• 資料分類與處理： 機密及受限制資料，包括 個人身分識別資訊 (PII), 受保護健康資訊 (PHI), 原始碼, 以及支付卡產業資料安全標準 (PCI DSS) 所涵蓋的持卡人資料, 在任何情況下都不得提交至公開 AI 工具.
• 人工監督: 俄勒岡州的負責任 AI 使用政策草案, 已送交各機關徵詢意見, 並將人員參與的監督機制列為基本要求. 根據草案, AI “不得脫離人的責任而獨立運作.”
• 角色與責任歸屬: ISO/IEC 42001 規範如何建立, 實施, 維護及持續改進 AI 管理系統, 而國際隱私專業人員協會 (IAPP) 的分析指出, 組織必須明確界定角色, 並建立通報 AI 相關疑慮的措施.
• 監控與審查: 依既定週期追蹤模型效能, 確認政策遵循情況, 並找出新興風險.
• 事件通報: 針對資料分享失誤, 有害輸出, 提示詞注入及相關事件, 明定通報與升級處理要求.
• 政策執行: 書面規範須有技術與營運控制措施支撐, 並明定違規後果.

列出這些要素, 只能說明政策必須包含什麼. 至於政策如何制定及持續落實, 則仍未交代. 資料分類條款必須有人起草, 經核准單位簽署, 並由控制措施檢查每次提示詞輸入, 才能發揮作用. 以下說明從跨部門初稿到定期審查的完整流程, 確保政策與時俱進.

AI 可接受使用政策如何運作

政策從文件轉化為強制執行的控制措施, 才能發揮價值. AI AUP 涵蓋從起草到定期審查的五個階段, 跳過前一階段, 後一階段就會悄然失效: 工具清單未經審核, 推行便失去意義, 而推行後若不執行, 規範就形同選擇性遵守.

依序完成各階段, 就能將 AI AUP 與現行的資料分類及可接受使用政策銜接, 並擴大兩者的涵蓋範圍, 納入模型輸出, 代理式 AI 行為, 以及核准軟體內建的 AI. 

每個階段也會留下可供核准者或稽核人員查驗的成果: 已簽核的工具清單, 訓練紀錄, 執行紀錄, 審查日期. 這些證據就是政策價值開始顯現的地方.

採用 AI 可接受使用政策的主要效益

書面 AI AUP 讓您不再事後才發現 AI 風險, 而能主動管理. 當稽核人員, 監管機關或董事會詢問AI 使用如何受到控管時, 資安團隊能提出有據可查的答覆, 員工也能清楚掌握界線, 無須猜測. 效益體現在四個方面: 降低資料暴露風險, 提供更清楚的法規遵循證據, 加速安全採用 AI, 並明確指定 AI 決策的負責人.

• 降低風險: 明確的資料分類規範, 可阻斷將資料貼入公開模型而造成外洩的途徑.
• 符合監管要求: 將政策控制措施對應 NIST AI RMF, ISO/IEC 42001 及歐盟 AI 法案的義務, 可留下涵蓋審查在內的治理與監督書面證據.
• 安全採用: 核准工具清單與明確的員工 AI 使用指引, 讓員工無須猜測界線, 就能有效運用 AI. 界線明確, 就能讓影子 AI 轉為經核准的 AI.
• 責任歸屬更明確: 明確界定角色, 就能在事件迫使組織面對問題之前, 先確定誰對 AI 決策負責.

這些效益的前提是政策在日常使用中確實有效. 問題往往就出在這個假設上, 因為政策要規範的影子 AI, 正是讓政策難以執行的原因. 

實施 AI 可接受使用政策的挑戰

影子 AI 在制度和行為層面都帶來執行難題. Cloud Security Alliance (CSA) Labs 關於影子 AI 的報告 將問題界定為資產盲點與系統性風險. 員工往往在資安、法務、隱私和採購團隊完成評估前, 就開始使用工具. 工具快速演進, 讓問題更加複雜, 而針對單一工具制定的政策很快就會過時.

CISO 必須在不妨礙生產力的情況下執行規則. 管得太嚴, 員工就會尋找規避方法. 規定太模糊, 政策就無法執行. 大規模衡量合規情況本身就是一項挑戰. 

使用者將內容複製貼上至 AI 平台的速度可能超過人工審查能力, 因此機器分類成為實務上的必要條件. 專為掌握 AI 使用情況而打造的工具, 例如 SentinelOne Prompt Security, 能讓資安團隊記錄瀏覽器和應用程式中的 AI 使用情況. 有了這些記錄, 才能進行衡量.

AI 可接受使用政策的常見錯誤

AI 可接受使用政策的失敗模式可以預見, 這是好消息: 您可以在推出前就針對這些問題做好設計. 以下四種問題一再出現在紙面上看似完備、實際執行卻行不通的政策中, 從無人能執行的規則, 到沒人想到要納入的整類工具. 團隊常在這些地方出錯:

• 全面禁止: 禁止所有 AI, 卻不提供核准的替代方案, 會讓使用行為轉入檯面下. CSA 指引 指出, 全面禁止 AI “不太可能奏效, 還可能促使員工透過影子 IT 使用未經審查的工具.”
• 缺乏執行機制: 同一份 CSA Labs 報告指出, 禁止“未經授權使用 AI”卻未具體說明授權條件的政策, “往往遭到普遍忽視.”
• 忽略內嵌與第三方 AI: NIST AI 600-1 要求政策涵蓋承包商, 以及專有和開源的生成式 AI. 能查看視窗中所有內容的瀏覽器擴充功能, 也需要明確規範.
• 制定後就不再過問: AI 工具與風險變化迅速. 政策過時, 就很容易失效.

這些失敗有一個共同根源: 把政策當成歸檔文件, 而不是需要持續運作的管控措施. 要解決問題, 就必須讓政策能實際運作, 明確指定負責人、設置自動觸發的檢查, 並訂定更新時程. 以下做法針對每種失敗模式, 提出可避免問題重演的例行措施.

AI 可接受使用政策的最佳實務

人們會遵循的政策與被忽視的政策, 差別在於實際運作方式. 有效的做法有一個共通點: 每項做法都將意圖轉化為可重複執行的行動, 並指定負責人和執行時程. 以下五項是關鍵.

• 透過正式流程核准工具. 讓每項候選工具依循明確流程: 確認業務用途、初步篩查風險、進行資安與隱私審查、取得法務與採購核可、取得業務負責人核准, 最後持續監控. 同一工具的企業版與消費者版應視為不同產品, 因為兩者處理輸入資料的方式不同. 每項核准也都應設定期限, 以便定期重新審查.
• 將資料規則與工具類別連結. “負責任地使用 AI”是一項意圖. 規則則要明確指出資料與工具. 依資料敏感程度對應允許使用的工具類別, 這種分級模式是政策實際運作的核心.
• 自動化監控. 人工審查跟不上提示詞與上傳內容的數量. Prompt Security 專門監控 AI 使用的這個環節, 即時監控輸入 AI 工具的提示詞, 並套用政策管控. 決策仍由人員參與. 自動化則負責處理大量活動.
• 針對員工實際執行的工作進行訓練. 涵蓋資料隱私規則與提示詞使用規範, 並將 AI 輸出驗證納入工作流程. 與員工共同制定防護準則, 讓負責任地使用 AI 成為習慣, 而不只是口號.
• 訂定審查週期. 定期重新評估, 並在出現新工具、事件或法規變動時啟動額外審查, 才能讓政策與時俱進.

上述做法說明了完善的 AI 可接受使用政策上線後應如何運作: 核准有期限、分類規則與工具連動、監控能因應規模擴大, 訓練則圍繞實際任務設計. 團隊往往卡在將這些做法寫成文件這一步, 因為從空白頁開始, 很難判斷哪些內容該放在哪裡. 以下架構與條款範例提供起點.

AI 可接受使用政策範例與範本

經得起檢驗的 AI 可接受使用政策都有共同骨架: 一組供核准者核對、供稽核人員查核的章節. 以下架構可作為 AI 政策範本, 列出各章節及其所需內容, 接著提供可依需求調整的條款範例, 涵蓋資料限制、揭露、人工審查與執行.

資料分級 決定 AI 可接受使用政策（AUP）能否發揮作用，還是淪為空泛建議. 分級模型回答員工當下真正關心的問題：這些資料能輸入這項工具嗎？以下四個級別依資料敏感度，對應可使用的工具類別.

• 第 1 級，公開資料. 已發布的行銷素材、對外網站內容及一般產業研究. 可用於任何信譽良好的 AI 工具.
• 第 2 級，內部資料. 內部通訊、流程文件及非機密專案資料. 僅可用於與公司帳號綁定、經核准的企業 AI 工具.
• 第 3 級，敏感資料. 客戶資料、員工個人識別資訊（PII）、財務紀錄、專有流程及受法規規範的資訊. 須取得明確核准，且僅可用於受資料處理協議規範的指定工具.
• 第 4 級，禁止輸入的資料. 驗證憑證及加密金鑰. 在任何情況下都不得輸入 AI 工具.

以下條款範例讓政策具備約束力:

• 在資料限制方面， 美國能源部生成式 AI 政策 (DOE P 203.1) 要求人員確認每次輸入的提示詞符合工具核准處理的資料級別：專有資料、受管制非機密資訊及 PII “不得作為輸入內容”提供給僅獲准處理公開資料的工具. 
• 在揭露方面， 史丹佛大學傳播部門的 AI 指引 建議，當 AI 在工作成果中扮演重要角色時，應“向相關編輯、主管或決策者揭露使用情形.” 
• 在人工審查方面， 愛荷華大學 指出，AI 輸出內容應由人員仔細審查及驗證. 
• 在政策執行方面，應在首次違規前訂明違規後果、通報管道及事件升級處理程序.

運用 SentinelOne 落實 AI 可接受使用政策

沒有落實執行的政策，只是一份文件. SentinelOne 將 AUP 規範轉化為技術控管措施，涵蓋環境中的每個提示詞、工具及代理程式. 對數千種 AI 工具提供即時可視性並執行政策，讓核准與禁止使用的工具清單真正發揮約束力，而不只是紙上目標. 邊緣端資料遮蔽會在敏感資料傳送至外部模型前將其移除，即時指引則會當下糾正高風險行為. 

同樣的控管也延伸至程式碼助理與整合開發環境（IDE）等開發工具，補上多數政策忽略的內嵌式與第三方 AI 管理缺口. 控管範圍也涵蓋代理式系統：探索未經核准的代理程式與 模型上下文協定（MCP） 伺服器、依政策控管代理程式的操作，以及可搜尋的稽核日誌，提供 AUP 所要求的責任追溯紀錄.

Purple AI™ 是自然語言安全分析師，支援事件調查與 AI 威脅獵捕. 早期採用者表示，威脅獵捕速度最高提升 80%. 您的 SOC 不再面對零散的 AI 使用訊號，而是取得依優先順序排列的調查方向.

The Singularity™ Platform 是底層的可視性與政策執行層，以單一代理程式、單一主控台及單一資料湖涵蓋端點、雲端與身分. 平台自主預防、識別並回應威脅. 在 2024 年 MITRE ATT&CK 評測中，平台的 Behavioral AI 產生的警示數量比所有受評廠商的中位數少 88%，讓分析師專注處理少量真正需要關注的發現，而非被雜訊淹沒.

CISO 能向董事會清楚說明 AI 治理策略. SOC 主管則能在整個環境中落實政策控管.

申請 SentinelOne 示範，瞭解這些控管措施如何對應您的 AI 政策.

Take the Tour

Get complete visibility, security and governance over AI usage in your organization. Uncover shadow AI, protect your sensitive data and safely enable AI in the organization.

結論

員工輸入 AI 工具的任何內容，都應視為可能無法取回的資料. 這正是在監管機關或法院提出疑問前，以書面規範 AI 使用的務實理由. 政策必須具體才有價值：明確的資料分級規則、不依賴人工審查的執行機制，以及預定的檢討日期. 

Prompt Security 在使用 AI 的環節落實這些規範；Singularity Platform 與 Purple AI 則為您的 SOC 提供可視性與行動速度，迅速處理發現的問題. 完備這些措施後，員工就能公開透明地使用 AI，同時遵循您能夠落實並維護的規範.