ChatGPTセキュリティ: リスク、プライバシー、エンタープライズ向け保護策

ChatGPTセキュリティとは何か?

2025年夏、米国連邦ネットワークの防御を担う政府機関を率いる当局者が、機密性の高い政府ファイルを公開版のChatGPTに貼り付けました。CISAの長官代行は「For Official Use Only」と記された契約文書をアップロードし、内部監視センサーが数日以内にその活動を検知しました。その後、米国土安全保障省による調査が行われました。侵害はなし。攻撃者もなし。わずかなプロンプトで、機密データは管理されたシステムの外に出てしまったのです。

これこそが、ChatGPT security が防ぐべき露出です。ChatGPTセキュリティとは、従業員が職場でChatGPTや類似のAIアシスタントを使用する際に、職場のデータとアカウントを保護するための一連の実践です。 

リスクは本質的に組み込まれています。アカウントのティアによっては、従業員が入力したプロンプトが保持されたり、将来のモデルのトレーニングに使用されたりする可能性があるため、組織的な統制がなければ、日常業務を通じてデータが環境外へ流出します。適切なティア、ポリシー、強制手段を導入すれば、従業員がすでに使っているその同じツールを、セキュリティチームが可視化し統制できるものに変えられます。

ChatGPTセキュリティがエンタープライズセキュリティに適合する方法

生成AI の導入は従業員全体に広がっており、セキュリティチームは現在、その利用を統制するガバナンスを整備する必要があります。セキュリティプログラムの中で、この取り組みは2つの領域にまたがります。従業員がAIアシスタントに送信するプロンプトと、それらのアシスタントを自社システムに接続するアカウントおよび統合です。

シャドーAI は問題をさらに拡大させます。個人アカウントや未承認チャネルを通じた活動は、セキュリティチームから見えないまま行われるためです。目標は、統制された有効化です。つまり、可視化できない個人アカウントから業務を切り離しつつ、承認済みのChatGPT利用経路を提供することです。

ChatGPTのセキュリティリスク

従業員がChatGPTや類似のAIアシスタントを使用する際、組織はデータ露出、モデル学習、プロンプトインジェクション、アカウント侵害、シャドーAI、ハルシネーション、統合に関するリスクに直面します:

• プロンプトに入力された機密データ。 従業員はソースコード、顧客記録、財務データをChatGPTに貼り付けます。データが環境外へ出るのに攻撃は必要ありません。
• モデル改善に使用されるプロンプト。 コンシューマーアカウントでは、プロンプトが将来のモデルをトレーニングするかどうかは各ユーザーの設定に依存し、一元的な強制はありません。
• プロンプトインジェクションとジェイルブレイク。 プロンプトインジェクション は大規模言語モデル（LLM）における既知のリスクです。間接的なインジェクションは、セッションからのデータ流出を引き起こす可能性があります。
• アカウントと認証情報の侵害。 盗まれたChatGPT認証情報は会話履歴を露出させ、クラウドストレージやメールとの統合はOAuthスコープの昇格を引き起こす可能性があります。
• 未承認利用によるシャドーAI。 個人アカウントや未承認ツールは可視性を失わせ、承認済みのエンタープライズ導入に付随する統制を回避します。
• 不正確または捏造された出力。 NISTのGenerative AI Profile（NIST AI 600-1）は、ハルシネーションを 未解決のリスク管理上の課題 と位置付けています。レビューなしで実行された捏造出力は、ビジネス上の意思決定に誤りを持ち込みます。
• サードパーティ製プラグインまたは統合による露出。 サードパーティ製コードや接続されたツールは、サプライチェーンおよびセッションデータ露出のリスクをもたらす可能性があります。

これらのリスクには共通の根本原因があり、それは統制可能なものです。どれだけの露出を抱えるかは、各ティアでChatGPTがデータをどのように扱うかに依存し、そこで使用するアカウントが重要になってきます。

ChatGPTがデータをどのように扱うか

従業員がプロンプトを送信すると、ChatGPTはそれをOpenAIのインフラストラクチャに送信し、会話の一部としてプロンプトと応答を保存します。その後に何が起こるかは、アカウントのティアによって異なります。

このデータ処理の違いが、管理されていない利用をビジネスリスクに変え、制御が欠けているときに負担するコストを生み出します。

管理されていないChatGPT利用のコスト

管理されていないChatGPTの利用は、データ管理、競争上の立場、コンプライアンスという3つの面で企業にコストをもたらします。従業員が独自コードや顧客情報をコンシューマー向け階層のプロンプトに貼り付けると、そのデータは外部のAIサービスに到達し、組織はその実質的な管理を失う可能性があります。 

同じ露出は競争上重要な情報もリスクにさらします。というのも、階層とデータ処理設定によって、プロンプトに入力された企業秘密や独自アルゴリズムが組織内にとどまるかどうかが左右されるためです。

この露出は、コンプライアンスと信頼の問題でもあります。AIツールを使用する場合でも、既存のプライバシーおよび機密保持の義務は引き続き適用されるため、次のような規制対象データを 個人を特定できる情報（PII） や保護対象保健情報（PHI）を、Data Processing Agreement (DPA) なしでコンシューマー向けAIツールに送信すると、GDPR, HIPAA、または同様の規則に基づく違反を引き起こす可能性があります。これらのいずれかが公に開示されると、顧客や規制当局に対して、データガバナンスにギャップがあることを示す可能性があります。

ChatGPT利用を保護する際の課題

ポリシーを導入していても、実際にはChatGPTの利用を統制するのは困難です。4つの制約がそれを妨げます:

これらの制約があるため、ポリシーだけで十分であることはまれであり、以下の保護策では文書化されたルールと技術的な強制適用を組み合わせています。

ChatGPTのためのエンタープライズ保護策

適切な制御が導入されていれば、チームは職場でChatGPTを安全に利用できます。ほとんどの露出は、従業員がソースコード、認証情報、または顧客記録をプロンプトに貼り付けるという単一の行動に起因するため、以下の保護策では、その行動を可視化し防止できるように、文書化されたルールと技術的な強制適用を組み合わせています:

• AIツールの許容利用ポリシーを設定する. 承認されたAIツール、PII、PHI、ソースコード、認証情報、企業秘密、法的文書など、プロンプトで禁止されるデータカテゴリ、および不遵守の結果を定義します。NIST AI 600-1は、このポリシーを構築するための リスク管理ガイダンスを提供しています。
• データ制御とシングルサインオン（SSO）を備えたエンタープライズ階層を採用する。 より強力な組織的統制、SSO、DPAを利用するには、ChatGPT BusinessまたはEnterpriseに移行してください。組織でカスタムデータ保持、監査ログ、System for Cross-domain Identity Management (SCIM)、または顧客管理の暗号鍵が必要な場合、Enterpriseはこれらの機能を最も包括的に提供します。
• データ損失防止とデータ分類を適用します。 データがAIツールに到達する前に分類してください。 data loss prevention (DLP) を使用して送信トラフィックを検査し、プロキシまたはファイアウォール層で未承認のAIエンドポイントへのアクセスをブロックします。
• アクセスを制御し、AIの使用状況を確認します。 定義されたユースケースに限定したロールベースアクセスを適用します。送信AIトラフィックについて、ID、タイムスタンプ、AIエンドポイント、データ量を記録します。ChatGPT Enterpriseでは、Compliance APIと監査ログを有効にします。より広範なAI security態勢は、ポリシーを技術的な強制適用と結び付けます。
• 安全なプロンプト作成について従業員を教育します。 CISAのモデルに従い、 従業員向けAIトレーニング をAIツールの使用に必須とします。許容される使用ポリシー、禁止されるデータカテゴリ、AI出力の検証方法、偶発的なデータ露出に関するインシデント報告を扱います。毎年の再認定を必須にします。
• データ処理に関するベンダーのデューデリジェンスを実施します。 DPAがAIプロンプトの内容と従来のデータ処理を明示的に対象としていることを確認してください。認証を検証し、データ侵害に関する契約上の通知期限を設定します。

これらの保護策はシステムとして機能します。ポリシーが境界を定めます。ティアの選択が契約上および技術上のベースラインを確立します。DLPと可視性がポリシーを技術的に強制します。トレーニングが人的レイヤーを構築し、デューデリジェンスがベンダーのギャップを埋めます。

SentinelOneでChatGPTセキュリティを強化

ポリシーとティアの選択がルールを定めます。SentinelOneは、やり取りの時点、つまりプロンプト自体でそれらを強制します。 Prompt Security は、規制対象データ、ソースコード、認証情報がChatGPTやその他のコンシューマー向けAIツールに入力される前に検出して制御します。これは、 データ流出 をブラウザ内で阻止します。

Singularity™ Identity は、AIエージェントやサービスアカウントを含む各AIセッションを人間または非人間のIDに結び付けるため、チームは露出イベントをその発生源まで追跡できます。

Purple AI™ は、調査を平易な言葉に変えます。アナリストは質問を行い、タイムラインを再構築し、露出が偶発的なものか悪意のあるものかを判断します。IDCは、脅威特定が63%高速化し、平均対応時間が55%短縮したと報告しています。

Singularity Platform全体で、SentinelOneは2024 MITRE ATT&CK Evaluationsにおいて、100%の検出率でアラートを88%削減しました。これにより、SOCチームはノイズに費やす時間を減らし、実際のリスクを伴うAIおよびIDアクティビティにより多くの時間を割けます。より広範なextended detection and response (XDR) visibility については、それらのイベントはエンドポイント、ID、クラウドのシグナルと1か所で相関付けられます。

SentinelOneのデモをリクエスト して、チームによるAIの使用方法のガバナンスを今すぐ開始してください。

ツアーを開始

組織内のAI利用に対して、完全な可視性、セキュリティ、ガバナンスを実現します。シャドーAIを特定し、機密データを保護し、安全にAIを活用できます。

結論

ChatGPTセキュリティは、従業員がAIアシスタントを使用する際にデータを保護します。中心的なリスクは、可視性を失わせるシャドーAIによって増幅される、プロンプトを介したデータ露出です。コンシューマー利用は個々の設定により大きく依存する一方、BusinessおよびEnterpriseティアはより強力な組織的統制を提供します。 

統制された有効活用は、許容される使用ポリシー、適切なティア、データ損失防止、可視性、トレーニング、ベンダーのデューデリジェンスを組み合わせたものです。これらの要素を整備すれば、チームはChatGPTがもたらすすべての利点を維持できます。機密データはあるべき場所にとどまります。

AIを活用したサイバーセキュリティの実現

リアルタイムの検知、マシンスピードのレスポンス、デジタル環境全体の可視化により、セキュリティ態勢を強化します。

デモを見る