ここ数年、AIはテクノロジー業界全体を席巻しています。これには、LLM（大規模言語モデル）を活用して様々なビジネス課題や日常的な問題を解決する企業も含まれます。AIを生産環境で活用・統合しているのは、Apple、Google、Microsoftといったテクノロジー大手だけではありません。中小企業もAI競争に参入しています。これほど多くのユーザーや企業がAIを利用しているため、AIが処理するデータ量は大幅に増加し、Google、Microsoftといったテック大手だけでなく、中小規模の企業もAI競争に参入しています。これほど多くのユーザーや企業がAIを利用することで、処理されるデータ量は大幅に増加し、脅威アクターの標的となっています。AIシステムは、トレーニングデータから始まり、ユーザーが情報を入力して応答を得るまでの複数の段階でデータを使用します。AIシステムが扱うデータの機密性から、システムとデータの保護が重要となります。ここでAIデータセキュリティの重要性が浮上します。
本ブログ記事では、AI（人工知能）におけるデータの役割と、組織がAIデータセキュリティで直面する可能性のある課題について考察します。さらに、より良い結果を得るためのAIデータセキュリティ実装のベストプラクティスと、SentinelOneの活用方法についても探ります。
AIとデータセキュリティの概要
人工知能（通称AI）は、人間の知性や論理的思考に似た知能を持つ機械の創造に焦点を当てたコンピュータサイエンスの一分野です。AIは基本的に人間の認知機能を、多くの場合人間よりも高速かつ正確に実行できます。
AIがデータに依存していることは周知の事実です。データこそがAIシステムの稼働を支え、時間の経過とともに学習し、新たな情報をより優れた方法で予測することを可能にします。機械学習は人工知能の一分野であり、コンピュータシステムが特定のプログラムなしでデータから学習するために用いられます。AIシステムは多様なデータによって性能が向上します。
AIにおけるデータの役割
AIにおけるデータの重要性は極めて大きい。AIの開発と処理を支援するため、様々な段階で活用される。
- トレーニング:トレーニングの最初の段階では、AIアルゴリズムがデータから学習し、パターンを識別して予測を行います。
- テスト:複数のデータセットを用いてモデルの能力と効率性を検証します。
- 運用: AIシステムは、導入後にリアルタイムの意思決定や予測を支援するため、新たなデータを処理します。
- 改善：ほとんどのAIシステムは、アルゴリズムの強化と性能向上のために新しいデータで訓練されます。
AIにおけるデータセキュリティの重要性
機械学習システムを扱う際にデータセキュリティとプライバシーの重要性を示す要因は複数存在します。AIは機密性の高い情報を扱うため、このデータのプライバシー保護が重要です。
データ侵害はAIモデルの完全性を脅かし、医療や金融などの分野でのシステム障害は深刻な結果を招く可能性があります。AIシステムはPCI DSSやHIPAAなどのデータ保護規制にも準拠する必要があります。AIに対する主な脅威は以下の通りです：
- データ改ざん: 攻撃者は特別に改変した訓練データを用いてバイアスを導入し、AIモデルの精度を低下させることが可能です。
- 内部脅威： この脅威は、組織内部からAIシステムを攻撃する人物によって引き起こされます。このような人物は、データを盗み出して販売したり、結果を傍受するためにモデルを改変したり、システム全体の性能を低下させたりすることが可能です。
- データ侵害： 攻撃者は通常、データ侵害を通じて個人情報、財務データ、企業秘密、インフラ情報など、大量の貴重なデータにアクセスします。
AIデータセキュリティへの脅威の特定
AIデータセキュリティを実装するには、組織がそれに伴う様々な脅威を理解することが重要です。以下のような脅威について検討しましょう：
-
データポイズニング（攻撃者がトレーニングデータを操作する方法）
データポイズニングはAIシステムに対する深刻な脅威です。偽の例を作成することは、基本的にAIモデルのトレーニングデータを操作する行為です。攻撃者は偽のデータポイントを追加することで、AIシステムの動作や意思決定プロセスを容易に変更できます。
一例として画像認識システムでは、攻撃者が訓練中に誤ってラベル付けされた画像を注入することがあります。こうした誤ったラベル付けや欠陥のあるデータは、自動運転の実践や医療診断など、現実世界の使用事例においてAIが物体を誤分類する原因となり、甚大な損害をもたらす可能性があります。
-
モデル逆算攻撃（モデルからの機密データ取得）
モデル逆算攻撃は、AIデータセキュリティに対するもう一つの重要な脅威です。この種の攻撃は、AIモデルを分解またはリバースエンジニアリングして、トレーニングデータで使用されたパターンに関する情報を取得しようと試みます。
攻撃者は基本的に、巧妙に選択された入力でモデルを複数回呼び出し、その出力を分析することで、モデルをトレーニングするために使用された可能性のあるデータを理解しようとします。これは深刻なプライバシー問題となり得る。特に、トレーニングデータに医療記録や財務情報などの機密性の高い個人・企業情報が含まれる場合にはなおさらである。
-
敵対的攻撃（入力変更によるAIモデルの操作）
敵対的攻撃はAIの入力を標的とし、意図的に誤りを引き起こします。データポイズニングは学習段階で発生しますが、敵対的攻撃はデプロイ済みモデルに対して行われます。攻撃者は、実際のデータとはわずかに異なるが、データベースのモデルに重大な影響を与えるような微小な値を変更することで、AIモデルを欺くように設計された入力を慎重に作成します。
典型的な例として、画像をわずかに改変することで分類AIの判定を完全に誤らせる手法が挙げられる。例えば停止標識を別の速度制限標識として分類させるなどである。こうした攻撃は、AIシステムが環境の一部を構成するセキュリティ上重要なアプリケーションに危険をもたらし、影響を受けたシステムに誤動作を引き起こす可能性がある。
-
自動化マルウェア
自動化マルウェアとは、標的型攻撃を実行可能なAI搭載マルウェアである。脅威検知を回避し、ペイロードを配信する最適なタイミングと適切な状況を特定することで感染効果を高めることも可能です。
DeepLockerは概念実証型のAI搭載マルウェアであり、アプリケーション内に悪意を隠蔽し、事前に指定されたマーカーを解析して特定の被害者に到達するまで悪意のあるペイロードを実行可能状態にしません。
AIモデルのセキュリティ確保方法
AIモデルは、トレーニング段階と導入段階の両方でセキュリティ対策が必要です。両フェーズにおける適切なAIデータセキュリティのため、AIモデルを保護する一般的な戦略をいくつか見ていきましょう。
AIモデルトレーニングの保護
AIモデルトレーニングの保護は、信頼性とトレーニングに基づく主要なAI安全技術です。安全な環境でのトレーニングが重要です。アクセス制御メカニズムを備えた、隔離され管理されたシステムである必要があります。AIトレーニングには、データの盗難や漏洩を困難にする数々のセキュリティ対策を備えたクラウドベースのソリューションがあります。
AIを保護する前に、データの検証とサニタイズを確保することが重要です。これにはデータ入力の詳細な検証が含まれ、異常値、不一致、潜在的な攻撃ベクトルを特定します。外れ値検出やデータクリーニングなどの手法を用いることで、トレーニングデータセットの完全性を概ね維持でき、これがポイズニング攻撃を防ぐ基盤システムとして機能します。
これには最適化技術の使用が含まれ、攻撃に対して脆弱性の少ないモデルを構築することを可能にします。交差検証や正則化などの手法は、モデルの汎化能力を向上させ、敵対的攻撃に対する耐性を高めるのに役立ちます。敵対的学習は、AIが学習し認識できるように潜在的な攻撃シナリオを刺激することで機能します。
デプロイ済みAIモデルの保護
AIモデルがデプロイされた際の課題は全く異なります。意図したユーザーのみが呼び出しを実行できるようにし、認証と暗号化を含むサービスパイプライン内で様々なサービス/デバイス/ゲートウェイを経由する過程でモデルが改ざんされていないことを保証する必要があります。lt;/p>
デプロイ済みモデルには検証とサニタイズが必須です。AI処理に渡される全入力データは事前に徹底的に検証・サニタイズされなければなりません。これによりあらゆるプロンプト注入攻撃を防ぎ、クリーンなデータのみがモデルに供給されることを保証します。
異常検知
異常検知システムはリアルタイムで稼働可能な監視システムであり、異常なパターンや挙動をチェックします。例えば、自然な負荷とは異なるリクエストの急増、禁止されたIPからの外部リクエストなどです。実際の攻撃の性質や種類に関する詳細な情報を提供することなく、何が問題である可能性があるかについての情報を提供します。これらは常に予期せぬ出力、異常な入力パターン、または通常の動作からの大きな逸脱を監視し、潜在的なリスクに対する即時の対応と状況への対処を可能にします。
AIデータの保護は、データ完全性とプライバシー維持に不可欠です。Singularity Endpoint Protectionは、エンドポイントの安全性を確保し、機密性の高い AI データへの不正アクセスを防止します。
AI データのプライバシーを守るさまざまな方法
AI システムが普及する中、AI システムのトレーニングに使用されるデータのプライバシーを保護することが重要です。AIデータを安全に保つためのいくつかの方法について説明しましょう：
匿名化と仮名化
匿名化は、データセット内の個人識別情報を消去または暗号化し、外部から顧客・従業員・個人を特定できない形式に変換する手法です。これに対し仮名化は、個人識別情報を人工識別子に置き換えます。通常は元のデータ復元用に分離保管されますが、これにより個人情報と個人の関連付けが困難になります。個人を特定する情報を開示する代わりに、実際の識別子を人工的な識別子で置き換えます。元のデータを再構成できるように別々に保管されることが多いものの、仮名化により個人情報を特定個人と結びつけることがより困難になります。
以下に仮名化の例を示します
仮名化前：
| 氏名 | 年齢 | 都市 | 病状 |
|---|---|---|---|
| John Smith | 35 | ニューヨーク | 糖尿病 |
| ジェーン・ドウ | 42 | シカゴ | 高血圧 |
| マイク・ジョンソン | 28 | ロサンゼルス | 喘息 |
仮名化後：
| 名前 | 年齢 | 都市 | 病状 |
|---|---|---|---|
| A123 | 35 | 北東部 | 糖尿病 |
| B456 | 42 | 中西部 | 高血圧 |
| C789 | 28 | 西部 | 喘息 |
この例では、個人を特定できる情報（氏名や特定の都市名）は、仮名（ID）およびより一般的な位置情報データに置き換えられています。これにより、分析に有用な情報を保持しつつ、個人を特定しにくくなっています。
K-匿名性とL-多様性
K-匿名性とは、識別子属性のあらゆる可能な値について、テーブル内に同じ値を持つ他のk個のタプルが存在する状態を指します。簡単に言えば、L-多様性は、類似データを含むべきレコード群ごとに、少なくともL個の異なる機微属性値が存在することを保証します。編集可能な署名（redactable signature）は、単なる匿名化よりもはるかに強力なプライバシー保証を提供できます。
元のデータセット：
| 年齢 | 郵便番号 | 状態 |
|---|---|---|
| 28 | 12345 | HIV |
| 35 | 12345 | 癌 |
| 42 | 12346 | インフルエンザ |
2-匿名化適用後：
| 年齢層 | 郵便番号 | 状態 |
|---|---|---|
| 25-35 | 1234 | HIV |
| 25-35 | 1234 | 癌 |
| 40-50 | 1234 | インフルエンザ |
この例では、年齢を範囲で一般化し、郵便番号の末尾1桁を削除することで2-匿名性を実現しています。
プライバシー保護型レコード連結（PPRL）
従来のクロスリンク手法とは異なり、PPRLでは従来のクロスリンク手法とは異なり、別々の組織が共有する個人またはエンティティに基づいてデータセットを連結できるが、実際の識別情報を開示する必要がない手法です。例えば、医療研究を行う者が患者の機密性を損なうことなく病院間のデータを統合したい場合などが該当します。一般的に、実際のデータを明かさずにデータセット間でレコードを照合するために暗号技術が用いられます。
合成データ生成
再サンプリング手法は、元のテーブルと同様に振る舞う人工データを生成する革新的な技術です。生成敵対ネットワーク（GAN）などのより高度な技術は、見た目も感触も実データと区別がつかない合成データセットを生成できます。これにより、これにより、AIモデルは現実世界の情報と見分けがつかず、個人を特定する機密情報を含まないデータから学習できるようになります。医療分野では希少疾患の診断にAI学習モデルが活用されるなど、複数の産業で採用が進んでいます。金融業界では不正検知やリスクモデリングにも利用されています。
AIデータセキュリティのベストプラクティス
プライバシー制御の実装はAIデータセキュリティ確保の一歩ではあるが、唯一の手段ではない。企業はAIシステムと使用データを保護するため、データ保護戦略を実施する必要がある。
#1. セキュリティフレームワークの確立
組織は、セキュリティエンジニアがアクセス制御とアイデンティティ管理（IAM）を実施するのに役立つ、明確に定義されたセキュリティポリシーを導入する必要があります。データの保存と転送には、適切な認証メカニズムを設定すべきです。組織は定期的な評価を実施し、AI関連の災害に備えた復旧計画を策定する必要があります。
#2.継続的な監視と更新
AIシステムはリスク発見のため定期的に監視し、定期的に更新すべきである。定期的な監査は、攻撃者に悪用される前に潜在的な脅威を組織が特定するのに役立つ。
#3.従業員の教育と意識向上
セキュリティおよび開発チームはAIデータのセキュリティを管理します。組織は従業員に対し、データ保護方法とAIベストプラクティスの実施について教育すべきです。定期的なトレーニングセッションやワークショップは、スタッフがAIシステム特有の最新セキュリティ脅威と軽減手法について最新情報を得るのに役立ちます。
#4. 連携と情報共有
組織は、AIセキュリティに特化し独自の脅威に対するより深い洞察を持つ教育機関や研究センターと連携すべきです。規制当局との協力は、組織がコンプライアンスを維持し、政策策定に影響を与えるのに役立ちます。&
AIデータセキュリティのベストプラクティスを実装することが不可欠です。Singularity XDRは、AIデータの保護と侵害防止に向けた予防的対策の実施を支援します。
規制と倫理的考慮事項
AI技術の発展に伴い、世界中の規制機関が個人のプライバシーを保護し、AIの悪用を防ぐための措置を講じることが重要です。最もよく知られている規制の一部は以下の通りです：
一般データ保護規則（GDPR）
GDPRは、個人データの収集・処理・保管を含む厳格なガイドラインの遵守を組織に義務付けています。また、AI内に保管されるデータには管理上の制約を設けるべきとも規定しています。GDPRはデータの最小化と制限の目的を強調し、忘れられる権利を認めています。
業務でAIを利用する企業はこれらの基準に従い、データ処理の法的許可を取得するとともに、顧客に直接影響を与える可能性がある業務におけるAIの明確な使用目的を明示する必要があります。&
カリフォルニア州消費者プライバシー法（CCPA）
CCPAは組織に対して非常に限定的な権利を認めています。CCPAは、収集されるデータの内容とその使用方法を知る権利を定めています。さらに、米国居住者は自身のデータが販売されるか否かを選択する権利さえ認められています。
倫理的なAI実践の重要性
組織が倫理的であることは重要です。こうした倫理観は、公共の信頼のためだけでなく、AIシステムを活用して社会に貢献するためにも、常にAIシステムを監視下に置くことを保証します。遵守すべき3つの原則は以下の通りです：
- 人種・性別・年齢による差別を回避するため、トレーニングデータの問題点を検証することが重要です。AI出力の定期的な監査を実施し、倫理に反しないことを確認すべきです。&
- 特に医療データや刑事司法を扱う組織においては、AIシステムが意思決定を行う過程を透明化することが重要です。
- AIによる非倫理的な行動や決定が行われた場合、誰または何が責任を負うのかを明確に定めるべきである。
AIデータセキュリティのためのSentinelOne
SentinelOne製品は、AIシステムとそのデータを保護する最良のツールの一つです。このプラットフォームは、行動分析と機械学習を提供し、あらゆる種類の脅威から組織を保護できる多層セキュリティを構築します。
主な製品と機能
- 行動AI:SentinelOneは機械学習モデルを活用し、AIシステムへの潜在的脅威を含むサイバー攻撃を示唆するあらゆる行動を検知します。
- 自動応答機能：プラットフォームは脅威に自動対応し、AIデータや組織のインフラへのリスクを回避します。
- クラウドワークロード保護:この機能は、クラウド環境にある AI システムとデータの保護に役立ちます。
結論
AIは私たちの生活の一部となり、今後も成長を続けるでしょう。したがって、AIとAIに使用されるデータをサイバー脅威から保護することは非常に重要です。これは、顧客と組織の安全を念頭に置きながら行われるべきです。これにより、AIが脅威に晒されることも、消費者の生活を脅かすこともないことが保証されます。
組織は日常業務の効率化のためにAIを活用しています。組織が使用中または開発済みのAIモデルのセキュリティについて理解することは重要です。組織が自社で使用するAIに影響を及ぼす脅威を理解すれば、これを実現できます。本ブログは、組織がAIモデルのセキュリティを確保し、AIデータを保護する様々な方法を見つけるのに役立ちます。AIデータセキュリティを適用する際にはベストプラクティスを実施すべきであり、組織はより優れたセキュリティのためにSentinelOneを活用できます。
SentinelOneは、AIデータセキュリティに対する潜在的な脅威を特定するために行動分析を活用するインテリジェントプラットフォームです。自動応答、クラウドワークロード保護、データ保護機能など多様な機能を提供し、組織のビジネスセキュリティ強化を支援します。SentinelOneが組織のセキュリティを強化する方法の詳細については、本日デモをリクエストください。
FAQs
AIはリアルタイムの脅威検知や膨大なデータの分析を支援します。攻撃への対応を自動化することで、リソースへの被害を最小限に抑えることができます。また、セキュリティ侵害につながる可能性のある不審な行動の検知にも役立ちます。
AIはサイバーセキュリティに非常に有効です。急速に進化するサイバー脅威をタイムリーに特定し対応する作業において、AIは人間よりも高速に動作します。AIシステムは迅速に学習し、新たな脅威と共に進化できます。
人工知能（AI）は、セキュリティ目的でモノのインターネット（IoT）エコシステムにも活用できます。AIはIoTデバイスの異常な動作を追跡し、セキュリティチームが脅威検知のためのネットワークトラフィックを分析するのを支援します。また、セキュリティ脆弱性を分類することでサイバーセキュリティリスクの解決に貢献します。
