サイバーセキュリティにおける難読化とは？
午前3時のアラートを調査する際、あなたは難読化に直面しています。これは、従来のセキュリティ制御を回避する防御回避技術です。ペイロードはパックされ、ポリモーフィックで、メモリ上でのみ実行され、ディスクベースの識別からは見えません。中国のAPTアクターは暗号化されたSSHチャネルを利用して2025年までネットワーク機器を侵害し、親ロシア派のハクティビストグループは正規のVNC接続を悪用したキャンペーンを展開しました。
NISTによると、難読化されたデータは「情報を隠すために暗号化やその他の手段で歪められている」と定義されています。MITRE ATT&CKフレームワークでは、難読化は防御回避タクティックTA0005に位置付けられており、攻撃者が攻撃ライフサイクル全体で識別を回避し、セキュリティ制御を突破するために用いる技術です。
攻撃者は、ポリモーフィックマルウェアを用いて初期侵害を難読化し、可変の暗号鍵を使うことで、各インスタンスがシグネチャベースのスキャナーに異なるものとして認識されるようにします。彼らはPowerShellやWMIなどの正規ツールを悪用してラテラルムーブメントを隠します。政府の勧告では、これらは「Living off the Land」手法として文書化されており、シグネチャ識別を回避します。さらに、ファイルレスマルウェアを用いて、リフレクティブコードローディングやプロセスインジェクションによりメモリ上でのみ実行し、永続性を維持します。ディスクベースのスキャナーでは、ディスク上にファイルが存在しないため悪意のあるコードを検出できません。
具体的な技術を検証する前に、よくある混乱点を明確にしておくと役立ちます。
.jpg)
難読化と暗号化の違い
難読化と暗号化はいずれも情報を隠しますが、目的やセキュリティ保証が異なります。暗号化は、特定の鍵がなければ復号できない暗号アルゴリズムを用いてデータを変換します。鍵がなければ、暗号化されたデータを復元することは数学的に不可能です。難読化は、コードやデータを理解しにくく変換しますが、機能的にはそのまま実行可能であり、鍵は不要です。
暗号化されたファイルは、復号鍵がなければ攻撃者にとって無意味です。難読化されたコードは、変換後も通常通り動作します。攻撃者は、ペイロードを実行時まで静的解析から隠すために暗号化を使用します。また、難読化はコード実行後もリバースエンジニアリングを困難にします。ポリモーフィックマルウェアは両者を組み合わせ、可変鍵でペイロードを暗号化しつつ、復号ルーチン自体も難読化します。この違いを理解することで、環境内の難読化コードが必ずしも悪意あるものではない理由や、実行時に復号される暗号化ペイロードが即時の挙動監視を要する理由が分かります。
ここで重要な疑問が生じます。難読化が正当な目的にも使われる場合、どのようにして善悪を区別すればよいのでしょうか？
難読化の正当な用途
難読化は本質的に悪意あるものではありません。ソフトウェアベンダーは知的財産の保護、ライセンス管理、改ざん防止のために日常的に利用しています。ブラウザで動作するJavaScriptは多くの場合、最小化および難読化されています。モバイルアプリケーションもリバースエンジニアリング対策として難読化を使用します。デジタル著作権管理システムはコンテンツ保護のために難読化に依存しています。ゲームのアンチチートソフトウェアも検出メカニズムを難読化し、チート開発者への対抗策としています。
この正当な利用は防御戦略にとって重要です。すべての難読化コードを単純にブロックまたはフラグ付けすることはできません。なぜなら、組織は正当に難読化されたソフトウェアに依存しているからです。商用アプリケーション、セキュリティツール、さらにはOSの一部にも難読化技術が使われています。検出アプローチは、既知ソフトウェアの正当な難読化と、予期しないコンテキストでの疑わしい難読化を区別する必要があります。挙動分析は、コードの見た目ではなく動作を評価するため、正当な難読化ソフトウェアの動作を妨げず、コード変換に関係なく悪意ある挙動を特定できます。
現代のサイバー脅威における難読化の重要性
難読化は現代の攻撃キャンペーンの中心となっています。なぜなら、多くの組織が投資してきたセキュリティ対策を直接的に無効化するからです。シグネチャベースの検出ツールは何十年も企業セキュリティの主流でしたが、攻撃者はマルウェアが一貫したシグネチャを持たないよう適応してきました。
この変化が重要な理由は三つあります。第一に、難読化は攻撃者の潜伏期間を延長します。セキュリティツールが悪意あるコードを識別できない場合、攻撃者は数週間から数か月間、検知されずに活動できます。第二に、難読化は攻撃のスケーリングを可能にします。ポリモーフィックエンジンは自動的にユニークなマルウェアインスタンスを生成し、攻撃者は共有脅威インテリジェンスを回避するバリアントで数千の組織を標的にできます。第三に、難読化はフォレンジック能力を無効化します。マルウェアがメモリ上でのみ実行されたり、感染ごとに自己書き換えを行う場合、インシデントレスポンスチームは侵害指標や攻撃者の特定に苦労します。
最近のキャンペーンはこの運用現実を示しています。中国のAPTグループは、正規の管理トラフィックに見える暗号化チャネルを通じて2025年までネットワークインフラへの持続的アクセスを維持しました。親ロシア派ハクティビストは正規のリモートアクセスツールを悪用し、セキュリティアラートの発生を回避しました。いずれの場合も、難読化はオプションの強化ではなく、成功する作戦の中核的能力でした。
難読化がなぜ重要かを理解することで、防御の優先順位付けが可能になります。次は、遭遇する具体的な技術を認識することです。
一般的な難読化技術の種類
攻撃者は、特定の防御機能を突破するために設計された複数の難読化手法を用います。
- コードベースの難読化は、マルウェアのソースコードを変換し、パターンマッチングを防ぎます。具体的には、変数や関数名を無意味な文字列に変更、実行されないデッドコードの挿入、制御フローの再構成などがあります。これらの変換は、コードパターン認識に依存する静的解析ツールを無効化します。
- パッキングと圧縮は、マルウェアを保護層でラップし、解析前に除去が必要な状態にします。パッカーは悪意のあるペイロードを圧縮・暗号化し、セキュリティスキャナーには小さなアンパッキングスタブのみを提示します。マルウェアがメモリ上で自己展開するまで、実際の悪意コードは解析できません。
- ポリモーフィック技術は、可変暗号化によりユニークなマルウェアインスタンスを生成します。各コピーは異なる鍵でペイロードを暗号化し、復号ルーチンは比較的安定しています。シグネチャスキャナーは各インスタンスで異なる暗号化データを検出し、パターンベースの検出を妨げます。
- メタモーフィック技術は、マルウェアの実際のコード構造自体を世代ごとに書き換えます。ポリモーフィックマルウェアが暗号化ペイロードのみを変更するのに対し、メタモーフィックコードは同一機能を維持しつつ命令自体を変換します。同一のコードシグネチャを持つインスタンスは存在しません。
- ファイルレス技術は、完全にメモリ上で実行され、ファイルシステムを回避します。これらの攻撃は正規のシステムツールを悪用したり、実行中プロセスへのコードインジェクションやリフレクティブローディングを用いて、ディスクに触れないペイロードを実行します。ファイルベースのスキャナーは悪意ファイルが存在しない攻撃面を検査することになります。
- 環境認識は、マルウェアが解析環境を検出し、挙動を変更できるようにします。マルウェアは仮想マシンのアーティファクト、サンドボックスの指標、デバッグツールを検出し、解析が認識されると無害なコードパスを実行します。
これらの技術カテゴリは、高度な攻撃ではしばしば組み合わされます。各タイプを理解することで、直面する検出課題を認識できます。
難読化の主要コンポーネント
現代の難読化は、コード変換、パッキング、暗号化層、ポリモーフィックエンジン、メタモーフィック書き換えの5つの技術アプローチが主流です。
コード難読化とパッキングは、機能を維持しつつ解析を困難にします。具体的な手法には以下が含まれます：- 機能しない操作を追加するデッドコード挿入
- CPUレジスタの値格納先を変更するレジスタ再割り当て
- 関数呼び出しの順序を変更するサブルーチン再配置
- 機能的に等価な操作に置き換える命令置換
- ジャンプを利用して実行フローを維持しつつコードブロックを並べ替えるコード転置
パッキングはマルウェアを圧縮・暗号化します。静的解析ではアンパッキングスタブのみが見え、実際の悪意コードは実行時に復号されます。
暗号化は静的解析を完全に防ぎます。アナリストは復号鍵とアルゴリズムを特定しない限り悪意コードを解析できません。ポリモーフィックマルウェアは可変暗号鍵で本体を暗号化し、復号ルーチンは比較的安定しています。各インスタンスは異なる暗号鍵によりシグネチャスキャナーには異なるものとして認識されますが、復号後は同一の悪意挙動を実行します。
メタモーフィックコードは、各世代ごとに完全に自己書き換えを行い、同一機能を維持します。メタモーフィックマルウェアの研究によれば、メタモーフィックコードは暗号化や復号ルーチンに依存せず、実際の命令自体を根本的に再構成します。これがポリモーフィックバリアントとの主な違いです。メタモーフィックエンジンは、同一の悪意操作を持ちながら共通のコードシグネチャを持たないインスタンスを生成します。
アンチ解析技術は、 MITRE ATT&CK T1622で文書化されている手法によりデバッグ環境を検出・回避します。マルウェアはProcess Environment BlockのBeingDebuggedフラグを参照したり、命令間の実行時間を測定します。デバッガのステッピングは測定可能な遅延を生じさせ、代替コードパスをトリガーします。Thread Local Storageコールバックは、デバッガがエントリポイントに到達する前に実行され、ブレークポイント設定前にアンチデバッグチェックを行います。
これらのコンポーネントは単独で動作するわけではありません。現代の攻撃は複数の技術を連鎖させ、検出課題を複雑化させます。
難読化の仕組み
ポリモーフィック変換は、サブルーチンの順序変更、レジスタ再割り当て、デッドコード挿入、命令置換を用います。これらの技術はコードの順序を変更し、CPUレジスタを変え、非機能的なシーケンスを挿入し、機能的に等価な命令に置き換えます。
アンチデバッグ機構は、コードセクションの実行時チェックサムを計算します。ソフトウェアブレークポイントはINT3命令を挿入し、実際のバイトを変更するためチェックサムが失敗し、アンチデバッグ応答をトリガーします。ハードウェアブレークポイントの識別は、デバッグレジスタを照会してアクティブなデバッグを検出します。
MITRE ATT&CK T1055によると、プロセスインジェクションは、別のライブプロセスのアドレス空間で任意のコードを実行します。マルウェアはsvchost.exeのようなシステムプロセスを特定し、そのプロセスのメモリ空間に悪意コードを注入し、信頼されたプロセスコンテキスト内で実行します。
現代のマルウェアは複数の難読化技術を同時に組み合わせます。 MITRE ATT&CK T1027によれば、パッキングは実行なしにシグネチャスキャナーが悪意コードを検査することを防ぎます。実行時復号により、ディスク上のコードとメモリ上で実行されるコードが異なります。 MITRE ATT&CK T1620で文書化されているリフレクティブコードローディングは、ファイルベースのスキャンを完全に回避し、コードを直接メモリにロードすることを可能にします。
これらの技術的メカニズムは、攻撃者の運用ウィンドウを拡張する具体的な利点をもたらします。
攻撃者が難読化を利用する理由
難読化は、攻撃者に従来のセキュリティ制御を突破する利点を与えます。
- シグネチャ回避は、各インスタンスでマルウェアの外観を変えることでパターンマッチングを無効化します。MITRE ATT&CKフレームワークによれば、パックされたマルウェアは静的解析にアンパッキングスタブのみを提示し、実際にメモリ上で実行される悪意ペイロードは見えません。
- 潜伏期間の延長は、識別回避技術によるものです。文書化されたAPTキャンペーンでは、攻撃者はセキュリティ研究者と標的被害者を区別するフィルタリングを用いました。
- サンドボックス回避は、解析システムを特定するために環境識別を利用します。マルウェアはVM固有のドライバ、レジストリキー、ハードウェア識別子、サンドボックス固有の設定を指紋認証します。長時間のスリープにより、実行を数時間から数日に遅延させ、一般的なサンドボックス解析ウィンドウを超えます。
- フォレンジック解析妨害は、インシデントレスポンスを大幅に困難にします。メタモーフィックマルウェアは世代ごとに完全なコード書き換えを行うため、サンプル間で共通のシグネチャを特定できません。MITRE ATT&CK T1620で文書化されているメモリ上のみの実行は、悪意コードがディスクに書き込まれないため、フォレンジックツールが証拠を見つけることができるアーティファクトがほとんど残りません。
- ツール乱立の悪用は、組織のセキュリティの複雑さを逆手に取ります。 CISAのSILENTSHIELDレッドチーム評価によれば、難読化ベースの攻撃を可能にする最大の失敗は不十分なログ収集であり、完全なログ収集がなければセキュリティツール間での相関ができません。
これらの攻撃者の利点にもかかわらず、防御側が無力なわけではありません。従来のアプローチがなぜ失敗するのかを理解することで、効果的な検出への道筋が見えてきます。
サイバーセキュリティにおける難読化検出の課題
従来のセキュリティアプローチは、いくつかの理由で難読化に対処できません。
- シグネチャベースの識別が機能しない。シグネチャベースの識別は、難読化技術によって意図的に変更される既知のパターンに依存しています。 MITRE ATT&CK T1497によれば、マルウェアはVM固有のドライバ、レジストリキー、ハードウェア識別子、プロセス名などの仮想マシンアーティファクトを特定します。研究では、マルウェアがサンドボックス固有の設定を認識し、これらの特徴が検出されると無害なコードパスを実行することが文書化されています。
- ファイルレスマルウェアはディスクベースのスキャンを回避する。実行時のメモリ検査を導入し、プロセスメモリ空間内のインジェクトコード、シェルコード、悪意ペイロードを検査する必要があります。挙動分析により、ネットワークパターン、APIシーケンス、プロセス挙動を通じて揮発性メモリ上でのみ実行される脅威を検出する必要があります。
- 挙動ベースラインには完全なログが必要です。CISAのSILENTSHIELDレッドチーム評価によれば、不十分な ログインフラストラクチャは、挙動ベースラインの確立や難読化攻撃を示す逸脱の発見を妨げます。
- AIベースの識別は敵対的攻撃に直面する。 NISTによれば、攻撃者は体系的なプロービング、データポイズニング、敵対的サンプルを用いてAIベースの識別を回避します。敵対的耐性テストを実施し、AIシステム自体が保護対象となることを認識する必要があります。
これらの技術的課題に加え、運用上の失敗が問題をさらに悪化させます。
サイバーセキュリティにおける難読化防御の一般的なミス
難読化ベースの攻撃を許してしまう重大なミスは以下の通りです：
- 不十分なログインフラストラクチャを導入し、よく文書化された防御回避技術すら発見できない
- シグネチャベースの識別に過度に依存し、挙動ベースの手法がシグネチャ手法を上回るという研究結果を無視する
- ネットワーク機器、VPNアクセスポイント、管理者アカウントにデフォルト認証情報の脆弱性を残す
- 難読化マルウェアが正規ツールを悪用した際に異常を特定できる挙動ベースラインを確立しない
- 初期アクセス後に難読化ペイロードでラテラルムーブメントを許すネットワークセグメンテーションの失敗
- 解析時間が5分未満の不十分なサンドボックス解析設定を行い、マルウェアが解析ウィンドウを超えて実行を遅延させるタイミングベースの回避を許す
これらのミスを認識することが第一歩です。次は、難読化技術に特化した防御策を実装することです。
難読化への防御
難読化への防御には、シグネチャベースから挙動優先アプローチへの移行が必要です。
- 完全なログインフラストラクチャを優先。見えないものは発見できません。ネットワークシステムログ、コマンドライン引数の取得、親子プロセス関係の追跡、 ラテラルムーブメント指標を環境全体で展開してください。
- 挙動ベースラインの確立。通常のトラフィックパターン、ネットワークパフォーマンス、ホストアプリケーション活動、ユーザー挙動を文書化します。既知のシグネチャとの一致ではなく、これらのベースラインからの逸脱で脅威を発見します。
- メモリフォレンジック機能の導入。ディスクベースのスキャナーはファイルレス脅威を見逃します。プロセスメモリ空間内のインジェクトコード、シェルコード、揮発性メモリ上でのみ実行される悪意ペイロードを検査するツールを導入してください。
- サンドボックス解析時間の延長。サンドボックス環境を30分以上稼働させ、現実的な環境シミュレーションを行います。5分未満の短い解析ウィンドウは、 MITRE ATT&CK T1497で文書化されているタイミングベースの回避を許します。
- デフォルト認証情報の排除。ネットワーク機器、VPNアクセスポイント、Webアプリケーション、データベースのすべてのデフォルト認証情報を削除してください。これらの認証情報は、難読化によって維持される初期アクセスを提供します。
これらの基本的な実践は現在の脅威に対応しますが、難読化技術は静的ではありません。攻撃者は防御の進化に合わせて手法を継続的に洗練させています。
難読化の将来動向
難読化技術は、防御の進化に合わせて継続的に進化しています。新たなトレンドを理解することで、今後直面する脅威への備えが可能になります。
- AI活用の難読化は、回避技術の次の進化です。攻撃者は機械学習を用いて、AIベースの検出システムの弱点を狙ったポリモーフィックコードバリアントを生成し始めています。NISTによる敵対的機械学習の分析によれば、これらの技術はセキュリティモデルの検出死角をプロービングし、そのギャップを突くマルウェアバリアントを生成します。防御側は、静的なAIモデルを超え、攻撃パターンの変化に適応する継続的学習システムへの進化が求められます。
- Living-off-the-Landの進化は、PowerShellやWMIなどの従来ツールを超えて拡大しています。攻撃者は、クラウドネイティブサービス、コンテナオーケストレーションツール、正規の管理フレームワークなど、組織が通常業務で依存するサービスを悪用するケースが増えています。悪意ある利用と正規利用の区別には、シグネチャ手法では提供できない深い挙動コンテキストが必要です。
- クラウド環境におけるファイルレス技術は、ワークロードが従来のエンドポイントから移行する中で独自の課題をもたらします。サーバーレス関数、エフェメラルコンテナ、マネージドサービスは、従来のメモリフォレンジック手法が適用できない実行コンテキストを生み出します。検出能力は、エンドポイント中心のアプローチを超えて、これらの新たな攻撃面をカバーする必要があります。
- 暗号化ベースの難読化は、計算能力の向上とともに進化し続けます。現在のポリモーフィック技術は比較的単純な暗号化に依存していますが、将来のバリアントは解析に多大な計算リソースを要する高度な暗号技術を用いる可能性があります。これにより、ペイロードの暗号強度に関係なく悪意活動を特定する挙動検出の重要性がさらに高まります。
これらのトレンドは、シグネチャベースの検出が今後ますます効果を失うという根本的な現実を強調しています。組織には、挙動分析とクロス環境相関を基盤としたプラットフォームが必要です。
SentinelOneで難読化された脅威を阻止
ポリモーフィックマルウェアがインスタンスごとにシグネチャを変え、ファイルレス攻撃がメモリ上でのみ実行される場合、シグネチャベースのツールでは存在しないパターンを検出できません。難読化への防御には、見た目ではなく挙動で脅威を特定する挙動検出が必要です。
SentinelOneの Storylineテクノロジーは、プロセス生成、メモリアロケーション、ネットワーク接続を因果的な攻撃ストーリーとして連鎖させ、挙動チェーンを追跡します。APTグループがパッキングやコード変換を用いても、Storylineは難読化に関係なく攻撃シーケンスをミリ秒単位で再構築します。 MITRE ATT&CK評価では、この挙動アプローチにより、全参加ベンダーの中央値と比較してアラート数を88%削減しつつ、100%の検出率とゼロ遅延を実現しました。
Singularity Cloud Securityは、CISAのSILENTSHIELD評価で回避技術の発見に失敗した組織に欠如していた、環境全体での難読化活動の相関を実現します。 Singularity Endpointのメモリ検査は、ディスクに触れないインジェクトシェルコードやリフレクティブローディングマルウェアをプロセスメモリ内でスキャンします。 Purple AIは、共通シグネチャを持たないメタモーフィックマルウェアに直面した際も、挙動パターンを自律的に相関し、調査パスを提案して調査を加速します。 Singularity Identityは、攻撃者が認証情報を盗用して初期アクセスを確立し、難読化ペイロードを展開する前に異常な認証パターンを検出します。
プラットフォームの自律型レスポンスは数秒以内に封じ込めを実行し、攻撃者が遅延実行や環境全体で急速に攻撃を展開する場合にも重要です。
SentinelOneのデモをリクエストし、Singularityプラットフォームがエンドポイント、クラウド、アイデンティティ環境全体で難読化された脅威をどのように阻止するかをご確認ください。
重要なポイント
難読化は、従来のセキュリティアプローチに対する根本的な課題です。ポリモーフィックマルウェア、メタモーフィックコード、ファイルレス攻撃は、インスタンスごとに外観を変え、悪意ファイルがディスクに存在しないことでシグネチャベースのツールを無効化します。中国のAPTグループや親ロシア派ハクティビストは、2025年を通じてこれらの技術を活用し、暗号化チャネルや正規ツールを用いて識別を回避しました。防御側は、パターンマッチングから挙動分析へとシフトし、見た目ではなく挙動で脅威を特定する必要があります。
効果的な保護には、三つの機能が連携することが求められます。すなわち、コード変換に関係なくプロセス実行を追跡する挙動AI、ディスクに保存されたものではなく実際に動作しているものを調査するメモリフォレンジック、エンドポイント・クラウド・アイデンティティを横断して活動を相関するクロス環境相関です。難読化された脅威に対して効果的に防御している組織は、完全なログインフラストラクチャ、確立された挙動ベースライン、数秒以内に封じ込めを実行する自律型レスポンスという運用現実を共有しています。これらの基盤的能力がなければ、難読化は攻撃者に目標達成のための時間的優位を与えてしまいます。
よくある質問
サイバーセキュリティにおける難読化とは、攻撃者が悪意のあるコードをセキュリティツールから隠すために使用する技術を指します。これらの手法には、ペイロードの暗号化、コード構造の書き換え、メモリ上のみでのマルウェア実行などが含まれます。
目的は、既知のパターン認識に依存するシグネチャベースのスキャナーを回避することです。NISTは難読化されたデータを「情報を隠すために暗号的またはその他の手段で歪められた情報」と定義しています。
難読化は、セキュリティ運用が直面する主要な課題の一つです。これは、何十年にもわたりサイバーセキュリティを支配してきたシグネチャベースの制御を無効化するためです。攻撃者がペイロードを暗号化し、コード構造を書き換え、メモリ上のみで実行する場合、従来のパターンマッチング手法は機能しません。
このため、防御側は振る舞い分析、メモリフォレンジック、および完全なログ取得に取り組む必要があります。効果的なセキュリティには、見た目ではなく、脅威の行動から検出することが求められます。
防御側の観点から見ると、ポリモーフィックマルウェアはペイロードが変化しても復号ルーチンを特定できる場合があります。メタモーフィックマルウェアにはそのような手がかりがありません。すべてのインスタンスが構造的に一意であり、振る舞いによる識別が必要です。
実際には、ポリモーフィックな脅威は復号スタブを対象としたYARAルールのような高度なシグネチャ技術で検出できますが、メタモーフィックな脅威にはメモリフォレンジックや振る舞い分析が求められます。
メモリ上のみでの実行は決定的な優位性を持ちます。アンチウイルスはファイルをスキャンしますが、ファイルレス攻撃はファイルを作成しません。これらの手法は、PowerShellやWMIなどの正規のシステムツールを利用し、正規プロセスへのインジェクションやリフレクティブコードローディングによってメモリ上で直接実行します。
検出には、プロセスメモリ空間の調査のためのメモリフォレンジック、異常なプロセス実行を見つけるための振る舞い分析、コマンドライン引数を追跡するための完全なログ記録が必要です。
高度なマルウェアは、VM固有のドライバー、レジストリキー、ハードウェア識別子、プロセス名などの仮想マシンアーティファクトを通じてサンドボックス環境を識別します。識別に成功すると、マルウェアは無害なコードパスを実行したり、サンドボックス分析の典型的な時間枠を超えて実行を遅延させたりします。
効果的なサンドボックス運用には、30分以上の監視時間の延長、現実的な環境シミュレーションの実装、複数環境でのテストが必要です。
完全なネットワークシステムログの収集、保存、および処理が必要であり、SOCに対してコマンドライン引数、親子プロセス関係、ラテラルムーブメントの指標、孤立したプロセス、ネイティブツールの使用状況の可視性を提供します。
この基盤となるログインフラストラクチャがなければ、行動のベースラインを確立したり、難読化された攻撃を示す逸脱を発見したりすることはできません。CISAのレッドチーム評価では、不十分なロギングが回避の成功を可能にした主な失敗要因であることが判明しました。
はい。NISTによる敵対的機械学習の分析によれば、攻撃者はMLモデルの盲点を体系的に調査し、トレーニングデータを汚染してモデル性能を低下させ、モデルの弱点を突いた敵対的サンプルを作成します。
組織は敵対的ロバストネステストを実施し、AIシステム自体が保護と継続的な検証を必要とする標的となることを認識しなければなりません。
