本部ブログ： Protecting AI as a pen tester: The nuances of AI red teaming

AIは、ITのワークフローや従来の活動を絶えず変革しています。そのうちの大きな変化は、従来のペンテストに基づく新しい手法である、AIレッドチーミングの登場です。これは、予期せぬAIサイバーセキュリティの問題を特定し、モデル化し、修正することを目的としています。

シャドーITがペンテストによって対処される既知の課題であるように、シャドーAIも今や対処が必要となっています。シャドーAIの対策には、AIソリューションで使用される機械学習モデルやデータセットの安全性をテストするというプラクティスが必要です。こうしたプラクティスは、2つの主要領域に重点を置きます：AI実装における脆弱性の特定と、潜在的な攻撃方法のモデル化です。

脆弱性の観点から、AIレッドチーミングは以下の領域に焦点を当てます

●　インシデント対応：緊急の問題に対処し、時間の経過とともに蓄積される動きの遅い慢性的な問題を管理する
●　データ漏洩：AIのクリエ中に漏洩する情報量を評価する
●　データセキュリティの実践：データが認証され、暗号化され、セキュアに保存されていることを確認し、誤った設定に対処する

持続可能なモデルの作成が重要

サイバーセキュリティにおけるAIの最も有望な応用は、脅威モデリングです。AIはこの分野を民主化しようとしています。数十年にわたって、私たちは正確な脅威と攻撃モデルを構築してきましたが、そのプロセスのほとんどが手作業で、時間とコストもかかっていました。AIが適切に機能すれば、脅威モデリングの効率とアクセシビリティを大幅に向上させることができます。

ペンテスターとしてモデリングプロセスをスピードアップする方法

ベストプラクティスに従ってください。AIレッドチーミングには、従来のペンテストと同じ手順が多く含まれています。手順は組織や業界セクターにより異なることもありますが、AIレッドチーミングには一般的に以下が含まれます。

●　エンゲージメント管理：利害関係者を特定し、スコープを定義し、利害関係者とのコミュニケーション方法を確立し、適切なフレームワーク（例えば、データ開示の問題についてはSTRIDE、特定の脆弱性についてはDREAD）を選ぶ。サポート技術における特定の脆弱性点に注目しているのであれば、OWASP Top 10にあるリスクを見つけるようなアプローチを採用することをお勧めします。

●　テストの実施：特定のクリエを攻撃と識別して、AIシステムがどう対応するかに関するリアルタイムデータを取得します。このフェーズは、分析のための豊富なデータを生み出します。

●　結果分析：結果を分析し、特定された問題に基づき緩和戦略を実行します。強力なデータ分析のバックグラウンドがあれば、このステップでの貢献が大きく高まります。

●　レポート作成：正しいレポートの構成要素を盛り込み、調査結果を効果的に伝える方法を生み出します。発見された問題に対処するための推奨事項を提示します。

以上がAIレッドチーミングの概要です。ペンテストのベストプラクティスをさらに深く理解したい方は、新しく更新されたCompTIA PenTest+を確認してください。試験出題範囲から、AIとの適用性やサイバーセキュリティの専門知識をどう高めることができるかを確認してください。※PT0-003試験は、英語版が2024年12月17日より配信スタート。日本語版は2024年2月現在、配信に向け開発中です。

ブログ寄稿者：James Stanger, チーフテクノロジーエバンジェリスト