Microsoft の Security Copilot はある程度の権限を獲得し、基盤となる AI モデルが同社のセキュリティ ソフトウェアとより広範囲にやり取りしてさまざまなタスクを自動化できるようになります。
Security Copilot は、Microsoft Defender XDR でのセキュリティ インシデントの自動トリアージを約束して 2023 年に登場しました。
3 月 20 日に Microsoft のサンフランシスコ オフィスで開催された記者会見で、Microsoft のセキュリティ、コンプライアンス、アイデンティティ、管理担当コーポレート バイスプレジデントである Vasu Jakkal 氏は、Security Copilot の拡張フライト プランを明らかにしました。Security Copilot は現在、Defender、Purview、Entra、Intune などの製品と対話する 11 個のタスク固有の AI エージェントによって支援されています。
「私たちはエージェントAIの時代に生きています」とジャッカル氏は述べた。「どこへ行っても、エージェント、エージェント、エージェントという言葉を耳にするでしょう。これらのエージェントとは何でしょうか？つまり、エージェントは私たちの周りにたくさんいるということです。」
ジャッカル氏はさらに、同僚との会話の中で「エージェントとは何ですか？」という質問が出されたと指摘し、彼女の返答は「それは素晴らしい質問です」であったが、それには答えずに話を続けた。
これにより、イベントのパターンが確立されました。つまり、「エージェントが展開されたときにどのような点で失敗したか?」や「コンピューティング リソースでこれを実行するとコストはいくらか?」などの質問は、回答されない傾向がありました。
しかし、ジャッカル氏は、導入された 11 個の Security Copilot エージェントのうち 5 個は Microsoft Security パートナーから提供されたものであると述べました。
Microsoft 製のエージェントには次のものがあります:
- フィッシング レポートを分類するための、Microsoft Defender のフィッシング トリアージ エージェント。
- Microsoft Purview のアラート トリアージ エージェントは、データ損失防止とインサイダー リスク アラートをトリアージします。
- Microsoft Entra の条件付きアクセス最適化エージェントは、ID とポリシーの問題を監視および防止します。
- 脆弱性の修復を優先順位付けするための、Microsoft Intune の脆弱性修復エージェント。
- 脅威インテリジェンスをキュレートするための、Security Copilot の脅威インテリジェンス ブリーフィング エージェント。
Microsoft セキュリティ パートナーもエージェント プールに貢献しています。
- プライバシー侵害対応エージェント (OneTrust) は、データ侵害をレポート ガイダンスにまとめます。
- ネットワーク スーパーバイザー エージェント (Aviatrix) は、ネットワークの問題の根本原因分析を実行します。
- セキュリティ オペレーション センターの制御を評価するための SecOps Tooling Agent (BlueVoyant)。
- Alert Triage Agent (Tanium) は、セキュリティ アナリストがアラートの優先順位を付けるのに役立ちます。
- 脅威アラートを予測し、優先順位を付けるタスク オプティマイザー エージェント (Fletch)。
11 番目のエージェントは、データ セキュリティ チームがデータ漏洩リスクに対処できるように設計された AI ベースのサービスである Microsoft Purview Data Security Investigations (DSI) に存在します。
本質的に、これらのエージェントは生成 AI の自然言語機能を使用して、フィッシング警告や脅威アラートなどの大量のデータの要約を自動化し、人間の意思決定者が最も緊急であると見なされるシグナルに集中できるようにします。
これは、セキュリティ環境が人間の対応能力を超える速さで変化しており、非決定論的なマクロ、より現代的な専門用語で言えば AI エージェントに頼る必要があるという Jakkal の主張と一致しています。
「ウェブ環境を見れば、スピード、規模、そして巧妙さが劇的に増大していることがわかります」と彼女は述べた。「昨年は1秒あたり4,000件の攻撃でしたが、今は7,000件にまで増加しています。これは1日あたり6億件の攻撃に相当します。」
ジャッカル氏は、Security Copilot の初期バージョンはすでに組織が高速の脅威に対処するのに役立っていると述べた。
「このツールを導入したセキュリティチームでは、平均対応時間が30%短縮されました」と彼女は述べたが、その改善にかかるコストについては詳しくは触れなかった。「これは、セキュリティインシデントへの対応にかかる時間を意味します。セキュリティ対策を真剣に求めていたものの、どのように始めれば良いか分からなかった若手人材は、対応時間が26%短縮され、精度が35%向上しました。経験豊富な専門家でさえ、対応時間が22%短縮され、精度が7%向上しました。」
AI エージェントが失敗する可能性に興味をそそられ、The Register は、Microsoft の AI 安全性およびセキュリティ レッド チーム担当ディレクターの Tori Westerhoff 氏に、これらのエージェントの開発中にチームが学んだことについて話を聞きました。
- マイクロソフトはコパイロットのバンドルと同意の欠如に関する政治的な質問を避けている
- Cloudflareは、AIスクレイパーボットをジャンクコンテンツの恐ろしい迷路に導くAIを構築しました。
- 訴訟によると、AppleはSiriの将来のAI機能を幻覚的に描いていたという。
- ChatGPTが父親を児童殺害で誤って告発した後、プライバシー擁護団体がGDPRを猛烈に推進
ウェスターホフ氏は、マイクロソフトの AI セキュリティに対する全体的なアプローチに自信を示し、このテーマに関する昨年のブログ記事を引用し、AI モデルにはすでにガードレールが備わっており、彼女のチームはクロスプロンプトインジェクションを制限するために多くの作業を行ってきたと述べた。
「私たちは、クロスプロンプトインジェクションがどのように機能するかを認識した上で開発を行うよう、製品開発者にこれを推奨してきました」と彼女は語った。
Security Copilot エージェントの開発中に発生した障害の誤検出率や関連指標の例を挙げるよう求められたウェスターホフ氏は、「特定の製品運用に関しては、それらについて詳しく話すことはできません」と答えたが、マイクロソフトのレッドチームが AI の幻覚やエージェントシステムの強化について、発売前に製品開発者と協力していることは認めた。
彼女はさらにこう説明した。「『ねえ、これって何が問題になるの？』と疑問に思うでしょう。私のチームの素晴らしいところは、そういった問題に取り組み、発売前、つまり実際に顧客に届く前に、ハイリスクなGenAIの弱点を見つけ出そうとすることだと思います。」
だから、心配することは何もありません。
Security Copilot のプロダクト アーキテクト Nick Goodman が、Defender のフィッシング トリアージ エージェントがどのように機能するかを紹介しました。
Microsoft Defender フィッシング トリアージ エージェント – クリックして拡大
「誰もがフィッシング対策ツールを持っています」と彼は説明した。「フィッシング対策ツールがあっても、従業員にはフィッシングを報告するよう訓練しています。そして彼らは実際に報告しています。膨大な数の報告です。そのうち95%は誤検知です。1件あたり約30分かかります。そのため、アナリストは誤検知のトリアージにほとんどの時間を費やしています。このエージェントはまさにその点を支援してくれるのです。」
同時に、顧客はエージェントの対応に協力しなければなりません。グッドマン氏は、迅速な対応を促すような表現などの特徴に基づき、全社宛てのメール1通が真の陽性（真のフィッシングメール）としてフラグ付けされる様子を示しました。
グッドマン氏によると、このメッセージは見た目やスパムのような言葉遣いにもかかわらず、実際には人事部からの正当な連絡だったという。「担当者は私の状況がわからないので、それを知ることはできません」と彼は言った。「ですから、担当者は私に確認するようフラグを立てるのです」
グッドマン氏は、メッセージの分類をフィッシングの疑いから正当なものに変更しました。これにより、エージェントは次回の対応をより適切に行うようになりました。「これは学習です」と彼は言います。「この学習は今後このエージェントに適用されますが、私だけに適用されます。マイクロソフトや他の顧客と共有されることはありません。基礎的なモデルのトレーニングは行われていません。これは私のコンテキストです。システムのトレーニングを開始するために必要なのは、文字通りこれだけです。人間のアナリストをトレーニングするのとほぼ同じ方法です。」
しかし、給与、福利厚生、デスクの占有は伴わない。マイクロソフトがこのシステムによってどの程度の人件費削減を見込んでいるかとの質問に対し、グッドマン氏はこう答えた。「共有できるような調査結果はございません。当社が発表する調査の基準は非常に高いものとなっております。」
グッドマン氏は、顧客はすでにこの種のフィッシングトリアージに Security Copilot を使用していると述べた。
マイクロソフトは、初期状態とトレーニング後の誤検知率を比較して把握しているかと尋ねられたグッドマン氏は、「入力時の誤検知率は、（報告内容に基づく）人間の行動によって決まります。トリアージされた割合など、出力率については、公表できる数字がありません。現在、顧客と評価を行っている段階です」と答えた。
OneTrust の SVP 兼プライバシーおよびデータ ガバナンス担当ゼネラル マネージャーである Ojas Rege 氏は、同社の Privacy Breach Response Agent が企業のプライバシー担当者がデータ侵害報告に対処するのにどのように役立つかを披露しました。
「データ漏洩が発生した場合、その影響範囲の分析において、遵守すべきプライバシーに関する一連の義務が存在します」と彼は説明した。「問題は、こうした漏洩通知に関する規制が州や国によって異なり、非常に複雑で断片化していることです。また、通知期限が72時間という非常に短い場合もあります。」
ここで、生成AIモデルの要約機能が役立ちます。OneTrustのエージェントは、OneTrustの規制調査データベースのデータを分析し、プライバシー担当者またはコンプライアンス担当者が対応すべき推奨事項の優先順位リストを作成します。
「エージェントが規制当局に通知するわけではありません」とレジェ氏は述べた。「エージェントは裏方の仕事をすべてこなしますが、実際に通知を行うのは人間です。」
幻覚の可能性について尋ねられたレゲ氏は、幻覚の可能性は非常に低く、特定の規制にリンクする監査ログもあるため、エージェントの推奨事項を確認できると答えました。
Microsoftのエージェントがお手伝いいたします。エージェントの対応状況をご確認ください。®
