トレンドマイクロのサイバー犯罪調査ディレクターは、情報セキュリティ技術者はAI攻撃をかわすとともに、その技術を自らのツール群に迎え入れる準備をすべきだと考えている。
ロブ・マッカードル氏は本日ロンドンで開催された同社のクラウドセックカンファレンスで、セキュリティの世界はAIを活用した軍拡競争の瀬戸際に立っていると主張した。
トレンド社の英国人調査副社長、リック・ファーガソン氏とともに壇上で講演したマッカードル氏は、「ディープフェイク・ランサムウェア」が近い将来に起こりうる攻撃ベクトルの一つであると警告した。
マッカードル氏は、ディープフェイク技術を用いて、攻撃者が脅迫目的の動画を作成できる可能性があると説明し、その明らかな使用例としては、ヌードやとんでもない発言を映した動画が挙げられると述べた。攻撃者はその動画をどこかにアップロードし、標的にプライベートリンクを送り、多額の金銭を直ちに支払わなければ動画を広く公開すると脅迫する。
「これは特に政治家やティーンエイジャーに不利に働く」とマッカードル氏は警告する。「政治家は、たとえ偽物だと判明しても、もはや誰もファクトチェックをしないという問題を抱えている」と、アメリカの下院議員ナンシー・ペロシ氏の悪名高い加工動画に言及した。この動画は、ペロシ氏が酔っているか体調不良に見えるよう、スローモーションにされていた。
ティーンエイジャーの場合、攻撃の標的は恐ろしく明白だ。比較的プレッシャーの大きい社会状況に置かれ、未熟さが際立つ若者たちだ。「ティーンエイジャーは非常に批判的だ」とマッカードル氏は指摘する。「まさにそれが、今日のセクストーション詐欺の実態だ…ティーンエイジャーが自殺することもある」
しかし、このテクニックはあなたや私にはあまり効果がないようです。「友達はボブはギネスを飲み過ぎていると言うでしょう。彼の胸はそんな風には見えませんよ。」
遠く離れた山に住む必要はない
個人を狙う現代の詐欺師たちの悲惨さとは別に、マッカードル氏は、AI同士の軍拡競争に陥る可能性についても熱弁をふるった。ファーガソン氏が講演の冒頭で指摘した、機械学習技術の進歩速度について、トレンド社のサイバー犯罪調査ディレクターは、囲碁のテクニックが企業ネットワークへの侵入に利用されるようになる可能性があると指摘した。そして、その際には人間の防御者による同様のエスカレーションが必要になるだろう、と付け加えた。
「AIは2つのメリットをもたらします」と、彼はステージ上での講演後、 The Register紙に語った。「AIは、今日私たちが目にしているような大規模な攻撃に対処するための防御面で重要な役割を果たします。」
1時間あたり数万、数十万ものアラートを処理する。簡単に言えば、人間にはそのようなデータを処理できません。防御側では、「パケットに問題があれば破棄する」ではなく、AIが賢明な判断を下す必要があります。
魔法のブラックボックスを購入すれば、あらゆる厄介な問題がなくなるというわけではありません。人間は依然として状況を把握している必要がありますが、手元にある情報が増えれば、状況は改善されます。近い将来、セキュリティオペレーションセンターの職員は、AIの判断に圧倒される前に「AIの判断を信頼し始めなければならない」でしょう。
「たとえ彼らのためにトリアージを行うとしても」とマッカードル氏は述べた。「こうした多様なシナリオにおいて、アルゴリズムが行動を起こすと信頼せざるを得ない状況が来ています。アルゴリズムはアナリストを支援し、実際に浮上した事態についてより多くの情報を提供するべきです」
ディープフェイクから私たちを救ってくれるのは誰でしょうか？他のAIでしょうか？人間でしょうか？それとも、超知能を持つ多次元の存在でしょうか？
続きを読む
ディープフェイクや、ネットワークへの侵入と身代金要求といったますます巧妙化する試みをコンピューターが人間の能力を超えて凌駕するという考えに落胆する必要はない。しかし、必ずしも悪いニュースばかりではない。マッカードル氏の見解では、ディープフェイク技術は「依然として判別可能」だ。人間（そして、偶然にもマウスも）は、たとえ「偽の声を耳で認識するのが難しくなった」としても、動画が見た目通りではないという微妙な兆候を依然として見抜くことができる。
「情報セキュリティの分野では、悲観的な見方をするのは簡単ですが、これらの技術はどれも、真にプラスの面も持ち合わせています」と、エル・レグ氏が人里離れた山頂でチベットの僧侶として新たな生活を始めることがサイバー犯罪に対する究極の防御策になるかもしれないと考えた後に、マッカードル氏は述べた。「少なくとも私にとっては、悪用されるものよりも、むしろプラスの面の方が重要です。悪用されるものは必ずしも良いニュースにはなりませんが。」®
