コメントセキュリティ、監視、侵入検知システムなどでAIや機械学習が活用されているという話を聞くことが増えています。しかし、AIが悪用されるとどうなるのでしょうか？
最近の別々の研究から、人工知能の発展とそれがセキュリティに及ぼす潜在的な影響に対する懸念という 2 つの興味深いテーマが浮かび上がりました。
先月末に発表された5,000人のITプロフェッショナルを対象とした調査では、技術者が今後5年間に直面すると考える3つの主要な脅威が明らかになりました。それは、ソーシャルエンジニアリングを通じた悪意のあるAI攻撃、コンピューター操作によるメディアコンテンツ、そしてデータポイズニングです。調査対象となったプロフェッショナルの10人中わずか4人だけが、自社が人工知能システムのセキュリティを正確に評価する方法を理解していると考えていました。
これは、情報システム監査および管理協会 (ISACA) の第 2 回年次デジタル トランスフォーメーション バロメーターによるもので、同調査では、AI と機械学習が来年導入される可能性が高い上位 3 つのテクノロジーの中に挙げられています。
これらは、抵抗に直面する可能性が高い上位 5 つのテクノロジーにも挙げられています。
興味深いことに、ISACA は、デジタルに精通したビジネス リーダーと技術に詳しくないビジネス リーダーの間で AI リスクに対する認識が異なることを強調しました。
「AIに関しては、デジタルリテラシーの高いリーダーがいることは、リスク認識の低さと相関関係があり、これはテクノロジー導入の根拠を示す上で重要な要素となり得る」とISACAは指摘している。「リーダーが技術的専門知識を持たない企業の33%がAIを高リスクと認識しているのに対し、デジタルリテラシーの高いリーダーがいる企業では、AIを高リスクと認識しているのはわずか25%だ。デジタルリテラシーの高いリーダーが率いる組織は、そうでない組織と比べてAI導入率がほぼ2倍（33%対18%）だった。」
新興技術に関しては、導入の可否の判断は、その馴染みやすさに大きく左右されることが判明しました。AIを例に挙げると、AIをテストしている企業の76%がリスクに見合う価値があると回答し、リスクに見合わないと回答したのはわずか9%でした。AIをテストしていない企業では、リスクに見合う価値があるという確信が3分の1減少し、リスクに見合わないと回答した回答者の割合は2倍以上に増加しました。
機械の台頭
ISACA のメンバーが AI のセキュリティリスクを懸念するのは当然でしょうか、それとも技術を理解するだけで恐怖は軽減されるのでしょうか?
中国国家自然科学基金の支援を受けて今年初めに発表された「サイバーセキュリティの新境地」と題する論文も、前者の声明に賛同している。
AIはアンチウイルスソフトでは検出できないマルウェアを素早く作成する
続きを読む
機械学習は、スパムメール、メッセージ、動画など、様々な種類のデータから情報をマイニングし、学習することで、セキュリティを変革し、自律的な検知システムや防御システムを進化させることができると主張しました。継続的な自己学習は、AI搭載システムの安定性、精度、効率性、拡張性など、パフォーマンスの向上に寄与し続けるでしょう。しかし、これは逆の方向にも作用します。
「AIはハッカーの能力の限界を押し広げている」と論文は指摘している。「AIを搭載した自律型ハッキングマシンは機密情報を作成し、コンピュータシステムの脆弱性を見つけることができるため、ハッカーとの戦いははるかに困難になっている。さらに悪いことに、AIは一見無関係に見える膨大なデータから、個人の嗜好といった機密情報を学習することができるのだ。」
これらの事実から、AIを武器とするハッカーは、より洗練され、よりステルス性の高い自動攻撃を仕掛けてくるだろうと我々は考えています。そのためには、効果的な検出と軽減の技術が求められるでしょう。」
AIを知り、恐れないことは重要です。しかし、AIが敵の手にある道具であることを理解することも重要です。幸いなことに、今のところ、犯罪者は高度な機械学習型サイバー兵器の訓練や開発よりも、フィッシングや既知の脆弱性の自動攻撃といった比較的単純な攻撃を好んでいます。®
10 月 15 日から 17 日までロンドンで開催される Minds Mastering Machines で、機械学習、人工知能、データ分析、そしてそれらがあなたにとってどのような意味を持つのかを検討します。詳細なプログラムとチケット情報については、Web サイトをご覧ください。
