Usenix Enigma 2017アメリカの国防高等研究計画局（DARPA）の関係者によると、機械学習システムはオペレーティング システムやアプリで新しい種類のバグを発見しているという。
これらの新しいバグの種類の正確な性質は依然として明らかにされていないが、少なくとも 1 つはデータ キューの悪用可能な脆弱性に関係していると聞いている。
昨年夏、米軍の研究部門は初のサイバー・グランド・チャレンジを開催した。これは、AI搭載ソフトウェアがネットワークセキュリティにどのような変革をもたらすかを競う、賞金付きのコンテストだ。今週開催された政策と行政に焦点を当てたUsenix Enigma 2017カンファレンスで講演した2人の政府関係者によると、この研究の成果はDARPAの他の長期研究よりもはるかに早く現れる可能性があるという。
このサイバーコンテストでは、7つの機械学習プロジェクトが、キャプチャー・ザ・フラッグ方式の恨み節マッチで互いに対戦し、コンピューターはネットワークの脆弱性を見つけて修正し、他のコンピューターを攻撃してデータを盗もうとしました。
「サイバーセキュリティシステムは全く新しい種類の脆弱性を発見しました」と、DARPA情報イノベーションオフィス（I2O）のプログラムマネージャー、ティム・ブーハー中佐は述べた。「機械は待ち行列エリアのチェックに非常に優れていました。計算プロセス全体を迅速にマッピングする能力は印象的でした。」
I2Oのディレクター、ジョン・ローンチベリー氏によると、AIシステムもかなり狡猾だったという。ある参加者が、全参加者が使用するオペレーティングシステムのコードにバグを発見し、その脆弱性を突くエクスプロイトを開発し、それを使って別の参加者を攻撃し、データを盗んだ。3人目の参加者がこれを目撃し、脆弱性を解明して、自らパッチを当てたのだ。
「この作業は全部でたった20分しかかからず、状況は一変しました」と彼は会議で語った。
サイバー改修とプランX
ローンチベリー氏はまた、DARPA が投資しているその他のセキュリティ研究分野についても詳しく説明しました。これには、攻撃に対するシステムの強化、不安定な状況の管理、脅威に対する計画と対応などが含まれます。
各分野に8つのプログラムがあり、彼はいくつかのプログラムの詳細を説明し、特にセキュリティの改修において初期の成果は有望だと述べた。さらに、18ヶ月前にDARPAが軍用ヘリコプターを用いてまさにその取り組みで大きな成功を収めた経緯を詳しく説明した。
ローンチベリー氏によると、このヘリコプターには古いソフトウェアと多数のパッチが当てられており、複数の脆弱性があったという。地上システムから継続的にアップデートされていたため、DARPAチームは作業を開始した。
「私たちはミッションコンピューターを持ち上げ、その下に正式に検証されたマイクロカーネルを設置し、検証済みの通信ソフトウェアをインストールし、その後、元のソフトウェアを再度接続しました」と彼は語った。
Wi-Fi経由で外部に接続するカメラをレッドチームに導入し、システムへの侵入を試みるよう指示しました。侵入テストチームにカメラのLinuxサブシステムへのルートアクセス権限を与えたにもかかわらず、レッドチームは侵入できませんでした。
DARPA の研究者たちが熱心に取り組んでいるもうひとつのプロジェクトは Plan X である。これは、衛星が地球や海洋の状況を示すのと同じように、インターネットの機能的な概要を提供する計画である。
プランX – 全然不気味じゃない
Plan Xは、インターネット全体を監視してネットワークトラフィックの経路をマッピングし、ある国のデータフローが妨害されていないか確認しようとしている。この観測能力は最初のステップだと彼は述べ、ネットワーク内の個々のサーバーの非常に詳細なモデルを取得し、それを制御するハードウェアとソフトウェアを明らかにするという点で「大きな進歩」を遂げた。
ローンチベリー氏は、このような詳細な地図があれば、研究者はマルウェアのコマンド＆コントロールシステムを観察できるようになると述べた。国防総省がこのような技術を他にどのような目的で利用する可能性があるかについては明らかにしなかった。®
