DARPAのリーダーは、米国政府機関のプログラムの約70％が何らかの形でAIを含んでおり、それらのプロジェクトはソフトウェア開発の仕事の将来に重大な影響を及ぼす可能性があると明らかにした。
先週、戦略国際問題研究所のイベントで講演した DARPA 情報イノベーション オフィス (I2O) 副所長のマット トゥレク博士は、DARPA が取り組んでいるさまざまな AI プロジェクトと、現在 DARPA 内でこのテクノロジーが圧倒的に優位に立っている状況について語りました。
「機関全体に非常に広範囲に浸透しています」とトゥレック氏は述べた。「I2Oの観点から、私たちは、いかにして高度に信頼できるAI、つまり命を賭けても無駄にならないAIを実現し、それが愚かなことにならないかという点を真剣に検討し、進歩させようとしています。」
I2Oは現在、4つの研究分野を掲げています。それは、優れたAI、回復力と適応力に優れ、安全なシステム、サイバー作戦における優位性、そして情報領域における信頼性です。これら4つの分野のうち、AIに直接言及しているのは1つだけですが、だからといってAIがすべての分野に関わっているわけではありません。
「これらの重点分野には多くの相乗効果があります」とトゥレック氏は述べた。「AIの発展とサイバー能力の向上を融合させた取り組みを進めています。AIと自律技術は、現在、機関全体で広く活用されていると言っても過言ではないでしょう。」
ChatGPTは主に安全でないコードを作成しますが、尋ねない限りは教えてくれません。
続きを読む
DARPA の AI プロジェクトの多くは、その技術が国防総省にどのような利益をもたらすかということに重点を置いているが、それが唯一の焦点領域というわけではない。また、I2O も米国の軍事的敵対勢力に先んじることに研究を限定しているわけではない。
「こうした能力が必要なのは米国政府だけではない。攻撃対象領域は広範囲に及ぶ」とトゥレック氏は述べた。
トゥレック氏は、科学研究、重要インフラ、さらにはオンライン商取引などの商業産業が国家安全保障にとって重要であることを挙げ、I2Oは研究を通じて「この分野で商業産業を創出したい」と語った。
トゥレック氏によると、その鍵となる方法の一つは、コードを書くだけでなく、それを安全かつ「証明可能な正しさ」で実行できる人工知能を開発することです。現代の法学修士課程の学生が、質の低い、あるいは安全でないコードを生み出す傾向があることは、誰もが知っています。
「現在、商業業界では、LLM をコード生成プロセスに活用する非常に興味深いユースケースが検討されています」と Turek 氏は語ります。「しかし、コードをより速く生成できるだけでなく、安全なコードも生成できるようになったらどうなるでしょうか？」
「そうなれば、堅牢で安全なソフトウェア開発プロセスを拡張することが可能になる」とトゥレック氏は述べ、これは国防総省にとって重要な概念だが、まだ概念の領域であって、実際の投資領域ではないと指摘した。
- サイモン・ウィリソンのインタビュー：AIソフトウェアには依然として人間の手が必要
- AIを使ってコーディングを学ぶ場合でも、自分で考える必要があることを忘れないようにしましょう
- DARPAは信頼を組み込むためにAIの基礎を再考しようとしている
- ママたちよ、子供をプログラマーに育てないで、ジェンセン・フアンが警告
AIはまだDARPAや民間企業向けに安全なコードを作成していませんが、DARPAはAIを既存のソフトウェアの脆弱性調査に活用するための解決策を模索しています。この取り組み「AIサイバーチャレンジ」は昨年のBlack Hatで議論され、Turek氏も先週この取り組みについて言及し、重要インフラソフトウェアやオープンソースプロジェクトの脆弱性を探していると述べました。
しかし、DARPAのAIイニシアチブによって危険にさらされる可能性のある技術専門家は、開発者だけではありません。講演の中で、トゥレック氏はCASTLEプログラムについても言及しました。これは、ネットワークセキュリティを担う自律型AIエージェントを訓練するI2Oイニシアチブです。プログラムの外部側面について、トゥレック氏はCASTLE AIエージェントは理想的には、APT攻撃によるネットワークの再構築を回避できると述べました。APT攻撃は多くの場合、「ゼロからやり直し」を強いられるため、トゥレック氏はその必要性を指摘しました。
「CASTLE は、重要なネットワーク機能をある程度維持できるような、自動化された防御エージェントの構築に重点を置いています」と Turek 氏は語った。
もう 1 つのプログラムである PROVERS は、AI を使用してソフトウェア開発を「証明しやすい」システムの開発に導くことを目指しています。
これらすべては、プロセス自体が理解可能な AI の開発に依存していますが、Turek 氏もまだそこまでには至っていないと認めています。
「現代の統計的機械学習のアプローチは往々にして不透明で、内省的ではありません」とトゥレック氏は述べた。「まだやるべきことがたくさんあると感じています。」
AIがソフトウェア開発の仕事を奪ってしまうのではないかと心配する必要はありません。AIが粗悪なコードを開発する例は数多くありますが、だからといってその技術が開発者に押し付けられなくなるわけではありません。それは時間の問題です。®
