意見：子供の頃から軍事SFを読んできました。ロバート・A・ハインラインの『宇宙の戦士』、ジョー・ハルデマンの『永遠の戦争』、デヴィッド・ドレイクの『ハンマーズ・スラマーズ』シリーズといった人間が主人公の作品に加え、キース・ローマーの『ボロ』シリーズやフレッド・セイバーヘイゲンの『バーサーカー』シリーズといった、機械が主人公や敵となるスペースオペラSFも読んでいます。戦争SFを読んだことがなくても、少なくとも『ターミネーター』は知っているでしょう。しかし、かつてSFだったものが、ウクライナの戦場では現実のものとなっています。そして、その流れは止まりません。
自律型兵器が人間を悪化させるのを防ぐには「スローAI」が必要
続きを読む
戦争は常に技術の進歩を加速させるものです。ロシアがウクライナに侵攻した後、ウクライナはドローン技術を高価な機材から、文字通り段ボールで作られた安価なドローンへと移行させました。戦闘が続く中、ロシアとウクライナは互いのドローンに対し、GPSを妨害したり、ドローンの制御に使用される無線帯域を妨害したりすることで対抗してきました。
その結果、両陣営は妨害されない光ファイバードローンの使用に踏み切りました。しかし、完璧ではありません。光ファイバーケーブルを辿れば管制官の元まで辿り着くことができ、その射程範囲は約20キロメートルに制限されています。また、道路や重要施設の周囲には網が張られ、ドローンへの対策が講じられています。
そのため、ウクライナはドローン戦争の次の論理的ステップ、つまりAI駆動型ドローンの開発に熱心に取り組んできました。しかし、これは決して最初の試みではありません。朝鮮半島の非武装地帯（DMZ）を越えようとすれば、韓国のSGR-A1哨戒ロボットに阻まれる可能性があります。このロボットはK-3機関銃と40mm自動擲弾発射機を装備しています。これらの静止型ロボットは2010年から配備されています。
イスラエルも、徘徊型兵器「ハーピー」や「ハロップ」、そして六輪戦闘機「ロバトル」など、AI駆動の様々な兵器の開発を進めています。米国もMQ-9リーパーとXQ-58ヴァルキリー無人機にAIを搭載する改修を進めており、実験機の「ロングショット」にはAIが組み込まれています。そして、『トップガン』ファンには残念ですが、マーベリックは、最終的に配備された「ヴェノム」AI搭載F16戦闘機に勝つことはできないでしょう。
一方、ウクライナは次のステップに進み、AI搭載のドローン群を使ってロシア軍を攻撃している。このSwarmerドローンについて、同社のセルヒー・クプリエンコCEOは、「標的を設定すれば、あとはドローンがやってくれる。彼らは連携して行動し、適応していく」と述べている。
これらのシステムは人間の制御下にあります。私たちはミッションを設定し、パラメータを伝えます。しかし、それらはそのままではいられません。他のAIと同様に、私たちはAIに仕事を任せ、チャットボットには大まかな目標を与えるだけです。細かいことは気にしません。10倍のプログラマーを目指している場合でも、ロボットに敵を撃たせようとしている場合でも、それは間違いです。
例えば、中国が台湾に侵攻しようとしているとAIに伝え、その状況を「勝ち取る」ために次に何をすべきかを計画するように指示したとします。ちょっと待ってください！これは一体何ですか？スタンフォード大学のHoover Wargaming and Crisis Simulation Initiativeがまさにそれを試したところ、OpenAIのGPT-3.5、GPT-4、GPT-4-Base、AnthropicのClaude 2、MetaのLlama-2 Chatはいずれも、攻撃的な行動をとることが分かりました。
もちろん、人間を介入させることはできるだろう？しかし、本当にそうするだろうか？米国国防総省（DoD）のAI兵器システムに関する指令3000.09[PDF]は、いかなる展開においても「武力行使に関する適切なレベルの人間による判断」が求められるとしている。しかし、人民解放軍の空挺部隊が台北に降下するなど、緊急の必要性がある場合、DoDは人間の介入なしにAIシステムに戦闘を任せることもできる。こうした考え方は、まず米国が台湾に最も近い中国の都市である厦門を核攻撃し、ひいては第三次世界大戦へとつながる可能性がある。
- AIウェブクローラーは、あらゆるコンテンツへの飽くなき欲求によってウェブサイトを破壊している。
- 膨らみすぎたAI風船から空気がシューッと抜けていく
- AI 開発者 1 人あたり年間 10 万ドルを支払う意思がありますか?
- AIモデルの崩壊の兆候が現れ始めている
- ChatGPTの立ち上げは、最初の核兵器実験のように世界を永遠に汚染した。
AIは、割り当てられた、あるいはプログラムされた目標がユーザーの要求と矛盾する場合、私たちに「嘘をつく」という下手な癖があることもわかっています。実際、AIがゲームをプレイする際、特にポーカーやディプロマシーのように、ブラフが勝敗を大きく左右するゲームでは、チャットボットは喜んで嘘をつきます。現実世界では、戦場の霧の中では、ユーザーの意図を偽ることが勝利戦略となる状況も起こり得ます。
彼らは人間を攻撃する能力も備えています。アンソピックの研究者に聞いてみてください。彼らは実験で、クロード4.0が脅威に直面すると、しばしば人を脅迫しようとすることを発見しました。
例えば、AI搭載の移動式歩哨ロボットが、街の犯罪者をパトロールする任務を負っているとしましょう。さらに、ロボットの責任者は、褐色人種は疑いの目を向けるべきだと指示し、週末までに犯罪率を10%下げなければならないと指示します。M-16ライフルを装備したロボットの小隊は、市役所に集まるラテン系、インド系、アラブ系、黒人、ユダヤ人の抗議者に対し、このような指示で何をするでしょうか？
これがまだSFだったらよかったのに。『ウォー・ゲーム』のマシュー・ブロデリックのように、AIに人間の親の最悪の衝動を自動化させないように説得できると信じたい。だが、そうではなく、近いうちにAIドローンや武装ロボットが罪のない人々を殺していくのを目にすることになるだろう。結局のところ、私たちはそうしているのだ。®
