「戦争が始まるところだった」: AI のエラーがどのようにして米国と中国の間の危機につながったのか
イランとの戦争中の今春、米軍内で回覧された情報報告書は、中東の中国船が核兵器計画に関連する部品を積んでいたと主張し、憂慮すべき一連の出来事を引き起こした。CNNによると、この報告を受けて米軍は同船を迎撃する作戦の準備を始めたという。事件に詳しい関係者によると、軍用機がすでに離陸している中、米軍関係者らが乗船の準備をしていた。計画された作戦の直前に、当局がその情報を詳しく調べたところ、それが人工知能の助けを借りて作成されたものであることが判明した。米国特殊作戦軍の分析官が使用したチャットボットは、船の積荷目録に記載されている物質を誤って識別しました。ある情報筋によれば、その結果として得られた諜報報告書は「完全に偽り」であると述べられており、公式ルートを通じて伝えられ、信頼できる軍事情報として扱われた。関係者はＣＮＮに「戦争が始まるところだった」と語った。
AIのバグが軍事チェーンに到達
事件は、アナリストがハワイに本拠を置く米国太平洋特別作戦軍からの船舶積荷情報を精査したときに始まった。アナリストはチャットボットに情報を尋ねたが、AIシステムは貨物を誤って識別した。チャットボットは、結論に達する前に、オープンソース情報と米国政府が保有する秘密信号情報を組み合わせました。その後、アナリストは再び人工知能を使用して結果を標準的な情報レポートに変換し、情報が配布される前に従来の軍事情報の形式と外観を与えました。CNNは、チャットボットが市販のシステムなのか、それとも米国政府のために開発されたAIツールなのかは判断できなかったと報じた。軍や諜報アナリストが使用するシステムに詳しい元米国高官はＣＮＮに対し、国内ツールは「ほとんどが口紅を塗った商業的なもののコピーにすぎない」と語った。このエピソードでは、迅速な意思決定が必要な状況で AI が生成する分析に依存するリスクが強調されており、エラーの影響は戦場を超えて広がる可能性があります。 米国が中国船舶に乗り込むか、その他の方法で交戦しようとするあらゆる試みは、米政府と中国との間のより広範な対立を招く危険性があった。しかし、米軍および諜報機関はAIの利用を急速に拡大している。この技術は、膨大な量の情報の分析、目標の選択、軍事資産の移動、物流、予算、サプライチェーンの管理のために研究されています。 国防当局者らは、人工知能を活用したより迅速な意思決定は、中国や他の主要敵との将来の紛争において重要になる可能性があると主張している。ピート・ヘグセス米国防長官は1月、軍のAI導入を加速することを目的とした国防総省の「人工知能加速戦略」を発表した。
戦場情報から武器まで
このエピソードは、政府、軍、AI企業が、ますます高性能化するAIシステムの軍事目的での悪用をどう防ぐかという別の課題に取り組んでいる中で生まれた。Anthropic は最近、イエメンの兵器工学セルがクロード AI モデルを使用してミサイルと誘導ミサイルの誘導、ナビゲーション、制御ソフトウェアを開発したと報告しました。同社によると、このグループは人間のソフトウェアエンジニアの代わりにクロードコードを使用して、オープンソースの自動操縦と電話型フライトコンピューターの統合、制御ソフトウェアの書き込み、設定の調整、ファームウェアのビルドの実行、フライトシミュレーションの実行を行ったという。アンスロピックは、同グループが誘導ミサイルの発射実験を行ったが、失敗したとみられるものの、作戦用兵器の配備に成功した証拠はないと述べた。同社は、グループが繰り返し制限を回避しようとした一方で、セーフガードによってすべてではないが多くのリクエストがブロックされたと述べた。イエメンの事件は、アンスロピックが特定したいくつかの通常兵器による作戦の一つであり、その中には無人機の群れ、魚雷迎撃、電子戦や防空制圧のための照準システムを含む作業が含まれていた。 同社はまた、30日間で約35件の潜在的な生物学的研究活動を特定したが、これらの活動が合法的な科学研究のためのものであるかどうかは判断できないと警告した。懸念は現在、最高レベルの国際安全保障協議にも及んでいる。ロイター通信によると、OpenAIのサム・アルトマン最高経営責任者（CEO）は来週、国連安全保障理事会で人工知能と国際安全保障について説明する予定だという。この会議は、政府がますます強力になる AI システムをどのように管理すべきか、共通の安全基準をどのように確立するかを検討する中で開催されます。
