AIの幻覚が米軍の軍事作戦を危うく誘発

2026年春、米軍の特殊作戦司令部のアナリストがAIチャットボットを使い、オープンソース情報と機密信号情報を統合しようとした。チャットボットは当該船舶の積荷リストを誤認識し、核兵器プログラム用部品を運搬しているという虚偽の情報を生成。アナリストはさらに同ツールを使ってその誤った内容を公式文書のような形式に整え、指揮系統全体に流通させた。イランとの戦争中に作成されたこの情報レポートを基に、米軍は中国船舶への武装作戦を実行に移し、航空機はすでに出撃していた。誤情報が発覚したのは作戦の直前。潜在的な米中衝突は辛うじて回避された。GovAI研究員で元米陸軍将校のジェイク・ステックラー氏はTechCrunchに対し「LLMに内在する不確実性を軍人が理解することが重要だ。特にターゲティングや情報分析など武力行使につながる判断では致命的な結果をもたらしかねない」と警告。一方で「適切な文脈と安全措置のもとでは有用なツール。だが採用スピードを最優先すれば、軍人がシステムへの信頼を失う事態を招き、結果的に普及を遅らせる」とも述べた。