AIの幻覚が米軍作戦を危うく発動させる
मूल शीर्षक: AI hallucination nearly triggers US military operation
यह क्यों महत्वपूर्ण है
軍事AIの「速度優先」導入が人間の監視を形骸化させ、誤情報が指揮系統を上流まで伝播する構造的リスクを実例が示した。
2026年春、米軍の武装作戦が実行直前に中止された。中国船舶が核兵器部品を輸送しているとした情報が、Special Operations CommandのアナリストがAIチャットボットで生成した「幻覚」だったことが判明したためで、CNNが9月18日に報じた。
事態は深刻だった。軍用機がすでに飛行中の状態で、米当局者が異変に気づいた。対中国艦船への武装作戦の根拠となった情報が、AIチャットボットによる「ハルシネーション（幻覚）」だったのだ。
ことの発端は、Special Operations Commandのアナリストがオープンソースデータと機密信号情報を統合するためにAIチャットボットを使用したこと。チャットボットは船舶の積荷目録を誤って識別した。さらにアナリストは同じツールを使って誤った情報を公式文書のように整形し、それが指揮系統全体に回覧された。イランとの戦争中に流通したこの情報は「核兵器プログラム用部品を搭載」と記されており、武装作戦の発動にまで至った。
PentagonはAIがキルチェーンを加速させ、指揮官の対応速度を高めると強調してきた。だがその「速度」こそが、人間によるチェックを省略させるリスクを生む。
GovAI研究者で元米陸軍将校のJake Steckler氏はTechCrunchに「LLMに内在する不確実性を理解することが重要だ。特にターゲティングや情報分析、作戦計画など武力行使につながりうる判断では生死に直結する」と述べた。一方で同氏は「この事件はAIを避ける理由ではなく、より多くの安全策を加える契機にすべきだ。採用速度を最優先にすれば、信頼を失う事案が続くだけで、結果的に普及が遅くなる」とも語った。