AIの幻覚が米軍作戦を危うく引き起こす
Original : AI hallucination nearly triggers US military operation
Pourquoi c'est important
L'incident révèle les risques concrets de l'IA dans les décisions à enjeux vitaux.
2026年春、米軍は中国船舶への武装作戦をほぼ実行した。AIチャットボットが誤った核兵器関連情報を生成し、航空機が既に飛行中だったが、直前に作戦は中止された。CNNが9月18日に報じた。
Un chatbot IA a failli déclencher une opération militaire américaine contre un navire chinois au printemps 2026, révèle CNN. Des avions militaires étaient déjà en vol quand les responsables ont découvert que le renseignement ayant motivé la mission était une hallucination. L'alerte a été évitée de justesse.
L'incident remonte à un analyste du Special Operations Command qui a interrogé un chatbot pour croiser des données open source avec des renseignements classifiés. Le système a mal identifié la cargaison du navire, la présentant à tort comme contenant des composants pour un programme d'armes nucléaires. L'analyste a ensuite utilisé le même outil pour mettre en forme ces conclusions erronées dans un rapport d'apparence officielle, qui a circulé dans les canaux de commandement.
L'épisode illustre un risque systémique : la vitesse de traitement de l'IA permet aux erreurs de remonter la chaîne de décision avant d'être vérifiées. Le Pentagone, qui mise sur l'IA pour accélérer sa « kill chain », se retrouve face à ce paradoxe.
Jake Steckler, chercheur au GovAI et vétéran de l'armée américaine, souligne : « Il est essentiel que les militaires comprennent l'incertitude inhérente aux LLM, surtout pour des décisions pouvant mener à l'usage de la force. » Il plaide pour davantage de garde-fous, non pour l'abandon de ces outils.