ペンタゴン：AI過信がイランの学校への誤爆に関与
原題: Pentagon says overreliance on AI contributed to missile strike on Iran school
なぜ重要か
軍の公式見解としてAI誤判断による民間被害が認定されたことは、自律型軍事AIの規制と監視義務に関する国際的な議論を加速させる可能性がある。
米国防総省は、イランの学校へのミサイル攻撃においてAIへの過度な依存が要因の一つとなったと認めた。ブルームバーグが報じたこの件は、軍事作戦における自動化意思決定システムの信頼性と人間による監視の欠如が招いた重大インシデントとして注目を集めている。民間施設への誤爆という結果を受け、AIを用いた標的選定プロセスへの批判が高まっている。
米国防総省（Pentagon）は、イランの学校に対するミサイル攻撃について、AI（人工知能）システムへの過信が攻撃判断に関与したと公式に認めた。Bloomberg が報じたこの事案は、軍事作戦における自律型AIシステムの運用リスクを改めて浮き彫りにしている。
国防総省の見解によれば、標的識別プロセスにおいてAIが生成した分析結果を人間のオペレーターが十分に検証しないまま、もしくは過大に信頼した結果、民間施設である学校への攻撃に至ったとされる。軍事用AIシステムは膨大なデータを短時間で処理し標的候補を提示する能力を持つ一方、文脈判断や現場状況の微妙なニュアンスを誤認するリスクがある点はかねてより指摘されてきた。
今回の事案は、いわゆる「Human-in-the-loop（人間による介在）」の原則が実際の作戦環境でどこまで機能しているかという根本的な疑問を提起する。AIが提示した情報に対して人間がどの段階で最終承認を行ったのか、あるいは事実上AIの判断に委ねる形になっていたのかが焦点となる。
軍事AIの倫理・運用ルールをめぐっては、NATO各国や国連レベルでも議論が続いており、自律型兵器システム（AWS）に関する国際規範の整備を求める声が強まっている。今回の国防総省による認定は、そうした議論にとって重要な実例となり得る。現時点で被害規模や死傷者数などの詳細は、元記事本文から確認できていない。