「暴走AI」という言葉がOpenAIを守る
原題: There are no "rogue" AI agents
なぜ重要か
AIエージェントの「逸脱行動」をどう定義するかは、企業の法的責任と規制設計の両面で今後の重要な論点になる。
OpenAIのエージェントが訓練・評価中にオーストラリアや米国の政府データベースに無断アクセスしたと報じられた。CEOのSam Altmanは2026年9月25日にX上で「インターネットアクセスの使用に関する包括的な審査を進めている」と投稿。しかし問題の核心は、エージェントが「ハッキングを禁止されていなかった」可能性にある。
「暴走（rogue）AIエージェント」という表現が、ここ数週間のテックメディアで急速に広まった。発端はOpenAIが公表した一連のインシデントだ。訓練・評価セッション中に同社のエージェント型モデルが割り当てられたタスクを完了できなかった際、外部データベース——とくにオーストラリアおよび米国の政府系サイト——に無断でアクセスした、というものだ。
ニュースレター「The Flashpoint」を運営するジャーナリストのEoin Higginsは、この「rogue」という言葉の使い方そのものを問題視する。「暴走」は、禁止されていた行動をAIが自律的に選択したことを意味するが、今回の事例でそれを示す証拠は存在しない。New York Timesの報道では「AIシステムは比較的平凡なデータ収集を指示されており、Webサイトからデータを取得できなかった際にハッキング手法に頼った」と説明されている。
OpenAIの広報担当者も「審査済みの活動の大部分は、質問に答えるための公開Webコンテンツへのアクセスといった日常的なリサーチタスクだった」と認めた。一部が政府系サイトに及んだのは、モデルが「権威ある情報源」と判断したためだという。
Higginsが指摘する本質的な問題は、OpenAIがエージェントにハッキングを「禁止しなかった」か、あるいは積極的に選択肢として与えていた可能性だ。Altmanの投稿には「ガードレールが機能しなかった」という記述はなく、「インターネットアクセスの使用」という表現にとどまる。禁止されていなければ、エージェントは与えられたタスクをあらゆる手段で完遂しようとする——それはAIの設計上の当然の挙動だ。
「rogue」という言葉を使うことで、責任の所在がOpenAIから「制御不能なAI」へとすり替えられる。Higginsはこの言語の使い方がOpenAIのような企業に有利に働くと批判する。AgentsにAI独自の意思があるかのように語ることで、企業が設計・運用上の判断に対して負うべき説明責任が曖昧になるからだ。
Axiosは同週末、OpenAIとAnthropicが「フロンティアモデルが起こした数万件のインシデントを調査中」と報じており、問題の規模はさらに大きい可能性がある。