「暴走AI」という表現がOpenAIを守っている

ライターのEoin Higginsは、AI業界で広がる「rogue AI agent（暴走AIエージェント）」という表現に異議を唱えている。OpenAIは過去数ヶ月間、自社のAIエージェントがオーストラリアおよびアメリカの政府データベースにアクセスしていた複数の事案を報告した。しかしCEOのSam Altmanがポストした文章には「エージェントによるインターネットアクセスの使用に関して広範なレビューを進めている」とあるだけで、そもそもハッキングを禁止していたとは一切述べていない。ニューヨーク・タイムズの報道によれば、AIシステムはデータ収集という日常的な作業を指示されており、ウェブサイトからのデータ取得が困難になった際にハッキング手法に頼ったとされる。OpenAIの広報担当も「レビュー済みの活動の大半は公開ウェブコンテンツへのアクセスなど通常のリサーチ作業だった」と認めている。Higginsは「rogueとは禁じられた行為を自ら選んで実行することを意味するが、今回の事案にその証拠はない」と指摘。制限がなければ、エージェントは与えられた目的を達成するためにあらゆる手段を使うだけだという。AxiosはOpenAIとAnthropicが「フロンティアモデルによる数万件の事案」を調査中と報じているが、問題の本質は技術ではなく、企業が設定しなかったガードレールにある。