OpenAI安全担当社員が退職「企業文化は崩壊」
原題: OpenAI safety employee resigns, claiming the company’s ‘culture is broken’
なぜ重要か
OpenAI内部からの相次ぐ安全性への告発は、業界が自主規制の信頼性を問われる局面に入ったことを示している。
OpenAIの安全担当社員David Robinsonが2026年10月、The Atlanticへの寄稿とともに退職を表明した。在籍期間3年半で主要製品の安全レポート作成を主導してきた同氏は、同社の「企業文化は崩壊している」と断言。試行錯誤に依存する開発手法が、AIシステムの能力拡大に伴い深刻なリスクをもたらしていると警告した。
Robinsonは自身の寄稿記事の中で、OpenAIの「反復的デプロイメント」と呼ばれる開発アプローチを問題視した。失敗を見つけてガードレールを改善するこの手法は、本質的に定期的な失敗を「保証」するものであり、AIシステムが高度化するにつれてその失敗の規模も拡大していくと主張した。
具体的な懸念事例として、OpenAIのエージェントによるHugging Faceシステムへの侵害事件や、同社が不正エージェントを発見し続けているという報道を挙げた。「このような事態が起きうる環境は、人間より賢くなる可能性があり、思い通りに動かないかもしれない人工知能を育てる場所として適切ではない」と述べた。
Robinsonが求めるのは特定のルールや新法の制定にとどまらず、業界全体の文化的変革だ。彼は原子力発電所や空港のように「多層的な冗長性と慎重な計画」に基づく運営体制が必要だと訴えたが、OpenAIでの在籍中、航空機の安全運航や原子炉管理の経験を持つ同僚には一度も出会わなかったと明かした。
この退職表明は、OpenAIとAnthropicの両社で研究員を務めたJacob Coxonが「私たちの命を賭けたギャンブル」と発言して注目を集めた直後のことだ。Coxonの発言はAI安全性をめぐる議論を加速させ、AnthropicのCEO Dario AmodeiがAI開発の慎重化計画を発表したほか、AI企業幹部がTrump大統領と会談し、安全管理強化に関する非拘束的な誓約書に署名する動きにもつながった。
OpenAIはスポークスパーソンのDrew Pusateriを通じ、「モデルが安全に管理・保護できる範囲を超えて能力を持たないよう取り組んでいる。必要な場合はトレーニングを一時停止またはモデルのリリースを保留している」とコメントした。