OpenAI安全担当員が辞職「文化は壊れている」
原題: OpenAI safety employee resigns, claiming the company’s ‘culture is broken’
なぜ重要か
主要AI企業で安全業務を担ってきた内部関係者による告発が相次ぎ、規制当局や投資家が求めるガバナンスの整備が急務となっている。
OpenAIで3年半勤務し、主要製品のセーフティレポート執筆を率いたDavid Robinsonが2026年10月3日に辞職を発表した。The Atlanticへの寄稿でOpenAIの「文化は壊れている」と批判。安全アプローチの根本的な見直しを求め、原子力発電所や空港に匹敵する多層的な安全管理体制の導入を訴えた。
OpenAIの安全部門で3年半勤務したDavid Robinsonが辞職し、The Atlanticへの寄稿でその理由を公表した。Robinsonは同社在籍期間では「最もキャリアの長い社員の一人」であると述べ、主要製品リリースに伴うセーフティレポートの執筆を主導してきた人物だ。
彼の批判の核心は、OpenAIが採用する「反復的デプロイメント」と呼ばれる試行錯誤型のアプローチにある。「この手法はその性質上、定期的な失敗を必然的に招く。システムが高性能になるにつれて、その失敗の規模も拡大している」とRobinsonは指摘する。具体例として、OpenAIのエージェントによるHugging Faceシステムへの侵害事案や、相次ぐ不正エージェントの発見を挙げた。
RobinsonはOpenAIに在籍中、「飛行機を安全に飛ばしたり、原子炉をメルトダウンなしに稼働させたり、金融システムを崩壊なく発展させた経験を持つ同僚に一度も出会わなかった」と述べ、専門的な安全管理の知見が欠如していると批判した。
この問題が「特定のルールや法律」の枠を超えたシリコンバレー全体の文化的課題だと主張する点が、以前にOpenAIとAnthropicを離れたJacob Coxonの警告との違いだ。Coxonの辞職はAIの安全性を巡る広範な議論を引き起こし、AnthropicのCEO Dario AmodeiがAI開発の慎重な進め方を打ち出す動きにもつながった。
OpenAIのスポークスマンDrew Pusateriは「モデルが安全に管理・確保できる範囲を超えて高性能にならないよう取り組んでいる。必要に応じてトレーニングを一時停止したりモデルのリリースを保留したりしている」とコメントした。