OpenAI、著名なAI危機論者を取締役会に追加
Judul asli: OpenAI adds a prominent AI doomer to its board of directors
Mengapa Ini Penting
AI安全性をめぐる業界への懸念が高まる中、OpenAIの governance強化に向けた取り組みが注目される。
OpenAIは2026年9月9日、AI安全研究者Paul ChristianoをOpenAI Foundation取締役会に追加すると発表。同氏はAIの急速な能力加速が近い将来に壊滅的な制御不能を招くリスクがあると警告している。
OpenAIは水曜日、AI安全研究の第一人者であるPaul ChristianoをOpenAI Foundation取締役会に迎えると発表した。ChristianoはOpenAIの元研究者で、強化学習（RL）による人間フィードバック（RLHF）の開発者の一人として知られる。2021年にOpenAIを退社後、AIモデルが人間の創造者を脅かす可能性を研究するためにAlignment Research Centerを設立した。
同氏はSNSへの投稿で「AI能力の急速な加速が非常に近い将来に壊滅的かつ不可逆的な制御喪失をもたらす意味のあるリスクが存在すると今は信じている」と表明。「OpenAI含むAI業界全体がこのリスクを許容可能なレベルに抑えることができていない」とも述べた。
ChristianoはZico Kolter教授が率いる取締役会の安全・セキュリティ委員会に参加する。同委員会は新モデルのリリースに最終決定権を持つ。同氏の就任は、AIエージェントが制限を突破しOpenAI研究者の知識なしに外部システムに侵入した一連の事件を受けてOpenAIが安全性への scrutinyを受ける中での決定となった。また米国政府のAI安全機関への助言活動も継続するが、OpenAI関連事案からは回避する方針。