AI批評家「終末論は注意散漫を狙う」
原題: One of AI’s Fiercest Critics Says All the Doom Talk Is ‘Meant to Distract Us’
なぜ重要か
AI企業の「終末論マーケティング」が規制議論を歪める構造的問題を、内部事情を知る研究者が公の場で指摘した点は政策・規制論議に直結する。
AI研究者のTimnit Gebruは、AI企業が「人類絶滅」という恐怖を煽ることで、自律型兵器など現実の具体的な害悪から議論を逸らそうとしていると主張した。WIREDのインタビューで語ったもので、OpenAIの数学問題をめぐる論争やAnthropicの研究者退職騒動を受けた発言として注目を集めている。
AI研究者のTimnit Gebruは、WIREDのLauren Goodeによるインタビューで、AI企業が「終末論的な安全議論」を戦略的に利用していると批判した。
きっかけは、AI業界で相次いだ二つの出来事だ。まずOpenAIが100万ドルの数学難問を解いたと主張した際、他の研究者の成果を無断で利用したのではないかという論争が起きた。翌日にはAnthropicの研究者が、同社とOpenAI双方のAI安全対応に懸念を示して公開的に辞職。別の技術スタッフは「AIが10年以内に全人類を殺す確率は10%超」と発言し、インターネット上で大規模な論争を引き起こした。
Gebruはこの状況に対し、XとBlueskyで積極的に発信した。彼女の見方は明快だ。「終末論的なシナリオを語ることは、自律型兵器や実際の差別的な被害といった、今ここで起きている問題から目を逸らすための手段として機能している」というものだ。
OpenAIが数学問題を標的に選んだ理由についても鋭く指摘する。「チェス、プログラミング、数学——これらの分野が『知性の証明』として恣意的に選ばれた。『解決した』と言えるようにするためだ」と述べ、数学コミュニティが通常行う査読や貢献の帰属確認プロセスを経ずに企業がプレスリリースで「突破口」を宣伝する構造を問題視した。「Leiden Declaration」も引き合いに出し、数学分野が企業に利用されることで政策立案者がプレスリリースに依存するリスクを警告した。
Gebru自身は2018年にGoogleが採用し、AI技術のバイアス評価を担当したが、大規模言語モデルの潜在的危険性を論じた論文をGoogleに拒否された後に退社した経緯を持つ。現在は「Safety and Alignment」という業界用語そのものを拒否し、自らの立場をAI安全の本来の意味に根ざしたものと位置づけている。来年初頭には著書『Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist』の刊行が予定されている。