Timnit Gebru「AIに存亡的脅威はない」
原題: Timnit Gebru Believes There Is No ‘Existential Threat’ From AI
なぜ重要か
「実存的リスク」言説がAI規制論議や投資家の意思決定に影響を与え続けている中、その政治経済的機能を問う声は規制設計の優先順位に直結する。
AI研究者のTimnit Gebruが、AIが人類を滅ぼすという「実存的リスク」論を否定した。WIREDのポッドキャスト「The Big Interview」に出演したGebruは、この種の終末論的言説はAI企業創業者たちの資金調達に都合よく機能しており、労働搾取や偏見の助長といった現実の被害から目をそらさせる「有害な気散らし」だと主張した。
Timnit Gebruは、GoogleでLLMのバイアス問題を指摘した論文「Stochastic Parrots」をめぐる社内対立がきっかけで2020年に同社を去り、その後DAIR（Distributed AI Research Institute）を設立。テクノロジーが社会に与える害を調査してきた人物だ。近著『Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist』も来年初頭に刊行予定で、現在のAI業界を内側から批判し続けている。
WIREDとのインタビューでGebruは、AIの「実存的リスク」論が2013年頃からElon MuskやPeter Thielらによって繰り返されてきた点を指摘し、「約3年ごとに同じレトリックが使われている」と述べた。今回の議論の発端となったのは、Anthropicを退職した若手研究者がX上で「社内に実存的リスクを深刻に受け止める空気がある」と明かした投降だ。Gebruはその後すぐ「この言説は単なる気散らしではなく、有害だ」と明言した。
Gebruが問題視するのは、こうした終末論的な議論が「AIによる現実的な被害」、たとえば偏った学習データによる差別的な出力、低賃金の労働者に依存したデータラベリング作業、監視技術の濫用といった具体的な問題から社会の注意を奪う点だ。Anthropicのある共同創業者はGebruの「Stochastic Parrots」論文は現在のAIを過小評価していると批判しており、AI自体の能力をめぐる議論も続いている。
一方でGebruは、AI業界内のEffective Altruism（EA）コミュニティのカルト的側面を批判してきた結果、皮肉にも同コミュニティを攻撃する右派勢力と立場が重なる局面があることも認めており、「AIをめぐる論争はもはや技術の話ではなく、イデオロギーと戦略的ナラティブの争いだ」と語った。