Timnit Gebru：AIに「実存的脅威」なし
मूल शीर्षक: Timnit Gebru Believes There Is No ‘Existential Threat’ From AI
यह क्यों महत्वपूर्ण है
「実存的リスク」論の盛衰はAI規制の方向性と投資判断に直接影響するため、その批判的検証は産業全体に関わる。
AI研究者Timnit Gebruは、AIが人類を滅ぼすという「実存的リスク」論は実際の問題からの有害な目そらしだと主張。Wiredのインタビューで、このナラティブは2013年から繰り返される同じレトリックであり、創業者たちの資金調達に利用されていると述べた。
GoogleのAI倫理チームを率いていたTimnit Gebruは、大規模言語モデルの偏りを指摘した論文「Stochastic Parrots」の共著者として知られる。この論文をめぐるGoogleとの対立が引き金となり、同社を離れた彼女は、技術的な害を調査する独自の研究機関を設立した。近刊予定の著書『Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist』でも、この問題を掘り下げている。
Wiredのポッドキャスト「The Big Interview」で、Gebruは「AIによる実存的リスク」論を真っ向から否定。「危険なだけでなく、有害な目そらしだ」と断言した。Elon MuskやPeter Thielが2013年から同じレトリックを繰り返してきた点を指摘し、この議論が業界の創業者たちに資金と影響力をもたらす構造的な動機があると主張する。
発端の一つは、AnthropicのAI研究者が退職声明でAIの実存的リスクへの懸念を表明したことだ。これを受けてAI業界内で議論が再燃。Anthropicの共同創業者は、Gebruの「Stochastic Parrots」研究は現在のAIの能力を過小評価しており、今のモデルは「思考」や推論ができると反論している。
Gebruは現在のAI議論が、技術そのものより「AIドゥームコミュニティ」対「批判派」というイデオロギー対立に変質していると指摘。皮肉にも、彼女の有効利他主義（EA）コミュニティ批判が、同じくEAを批判する右派勢力と立場を一致させる結果になっている。