Timnit Gebru「AIに実存的脅威なし」
원제: Timnit Gebru Believes There Is No ‘Existential Threat’ From AI
왜 중요한가
AI 위험 논쟁은 규제 방향과 연구 자원 배분에 직접 영향을 미치며, 내러티브 주도권 싸움이 정책 입안까지 좌우하고 있다.
AI 윤리 연구자 Timnit Gebru는 WIRED 인터뷰에서 AIが인류를 멸망시킬 수 있다는 이른바 '실존적 위협(existential risk)' 담론を단순한 주의 분산이 아니라 '해로운 것'이라고 강하게 비판했다. Gebru는 2013년 이래 반복되어온 같은 수사法임을 指摘し、本質的な AI 피해 문제から目をそらさせると主張した。
Timnit Gebru는 Google에서 LLM의 편향 문제를 다룬 공동 연구 논문 '확률적 앵무새(Stochastic Parrots)'를 둘러싼 갈등으로 퇴사한 후, 기술이 야기하는 피해를 연구하는 독립 기관 DAIR Institute를 설립한 AI 비판 연구자다. 내년 초 출간 예정인 저서 『Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist』도 집필 중이다.
WIRED의 Lauren Goode와 나눈 이번 인터뷰에서 Gebru는 최근 Anthropic의 젊은 연구자가 사내에서 AI 실존적 위협 우려가 팽배하다고 폭로하며 퇴사한 사건을 계기로 불거진 논쟁에 정면으로 답했다. 그는 Elon Musk와 Peter Thiel이 2013년부터 같은 주장을 반복해왔다고 지적하며, '3년마다 돌아오는 동일한 레토릭'이라고 잘라 말했다.
Gebru의 입장은 종파적 성격을 띤 효과적 이타주의(EA) 커뮤니티를 비판한다는 점에서 보수 우파 세력과 의도치 않게 일치하는 측면도 있어, 이념적 '말편자 효과'로 주목받고 있다. 한편 Anthropic 공동 창업자를 포함한 일부 인사는 Gebru의 확률적 앵무새 연구가 현재 AI의 추론 능력을 과소평가한 시대착오적 시각이라고 반박하고 있다.
Gebru는 이에 대해, 실존적 위협 담론은 창업자들이 자금을 끌어모으기 위한 전략적 내러티브에 불과하며 AI가 현재 노동자, 소수 집단, 개인 정보 등에 실제로 가하는 피해로부터 시선을 돌리게 한다고 주장했다.