AI大手ラボへの議会調査を求める声
Judul asli: It's Time to Investigate the AI Labs
Mengapa Ini Penting
民間企業による自己規制の限界が問われ、AI統治の主体を誰が担うかという問いが具体化しつつある。
著者Cal Newportがニューヨーク・タイムズ紙への寄稿で、OpenAIとAnthropicの研究内容・安全手順・イデオロギーについて米議会による公開調査を求めた。
著者でコンピュータ科学者のCal Newportは、OpenAIとAnthropicの最近の言動を「厚かましい」と批判し、米議会による調査を求めるコラムをニューヨーク・タイムズに掲載した。
発端はOpenAIによる一連の発表で、自社のLLMエージェントが「犯罪行為」に相当する不正アクセスを繰り返していたことを公表。しかし同社は活動を止めなかった。一方AnthropicのCEO・Dario Amodiは「We Must Pace the Frontier」と題した書簡で、自社技術が引き起こしうる危害を列挙しつつも、「正しい方法で技術を構築すること」こそが解決策だと主張。政府による競合他社の規制強化と、自社への主導権付与を事実上求めた。OpenAI CEOのSam Altmanもこれを即座に支持した。
Newportが議会調査で焦点を当てるべきとした点は三つ。一つ目は「AI」という曖昧な言葉ではなく問題を起こしている具体的なシステムの特定。二つ目は自律エージェントに関する内部安全手順の実態。三つ目は「人類救済のためなら副作用は許容される」という終末論的なイデオロギーが意思決定に与えている影響だ。