AI自己規制は「安全」とは呼べない

1966年、米国の高速道路では約5万1,000人が死亡した。シートベルトの普及が求められる中、自動車業界が自主規制で対応したかというと、まったくそうではない。連邦議会は同年秋、運輸省を設立し、国家交通・自動車安全法および高速道路安全法を成立させた。1968年には全新車へのシートベルト装備が義務化され、その後60年でドライバー数が大幅に増加しても交通死亡者数は激減した。

バレット記者はこの歴史を引き合いに出し、AI企業のCEOたちがホワイトハウスに集結して自画自賛した「AI安全協定」を批判した。トランプ大統領は署名翌日の演説で「企業同士が互いを監視し、自己規制する。うまくいく」と繰り返したが、強制力のある規制は何ら盛り込まれていない。

一方、ビル・ゲイツをはじめとする著名人はAIのリスクについて警鐘を鳴らし続けており、AI業界の内外から明確なルール策定を求める声は絶えない。しかし問題は複雑だ。主要AI企業が仮に開発速度の抑制に合意したとしても、それを守らせる手段はなく、中国は独自路線を走り続ける可能性が高い。また米国経済はAI産業への依存度が高まっており、強力な規制はシリコンバレーにとどまらない広範な経済的不安定を招くリスクもある。

自動車業界との比較も万能ではない。AIには「シートベルト相当の即効策」が存在せず、潜在的なリスクの定量化も困難だ。AIの脅威を人類存亡レベルと見る論者もいれば、それをSFマーケティングと切り捨てる懐疑派もいる。自己規制の「協定」が、実態として何かを解決するのか、それとも「何かをやった感」を演出するだけなのか——記事はその問いを読者に突きつけている。