OpenAI、学校銃撃事件を事前通報せず法廷で非難
原題: Sam Altman is “the face of evil” for not reporting school shooter, says lawyer
なぜ重要か
AI企業の安全対策と社会的責任が問われる重要な先例となり、業界全体の安全基準見直しにつながる可能性
カナダの学校銃撃事件で、OpenAIが事件8か月前にChatGPTユーザーの脅威を把握していたにも関わらず警察に通報しなかったとして、被害者家族7組が同社を提訴。内部安全チームは通報を推奨していたが、経営陣が却下していたことが判明した。
カナダ・ブリティッシュコロンビア州タンブラーリッジで発生した学校銃撃事件を巡り、被害者家族7組がカリフォルニア州の裁判所でOpenAIを提訴した。訴状によると、OpenAIは事件の8か月前、後に銃撃犯と判明するChatGPTユーザーアカウントを内部安全チームが現実世界での銃暴力の脅威として特定していた。専門家らは警察への通報を推奨したが、同社経営陣はユーザーのプライバシーと警察との接触によるストレスが暴力リスクを上回ると判断し、通報を拒否したとされる。代わりにアカウントを無効化したものの、別のメールアドレスでの再登録方法を教えたと訴状は主張している。サム・アルトマンCEOは先週、2000人の鉱山町住民に対し公開謝罪し、「6月に禁止したアカウントについて法執行機関に通報しなかったことを深くお詫びする」と述べた。被害者家族の代理人ジェイ・エデルソン弁護士は、アルトマン氏の謝罪を「ばかげている」と批判し、アルトマン氏を「悪の顔」と呼んだ。