Grokで継子が幼少期写真を性的画像に変換か
Judul asli: Woman claims her stepfather used Grok to transform childhood photo into explicit imagery
Mengapa Ini Penting
AIによるCSAM生成問題が訴訟に発展し、生成AIの安全対策義務が問われている
女性がxAIのチャットボットGrokを使い義父が11歳時の写真から7,000枚超の性的画像を生成したと主張。テネシー州10代3人の集団訴訟に参加した。
Jane Doe 4と呼ばれる女性が、テネシー州の10代3人がElon MuskのxAIに対して起こした訴訟に加わった。女性は、義父がGrokを使って彼女が11歳のときに撮影された写真を操作し、7,000枚以上の性的画像を生成したと主張している。The Washington Postの報道によると、義父はその画像が法執行機関の捜索で発見された2日後に自殺で亡くなった。女性は「これらのツールへの無制限のアクセスが急速に広まっている。日常の生活を児童性的虐待に変えている」と述べた。当初の原告である10代の若者たちは、xAI（現在はSpaceXの一部）が実在する人物、特に未成年者の性的画像を生成するためにGrokが使用されるのを防ぐための基本的な対策を怠ったと主張しており、集団訴訟としての認定を求めている。なお、今年初頭にはXにGrokが生成した性的画像が数百万枚氾濫する事態も起きていた。TechCrunchはxAIにコメントを求めている。