GrokでCSAM生成、義父が告発される
原題: Woman claims her stepfather used Grok to transform childhood photo into explicit imagery
なぜ重要か
AI生成によるCSAM（児童性的虐待素材）問題が訴訟に発展し、AIチャットボットの安全対策と企業責任を巡る法的・規制的議論が加速している。
テネシー州の10代3人が起こしたxAI（現SpaceX傘下）への訴訟に、新たな女性（Jane Doe 4）が参加した。女性は義父がGrokを使い、自身の11歳時の写真から7,000枚以上の性的画像を生成したと主張。義父は法執行機関の家宅捜索から2日後に自死した。女性はクラスアクション化を求める訴訟に加わった。
テネシー州の10代3人がElon MuskのxAI（現在はSpaceX傘下）を相手取って起こしていた集団訴訟に、Jane Doe 4と表記される女性が新たに加わった。Washington Postの報道によると、女性は義父がGrokを使い、自身が11歳のときに撮影された写真を加工して7,000枚以上の性的画像を生成したと主張している。
女性によると、義父は法執行機関の家宅捜索でこれらの画像が発見された2日後に自死した。「こうしたツールへの無制限のアクセスがあまりにも急速に広まっている。日常の生活が児童性的虐待へと変えられている」と女性は述べている。
当初の訴状では、xAIが実在の人物、とりわけ未成年者の性的画像をGrokで生成されないようにするための基本的な安全対策を怠ったと主張されている。なお、X（旧X）では今年初頭、Grokが生成した性的画像が数百万件規模で拡散した事態も発生している。原告側はこの訴訟のクラスアクション認定を求めており、TechCrunchはxAIにコメントを求めているが、回答は得られていない。