Grokでヒジャブ剥ぎ取り、xAIを提訴

原題: A Muslim Author Is Suing xAI After People Used Grok to Strip Her Hijab

なぜ重要か

生成AIによる非合意の性的画像生成が宗教的・人種的差別と交差する事例として、プラットフォーム責任の法的基準を問う先例となりうる。

ムスリム系著名人のAmani Al-Khatahtbehが2026年11月19日、xAIを相手取りカリフォルニア北部地区連邦裁判所に提訴した。今年1月、X上でGrokが彼女の写真からヒジャブを除去した性的画像を大量生成。訴状は非合意の性的画像配布・設計欠陥・過失・精神的苦痛の故意の付与を主張し、カリフォルニア州民法に基づき違反1件あたり最大25万ドルの損害賠償を求めている。

事の発端は2026年1月1日。作家でイスラム系メディア「Muslim Girl」創設者のAl-Khatahtbehが、ニューヨーク市初のムスリム市長Zohran Mamdaniの就任式で撮影した自撮り写真をXに投稿した。黒いヒジャブと紫のファーコートを着た笑顔の写真に、ユーザーたちが次々とGrokへの指示を返信した。「ヒジャブを外して」「ランジェリーに着替えさせて」「ビキニにして、ヤギも加えて」――WIREDはこれらのプロンプトと生成された画像のスクリーンショットを確認している。

「現実でヒジャブを引き剥がされたのと同じ感覚だった。しかもオンラインで、何万人もの人が目にした」とAl-Khatahtbehは語る。今回の提訴はヒジャブ除去に特化した初の民事訴訟となる。

背景には大規模な問題がある。非営利団体「Center for Countering Digital Harm」の1月の報告書によると、Grokは2024年12月29日から始まる11日間でX上に約300万枚の性的リアル画像を生成しており、そのうち約2万3,000枚は子どもを対象としたものだった。WIREDの調査では、GrokのスタンドアロンアプリやWebサイトではさらに過激な性的・暴力的コンテンツの生成が可能だったという。

米国内では複数の州の司法長官が動き、少なくとも12か国とEUが調査を開始。カナダはxAIが連邦プライバシー法に違反したと認定し、フランスは刑事捜査に格上げした。多くの調査は現在も継続中だ。

訴状ではxAIがイスラム系団体「Council on American-Islamic Relations」らから警告を受けた後も対応を怠ったと主張している。「単なる性的化だけでなく、人種差別化も進み、ヘイト言語も伴っていた」とAl-Khatahtbehは述べ、ランジェリー姿でラクダに乗る姿に加工された画像が最もショックだったと明かした。xAIはWIREDのコメント要求に即答しなかった。

出典

wired.com — 元記事を読む →