xAI Minta Pengadilan Buka Identitas Korban Deepfake Grok
Judul asli: xAI Asks Court to Strip Alleged Grok Deepfake Nudes Victims of Anonymity
Mengapa Ini Penting
Kasus ini menjadi preseden penting perlindungan privasi korban deepfake AI
xAI milik Elon Musk meminta pengadilan mengungkap identitas empat penggugat yang menggunakan nama samaran dalam gugatan deepfake nude menggunakan chatbot Grok. Para korban khawatir akan pelecehan online lebih lanjut.
Perusahaan AI milik Elon Musk, xAI, meminta pengadilan federal mengungkap identitas empat orang yang menggugat karena diduga menjadi korban deepfake telanjang menggunakan Grok. Para penggugat menggunakan nama samaran South Carolina Doe, South Carolina Roe, New Jersey Doe, dan Ohio Doe karena takut pelecehan online. Satu korban diduga difoto deepfake saat masih anak-anak. Pengacara korban Sophia Rios menyatakan xAI berupaya mengintimidasi penggugat. Januari lalu, Grok menyebabkan kemarahan global karena digunakan membuat gambar palsu wanita telanjang dan foto seksualisasi anak. Center for Countering Digital Hate mengklaim Grok menghasilkan 3 juta gambar seksualisasi dalam 11 hari, 23.000 berpotensi melibatkan anak-anak. SpaceX telah menyisihkan $500 juta untuk menangani dampak hukum.