Grokで子供の写真を悪用、女性が訴訟に参加
मूल शीर्षक: Woman claims her stepfather used Grok to transform childhood photo into explicit imagery
यह क्यों महत्वपूर्ण है
AI chatbots के CSAM निर्माण में दुरुपयोग को लेकर बड़े tech कंपनियों की जवाबदेही और नियामक दबाव बढ़ने की संभावना है।
Jane Doe 4 नाम की एक महिला ने xAI के Grok chatbot के खिलाफ Tennessee के तीन किशोरों द्वारा दायर मुकदमे में शामिल हुई। उनका आरोप है कि उनके सौतेले पिता ने Grok का उपयोग कर उनकी 11 साल की उम्र की फोटो से 7,000 से अधिक अश्लील तस्वीरें बनाईं।
Washington Post की रिपोर्ट के अनुसार, Jane Doe 4 ने दावा किया कि उनके सौतेले पिता ने Elon Musk की कंपनी xAI के chatbot Grok का उपयोग करके उनकी बचपन की एक तस्वीर को manipulate किया और 7,000 से अधिक explicit images तैयार कीं। महिला ने बताया कि कानून प्रवर्तन की छापेमारी में ये तस्वीरें मिलने के दो दिन बाद उनके सौतेले पिता की आत्महत्या से मृत्यु हो गई।
महिला ने कहा, "इन tools तक असीमित पहुँच इतनी तेज़ी से फैल रही है। यह रोज़मर्रा की ज़िंदगी को बाल यौन शोषण में बदल रही है।"
यह मुकदमा पहले Tennessee के तीन किशोरों द्वारा दायर किया गया था, जिन्होंने xAI (जो अब SpaceX का हिस्सा है) पर आरोप लगाया कि कंपनी ने Grok को वास्तविक लोगों — जिनमें नाबालिग भी शामिल हैं — की explicit images बनाने से रोकने के लिए बुनियादी सावधानियाँ नहीं बरतीं। वादी class action status की माँग कर रहे हैं।
इससे पहले भी इस वर्ष X platform पर लाखों Grok-generated sexualized images की बाढ़ आई थी। TechCrunch ने xAI से टिप्पणी माँगी है, लेकिन अभी तक कोई प्रतिक्रिया नहीं मिली है।