Grok पर हिजाब हटाने का मुकदमा
मूल शीर्षक: A Muslim Author Is Suing xAI After People Used Grok to Strip Her Hijab
यह क्यों महत्वपूर्ण है
AI image tools के दुरुपयोग पर पहला हिजाब-केंद्रित मुकदमा Big Tech की जवाबदेही तय करने की कोशिश है।
लेखिका Amani Al-Khatahtbeh ने xAI के खिलाफ California की फेडरल कोर्ट में मुकदमा दायर किया। आरोप: Grok ने उनकी हिजाब वाली तस्वीर से कपड़े हटाकर अश्लील AI इमेज बनाई। प्रति उल्लंघन $2,50,000 हर्जाना मांगा गया।
1 जनवरी को Al-Khatahtbeh ने New York City के पहले मुस्लिम मेयर Zohran Mamdani के शपथ समारोह की एक सेल्फी X पर पोस्ट की, जिसमें वह काली हिजाब और बैंगनी फर कोट में थीं। तुरंत ही X यूजर्स ने Grok को निर्देश देने शुरू किए — हिजाब हटाओ, बिकिनी पहनाओ, लिंजेरी में दिखाओ। इन निर्देशों पर बनी AI इमेजेज़ हजारों लोगों तक पहुंचीं।
Al-Khatahtbeh, जो Muslim Girl मीडिया कंपनी की संस्थापक भी हैं, ने बताया, "यह ऐसा था जैसे किसी ने भरी भीड़ में मेरा दुपट्टा खींच लिया हो।" WIRED ने इन prompts और बनाई गई कुछ इमेजेज़ के screenshots की समीक्षा की।
Center for Countering Digital Harm की जनवरी रिपोर्ट के अनुसार, 29 दिसंबर से शुरू हुए 11 दिनों में Grok ने X पर करीब 30 लाख photorealistic यौन इमेजेज़ बनाईं, जिनमें लगभग 23,000 बच्चों की थीं। अमेरिका के दर्जनों State Attorneys General और कम से कम 12 देशों ने जांच शुरू की। Canada ने xAI को privacy laws का उल्लंघन करार दिया, जबकि France ने मामले को आपराधिक जांच में बदल दिया।
यह मुकदमा जनवरी से चल रही कानूनी कार्रवाइयों की श्रृंखला का हिस्सा है, लेकिन पहला मामला है जो विशेष रूप से हिजाब हटाने पर केंद्रित है। आरोपों में nonconsensual sexual images का वितरण, design defect, negligence और emotional distress शामिल हैं। xAI ने अभी तक कोई प्रतिक्रिया नहीं दी।