サンフランシスコがMetaにAI児童虐待広告の停止命令
मूल शीर्षक: San Francisco Orders Meta to Stop ‘Allowing’ AI Child Abuse Ads
यह क्यों महत्वपूर्ण है
यह मामला Big Tech के विज्ञापन सुरक्षा तंत्र और बाल संरक्षण नीतियों की जवाबदेही पर महत्वपूर्ण कानूनी एवं नियामक प्रश्न उठाता है।
सैन फ्रांसिस्को के सिटी अटॉर्नी ने Meta को cease-and-desist पत्र भेजा है, जिसमें Facebook और Instagram पर AI-generated बाल यौन शोषण सामग्री वाले 350 से अधिक paid विज्ञापनों को तत्काल बंद करने का आदेश दिया गया है। ये विज्ञापन 29,000 से अधिक accounts तक पहुँचे।
सैन फ्रांसिस्को के सिटी अटॉर्नी David Chiu ने Meta को एक चार-पृष्ठीय cease-and-desist पत्र भेजकर आदेश दिया है कि वह AI-generated बाल यौन शोषण सामग्री वाले विज्ञापनों को अपने प्लेटफॉर्म पर चलने से रोके और यह स्पष्ट करे कि ये विज्ञापन बार-बार कैसे प्रकाशित होते रहे।
Tech Transparency Project (TTP) के शोधकर्ताओं ने पाया कि Meta के प्लेटफॉर्म—Facebook, Instagram और Threads—पर 350 से अधिक ऐसे विज्ञापन चले, जिनमें नाबालिगों की वास्तविक तस्वीरों को AI के ज़रिए यौन कृत्य दर्शाने वाले वीडियो क्लिप में बदला गया था। इनमें एक यूरोपीय राजपरिवार के सदस्य भी शामिल थे। इन विज्ञापनों पर क्लिक करने पर उपयोगकर्ताओं को AI image और video generation apps डाउनलोड करने के लिए निर्देशित किया जाता था, जो nonconsensual intimate imagery बनाने में सक्षम हैं।
WIRED ने अगस्त की शुरुआत में पहले 53 विज्ञापनों की रिपोर्ट की थी, लेकिन उसके बाद भी 250 से अधिक विज्ञापन Meta के प्लेटफॉर्म पर चलते रहे। कुल विज्ञापन EU देशों में 29,000 से अधिक accounts तक पहुँचे और अमेरिका, ऑस्ट्रेलिया व भारत में भी टारगेट किए गए।
Chiu ने कहा, "Meta बच्चों के यौन शोषण के प्रति शून्य सहिष्णुता का दावा करती है, लेकिन इस समस्या का पैमाना और निरंतरता यह दर्शाती है कि वर्तमान प्रयास बेहद अपर्याप्त हैं।" उन्होंने Meta की कानूनी, बाल-सुरक्षा और विज्ञापन टीमों से तुरंत चर्चा करने की माँग की।
Meta ने दावा किया कि इन विज्ञापनों के सैन फ्रांसिस्को में दिखाए जाने का "कोई संकेत नहीं" है, इसलिए यह मामला सिटी अटॉर्नी के अधिकार क्षेत्र के बाहर है। इसके जवाब में City Attorney's Office के प्रवक्ता Alex Barrett-Shorter ने कहा कि चूँकि सैन फ्रांसिस्को के उपभोक्ता Meta के ऑनलाइन प्लेटफॉर्म के ज़रिए इन विज्ञापनों तक पहुँच सकते हैं, इसलिए यह मामला शहर के दायरे में आता है।