MetaがAI生成の児童性的虐待画像を含む広告を掲載
मूल शीर्षक: Meta Ran Ads That Contained AI-Generated Child Sexual Abuse Imagery
यह क्यों महत्वपूर्ण है
Meta के विज्ञापन समीक्षा तंत्र में गंभीर खामी उजागर हुई है, जिससे AI-निर्मित CSAM के प्रसार और बाल सुरक्षा नीतियों पर सवाल उठते हैं।
Meta के Facebook, Instagram, Messenger और Threads पर 50 से अधिक AI-निर्मित बाल यौन शोषण सामग्री (CSAM) वाले विज्ञापन पाए गए। ये विज्ञापन नवंबर 2025 से अगस्त 2026 के बीच प्रकाशित हुए और अमेरिका, UK सहित 14 से अधिक यूरोपीय देशों में लक्षित थे।
Tech Transparency Project (TTP) के शोधकर्ताओं ने Meta की ad library में 50 से अधिक ऐसे image और video विज्ञापन खोजे, जिनमें AI-निर्मित बाल यौन शोषण सामग्री (CSAM) और नाबालिगों की यौन रूप से उत्तेजक छवियाँ शामिल थीं। ये विज्ञापन नवंबर 2025 से अगस्त 2026 के बीच Facebook, Instagram, Messenger और Threads पर चलाए गए।
इनमें से कुछ विज्ञापन तथाकथित "nudify" या "undressing" ऐप्स से जुड़े थे। एक video विज्ञापन में एक बच्चे की छवि के ऊपर लिखा था: "Realizing Deep Fantasies with Generation AI" — और क्लिक करने पर वयस्क यौन क्रियाओं में बच्चे का चेहरा जोड़ा जाता था।
Meta की ad library के डेटा के अनुसार, कम से कम एक विज्ञापन ने यूरोप में 2,563 खातों तक पहुँच बनाई — जिसमें France, Germany, Ireland, Italy, Netherlands, Spain, Sweden और UK शामिल हैं। अमेरिका के प्रदर्शन डेटा उपलब्ध न होने से कुल पहुँच इससे अधिक हो सकती है।
TTP की निदेशक Katie Paul ने WIRED को बताया: "ये विज्ञापन Meta द्वारा समीक्षा, अनुमोदन और प्रकाशित किए गए थे — ये किसी तीसरे पक्ष की पोस्ट नहीं थीं।" Meta ने बाद में इन विज्ञापनों को अपनी CSAM और वयस्क सामग्री नीतियों के उल्लंघन के कारण हटा दिया। यह पिछले कुछ हफ्तों में Meta के प्लेटफॉर्म पर CSAM से जुड़े विज्ञापनों का दूसरा मामला है।