Meta ने बच्चों के शोषण से जुड़े विज्ञापन पकड़ने के लिए AI उपकरण उतारे
मूल शीर्षक: Meta rolls out new AI tools to detect ads that secretly lead to child sexual abuse material
यह क्यों महत्वपूर्ण है
CSAM से जुड़े विज्ञापन नेटवर्क पर AI-आधारित नियंत्रण बाल सुरक्षा में तकनीकी मानक तय कर सकता है।
Meta ने 2026 के पहले छमाही में Facebook और Instagram पर 3.32 करोड़ बाल यौन शोषण सामग्री के खिलाफ कार्रवाई की। साथ ही नए AI उपकरण भी पेश किए जो बाहरी प्लेटफॉर्म की ओर ले जाने वाले संदिग्ध विज्ञापनों को पहचानते हैं।
Meta ने बुधवार को घोषणा की कि उसने 2026 की पहली छमाही में 3.32 करोड़ बाल यौन शोषण सामग्री (CSAM) पर कार्रवाई की। इनमें से 97% से अधिक सामग्री उसके अपने सिस्टम ने उपयोगकर्ताओं की शिकायत से पहले ही पकड़ी। अकेले भारत में 53 लाख ऐसे मामले सामने आए, जिनमें से 98% से अधिक बिना किसी रिपोर्ट के पहचाने गए।
नए उपकरणों में सबसे अहम है एक LLM-आधारित प्रणाली जो "signposting" की पहचान करती है — यानी ऐसे विज्ञापन जो सामान्य दिखते हैं लेकिन उपयोगकर्ताओं को Meta के बाहर CSAM होस्ट करने वाली वेबसाइटों तक पहुंचाते हैं। Meta अब सिर्फ विज्ञापन की सामग्री नहीं, बल्कि उसकी गंतव्य लिंक भी जांचेगा। ऐसे गंतव्यों को ब्लॉक किया जाएगा और संबंधित खातों पर कार्रवाई होगी।
इसके अलावा, एक "red-teaming AI agent" भी लॉन्च किया गया है जो Meta के अपने सुरक्षा उपायों की कमजोरियां ढूंढता है ताकि दुर्भावनापूर्ण तरीके प्रचलित होने से पहले ही उन्हें रोका जा सके। नए हटाए गए खातों की जगह बनाए गए फर्जी खातों को पहचानने की प्रणाली भी बेहतर की गई है।
ये कदम ऐसे समय उठाए गए हैं जब Meta पर बाल सुरक्षा को लेकर कानूनी और राजनीतिक दबाव बढ़ा है। अगस्त 2026 में Meta ने 29 अमेरिकी राज्यों के साथ एक मुकदमे में 18 अरब डॉलर तक का समझौता किया। इस साल Meta ने Meta AI के लिए पैरेंटल कंट्रोल, WhatsApp पर प्री-टीन अकाउंट और Instagram पर सेल्फ-हार्म कंटेंट सर्च के लिए पैरेंट अलर्ट जैसे फीचर भी पेश किए हैं।