OpenAI ने CSAM रोकने के नए टूल जारी किए
मूल शीर्षक: OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
यह क्यों महत्वपूर्ण है
AI-जनित CSAM बढ़ती वैश्विक चिंता है; ये टूल पूरे उद्योग के लिए एक नया मानक तय कर सकते हैं।
OpenAI ने 16 नवंबर 2026 को CSAM से लड़ने के लिए नया Image Classifier, ChatGPT में चेतावनी स्क्रीन, डेवलपर दिशानिर्देश और कानून प्रवर्तन टूल लॉन्च किए।
OpenAI ने बाल यौन शोषण सामग्री (CSAM) को रोकने के लिए कई नए उपाय एक साथ घोषित किए हैं। सबसे अहम है एक नया Image Classifier, जिसे NCMEC (National Center for Missing and Exploited Children) के साथ मिलकर बनाया गया है। यह Classifier AI-जनित CSAM छवियों सहित अनदेखी छवियों में दुर्व्यवहार के संकेत पहचानता है और समीक्षकों को एक स्कोर देता है। प्रारंभिक परीक्षण में पाया गया कि यह टूल 48% कम छवियों को फ्लैग करता है, फिर भी उतनी ही दुर्व्यवहार वाली छवियाँ पकड़ता है। फ्लैग की गई छवियों के वास्तव में हानिकारक होने की संभावना दोगुनी है। कंपनी इस Classifier को Tech Coalition और ROOST के ज़रिए चुनिंदा कंपनियों को API के माध्यम से निःशुल्क दे रही है।
ChatGPT में अब ऐसे prompts पर चेतावनी स्क्रीन दिखेगी जो बच्चों का यौनीकरण करने वाली सामग्री माँगती हों। उपयोगकर्ता को 24 घंटे के लिए अकाउंट निलंबन और विशेष सहायता केंद्रों की ओर निर्देशित किया जाएगा। बार-बार उल्लंघन पर अकाउंट स्थायी रूप से हटाया जा सकता है। ये संदेश Protect Children, Lucy Faithfull Foundation और University of Tasmania के Joel Scanlan जैसे संगठनों के सहयोग से तैयार किए गए हैं।
डेवलपर्स के लिए नए दिशानिर्देश भी जारी हुए हैं ताकि वे CSAM को रोकने, पहचानने और रिपोर्ट करने में सक्षम हों। कानून प्रवर्तन एजेंसियों को समर्पित plugins, जाँच टूल और जटिल डेटा विश्लेषण सुविधाएँ दी जाएंगी, साथ ही जाँचकर्ताओं को प्रशिक्षण और field guide भी उपलब्ध कराए जाएंगे। OpenAI पर पिछले कुछ समय से कई मुकदमे हैं और Common Sense Media ने इसकी तकनीक को किशोरों के लिए "अस्वीकार्य जोखिम" करार दिया था।