WhatsApp के छिपे Chatbot निर्देश हुए लीक
मूल शीर्षक: WhatsApp Help Pages Leaked Hidden Instructions for a Meta Chatbot
यह क्यों महत्वपूर्ण है
यह मामला दिखाता है कि बड़ी Tech कंपनियाँ Chatbot को कानूनी जवाबदेही से कैसे बचाती हैं।
Meta की WhatsApp की लगभग 80 Help pages के HTML कोड में Chatbot के लिए छिपे निर्देश उजागर हुए, जिनमें 'WHAT NOT TO SAY' और GDPR जैसे कानूनी मामलों पर चुप रहने के आदेश शामिल थे। Redact.dev ने यह खुलासा किया।
Privacy कंपनी Redact.dev के विश्लेषण के अनुसार, WhatsApp की करीब 80 Help और FAQ pages के source code में 100 से अधिक hidden text blocks मिले। ये निर्देश 'HelpContentGalaxyLLMInclude' नामक code block के तहत थे और Meta के अपने LLM के लिए बनाए गए थे। इनमें स्पष्ट लिखा था कि यदि कोई यूजर कानूनी कार्रवाई, मुकदमे या अदालत का ज़िक्र करे, तो Chatbot WhatsApp की Terms of Service, Privacy Policy, या GDPR, CCPA जैसे डेटा संरक्षण कानूनों का हवाला न दे। Account Delete करने वाले page पर निर्देश था कि किसी Data Protection Authority या नियामक को संपर्क करने की सलाह न दी जाए। WIRED ने खुद archived pages का code देखकर इन निर्देशों की पुष्टि की। Redact के CEO Dan Saltman का कहना है कि सबसे बड़ी बात यह है कि यूजर्स को जो बताया जाता है और LLM को जो निर्देश दिए जाते हैं, उनके बीच स्पष्ट अंतर है। WIRED के संपर्क करने के बाद Meta ने सभी pages से यह text हटा दिया। WhatsApp प्रवक्ता Joshua Breckman ने कहा कि यह एक bug की वजह से दिख रहा था जिसे अब ठीक कर दिया गया है और ये निर्देश सीधे यूजर्स के लिए नहीं, बल्कि Support Chatbot की सटीकता के लिए थे। यह स्पष्ट नहीं है कि ये निर्देश कितने समय तक दिखते रहे या third-party chatbots इन तक पहुँच सके।