Flock का AI पुलिस सर्च टूल: WIRED का विश्लेषण
मूल शीर्षक: This Is Flock’s AI Search Tool for Cops
यह क्यों महत्वपूर्ण है
पुलिस AI निगरानी तकनीक में गोपनीयता, First Amendment और दुरुपयोग की जवाबदेही से जुड़े गंभीर नीतिगत सवाल उठे हैं।
Flock Safety का नया AI-संचालित सर्च टूल पुलिस अधिकारियों को लिखित विवरण के आधार पर शहर के कई कैमरों पर स्वचालित निगरानी करने की सुविधा देता है। WIRED ने इस सॉफ़्टवेयर के कोड का विश्लेषण कर इसकी कार्यप्रणाली और खामियाँ उजागर की हैं।
Flock Safety का नवीनतम AI सर्च टूल पुलिस को केवल वाहन नंबर प्लेट नहीं, बल्कि व्यक्तियों को भी कैमरे पर खोजने की क्षमता देता है। इसमें एक AI-संचालित watchlist शामिल है, जिसके ज़रिए अधिकारी शहर के किसी क्षेत्र में सभी कैमरों पर लिखित विवरण के आधार पर लगातार और स्वचालित खोज चला सकते हैं।
पिछले एक वर्ष में Flock को भारी आलोचना का सामना करना पड़ा है। देशभर के पुलिस विभागों ने अनुबंध रद्द किए और नगर परिषदों ने कैमरे हटाने के लिए मतदान किया। Texas में एक deputy ने गर्भपात कराने वाली महिला की तलाश में 83,000 से अधिक कैमरों पर खोज की, जिसके बाद Congress के दो सदस्यों ने CEO Garrett Langley को पत्र लिखा। Illinois में पाया गया कि कंपनी ने राज्य के कानून का उल्लंघन करते हुए संघीय immigration एजेंटों को राज्य के कैमरा डेटा तक पहुँच दी।
अगस्त में Flock ने सुधार पैकेज की घोषणा की जिसमें डेटा retention अवधि कम करना, हर खोज के लिए case code अनिवार्य करना और स्वचालित auditing शामिल हैं। लेकिन WIRED के विश्लेषण के अनुसार ये उपाय दुरुपयोग को रोकते नहीं, केवल दर्ज करते हैं।
विशेषज्ञों का कहना है कि Flock की AI प्रणाली race, religion और राजनीतिक/सांस्कृतिक अभिव्यक्ति जैसी संवेदनशील श्रेणियों के आधार पर खोज को सीमित करती है, लेकिन 'राजनीतिक, सामाजिक और सांस्कृतिक अभिव्यक्ति' वह एकमात्र श्रेणी है जो खोज रोकती नहीं। Center for Democracy and Technology के Tom Bowman के अनुसार यह First Amendment के तहत सर्वाधिक संरक्षित क्षेत्र है। कंपनी खुद स्वीकार करती है कि परिणाम अधूरे या गलत हो सकते हैं, पर गलती की ज़िम्मेदारी अधिकारी पर डालती है।