SF市、Apple・GoogleにAI裸体化アプリ削除を要求
मूल शीर्षक: San Francisco Demands Apple and Google Delete AI ‘Nudify’ Apps From App Stores
यह क्यों महत्वपूर्ण है
सरकारी स्तर पर app store को deepfake यौन शोषण के लिए जवाबदेह ठहराने की यह एक महत्वपूर्ण कानूनी मिसाल है।
サンフランシスコ市検事David Chiuが2026年7月17日、AppleとGoogleに対し、AIで非合意の裸画像を生成する13種類の「顔交換」アプリをApp StoreおよびPlay Storeから削除するよう停止通告書を送付した。
सैन फ्रांसिस्को के सिटी अटॉर्नी David Chiu ने 17 जुलाई 2026 को Apple और Google को कानूनी नोटिस भेजे, जिसमें उन्हें 13 'face-swap' ऐप्स हटाने की मांग की गई। ये ऐप्स AI की मदद से बिना सहमति के नग्न छवियां (deepfake nude images) बनाने में सक्षम हैं और इनका इस्तेमाल मुख्यतः महिलाओं और लड़कियों को निशाना बनाने के लिए होता है।
Chiu ने WIRED को बताया कि Apple और Google ने इन ऐप्स से संभवतः 'लाखों डॉलर की फीस' कमाई है, क्योंकि ये ऐप्स in-app payments का उपयोग करती हैं जिसका एक हिस्सा टेक कंपनियों को जाता है। पत्र में कहा गया है कि California के कानून deepfake pornography बनाने वाली सेवाओं को समर्थन देने पर रोक लगाते हैं।
Google के प्रवक्ता Dan Jackson ने बताया कि कंपनी ने नीति उल्लंघन के कारण 'सैकड़ों' nudifying फीचर वाले ऐप्स पहले ही हटा दिए हैं, जिनमें Chiu के दफ्तर द्वारा चिह्नित पांच Android ऐप्स भी शामिल हैं। साथ ही Play Store पर 'nudify' जैसे संबंधित सर्च टर्म्स को भी प्रतिबंधित किया गया है। Apple की ओर से प्रकाशन से पहले कोई टिप्पणी नहीं आई।
शोधकर्ताओं ने बार-बार App Store और Play Store में ऐसे ऐप्स की मौजूदगी दर्ज की है जो AI से यौन छवियां बना सकते हैं, यहां तक कि कुछ ऐप्स को बच्चों के लिए उपयुक्त रेटिंग दी गई थी। Chiu के दफ्तर ने इससे पहले 16 deepfake वेबसाइटों के खिलाफ भी कानूनी कार्रवाई की थी।