AI सप्लाई चेन में 20 लाख जासूस, डेटा लीक उजागर

मूल शीर्षक: Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.

यह क्यों महत्वपूर्ण है

AI inference supply chain में privacy की कमज़ोरी उजागर होने से enterprise adoption और नियामक दबाव दोनों बढ़ सकते हैं।

शोधकर्ता HD Moore ने AI सेवाओं में 20 लाख 'canary' secrets भेजे। नतीजे चौंकाने वाले रहे — कम से कम 3 AI providers हैक हुए, prompts चोरी हुए और Zero Data Retention जैसी privacy settings की धज्जियाँ उड़ीं।

Dragos के मुख्य शोध अधिकारी HD Moore ने एक प्रयोग किया जिसमें उन्होंने AWS access keys, SSH passwords, unique URLs और private git repository references जैसे 'canary' secrets तैयार किए — ये सभी पहले कभी इस्तेमाल नहीं हुए थे। हर secret को सिर्फ एक prompt में, सिर्फ एक provider को भेजा गया। इससे यह पता लगाना आसान था कि लीक की जिम्मेदारी किस कड़ी की है।

प्रयोग के नतीजे गंभीर हैं। कम से कम तीन AI providers को attackers ने compromise किया और उनके prompts चुराए। कई resellers ने prompts को log किया और वे किसी तरह उन लोगों तक पहुँच गए जिन्होंने उन credentials का इस्तेमाल किया। इसके अलावा, कई AI providers ने Zero Data Retention (ZDR) और 'no data collection' जैसी user privacy settings को नजरअंदाज किया।

दरअसल आज के AI apps, OpenRouter या Vercel जैसे 'AI routers' का उपयोग करते हैं, जो prompts को सबसे सस्ते या सबसे उपयुक्त inference engine तक पहुँचाते हैं। Prompts transit में encrypted होते हैं, लेकिन हर hop पर decrypt होते हैं — AI router plaintext पढ़ता है, फिर prompt आगे भेजता है। कई बार यह chain Vercel से OpenRouter तक जाती है, और हर player के लॉग में prompt दर्ज होता है। Moore ने लिखा, 'हमने पाया कि security breaches, prompt theft और customer data की सुरक्षा में व्यापक विफलताएँ हैं।'

स्रोत

arstechnica.com — मूल लेख पढ़ें →