AI गार्डरेल्स से साइबर सुरक्षा शोधकर्ता परेशान
मूल शीर्षक: How AI guardrails are impeding the work of offensive cybersecurity researchers
यह क्यों महत्वपूर्ण है
AI गार्डरेल्स और वैध साइबर सुरक्षा शोध के बीच संतुलन बनाना पूरे उद्योग के लिए एक अनसुलझी नीतिगत चुनौती है।
OpenAI और Anthropic के AI मॉडलों में लगे साइबर सुरक्षा गार्डरेल्स वैध offensive cybersecurity शोधकर्ताओं के काम में बाधा बन रहे हैं। शोधकर्ताओं का कहना है कि ये प्रतिबंध रक्षकों को नुकसान पहुँचाते हैं और निजी कंपनियों के मनमाने फैसले चिंताजनक हैं।
AI कंपनियों ने दुर्भावनापूर्ण हैकरों से बचाव के लिए अपने मॉडलों पर कड़े गार्डरेल्स लगाए हैं, लेकिन अब ये प्रतिबंध वैध साइबर सुरक्षा शोधकर्ताओं के काम को भी रोक रहे हैं।
जून 2026 में अमेरिकी सरकार ने Anthropic के मॉडलों Mythos और Fable पर निर्यात नियंत्रण लगाए थे, जिसकी वजह थी एक रिपोर्ट जिसमें दावा किया गया था कि इन मॉडलों के गार्डरेल्स को bypass किया जा सकता है। बाद में Fable 5 को 1 जुलाई को सामान्य पहुँच के लिए वापस लाया गया, जबकि Mythos 5 को केवल वेटेड अमेरिकी संस्थाओं को ही उपलब्ध कराया गया है।
OpenAI का 'Trusted Access for Cyber' प्रोग्राम और Anthropic का 'Cyber Verification Program' शोधकर्ताओं को आवेदन करके कम प्रतिबंधों वाली पहुँच दिलाता है, लेकिन इस प्रक्रिया की भी आलोचना हो रही है।
प्रसिद्ध सुरक्षा शोधकर्ता Mark Dowd ने एक podcast में कहा कि 'इन बड़ी कंपनियों का यह तय करना कि सुरक्षा में क्या सुरक्षित है और क्या नहीं, मुझे सहज नहीं लगता।' Dowd दशकों से सरकारों को zero-day vulnerabilities बेचते रहे हैं।
NCC Group के मुख्य वैज्ञानिक Chris Anley ने बताया कि किसी bug को exploit करने का प्रयास करना यह पुष्टि करने के लिए जरूरी है कि वह वास्तविक vulnerability है। जब गार्डरेल्स मॉडल को जवाब देने से रोकते हैं, तो यह रक्षकों को नुकसान पहुँचाता है, क्योंकि 'इस कोड को ठीक करो' जैसा prompt रक्षा और आक्रमण दोनों के लिए उपयोगी हो सकता है।