Anthropic Fable में सुरक्षा प्रतिबंधों से चिढ़े साइबर विशेषज्ञ
मूल शीर्षक: Cybersecurity researchers aren't happy about the guardrails on Anthropic's Fable
यह क्यों महत्वपूर्ण है
AI मॉडलों में सुरक्षा और उपयोगिता के बीच संतुलन एक महत्वपूर्ण तकनीकी चुनौती है।
Anthropic ने मंगलवार को Fable AI मॉडल जारी किया, जो साइबर सिक्योरिटी मॉडल Mythos का सीमित संस्करण है। सुरक्षा शोधकर्ता इसके कड़े प्रतिबंधों से नाराज हैं जो साइबर सिक्योरिटी से जुड़े मामूली कामों को भी रोकते हैं।
Anthropic के नए Fable मॉडल में लगाए गए सुरक्षा प्रतिबंध साइबर सिक्योरिटी विशेषज्ञों के लिए समस्या बन गए हैं। IBM X-Force की शोधकर्ता वैलेंटिना पालमियोटी ने शिकायत की कि यह किसी भी साइबर से संबंधित अनुरोध को रोक देता है, यहां तक कि ब्लॉग पोस्ट पढ़ने जैसे सामान्य काम भी। मैट सूइच नाम के साइबर सिक्योरिटी विशेषज्ञ ने बताया कि सुरक्षित कोड लिखने को भी यह साइबर सिक्योरिटी से जोड़कर रोक देता है। Fable में जैविक हथियारों की चिंता के कारण बायोलॉजी विषयों पर भी प्रतिबंध हैं। जब गार्डरेल्स सक्रिय होते हैं, तो मॉडल Claude Opus 4.8 पर वापस चला जाता है। Anthropic अप्रैल में Mythos रिलीज़ के बाद Project Glasswing के तहत इसे सीमित संगठनों तक ही पहुंचाया था। कंपनी के पास Cyber Verification Program भी है जो अनुमोदित साइबर पेशेवरों को कम प्रतिबंधों के साथ Claude इस्तेमाल करने देता है।