Amazon CEO ने Anthropic मॉडल चिंताएं व्यक्त कीं
मूल शीर्षक: Amazon CEO reportedly raised Anthropic model concerns before government crackdown
यह क्यों महत्वपूर्ण है
AI मॉडल की सुरक्षा चिंताओं और सरकारी नियंत्रण का नया मामला उद्योग के लिए महत्वपूर्ण है।
Amazon CEO Andy Jassy ने सरकारी अधिकारियों को बताया कि शोधकर्ताओं ने Anthropic के Claude Fable 5 मॉडल का उपयोग करके साइबर हमलों में इस्तेमाल हो सकने वाली जानकारी प्राप्त की। इसके बाद सरकार ने दो मॉडल पर प्रतिबंध लगा दिया।
Wall Street Journal की रिपोर्ट के अनुसार, Amazon के CEO Andy Jassy ने Treasury Secretary Scott Bessent और अन्य सरकारी अधिकारियों को बताया था कि Amazon के शोधकर्ताओं ने Anthropic के Claude Fable 5 मॉडल का उपयोग करके ऐसी जानकारी हासिल की जो साइबर हमलों में इस्तेमाल हो सकती है। इसके परिणामस्वरूप सरकार ने शुक्रवार को Fable 5 और Mythos 5 मॉडल पर export control प्रतिबंध लगाया। Amazon spokesperson ने बताया कि सरकारों का सुरक्षा जोखिमों पर सलाह मांगना असामान्य नहीं है, लेकिन कंपनी इन चर्चाओं का विवरण साझा नहीं करती। Trump के पूर्व AI czar David Sacks ने दावा किया कि एक विश्वसनीय साझेदार ने jailbreak की जानकारी दी थी और Anthropic CEO Dario Amodei ने इसे ठीक करने या मॉडल हटाने से मना कर दिया। Anthropic ने कहा कि ये क्षमताएं अन्य सार्वजनिक मॉडल में पहले से उपलब्ध हैं।