Dario Amodei：オープンウェイトモデル禁止に反対、中国AIを懸念
मूल शीर्षक: Anthropic’s Dario Amodei responds: doesn’t oppose open-weight models, but fears Chinese AI
यह क्यों महत्वपूर्ण है
Anthropic के CEO का यह बयान open-weight AI models और राष्ट्रीय सुरक्षा के बीच चल रही नीतिगत बहस में एक महत्वपूर्ण स्पष्टीकरण है।
Anthropic के CEO Dario Amodei ने सोमवार को स्पष्ट किया कि उनकी कंपनी ने कभी open-weight models पर प्रतिबंध की वकालत नहीं की। उनका असली डर चीनी AI की बढ़ती सैन्य क्षमता और biological attacks को लेकर है।
Anthropic के संस्थापक और CEO Dario Amodei ने 27 जुलाई, सोमवार को एक ब्लॉग पोस्ट प्रकाशित कर उद्योग में फैली उस अफवाह का जवाब दिया जिसमें कहा जा रहा था कि Anthropic अमेरिकी सरकार द्वारा open-weight models पर प्रतिबंध का समर्थन करती है। Amodei ने लिखा, "Anthropic ने कभी open-weight models पर प्रतिबंध की वकालत नहीं की।"
यह बयान Nvidia के CEO Jensen Huang द्वारा X पर एक खुले पत्र शेयर करने के बाद आया, जिस पर Hugging Face, Meta, Microsoft, Mistral और Nvidia सहित कई AI कंपनियों ने हस्ताक्षर किए थे। इस पत्र में पॉलिसीमेकर्स से open-weight AI models पर "समय से पहले प्रतिबंध" न लगाने की अपील की गई थी।
Amodei ने स्पष्ट किया कि "खतरनाक क्षमताओं से रहित open-weight models एक सार्वजनिक भलाई हैं" और ये businesses, developers व researchers के लिए उपयोगी हैं। हालांकि, उनकी मुख्य चिंता यह है कि "authoritarian governments" अमेरिका से अधिक शक्तिशाली AI models बनाकर "स्थायी सैन्य श्रेष्ठता" हासिल कर सकते हैं। उन्होंने Chinese Communist Party (CCP) को सबसे सक्षम खतरा बताया।
Amodei ने यह भी कहा कि open-weight models biological attacks के परिदृश्य में अधिक खतरनाक हो सकते हैं क्योंकि उन पर guardrails लगाना और उनकी निगरानी करना मुश्किल है। UK AI Security Institute की रिपोर्ट का हवाला देते हुए उन्होंने बताया कि एक बार जारी होने पर open-weight models को वापस नहीं लिया जा सकता।
चीन को रोकने के उपायों में उन्होंने शक्तिशाली chips तक चीन की पहुंच सीमित करने और distillation पर औपचारिक कार्रवाई की मांग की। Amodei ने model safety से जुड़े अंतरराष्ट्रीय प्रयासों का भी समर्थन किया।