Anthropic CEO ने 'frontier को pace करने' की योजना बताई
मूल शीर्षक: Anthropic CEO outlines plan to ‘pace the frontier’
यह क्यों महत्वपूर्ण है
Anthropic का यह एकतरफा कदम AI safety governance में एक नया precedent स्थापित कर सकता है और अन्य frontier कंपनियों पर दबाव बनाएगा।
Anthropic के CEO Dario Amodei ने एक नए blog post में AI विकास की गति को नियंत्रित करने के लिए तीन रणनीतियाँ प्रस्तुत कीं। इनमें से एक — तृतीय-पक्ष 'embedded evaluators' को कंपनी में बैठाना — के लिए Anthropic ने एकतरफा प्रतिबद्धता जताई है। यह घोषणा Anthropic के एक शोधकर्ता Jacob Coxon के इस्तीफे के बाद आई, जिन्होंने कहा था कि AI कंपनियाँ 'हमारी जिंदगियों से जुआ खेल रही हैं।'
Dario Amodei ने अपने blog post में लिखा कि दो घटनाओं ने उन्हें अधिक सतर्क रुख अपनाने पर मजबूर किया: पहली, OpenAI-HuggingFace hack की घटना, और दूसरी यह तथ्य कि हाल के महीनों में AI 'अत्यंत तेज़ी से आगे बढ़ रहा है', विशेषकर अगली पीढ़ी के AI निर्माण में उसकी बढ़ती क्षमता के कारण।
Amodei की पहली प्रस्तावित रणनीति है — METR जैसे तृतीय-पक्ष संगठनों से 'embedded evaluators' को कंपनी में बैठाना, जो सुनिश्चित करें कि AI कंपनियाँ अपनी safety प्रतिबद्धताओं का पालन कर रही हैं और सुरक्षा संबंधी घटनाओं की रिपोर्टिंग हो। इन evaluators को company badge, desk, laptop दिए जाएंगे और internal risk assessment teams के लगभग समकक्ष access मिलेगी। Anthropic ने इस कदम के लिए एकतरफा प्रतिबद्धता जताई है और सरकारों से आग्रह किया है कि वे अन्य frontier कंपनियों पर यही अनिवार्य करें।
दूसरी रणनीति में Amodei ने 'democratic देशों' की प्रमुख AI कंपनियों से common safety standards और AI प्रगति की अनियंत्रित गति पर सीमाएँ तय करने के लिए समन्वय का आह्वान किया। हालांकि Amodei और OpenAI CEO Sam Altman के बीच की स्पष्ट प्रतिद्वंद्विता और antitrust चिंताओं को देखते हुए यह कठिन लगता है। Amodei ने खुद स्वीकार किया कि इसके लिए अमेरिकी सरकार को मध्यस्थ की भूमिका निभानी होगी और कुछ safety चर्चाओं के लिए एक सीमित antitrust छूट देनी होगी।
तीसरी रणनीति पर लेख में विस्तृत जानकारी उपलब्ध नहीं है, लेकिन Amodei ने Chinese AI dominance की आशंका को भी स्वीकार किया, जिसे अक्सर AI को धीमा करने के विरुद्ध तर्क के रूप में उठाया जाता है। यह post उस समय आई जब Anthropic के शोधकर्ता Jacob Coxon ने इस्तीफा देकर कहा था कि AI कंपनियाँ 'हमारी जिंदगियों से जुआ खेल रही हैं' और यह कि तकनीक बनाने वाले लोग 'ईमानदारी से मानते हैं कि यह दशक खत्म होने से पहले हम सबको मार सकती है।'