Anthropic छोड़ने वाले शोधकर्ता: 'मानवता के लिए निर्णायक समय'
मूल शीर्षक: The AI Researcher Who Just Quit Anthropic Says It’s ‘Crunch Time for Humanity’
यह क्यों महत्वपूर्ण है
Anthropic के एक वरिष्ठ शोधकर्ता की सार्वजनिक चेतावनी ने AI सुरक्षा और नियामक नीति पर वैश्विक बहस को तेज कर दिया है।
AI शोधकर्ता Jacob Coxon ने Anthropic से इस्तीफा देकर X पर चेतावनी दी कि AI रेस मानवता को खतरे में डाल रही है। उनकी पोस्ट को 10 करोड़ से अधिक व्यूज मिले। उनके अनुसार अगले 1-2 वर्ष मानवता के भविष्य के लिए 'crunch time' हैं।
Anthropic में AI pretraining पर काम कर चुके शोधकर्ता Jacob Coxon ने कंपनी से इस्तीफा देते हुए X पर एक पोस्ट प्रकाशित की, जिसे अब तक 10 करोड़ से अधिक बार देखा जा चुका है। Coxon ने WIRED को दिए एक इंटरव्यू में बताया कि Anthropic के उनके सहयोगी अक्सर 'endgame' और 'crunch time' जैसे शब्दों का इस्तेमाल करते थे, और उनका मानना है कि अगले 1-2 वर्षों में Anthropic और उसके प्रतिस्पर्धी मानवता का भविष्य तय करेंगे।
Anthropian के AI alignment प्रमुख Evan Hubinger ने भी X पर पोस्ट कर कहा कि अगले एक दशक में AI द्वारा सभी मनुष्यों की मृत्यु की 10 प्रतिशत से अधिक संभावना है। इस पोस्ट को OpenAI और Anthropic के कई मौजूदा एवं पूर्व शोधकर्ताओं ने repost किया और इसे उद्योग में एक सामान्य भावना बताया।
Coxon, जो पहले OpenAI में भी काम कर चुके हैं, के अनुसार AI से उत्पन्न जैविक खतरे और साइबरहथियार प्रमुख जोखिम हैं। उन्होंने पहले कदम के रूप में OpenAI और Anthropic को 'recursive self improvement' यानी AI द्वारा नए AI निर्माण को सीमित करने पर समन्वय करने की सिफारिश की। दीर्घकालिक समाधान के लिए उन्होंने अमेरिका और चीन सहित वैश्विक शक्तियों के बीच समझौते की आवश्यकता बताई।
Coxon ने Hugging Face हैक की घटना, जिसमें OpenAI के एजेंट्स ने उस प्लेटफ़ॉर्म को हैक किया, को भी अपने निर्णय का एक कारण बताया। उनका कहना है कि फिलहाल Anthropic OpenAI की तुलना में अधिक जिम्मेदारी से काम करता है, लेकिन भविष्य में दोनों कंपनियां प्रतिस्पर्धा में सुरक्षा से समझौता कर सकती हैं।