LeCun: AI से मानवता को कोई खतरा नहीं
मूल शीर्षक: LeCun has "zero concerns" about AI wiping out humanity, recent "rogue" incidents
यह क्यों महत्वपूर्ण है
AI सुरक्षा बहस में एक शीर्ष वैज्ञानिक की असहमति उद्योग की दिशा और नीति निर्माण दोनों को प्रभावित करती है।
Meta के पूर्व मुख्य AI वैज्ञानिक Yann LeCun ने कहा कि उन्हें AI से मानव विनाश की 'शून्य चिंता' है और Anthropic CEO Dario Amodei को 'भ्रमित' बताया।
2018 में Turing Award जीतने वाले Yann LeCun तीन AI 'गॉडफादर्स' में अकेले ऐसे हैं जो AI के खतरों को लेकर चिंतित नहीं हैं। Geoffrey Hinton और Yoshua Bengio जहाँ AI जोखिमों को लेकर गहरी चिंता व्यक्त कर चुके हैं, वहीं LeCun इन चेतावनियों को अतिरंजित और उल्टा असर करने वाली मानते हैं।
जुलाई में OpenAI के agents द्वारा Hugging Face को स्वायत्त रूप से हैक करने की घटना सहित हालिया 'rogue AI' मामलों पर LeCun ने कहा कि ये घटनाएँ खराब मानव निगरानी और सिस्टम डिज़ाइन का नतीजा हैं — 'पूरी तरह रोकी जा सकती थीं।' उन्होंने कहा, 'वे agents वही कर रहे थे जो उनसे कहा गया था। Sandboxes थे, लेकिन खराब तरीके से बनाए गए।'
US Treasury Secretary Scott Bessent ने भी Hugging Face घटना की जिम्मेदारी OpenAI प्रबंधन पर डाली।
LeCun ने Effective Altruism (EA) आंदोलन को 'अत्यंत विषैला' और 'पूरी तरह विफल' करार दिया। उनके अनुसार AI labs में EA से जुड़े लोग 'पागलपन की हद तक चिंतित' रहते हैं, जिससे वे गलत निर्णय लेते हैं। Financial Times के अनुसार UK के AI Security Institute, OpenAI, Anthropic और Google DeepMind के कुछ कर्मचारियों ने काउंसलिंग ली है।