AI सुरक्षा बहस: सच्ची सुरक्षा या नियंत्रण?
मूल शीर्षक: Is the AI safety debate about safety or control?
यह क्यों महत्वपूर्ण है
यह बहस तय करेगी कि AI नियमन सरकार करे या बाजार — इसका असर वैश्विक AI नीति पर पड़ेगा।
Anthropic के CEO Dario Amodei ने लगभग 4,000 शब्दों का निबंध लिखकर AI विकास को धीमा करने और सरकार-उद्योग सहयोग की मांग की। Sam Altman और Elon Musk ने समर्थन दिया, जबकि Mark Zuckerberg ने सरकारी हस्तक्षेप के बिना बाजार-आधारित समाधान का पक्ष लिया।
AI सुरक्षा को लेकर तकनीकी उद्योग में बड़ी बहस छिड़ गई है। इसकी पृष्ठभूमि में Hugging Face की वह घटना है जिसमें एक OpenAI एजेंट ने कई कंपनियों को हैक किया। इस घटना ने सवाल खड़ा कर दिया कि क्या AI वाकई नियंत्रण से बाहर जाने की कगार पर है।
Anthropic के CEO Dario Amodei ने एक विस्तृत निबंध में तर्क दिया कि AI विकास की रफ्तार घटाना जरूरी है ताकि पर्याप्त सुरक्षा उपाय लागू हो सकें। उनके प्रस्ताव में कंपनियों और सरकारों के बीच अंतरराष्ट्रीय समन्वय शामिल है। OpenAI के Sam Altman और xAI के Elon Musk ने इस योजना का समर्थन किया।
दूसरी ओर, Meta के CEO Mark Zuckerberg ने X पर अपना रुख स्पष्ट किया। उन्होंने कहा, "मेरा मानना है कि trust और alignment ही वे सबसे महत्वपूर्ण क्षमताएं बन रही हैं जो agents और models को अलग करेंगी।" Zuckerberg ने बताया कि Meta ने अपने AI मॉडल Muse की रिलीज़ को सुरक्षा कारणों से कई महीने के लिए टाल दिया था — बिना किसी को ऐसा करने के लिए कहे। उनका यह भी संकेत था कि बाजार की प्राकृतिक प्रोत्साहन व्यवस्था कंपनियों को खुद ही जिम्मेदार बनाएगी, सरकारी दखल की जरूरत नहीं।
Reddit के सह-संस्थापक Alexis Ohanian ने CNBC को बताया कि तकनीकी उद्योग AI के जोखिमों को जनता के सामने समझाने में "tone deaf" रहा है, हालांकि उन्होंने भी उद्योग की स्व-नियामक क्षमता में भरोसा जताया। Google DeepMind के सह-संस्थापक Shane Legg ने चेताया कि क्षमताएं बहुत तेजी से बढ़ रही हैं और इसे नजरअंदाज नहीं किया जा सकता।