AI業界の「滅亡警告」の背景とは
मूल शीर्षक: What’s behind the AI industry’s latest warnings of doom?
यह क्यों महत्वपूर्ण है
AI की अस्तित्वगत जोखिम बहस अब IPO और नियामक प्रकटीकरण से सीधे जुड़ रही है, जो पूरे उद्योग पर असर डाल सकती है।
AI शोधकर्ता Jacob Coxon ने Anthropic से इस्तीफा देकर चेतावनी दी कि AI कंपनियाँ मानवता के साथ जुआ खेल रही हैं। Anthropic के alignment प्रमुख ने सार्वजनिक रूप से कहा कि अगले एक दशक में AI से सभी मानवों के मारे जाने की संभावना 10% से अधिक है।
यह विवाद तब शुरू हुआ जब AI शोधकर्ता Jacob Coxon ने Anthropic छोड़ने के बाद सार्वजनिक रूप से कहा कि प्रमुख AI कंपनियाँ मानवता के अस्तित्व के साथ जुआ खेल रही हैं। Coxon पहले OpenAI में भी काम कर चुके हैं।
इसके तुरंत बाद Anthropic के alignment प्रमुख ने X पर Coxon की पोस्ट शेयर करते हुए लिखा — "हम सच में मानते हैं कि AI सभी मनुष्यों को मार सकता है!" और व्यक्तिगत रूप से यह अनुमान लगाया कि अगले एक दशक में यह खतरा 10% से अधिक है।
TechCrunch के Equity podcast में Anthony Ha, Kirsten Korosec और Sean O'Kane ने इस पर चर्चा की। Ha ने कहा कि वे ऐसी "doom" कहानियों पर संदेह करते हैं। Korosec ने सवाल उठाया कि क्या यह IPO से पहले कंपनियों की AI क्षमता दिखाने की एक अजीब कोशिश है। O'Kane ने Anthropic के आगामी IPO S-1 filing पर व्यंग्य किया — कि क्या इसमें अब यह लिखना होगा कि कंपनी का आधिकारिक मानना है कि उनकी तकनीक से मानवता का सफाया हो सकता है।
यह घटनाएँ Hugging Face पर OpenAI के आंतरिक मॉडल के हैक और Anthropic व OpenAI के नए मॉडलों की बढ़ी हुई क्षमताओं के बाद आई हैं। गौरतलब है कि यह episode Anthropic CEO Dario Amodei के अधिक सतर्क AI विकास योजना प्रकाशित करने से पहले रिकॉर्ड किया गया था।