Altman: AI को नहीं, इंसानों को रहना होगा नियंत्रण में

मूल शीर्षक: Sam Altman warns against a future where AI, not humans, calls the shots

यह क्यों महत्वपूर्ण है

AI के बढ़ते प्रभाव के बीच मानव नियंत्रण और alignment पर OpenAI की स्पष्ट सार्वजनिक स्थिति उद्योग की दिशा तय करती है।

OpenAI CEO Sam Altman ने NY Times DealBook Summit में बुधवार को कहा कि AI को धीरे-धीरे निर्णय-शक्ति सौंपना 'बेहद बुरा विचार' है। Co-founder Greg Brockman भी इस राय से सहमत हैं।

Sam Altman और Greg Brockman ने NY Times DealBook Summit के मंच पर Silicon Valley में चल रही उस बहस को सीधे खारिज किया, जिसमें AI को धीरे-धीरे हर बड़े उद्योग और संस्था की निर्णय-शक्ति सौंपने की बात होती है। Altman ने कहा, 'यह लगभग हास्यास्पद लगता है कि इसके खिलाफ लड़ना पड़े, लेकिन हम दोनों गहराई से मानते हैं कि लोगों को भविष्य पर नियंत्रण बनाए रखना चाहिए।'

यह 'हैंडओवर' सिद्धांत 'Recursive Self-Improvement' (RSI) की अवधारणा से उपजता है — जिसमें AI मॉडल खुद को बेहतर बनाते जाते हैं और अंततः एक ऐसी superintelligence बनती है जिसे मनुष्य नियंत्रित नहीं कर सकता। Altman ने माना कि वे और Brockman इस लक्ष्य को हासिल करने के तरीकों पर बहस करते हैं, लेकिन मूल सहमति एक है — न जानबूझकर, न गलती से AI को नियंत्रण नहीं सौंपा जाना चाहिए।

Brockman ने monitoring पर चिंता जताई। उन्होंने कहा कि अभी शोधकर्ता AI के 'chain of thought' — यानी उसकी सोच की प्रक्रिया — को ट्रैक करते हैं। लेकिन जैसे-जैसे मॉडल शक्तिशाली होते हैं, वे बिना विचार लिखे ही काम कर सकते हैं। इसलिए monitoring के लिए नई तकनीक की जरूरत होगी। Brockman ने कहा, 'हमें यह देना होगा, और एक बिंदु आएगा जब हमें गंभीरता से सोचना होगा।'

स्रोत

techcrunch.com — मूल लेख पढ़ें →