OpenAI सुरक्षा कर्मचारी का इस्तीफा, 'संस्कृति टूटी' का आरोप
मूल शीर्षक: OpenAI safety employee resigns, claiming the company’s ‘culture is broken’
यह क्यों महत्वपूर्ण है
लगातार वरिष्ठ सुरक्षा विशेषज्ञों का इस्तीफा AI उद्योग की आंतरिक जवाबदेही पर सवाल उठाता है।
OpenAI के सुरक्षा कर्मचारी David Robinson ने 3.5 साल बाद इस्तीफा दिया। The Atlantic में लिखे लेख में उन्होंने कंपनी की 'broken culture' और बढ़ते AI जोखिमों पर गंभीर चिंता जताई।
David Robinson, जो OpenAI के प्रमुख उत्पाद लॉन्च के साथ सुरक्षा रिपोर्ट तैयार करते थे, ने कंपनी छोड़ते हुए The Atlantic में एक विस्तृत लेख प्रकाशित किया। 3.5 साल के अनुभव के साथ वे कंपनी के 'सबसे पुराने कर्मचारियों में से एक' बताते हैं।
Robinson का मुख्य आरोप है कि OpenAI की 'iterative deployment' यानी पहले लॉन्च करो, फिर सुधारो — की नीति जैसे-जैसे AI सिस्टम अधिक सक्षम होते हैं, वैसे-वैसे बड़ी विफलताओं की गारंटी देती है। उन्होंने Hugging Face के सिस्टम में OpenAI agents द्वारा हुए हालिया उल्लंघन और 'rogue agents' की बढ़ती घटनाओं का हवाला दिया।
उनके अनुसार, frontier AI कंपनियों को परमाणु ऊर्जा संयंत्रों या हवाई अड्डों जैसी सुरक्षा परतें अपनानी चाहिए। लेकिन उन्होंने यह भी कहा कि OpenAI में उन्हें कभी कोई ऐसा सहकर्मी नहीं मिला जिसे विमान सुरक्षा या परमाणु रिएक्टर संचालन का अनुभव हो।
OpenAI प्रवक्ता Drew Pusateri ने जवाब में कहा कि कंपनी अपने सुरक्षा उपायों में लगातार सुधार कर रही है और जरूरत पड़ने पर model training रोकती भी है। Robinson का यह बयान Jacob Coxon के इस्तीफे के बाद आया है, जिन्होंने OpenAI और Anthropic को 'हमारी जिंदगियों से जुआ खेलने' वाली कंपनियाँ बताया था।