AI की वजह से जटिल सिस्टम टूट रहे हैं?
मूल शीर्षक: We need smart people who give a shit
यह क्यों महत्वपूर्ण है
AI-driven layoffs से critical infrastructure की देखरेख करने वाले विशेषज्ञ कम हो रहे हैं, जो systemic risk बढ़ाता है।
Stripe के पूर्व कर्मचारी Justin Michael ने तर्क दिया कि Microsoft 365, Air Traffic Control, United Airlines और NSA जैसे सिस्टम की हालिया विफलताओं की जड़ में Generative AI के कारण हुई छंटनी है।
Justin Michael ने VioletPixel ब्लॉग पर लिखा कि दुनिया के जटिल सिस्टम दो चीज़ों पर टिके हैं — गहरी तकनीकी समझ और उसे काम कराने की जिद। उन्होंने ACH (Automated Clearing House) बैंकिंग सिस्टम का उदाहरण दिया, जो तकनीकी रूप से पुराना और खामियों से भरा है, फिर भी रोज़ाना काम करता है — सिर्फ इसलिए कि कुछ जानकार और परवाह करने वाले लोग उसे थामे रहते हैं।
लेकिन Generative AI के आने के बाद प्रबंधन को लगा कि मशीन से वही काम सस्ता और बिना छुट्टी के हो सकता है। नतीजा: उन्हीं लोगों की छंटनी जो सिस्टम को असल में चला रहे थे। Michael का कहना है कि management को code, text और output में फर्क नहीं दिखता — उन्हें बस 'result' चाहिए। लेकिन AI न तो वाकई समझदार है, न उसे किसी चीज़ की परवाह है।
हाल के हफ्तों में Microsoft 365, NSA, Apple, कई बड़े बैंक और Air Traffic Control में हुई विफलताओं को लेकर Michael ने कहा कि ये 'असंबंधित घटनाएं' नहीं, बल्कि एक ही समस्या के अलग-अलग रूप हैं।