खतरनाक AI मॉडल आना अनिवार्य है
मूल शीर्षक: ‘Dangerous’ AI Models Are Coming No Matter What
यह क्यों महत्वपूर्ण है
AI की उन्नत क्षमताओं का नियमन एक वैश्विक चुनौती है; सरकारी नीति से पहले प्रौद्योगिकी विकास तेजी से आगे बढ़ रही है।
अमेरिकी सरकार ने Anthropic के Claude Fable 5 और Mythos 5 मॉडल को प्रतिबंधित किया है, लेकिन विशेषज्ञों का कहना है कि उन्नत हैकिंग क्षमताओं वाले AI मॉडल भविष्य में सामान्य हो जाएंगे। Mythic को अप्रैल में लॉन्च किया गया था।
Anthropic ने अमेरिकी सरकार के निर्यात नियंत्रण निर्देश के बाद अपने Claude Fable 5 और Mythos 5 AI मॉडल को ऑफलाइन कर दिया है, जिसमें विदेशी नागरिकों को सेवा का उपयोग करने से प्रतिबंधित किया गया है। कंपनी व्हाइट हाउस के साथ वार्ता कर रही है लेकिन अभी तक कोई समझौता नहीं हुआ है। Mythos मॉडल सॉफ्टवेयर कमजोरियों को खोजने और उन्हें ठीक करने में मदद करने के साथ-साथ उन्हें दुर्भावनापूर्ण लोगों द्वारा दुरुपयोग किए जाने वाले तरीकों का पता लगाने में सक्षम है। Anthropic ने स्वीकार किया है कि यह "डुअल यूज" समस्या है - वही क्षमताएं साइबर सुरक्षा पेशेवरों के लिए फायदेमंद हैं लेकिन दुर्भावनापूर्ण लोगों के लिए खतरनाक हो सकती हैं। कंपनी ने Mythos Preview को Project Glasswing कार्य समूह के सदस्यों को सीमित रूप से जारी किया था। ट्रम्प प्रशासन को संदेह है कि Fable 5 की सुरक्षात्मक व्यवस्था को अक्षम किया जा सकता है। हालांकि, विशेषज्ञों का कहना है कि Mythos जैसी क्षमताएं अन्य कंपनियों और ओपन-वेट डेवलपर्स के पास भी आने वाले महीनों में होंगी। TPO Group के मुख्य सुरक्षा अधिकारी Tarah Wheeler का कहना है कि प्रतिद्वंद्वी कंपनियां समान क्षमताएं पहले से विकसित कर सकती हैं। OpenAI ने भी अप्रैल में एक साइबर सुरक्षा-केंद्रित मॉडल का निजी रिलीज किया था।