Anthropic का AI सुरक्षा बिल: 50 मौतों का खतरा तो रोकें मॉडल
मूल शीर्षक: Anthropic pitches AI safety bill that may block a model if 50+ people could be killed
यह क्यों महत्वपूर्ण है
यह पहली बार है जब किसी प्रमुख AI कंपनी ने खुद अपने उद्योग के लिए ठोस विधायी ढांचा प्रस्तावित किया है।
Anthropic ने अमेरिकी Congress के लिए एक AI सुरक्षा बिल का मसौदा तैयार किया है, जिसमें 50 से अधिक लोगों की मृत्यु या $1 अरब से अधिक संपत्ति क्षति के खतरे पर AI मॉडल की रिलीज़ रोकने का प्रावधान है।
Politico की रिपोर्ट के अनुसार, Anthropic ने एक नया AI सुरक्षा बिल तैयार किया है और उसे Congress में पेश करने की कोशिश कर रहा है। इस मसौदे में तीन मुख्य परिदृश्यों में AI मॉडल की रिलीज़ रोकने का प्रावधान है — जैव हथियार निर्माण, मॉडल का डेवलपर के नियंत्रण से बाहर जाना, और साइबर हमले। यह तभी लागू होगा जब खतरा "पूर्वानुमानित और तत्काल" हो तथा 50 से अधिक लोगों की जान या $1 अरब से अधिक संपत्ति खतरे में हो।
ये आंकड़े California के हाल ही में पारित Senate Bill 53 से मिलते-जुलते हैं, जो इन्हीं परिदृश्यों को "catastrophic risk" मानता है। Anthropic के बिल में U.S. Commerce Department के साथ पंजीकृत "independent evaluators" द्वारा मॉडल का आकलन करने का सुझाव है। ये मूल्यांकनकर्ता AI कंपनियों से भुगतान ले सकते हैं, बशर्ते भुगतान नतीजों पर निर्भर न हो — हालांकि इस व्यवस्था में हितों के टकराव की आशंका बनी रहती है।
जब evaluators किसी तत्काल खतरे की पहचान करें, तो उन्हें 72 घंटों में Commerce Department को सूचित करना होगा। Department फिर Washington D.C. के किसी जज से मॉडल की रिलीज़ रोकने का अनुरोध करेगा। बिल में किसी भी संघीय एजेंसी को स्वतंत्र रूप से मॉडल रोकने का अधिकार देने पर स्पष्ट रोक है। Anthropic के प्रवक्ता ने Politico को पुष्टि की कि यह बिल कंपनी के "Advanced AI Framework" पर आधारित है, जिसे जून से ही राज्य और संघीय स्तर पर पेश किया जा रहा है।