Anthropic का AI पहचान सत्यापन सिस्टम
मूल शीर्षक: Anthropic is working on a system to prove AI models’ identity
यह क्यों महत्वपूर्ण है
AI identity verification की कमी से model substitution और third-party दावों की जाँच असंभव है — FlashProve इस खामी को सीधे निशाना बनाता है।
Anthropic ने मंगलवार को 'FlashProve' नामक open source सिस्टम की घोषणा की, जो क्रिप्टोग्राफिक प्रमाण से यह सत्यापित करेगा कि कोई AI output किस model से आया है।
Anthropic एक ऐसे सिस्टम पर काम कर रही है जो यह साबित कर सके कि किसी AI model ने कोई खास output दिया है या नहीं। इस सिस्टम का नाम 'FlashProve' है और यह 'provable inference' की अवधारणा पर आधारित है — यानी एक गणितीय गारंटी कि कोई जवाब वास्तव में उसी model से आया जिसका दावा किया जा रहा है।
यह सिस्टम क्रिप्टोग्राफिक email signatures की तरह काम करता है। इसका सबसे बड़ा फायदा यह है कि यह उस स्थिति को रोक सकता है जब कोई AI कंपनी खर्च घटाने के लिए चुपचाप सस्ता model इस्तेमाल करे, या प्रदर्शन बढ़ाकर दिखाने के लिए महंगा model लगाए। तीसरे पक्ष के दावों — जैसे किसी developer का यह कहना कि उनकी software library को किसी frontier cybersecurity model ने scan किया — को भी इससे सत्यापित किया जा सकेगा।
FlashProve के लिए AI labs को प्रत्येक model का एक 'fingerprint' प्रकाशित करना होगा। खास बात यह है कि यह fingerprint model के weights — यानी उसके व्यवहार को परिभाषित करने वाले आंतरिक डेटा — को उजागर नहीं करता। इससे Anthropic और OpenAI जैसी closed-model कंपनियाँ भी अपनी सबसे मूल्यवान संपत्ति को सुरक्षित रखते हुए इस सिस्टम में भाग ले सकती हैं। सिस्टम को इतना हल्का बनाया गया है कि verification किसी local device पर भी हो सके।
Anthropic ने GitHub पर technical specification और working code open source लाइसेंस के तहत जारी किया है। हालाँकि, शोधकर्ताओं ने स्पष्ट किया है कि यह अभी 'intermediate progress' है और इसे किसी भी lab में deploy करने की कोई योजना नहीं है।