Claude डायरी बनी, Anthropic ने पुलिस को बताया
मूल शीर्षक: Anthropic reported diary entry to police, woman faces felony charge
यह क्यों महत्वपूर्ण है
यह मामला AI chatbots की निगरानी नीति और उपयोगकर्ता की गोपनीयता की सीमाओं पर बड़ा सवाल खड़ा करता है।
Florida की Carli Michelle Heller ने Claude को डायरी की तरह इस्तेमाल किया और 26 सितंबर को Sheriff के दफ्तर पर हमले की धमकी लिखी। Anthropic के human reviewer ने इसे पुलिस को सूचित किया, अब Heller पर felony का आरोप है।
Bonita Springs, Florida की निवासी Carli Michelle Heller ने Anthropic के chatbot Claude में 26 सितंबर को लिखा कि वह Sheriff के दफ्तर पर हमला करेगी। Heller ने बाद में बताया कि वह Claude को एक 'डायरी' की तरह उपयोग करती थी। Claude की safety प्रणाली ने इस entry को flag किया और इसे human reviewer के पास भेजा। reviewer ने इसे विश्वसनीय खतरा मानकर कानून प्रवर्तन को सूचित किया।
Anthropic की नीति के अनुसार, यदि कंपनी को लगे कि किसी की जान या शारीरिक सुरक्षा खतरे में है, तो वह सीमित आपात स्थितियों में उपयोगकर्ता की जानकारी साझा कर सकती है। Deputies ने Heller के घर पहुँचकर उसे बिना किसी विरोध के हिरासत में लिया। LCSO के एक intelligence detective ने जांच संभाली।
Heller पर Florida Statute 836.10 के तहत लिखित हिंसा की धमकी देने का आरोप लगाया गया है, जो second-degree felony है। यह कानून किसी को मारने, mass shooting करने या आतंकवादी कार्य की धमकी इलेक्ट्रॉनिक माध्यम से देने पर लागू होता है।
इससे पहले British Columbia में OpenAI और Sam Altman पर आरोप लगा था कि वे एक mass shooting रोक सकते थे। shooter Jesse Van Rootselaar को OpenAI की safety team ने flag किया था, पर बातचीत कानूनी सीमा न पार करने से पुलिस को सूचित नहीं किया गया।