Muse आपके परिवार-दोस्तों की डिटेल प्रोफ़ाइल बनाता है
मूल शीर्षक: Muse Creates Detailed Profiles of All Your Friends and Family
यह क्यों महत्वपूर्ण है
Meta का AI एजेंट निजी रिश्तों की व्यवस्थित प्रोफ़ाइलिंग करता है, जो डेटा गोपनीयता के लिए नई चुनौती है।
Meta के AI एजेंट Muse ने लाखों डाउनलोड हासिल किए हैं, लेकिन शोधकर्ता Karan Joshi ने इसके system prompts निकालकर खुलासा किया कि यह यूज़र के हर परिचित की विस्तृत प्रोफ़ाइल हर घंटे बनाता है।
Meta का AI एजेंट Muse इस समय उपभोक्ताओं में काफी लोकप्रिय है। लोग इसे बैंक अकाउंट, मैसेज और हेल्थ डेटा से जोड़कर अपने काम करवा रहे हैं। लेकिन हाल ही में स्वतंत्र AI सुरक्षा शोधकर्ता Karan Joshi ने Muse के आंतरिक files और system prompts निकालने में सफलता पाई। उन्होंने सामान्य chat interface का उपयोग करते हुए Muse से उसकी अपनी software files साझा करवा लीं और यह जानकारी WIRED को दी।
इन instructions के अनुसार, Muse हर घंटे यूज़र के जीवन में मौजूद हर व्यक्ति — परिवार, साथी, दोस्त, सहकर्मी, और जिन्हें वे follow करते हैं — के लिए एक अलग "page" तैयार करता है। इन pages में Facts, History, रिश्ते की प्रकृति, साझा बातें, खुले मुद्दे और रिश्ता मजबूत करने के सुझाव जैसे हिस्से हो सकते हैं। जन्मदिन, सालगिरह, बहस जो सुलझी, या साझा बचत लक्ष्य जैसी बातें भी दर्ज की जा सकती हैं।
Meta का कहना है कि ये files जानबूझकर पारदर्शिता के लिए सुलभ रखी गई थीं। कंपनी की instructions यह भी कहती हैं कि Muse को केवल उपलब्ध "साक्ष्य" का उपयोग करना चाहिए — गढ़ी हुई जानकारी खाली page से भी बुरी है। Joshi का कहना है, "वे आपके असली लोगों से रिश्ते समझना चाहते हैं — यह आपको एक दोस्त की तरह जानने की कोशिश है, जो ईमानदारी से काफी असहज करने वाला है।" Meta के पास पहले से विशाल social network डेटा है, ऐसे में यह व्यवस्था कई गोपनीयता सवाल खड़े करती है।