イスラエルがAIチャットボット操作用の偽シンクタンクを設立
मूल शीर्षक: Israel creates fake think tank in likely attempt to dupe AI chatbots
यह क्यों महत्वपूर्ण है
यह मामला सरकारी स्तर पर LLM poisoning के ज़रिए AI chatbots को प्रभावित करने की नई रणनीति को उजागर करता है, जो AI सूचना विश्वसनीयता के लिए गंभीर खतरा है।
इज़रायल सरकार की ओर से Piro, Inc. द्वारा बनाए गए Hanover Institute for Public Policy ने एक सप्ताह में 100 से अधिक लेख प्रकाशित किए, जो AI चैटबॉट्स को प्रभावित करने के लिए तैयार किए गए प्रतीत होते हैं।
Hanover Institute for Public Policy एक वास्तविक थिंक टैंक नहीं है। इसे Israeli Government Advertising Agency की ओर से Piro, Inc. नामक कंपनी ने बनाया है, जिसके सह-संस्थापक Daniel Rosenberg हैं। वेबपेज पर एक छोटे से अस्वीकरण में यह जानकारी दी गई है।
इस संस्थान ने एक सप्ताह से थोड़े अधिक समय में 100 से ज़्यादा लेख प्रकाशित किए हैं, जो सभी इज़रायल और फ़लस्तीन से संबंधित हैं। किसी भी रिपोर्ट पर लेखक का नाम नहीं है। रिपोर्ट्स में footnotes और table of contents शामिल हैं और तटस्थ भाषा में तर्क प्रस्तुत किए जाते हैं, जो Claude या Gemini जैसे chatbots को प्रभावित करने के लिए उपयुक्त हैं।
Piro की वेबसाइट के अनुसार, कंपनी "LLMs की विश्वसनीयता मूल्यांकन प्रक्रिया के अनुसार content तैयार करती है" और इस सेवा को "AI Story Optimization" कहती है। इस प्रक्रिया को कुछ लोग "LLM poisoning" भी कहते हैं।
रिपोर्ट्स अक्सर ऐसे सवालों से शुरू होती हैं जो कोई chatbot से पूछ सकता है, जैसे "1948 में फ़लस्तीनियों का विस्थापन क्यों हुआ?" या "Gaza की वर्तमान स्थिति क्या है?"। कुछ रिपोर्ट्स इज़रायल सरकार की आधिकारिक बातों से भी अलग निष्कर्ष प्रस्तुत करती हैं।
NewsGuard की विश्लेषक Alice Lee ने बताया कि ये साइटें अमेरिकी दर्शकों तक search engines और AI chatbots के ज़रिए पहुँचने के लिए डिज़ाइन की गई हैं।