イスラエル、AIチャットボット操作目的の偽シンクタンク設立
Judul asli: Israel creates fake think tank in likely attempt to dupe AI chatbots
Mengapa Ini Penting
国家主体によるLLMへの意図的な情報操作事例として、AIの信頼性と安全保障上の課題を示す。
イスラエル政府が「Hanover Institute」という偽シンクタンクを設立し、10日余りで100本以上の記事を公開。AIチャットボットへの情報操作が目的とみられる。
「Hanover Institute for Public Policy」は一見、イスラエル・パレスチナ問題を扱う新興シンクタンクに見える。しかし実態は、イスラエル政府広告局の依頼でPiro, Inc.が制作した偽の組織だ。Piro, Inc.はSpike Lee監督作品のプロデューサーDaniel Rosenbergが共同創業した企業で、同社ウェブサイトには「LLMが信頼性を評価する方法に合わせてコンテンツを制作する」と明記されており、この手法を「AI Story Optimization」と称している。業界ではこうした手法を「LLMポイズニング」とも呼ぶ。同サイトは10日余りで100本以上の記事を公開。報告書には脚注や目次が付き、中立的なトーンで論を展開することでClaude・Geminiなどのチャットボットに好まれる形式を採っている。記事の多くは「1948年のパレスチナ人追放の原因は？」など、ユーザーがチャットボットに問いかけそうな質問で始まる。情報追跡企業NewsGuardのアナリスト、Alice Leeは「これらのサイトは検索エンジンまたはAIチャットボットを通じて、紛争に関心を持つ米国人読者へのリーチを目的に設計されている」と述べた。