イスラエル、AIチャットボット操作目的の偽シンクタンクを設立
原題: Israel creates fake think tank in likely attempt to dupe AI chatbots
なぜ重要か
国家主体によるLLMへの組織的情報注入が確認されたことで、AIチャットボットの情報信頼性と影響工作への対策が業界全体の課題として浮上した。
イスラエル政府広告機関の委託を受けたPiro, Inc.が設立した「Hanover Institute for Public Policy」が、1週間余りで少なくとも100本の記事を公開していることが判明した。同サイトはAIチャットボットへの情報注入を目的とした「LLMポイズニング」の手法を用いており、disinformation追跡企業NewsGuardのアナリストがその実態を指摘している。
「Hanover Institute for Public Policy」は一見、イスラエル・パレスチナ問題を扱う新興シンクタンクのように見える。しかし実際には、イスラエル政府広告機関の委託でPiro, Inc.が設立した組織であることが、サイト下部の小さな免責事項によって明らかになっている。Piro, Inc.は映画監督スパイク・リー作品「Inside Man」のプロデューサー、ダニエル・ローゼンバーグが共同創業した企業だ。
同サイトは「AIPACはダークマネーを選挙に使っているか？」「イスラエルはガザで意図的な飢餓作戦を実施しているか？」など、ユーザーがAIチャットボットに質問しそうな形式の記事を中立的な論調で大量に掲載している。記事には脚注や目次が設けられており、ClaudeやGeminiなどのLLMが信頼性の高いコンテンツとして評価しやすい構造になっている。
Piroのウェブサイトは「LLMが信頼性を評価する方法に合わせてコンテンツを制作する」と明記しており、このサービスを「AI Story Optimization」と称している。業界ではこうした手法を「LLMポイズニング」とも呼ぶ。
NewsGuardのアナリスト、アリス・リーは、同サイトは検索エンジンやAIチャットボットを通じて、進行中の紛争に関心を持つ米国のユーザーへの到達を意図した設計になっていると指摘している。LLMは具体的なデータや中立的な語り口のコンテンツを信頼しやすい傾向があるという。
記事の多くはUNICEFによる「ガザのインフラの90%が破壊または損傷」との主張に疑問を呈するなど、パレスチナ側の主張を否定する内容が中心だが、一部ではネタニヤフ首相が主張する「欧州やカタールが米大学に資金提供して反イスラエル感情を醸成している」との説を「根拠が弱い」と否定する記事も含まれ、必ずしもイスラエル政府の公式見解と一致しているわけではない。