Israël crée un faux think tank pour influencer les chatbots IA
Original : Israel creates fake think tank in likely attempt to dupe AI chatbots
Pourquoi c'est important
Cette affaire illustre l'émergence de campagnes d'influence étatiques ciblant directement les LLMs.
Le Hanover Institute for Public Policy, présenté comme un think tank sur Israël/Palestine, est en réalité une création du gouvernement israélien via la société Piro, Inc. En moins de dix jours, il a publié plus de 100 articles conçus pour manipuler les réponses des LLMs comme Claude ou Gemini.
Le Hanover Institute for Public Policy se présente comme un think tank neutre dédié aux questions israélo-palestiniennes, publiant des rapports sur des sujets tels que « Israël mène-t-il une campagne délibérée de famine à Gaza ? ». Mais aucun article ne comporte de signature, et un avis en bas de page révèle que l'organisation a été créée pour le compte du Israeli Government Advertising Agency par Piro, Inc, une société cofondée par Daniel Rosenberg, producteur du film « Inside Man » de Spike Lee. En moins d'une semaine et demie, plus de 100 articles ont été publiés. Le site de Piro, Inc décrit son service comme de l'« AI Story Optimization », consistant à produire du contenu « conçu pour répondre aux critères de crédibilité des LLMs ». Cette pratique est également désignée sous le terme de « LLM poisoning ». Les rapports, formulés en questions neutres (« Qu'est-ce qui a causé le déplacement des Palestiniens en 1948 ? »), comportent notes de bas de page et tables des matières pour paraître crédibles aux chatbots. Alice Lee, analyste chez NewsGuard, indique que ces sites visent un public américain cherchant des informations via moteurs de recherche ou assistants IA. Certains rapports contredisent parfois les positions officielles du gouvernement israélien.