生成AIが「スロップ・ジハード」拡散に悪用される

Institute of Strategic Dialogue（ISD）の新報告書によると、ISIS・al-Qaidaなどイスラム系テロ組織の若い支持者たちが、生成AIツールを使って過激派プロパガンダをアニメ・ミーム・ファン編集動画に変換し、TikTokで拡散する「Slop Jihad」と呼ばれる現象が確認されている。具体例として、ISSによる水中処刑映像がSpongeBobのアニメとして再現され、TikTokに投稿された。また別のアカウントはISISの週刊誌「al-Naba」をアニメ動画に変換していた。2024年にはISIS系メディア「News Harvest」がAI生成アンカーを使ったプロパガンダ動画を製作していたが、現在の内容はそれと大きく異なる。国連支援のカウンターテロ組織Tech Against TerrorismのAdam Hadley氏は「AIで高度にスタイル化されたコンテンツは、過激な暴力コンテンツを若年層に見えにくい形で届け、アルゴリズムによる関連動画の推薦を誘発する」と警告。ISDのMoustafa Ayad氏は「この現象はまだピークに達していない」と述べており、一方で従来の支持者の一部からは反発の声も上がっている。