生成AIで広がる「スロップ・ジハード」
原題: Gen AI Tools Are Now Being Used to Push ‘Slop Jihad’
なぜ重要か
生成AIによる過激派コンテンツの低コスト・大量生成は、プラットフォームのモデレーション技術や規制の在り方に新たな課題を突きつけている。
英シンクタンクISDの報告書によると、ISISやアル・カイダの支持者らが生成AIツールを活用し、テロ組織の宣伝コンテンツをアニメやミーム、ファン動画に変換してTikTokで拡散する「Slop Jihad」と呼ばれる新たなトレンドが台頭している。国連支援の対テロ組織Tech Against Terrorismも同様の報告書を作成した。
ISD（Institute for Strategic Dialogue）が発表し、WIREDに独占提供した報告書は、イスラム系テロ組織の支持者が生成AIを使用して過激派プロパガンダをポップカルチャー風コンテンツに変換する「Slop Jihad」という現象を詳述している。
具体例として、10年以上前にイスラム国（ISIS）が公開した処刑動画が、SpongeBob SquarePantsのキャラクターを使ったアニメーションとして再制作され、TikTokに投稿された事例が挙げられている。また、ISISの公式週刊ニュースレター「アル・ナバ」をアニメ化するTikTokアカウントの存在も確認されている。
国連が支援する対テロ組織Tech Against Terrorismのエグゼクティブ・ディレクター、Adam Hadley氏は「AIで生成された高度に様式化されたコンテンツは、暴力的なイスラム過激派の素材を若い世代に届けやすくする一方、従来のテロ組織のブランディングを見えにくくする」と指摘。エンターテインメント形式で接触したユーザーが、アルゴリズムの推薦によってより露骨なプロパガンダへ誘導される恐れがあるとしている。
ISDでグローバル・イスラム主義・対テロ研究の責任者を務めるMoustafa Ayad氏は「このトレンドはまだ成長段階にあり、ピークには達していない」と述べた。過激派グループは2020年代初頭の「Alt Jihad」運動でオルタナ右翼の表現様式を取り込むなど、新メディア環境への適応能力を持ち続けており、2024年にはISIS系ニュース番組「News Harvest」がAI生成のニュースキャスターを導入している。
こうした新しいスタイルのコンテンツに対しては、従来型のプロパガンダを支持する一部のユーザーから反発も見られるが、一方で伝統的なプロパガンダを共有するアカウントが新スタイルの動画も拡散するケースもあるという。