RedditがLLMでLLM由来スパムに対抗
原題: Reddit is using LLMs to solve a problem LLMs largely created
なぜ重要か
LLMによるスパム対策の実績公開は、AI生成コンテンツが急増する中でプラットフォーム全体のコンテンツ品質管理モデルに影響を与える可能性がある。
Redditは2026年7月、大規模言語モデル（LLM）を活用したスパム対策ツールを開発・運用していると発表した。同プラットフォームは1日に2,300万件のスパム閲覧をブロックし、約2万5,000件の新規スパム投稿・コメントを検出。2026年1〜3月のユーザーへのスパム露出量は直前3カ月比で20%減少したと報告している。
Redditは公式ブログで、LLMを活用した新たなスパム検出ツールの成果を公表した。同社によれば、1日あたり2,300万件のスパム閲覧をブロックし、約2万5,000件の新規スパム投稿やコメントを摘発している。
背景には、LLMの普及によってスパムやボットコンテンツの生成が格段に容易になったという課題がある。Redditはこの問題に対し、皮肉にも同じLLM技術を用いて対抗する手法を採った。
Redditのブログ投稿では「以前のシステムでは見逃していた、偽の行動や人工的な盛り上げに関する高度に巧妙・組織的なパターンをLLMで検出している」と説明している。その結果、2026年1月から3月にかけてユーザーのスパム露出量を直前3カ月比で20%削減したという。
ソーシャルプラットフォーム各社は以前からスパム自動検出ツールを構築してきたが、Redditは今回のLLM活用によって検出精度が向上したと主張している。
YouTubeやMeta、Instagramは開示を条件にAI生成コンテンツの投稿を許可しており、TikTokはユーザーがAI生成コンテンツの表示量を調整できる機能を導入するなど、各社の対応はさまざまだ。なお、専門家はAIによるコンテンツモデレーションには人間によるモデレーションとの併用が最も効果的だと繰り返し指摘している。