RedditがLLMで生成スパムをLLMで対策
मूल शीर्षक: Reddit is using LLMs to solve a problem LLMs largely created
यह क्यों महत्वपूर्ण है
AIが生成するスパム問題にAIで対抗するアプローチは、ソーシャルプラットフォーム全体のコンテンツモデレーション戦略に影響を与える可能性がある。
Redditは、LLMを活用して開発したツールによりスパム対策を強化し、2026年1月〜3月の間にユーザーのスパム露出を前の3ヶ月比で20%削減したと発表した。同プラットフォームは1日に2300万件のスパム表示をブロックし、約25000件の新規スパム投稿・コメントを検知している。
Redditは公式ブログで、LLM（大規模言語モデル）を活用した新しいスパム対策ツールの導入により、スパム検知率が向上したと発表した。皮肉なことに、このスパムの多くはLLMによって生成されたものである。
Redditによると、同プラットフォームは1日あたり2300万件のスパム表示をブロックし、約25000件の新規スパム投稿・コメントを検知している。ブログ投稿では「従来のシステムでは見逃していた、非常に巧妙で組織的な偽の行動や人工的な誇張パターンをLLMを活用して検知している」と説明している。
また、2026年1月から3月にかけて、ユーザーのスパム露出を前の3ヶ月間と比較して20%削減したと主張している。
YouTube、Meta、Instagramなど他のプラットフォームも、開示を条件にAI生成コンテンツの投稿を許可しており、TikTokはユーザーがAI生成コンテンツの表示量を調整できる機能を導入している。専門家はAIによるコンテンツモデレーションには、最大の効果を得るために人間によるモデレーションとの組み合わせが不可欠であると繰り返し指摘している。