RedditがLLMでスパム対策、皮肉な逆転劇
원제: Reddit is using LLMs to solve a problem LLMs largely created
왜 중요한가
LLMによるスパム生成とその対策という「AIの逆説」は、SNSプラットフォーム全体のコンテンツモデレーション戦略に影響を与える重要な先例となる。
Redditは2026年7月、LLMを活用した新たなスパム対策ツールの成果を発表した。同プラットフォームは1日あたり2,300万件のスパム閲覧をブロックし、約25,000件の新規スパム投稿・コメントを検出。2026年1月から3月の期間に、前3か月比でユーザーのスパム露出を20%削減したと報告した。
RedditはLLM（大規模言語モデル）を活用したスパム対策ツールを開発・導入し、その成果を公式ブログで発表した。同社によると、1日あたり2,300万件のスパム閲覧をブロックし、約25,000件の新規スパム投稿やコメントを検出している。
皮肉なことに、Redditが対処しようとしているスパムの多くは、対策に使用しているものと同じLLM技術によって生成されたものだ。同社のブログ投稿では「旧来のシステムでは見逃していた、非常に巧妙で組織的な偽の行動や人工的な誇張のパターンを、LLMを活用して検出している」と説明している。
2026年1月から3月の3か月間で、前四半期比20%のスパム露出削減を達成したと同社は主張している。
YouTube、Meta、InstagramはAI生成コンテンツの投稿をディスクロージャーを条件に許可しており、TikTokはユーザーがAI生成コンテンツの表示量を調整できる機能を導入している。AIによるコンテンツ検出能力の向上は、ヘイトスピーチなどの違反コンテンツの迅速なフラグ付けにも応用できる可能性がある。ただし、専門家は最も効果的な結果を得るには、AIモデレーションと人間によるモデレーションの併用が不可欠だと指摘し続けている。