RedditがLLMでLLM由来のスパムに対抗
Judul asli: Reddit is using LLMs to solve a problem LLMs largely created
Mengapa Ini Penting
AIによるスパム生成と検出の競争が激化する中、プラットフォームのコンテンツ管理戦略の転換点を示す事例として注目される。
Redditは、LLMを活用したスパム対策ツールを導入し、1日2300万件のスパム閲覧をブロック。2025年第1四半期にユーザーのスパム露出を20%削減したと発表した。
Redditは、大規模言語モデル（LLM）を活用したスパム対策ツールを開発・導入したと発表した。同プラットフォームによると、1日に2300万件のスパム閲覧をブロックし、約2万5000件の新規スパム投稿やコメントを検出している。
皮肉なことに、LLMによって生成されたスパムをLLMで検出するという構図になっている。Redditの公式ブログでは「以前のシステムでは見逃していた、高度に巧妙で組織的な偽の行動や人工的な誇大宣伝のパターンを、LLMを活用して捕捉している」と説明している。
2025年1月から3月の期間において、前の3カ月と比較してユーザーのスパム露出を20%削減したと同社は主張している。YouTubeやMeta、Instagramなど他のプラットフォームもAI生成コンテンツの開示を条件に投稿を許可しており、TikTokはユーザーがAI生成コンテンツの表示量を調整できる機能を提供している。専門家は、AIによるコンテンツモデレーションには人間によるモデレーションとの併用が不可欠だと指摘している。