GitHubでAIボットスパム対策にGitの--authorフラグを活用
原題: We stopped AI bot spam in our GitHub repo using Git's –author flag
なぜ重要か
オープンソース開発においてAI生成スパムが深刻化しており、開発者コミュニティの健全性維持が急務となっている現状を示す事例
AI企業ArchestraがGitHubリポジトリでAIボットによるスパムコメントやプルリクエストが急増し、正当な貢献者との会話が妨げられる問題に直面。900ドルの報奨金付きイシューで253件のコメントが殺到し、週に半日をゴミ清掃に費やす状況となった。同社はGitの--authorフラグなど技術的手法で対策を講じている。
AI企業ArchestraのCTO、Ildar Iskhakov氏が同社のオープンソースリポジトリでAIボットスパムが深刻化している問題について報告した。問題は900ドルの報奨金付きイシューから始まった。当初は正当な貢献者が計画提案や質問を行っていたが、すぐにAIボットが参入し、無意味な「実装計画」や維持者への攻撃的コメントで会話を汚染した。最終的にそのイシューは253件のコメントに達した。AIアカウントはリポジトリ全体に氾濫し、チームメンバー全員に通知が殺到した。x.aiプロバイダー対応を求めるイシューでは27件のプルリクエストを受け取ったが、ほとんどがテスト未実施だった。チームメンバーの一人は毎週半日をAIゴミの清掃に費やす必要があった。同社は最初に「London-Cat」という小さなボットを構築し、マージされたプルリクエストなどの信号に基づいて貢献者の評判を計算した。次に「AIシェリフ」を構築したが、正当なプルリクエストも誤って閉じてしまった。最終的に同社は核の選択肢として、事前登録を完了していないユーザーのイシュー作成、プルリクエスト、コメントをブロックする決定を下した。GitHubには直接的なホワイトリスト機能がないため、「事前貢献者に限定」設定を使用したが、これはAIボットと正当な新規開発者を区別できない制限がある。同社は量より質を重視し、AIスロップで水増しされた指標は評価しないと表明している。