警察向けFlock AI検索ツールの実態
原題: This Is Flock’s AI Search Tool for Cops
なぜ重要か
AI監視技術が警察運用に深く組み込まれる中、プラットフォームの透明性・説明責任・規制の在り方が業界全体の設計基準に影響する重要な事例となっている。
WIREDはFlock Safetyが警察官のブラウザに送信するコードを収集・分析し、同社の最新AI検索ツールの仕組みを再現した。このツールは文章で書かれた人物描写をもとに、指定エリア内の複数カメラで自動的に人物を継続監視する機能を持つ。テキサス州の事例では副保安官が1件の捜索で8万3,000台超のカメラを使用したことが判明している。
Flock Safetyは警察向けに、ナンバープレートだけでなく人物を特定できるAI検索ツール群を提供している。WIREDが同社のフロントエンドコードを分析・再現したところ、AIを活用したウォッチリスト機能の存在が明らかになった。この機能では、警察官が市内の特定エリアを指定すると、そのエリア内のカメラが文章で記述した人物の説明に合致する人物を継続的・自動的に検索し続ける。
過去1年でFlockへの批判は高まっている。全米で複数の警察署が契約を解除し、一度は導入を承認した市議会がカメラの撤去を決議する例も相次いだ。テキサス州では副保安官が中絶を受けた女性を追跡するために8万3,000台以上のカメラを検索したとして、連邦議会議員2名がCEOのGarrett Langleyに書簡を送った。またイリノイ州では、Flockが州法に違反して連邦移民当局に州内カメラデータへのアクセスを許可していたことが判明した。
Flockは2025年8月、データ保持期間のデフォルト短縮、全検索へのケースコード入力の義務化、不正利用を検出する自動監査機能の追加などの対策パッケージを発表し、年内に義務化するとしている。しかしWIREDの分析では、これらのガードレールは一部の不正利用を抑止・記録するにとどまり、阻止はできないことが示された。
自動スクリーニングや警察技術を研究する専門家らは、Flockが信頼性の確立されていない判断をAIに委ねていると指摘する。同システムは人種・宗教など複数の「センシティブカテゴリー」に対して描写内容をスコアリングし検索を制限するが、「政治的・社会的・文化的表現」は制限対象外とされている。民主主義・技術センターのTom Bowmanは、裁判所が最も厚く保護してきた表現の自由に関する分野が最も緩く扱われていると批判した。Flockは検索結果の不正確さについて警告しながらも、その責任を検索を実行した警察官に帰している。WIREDが16の質問を送付したのに対し、同社は書面で「明確なセーフガードを維持しながら関連情報の発見を支援するために構築されている」と回答した。