警察向けFlock AIツールの実態をWIREDが解析
Judul asli: This Is Flock’s AI Search Tool for Cops
Mengapa Ini Penting
AI監視技術の精度と説明責任をめぐる法執行機関とプライバシーの構造的課題を提示
WIREDがFlock Safetyの警察向けAI監視ツールのコードを解析。書面での人物描写で複数カメラを横断検索でき、テキサス州では83,000台超のカメラ検索が問題となった。
Flock Safetyが提供する最新の警察向けAI検索ツールは、ナンバープレートだけでなく人物の文字描写をもとに複数カメラを横断して自動検索できる機能を持つ。WIREDはブラウザに送信されるコードを収集・分析し、警察官が実際に操作する画面を再現した。
このツールは市内の特定エリアを指定し、文字で書かれた人物描写に合致する人物を継続的に自動検索する「AIウォッチリスト」機能を備える。過去1年間で複数の警察署が契約を解除し、テキサス州の保安官補が中絶した女性を探すために83,000台超のカメラを検索したことで米連邦議会議員2名がCEOのGarrett Langleyに書簡を送った。またイリノイ州では連邦移民機関に州のカメラデータへのアクセスを許可したとして州法違反が認定された。
Flock Safetyは2024年8月、データ保持期間の短縮、検索ごとのケースコード入力義務化、自動監査機能の追加を発表したが、WIREDの分析では不正使用を記録するものの防止はできないと指摘。特に政治・文化的表現に関する検索は他のセンシティブカテゴリと異なり停止されず「速度抑制」にとどまる点を、Center for Democracy and TechnologyのTom Bowmanは「第一修正条項上で最も保護されるべき領域が最も関心を持たれていない」と批判した。