会話AIのプライバシー実態調査レポート
原題: A Privacy Analysis of Web and Mobile Conversational AI Agents [pdf]
なぜ重要か
会話AIへのセンシティブ情報流入が増す中、プライバシーリスクの実証研究は規制策定や製品設計に直接影響する。
研究者Jorge Garcia Herreroが公開した論文「Prompt like a butterfly, sting like a tracker」は、WebおよびモバイルアプリにおけるAIチャットエージェントのプライバシー実態を分析。ChatGPTやGoogle Geminiなどを含む主要な会話AIサービスが、ユーザーのプロンプトや行動データをどのように収集・追跡しているかを調査した内容とみられる。
Jorge Garcia Herreroが公開したこの研究論文は、「Prompt like a butterfly, sting like a tracker」というタイトルが示す通り、会話型AIエージェントにおけるトラッキングとプライバシーリスクを正面から取り上げている。
Webブラウザおよびモバイルアプリで動作するAIチャットサービスを対象に、ユーザーが入力したプロンプトや対話履歴がどのように扱われているかを技術的に検証したものとみられる。サードパーティへのデータ送信、広告トラッカーの埋め込み、セッション情報の保持期間といった観点が分析軸として想定される。
近年、ChatGPT・Google Gemini・Microsoft Copilotといった会話AIサービスの利用者は急増しており、業務や医療相談、法律的な問い合わせなど、センシティブな情報を含む会話が増加している。こうした背景から、AIサービス事業者がどの程度の個人データを収集しているかは、規制当局・研究者・一般ユーザーの間で重大な関心事となっている。
論文のタイトルに込められた「刺す」という比喩は、表向きは無害に見えるチャットUIが実際にはトラッキングの手段として機能している可能性を示唆している。EUではGDPRの観点からAIサービスへの規制強化が進んでおり、本研究はその議論に具体的なエビデンスを提供する位置付けにある。
本文PDFは著者個人サイトで公開されており、査読前の段階の可能性もある点には留意が必要だ。