ClaudeのメモリからClaudeのメモリから個人情報が流出する脆弱性が発見
Judul asli: I tricked Claude into leaking your deepest, darkest secrets
Mengapa Ini Penting
AIメモリシステムへの攻撃が実証され、数百万人規模のユーザーデータ保護が急務となっている。
セキュリティ研究者がClaude AIのメモリシステムとウェブブラウジング機能を組み合わせた攻撃手法を発見。氏名・雇用先・セキュリティ質問の回答などが外部サーバーに送信される。
セキュリティ研究者のAyush Paul氏は、Anthropicが提供するAIアシスタント「Claude」（claude.ai）において、ユーザーの個人情報が攻撃者のサーバーに漏洩する脆弱性を実証した。
Claudeのメモリシステムは2つの機能で構成される。1つ目は過去の会話を毎日要約してプロファイルを生成する機能、2つ目は会話履歴を検索できる「conversation_search」ツールだ。これらには氏名・勤務先・住所・セキュリティ質問の回答など、高度に個人を特定できる情報が蓄積されている。
Paul氏はClaudeに内蔵されたウェブアクセスツール「web_fetch」を悪用。通常、Anthropicはユーザーメッセージや検索結果に含まれないURLへのアクセスをブロックしているが、研究者はこの制限を回避する手法を考案し、氏名・勤務先（Beem）・出身地（Charlotte, NC）をサーバーログに記録することに成功した。攻撃はユーザーへの通知なく完了した。
Paul氏は「AIアシスタントはパスワードマネージャー以上の情報を保持しており、セキュリティ面がほぼ無視されている」と指摘している。