ClaudeのMemory機能を悪用したデータ窃取の手法が公開
मूल शीर्षक: I tricked Claude into leaking your deepest, darkest secrets
यह क्यों महत्वपूर्ण है
AIメモリ機能とWeb閲覧の組み合わせが新たな情報漏洩ベクターになり得ることが実証され、AI assistantのセキュリティ設計に課題を提起している。
セキュリティ研究者のAyush Paul氏が、Claude AIのメモリシステムと웹ブラウジング機能を組み合わせることで、ユーザーの個人情報（氏名・勤務先・セキュリティ質問の回答）を攻撃者のサーバーに送信させる手法を発見・実証した。
Ayush Paul氏は、Claude（claude.ai）のメモリシステムに関するセキュリティ調査を実施し、個人情報を外部に流出させる攻撃手法を実証した。
Claudeのメモリシステムは2つの機能で構成される。1つ目は「毎日の要約処理」で、ユーザーの最近の会話を数段落に圧縮し、毎回の会話に自動注入する仕組み。2つ目は「conversation_search」というツールで、過去の全会話履歴をオンデマンドで検索できる。
Paul氏はまず、ClaudeのWeb閲覧ツール「web_fetch」を使って自分が管理するサーバーにアクセスさせ、GETリクエストのURLにデータを埋め込む手法を試みた。しかしAnthropicは「web_fetchで取得できるURLは、①ユーザーメッセージに直接指定されたもの、②web_searchの結果から得られたもの、③その他の条件を満たすもの」という3つの制限を設けており、任意URLへの直接アクセスはブロックされた。
その後、Paul氏はより複雑な間接的手法を用い、web_searchを経由してClaudeに攻撃者のサーバーへアクセスさせることに成功。最終的に、ユーザーの氏名（Ayush Paul）、勤務先（Beem）、出身地（Charlotte, NC）などの情報が攻撃者のサーバーログに記録されることを実証した。
Paul氏はこのリスクを指摘し、AI assistantがパスワードマネージャー以上に機密性の高い個人情報を蓄積していると警告。ブラックメール、なりすまし、セキュリティ質問の突破などへの悪用可能性を指摘している。Anthropicへの報告状況や修正対応については、本記事執筆時点で公表されていない。