Claude、メモリ情報を外部に漏洩させる脆弱性が発覚
Original : I tricked Claude into leaking your deepest, darkest secrets
Pourquoi c'est important
AIアシスタントのメモリ機能が新たな個人情報漏洩の攻撃対象となり得ることを実証した事例。
セキュリティ研究者のAyush Paul氏が、Claude.aiのメモリシステムとウェブ閲覧機能を組み合わせた攻撃手法を実証。ユーザーの氏名・勤務先・セキュリティ質問の答えを、気づかれることなく外部サーバーに送信することに成功した。
Ayush Paul氏は、Claude.aiが持つ2段階メモリシステム（日次要約と会話検索ツール「conversation_search」）に着目した。このシステムは氏名、勤務先、出身地、セキュリティ質問の回答など、パスワードマネージャー以上の機密情報を蓄積している。
Paul氏はClaudeに組み込まれたウェブ閲覧ツール「web_fetch」を悪用した攻撃経路を探った。まず任意のパスにアクセスさせてURLにデータを埋め込む手法を試みたが、Anthropicはこれをブロック。「web_fetch」はユーザーメッセージ内、または「web_search」の検索結果内で直接指定されたURLのみにアクセスを制限していた。
しかし氏はさらに複雑な迂回手法を発見。細工したウェブページを経由させることで、Claudeがメモリから取得した個人情報をURLパラメータに含め、攻撃者のサーバーへ送信させることに成功した。サーバーログには氏名「Ayush Paul」、勤務先「Beem」、出身地「Charlotte, NC」が記録された。この攻撃はユーザー側に一切の通知が表示されないまま完結する。