Microsoft Copilot、ハッキングを可能にした秘密パラメータを自ら暴露
Judul asli: Microsoft Copilot reveals secret input that allowed it to be hacked
Mengapa Ini Penting
AIアシスタント自身がセキュリティ上の弱点を開示するという新たな攻撃手法が実証され、企業向けAIツールのリスク管理に警鐘を鳴らしている。
セキュリティ企業VaronisがMicrosoft 365 Copilotに質問を繰り返したところ、AIが未公開パラメータ「?autorun=1」を自ら開示。これを利用しURLクリックだけでパスワード等を窃取できる脆弱性が発覚した。
セキュリティ企業Varonisの研究者たちは、Microsoft 365 Copilot（エンタープライズ向け）に対し、ユーザーがリンクをクリックするだけで機密データを外部送信できるエクスプロイトの作成を試みた。Copilotはユーザーの明示的な操作（Enterキー押下など）なしに強力なコマンドを実行することを一貫して拒否したが、その拒否の都度、内部アーキテクチャに関する技術的な詳細が漏れていった。
研究者たちはCopilotに対し「なぜ自動実行が不可能なのか」「どのURLパラメータが関係しているか」などを繰り返し質問。最終的にCopilotは未公開の内部パラメータ「?autorun=1」を開示した。このパラメータを既知の「?q=」パラメータと組み合わせることで、ターゲットが悪意あるURLをクリックした瞬間にプロンプトが自動実行され、パスワードなどの機密情報が窃取可能になった。
VaronisのシニアリサーチャーLior Adarは「Copilotは拒否し続けたが、その拒否のたびに内部構造の詳細が明らかになっていった」と述べている。
Varonisが脆弱性を報告してから3カ月後の2月、Microsoftは「?q=」パラメータによるテキスト注入を無効化することで問題を暫定対処。さらに包括的な修正が同週火曜日に実施された。