YouTube Studio AIで非公開動画が漏洩する脆弱性
Original : Leaking YouTube creators' private videos
Pourquoi c'est important
AIアシスタントへのプロンプトインジェクションがユーザーデータ漏洩につながる新たなリスクを示す事例。
セキュリティ研究者Javoxは、YouTube StudioのAIアシスタント「Ask Studio」がコメント経由のプロンプトインジェクション攻撃に脆弱であることを発見。攻撃者は細工したコメントを通じて、クリエイターの非公開動画タイトルを外部サーバーへ送信させることが可能だった。Googleは当初「セキュリティバグではない」と判断した。
セキュリティ研究者Javoxは、YouTube StudioのAIアシスタント「Ask Studio」に対するプロンプトインジェクション攻撃を実証した。攻撃の手順は次の通り：攻撃者が動画に細工したコメントを投稿し、クリエイターがAIの提案プロンプトをクリックするだけで、攻撃者が注入したコンテンツがAIの公式な分析結果として表示される。さらに深刻なのは、認証済みツールであるAsk Studioが非公開動画にもアクセスできる点だ。Javoxは改良されたペイロードを使い、AIに非公開動画のタイトルを外部サーバーへ送信させることに成功した。コメントは編集後に通知が送られないため、攻撃者は最初に無害なコメントを投稿し、後から悪意あるペイロードに書き換えることも可能。Googleへの報告に対し、同社は「ソーシャルエンジニアリングが必要であり、セキュリティバグには該当しない」と回答。しかしJavoxは、ユーザーが見知らぬ人ではなくGoogleのAI製品を信頼しているのであり、従来のソーシャルエンジニアリングとは異なると反論している。