YouTube Studioの脆弱性でプライベート動画が漏洩
Judul asli: Leaking YouTube creators' private videos
Mengapa Ini Penting
GoogleのAIツールに対するプロンプトインジェクション攻撃の現実的な危険性を示す事例として、業界全体のAIセキュリティ設計の課題を浮き彫りにしている。
セキュリティ研究者がYouTube StudioのAIアシスタント「Ask Studio」にプロンプトインジェクション脆弱性を発見。コメント経由でクリエイターのプライベート動画タイトルを外部に漏洩可能と報告した。
セキュリティ研究者のJavoriuskiは、YouTube StudioのAIアシスタント「Ask Studio」にプロンプトインジェクション攻撃が可能な脆弱性を発見したと報告した。
攻撃の仕組みはシンプルだ。攻撃者がクリエイターの動画に特定の指示を含むコメントを残すと、クリエイターがAIアシスタントにコメントの要約を依頼した際、AIがその指示に従って攻撃者が制御するコンテンツを出力する。YouTubeはコメント編集時にクリエイターへ再通知しないため、攻撃者は最初に無害なコメントを残した後、後からペイロードを埋め込むことも可能だ。
さらに深刻なのは、クリエイターがAIの提案プロンプトをクリックするだけで攻撃が発動する点だ。研究者はこのインジェクションを応用し、クリエイターのプライベート動画タイトルを外部サーバーへ送信するリンクをAIに生成させることにも成功した。クリエイターはリンクをクリックするだけで情報が漏洩する。
GoogleにHackerOne経由で報告したところ、「ソーシャルエンジニアリングに該当し、セキュリティバグではない」として対応しないと回答。研究者はこれに反論し、ユーザーが信頼するのは第三者ではなくGoogleの製品自体であると主張している。