OpenAI、プロンプトインジェクション攻撃対策でロックダウンモード発表
原題: OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks
なぜ重要か
AI チャットボットの企業利用拡大に伴い、セキュリティ強化機能の提供は信頼性向上と導入促進につながる重要な取り組み
OpenAIは6月6日、悪意のあるチャットボット指示が隠されたプロンプトインジェクション攻撃から機密データを保護する新機能「ロックダウンモード」を発表した。同モードではライブウェブ閲覧、ウェブ画像の取得・表示、詳細研究、エージェントモードが無効化される。ChatGPT Businessアカウントと対象個人アカウントに展開中。
OpenAIは新機能「ロックダウンモード」を発表し、ウェブページなどのコンテンツソースに隠された悪意のあるチャットボット指示によるプロンプトインジェクション攻撃からの追加保護を提供すると述べた。ロックダウンモードでは、ライブウェブ閲覧（キャッシュされたコンテンツのみアクセス可能）、ウェブからの画像取得・表示（画像生成は可能）、詳細研究、エージェントモードが無効化される。同社は、ロックダウンモード有効時でもChatGPTはプロンプトインジェクションに脆弱である可能性があると説明している。これらの攻撃は「キャッシュされたウェブコンテンツやアップロードされたファイルに現れ、応答の動作や正確性に影響を与える可能性がある」としている。しかし、このプロセスで機密データが共有される可能性を減らすことが目標だ。OpenAIは「ロックダウンモードは全員向けではない。機密データを扱い、プロンプトインジェクションに関連するデータ流出リスクからより厳格な保護を求める人や組織向けに設計されている」と述べた。現在、セルフサービスChatGPT Businessアカウントと対象となる個人アカウントに段階的に展開している。