OpenAI, 프롬프트 인젝션 공격 방어 '록다운 모드' 공개
원제: OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks
왜 중요한가
AI 보안 강화로 기업의 민감 데이터 보호 요구에 대응하여 엔터프라이즈 시장 확대 기반을 마련했다.
OpenAI가 6월 6일 프롬프트 인젝션 공격으로부터 민감한 데이터를 보호하는 '록다운 모드' 기능을 발표했다. 웹 브라우징, 이미지 검색, 딥 리서치, 에이전트 모드를 비활성화하여 데이터 유출 위험을 줄인다. ChatGPT Business 계정과 일부 개인 계정에 배포 중이다.
OpenAI는 악성 챗봇 지시가 웹페이지나 기타 콘텐츠 소스에 숨겨지는 프롬프트 인젝션 공격으로부터 추가 보호를 제공한다고 밝힌 새로운 기능을 발표했다. 록다운 모드는 실시간 웹 브라우징을 비활성화하여 캐시된 콘텐츠만 접근 가능하게 하고, 웹에서 이미지 검색과 표시를 차단하며(이미지 생성은 여전히 가능), 딥 리서치와 에이전트 모드를 비활성화한다. OpenAI는 록다운 모드가 켜져 있어도 ChatGPT가 여전히 프롬프트 인젝션에 취약할 수 있다고 인정했다. 이러한 공격은 캐시된 웹 콘텐츠나 업로드된 파일에 나타날 수 있으며 응답의 동작이나 정확성에 영향을 미칠 수 있다고 설명했다. 하지만 이 과정에서 민감한 데이터가 공유될 가능성을 줄이는 것이 목표라고 밝혔다. OpenAI는 '록다운 모드는 모든 사용자를 위한 것이 아니며, 민감한 데이터를 다루고 프롬프트 인젝션과 관련된 데이터 유출 위험으로부터 더 엄격한 보호를 원하는 개인과 조직을 위해 설계되었다'고 설명했다.