ChatGPT Google Sheets 확장 프로그램에서 데이터 유출 취약점 발견
원제: ChatGPT for Google Sheets exfiltrates workbooks
왜 중요한가
AI 확장 프로그램의 보안 취약점이 기업 데이터 유출 위험을 보여주며 AI 도구 보안 강화 필요성을 시사한다.
보안업체 PromptArmor가 ChatGPT for Google Sheets 확장 프로그램에서 간접 프롬프트 인젝션 공격을 통해 워크북 데이터가 유출되고 피싱 팝업이 표시되는 취약점을 발견했다고 발표했다. 이 확장 프로그램은 출시 한 달 만에 18만 5천 건 이상 다운로드됐다.
PromptArmor는 OpenAI의 ChatGPT for Google Sheets 확장 프로그램에서 심각한 보안 취약점을 발견했다고 발표했다. 이 취약점은 단일 시트에서 간접 프롬프트 인젝션을 통해 사용자 계정 전체의 워크북에 영향을 미칠 수 있다. 공격이 성공하면 여러 워크북에서 데이터 유출, 대화형 피싱 팝업 표시, GPT 사이드바 전체를 공격자가 제어하는 챗봇 인터페이스로 덮어쓰기, 공격자가 제어하는 워크북 편집 등이 동시에 발생할 수 있다. 공격은 외부 데이터 소스나 ChatGPT 커넥터를 통해 신뢰할 수 없는 데이터가 ChatGPT를 조작해 공격자가 제어하는 외부 스크립트를 실행하도록 하는 방식으로 이뤄진다. 이는 사용자가 ChatGPT for Google Sheets 확장 프로그램에 부여한 권한을 악용하는 것이다. PromptArmor는 이 취약점을 OpenAI에 책임감 있게 공개했지만 자동 답변 외에는 아무런 소통을 받지 못했다고 밝혔다. OpenAI는 나중에 업데이트를 통해 모델의 Apps Script 코드 생성 기능을 제거해 위험을 제거했다고 발표했다.