AI 공급망에 200만 개 카나리아 심었더니 대규모 개인정보 유출 확인
원제: Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.
왜 중요한가
AI 서비스 공급망 전반에 걸친 프롬프트 유출 구조가 실증적으로 확인됨으로써, 기업 사용자의 민감 정보 보호 체계 전반을 재검토해야 할 필요성이 높아졌다.
보안 연구원 HD Moore가 AI 서비스 공급망에 200만 개의 추적 가능한 디지털 비밀 정보를 심어 실험한 결과, 최소 3개 AI 제공업체가 공격자에게 침해당했고 프롬프트 내 민감한 데이터가 광범위하게 유출된 것으로 2026년 11월 20일 확인됐다.
보안 기업 Dragos의 최고연구책임자 HD Moore는 AI 서비스 공급망의 개인정보 보호 실태를 검증하기 위해 대규모 실험을 설계했다. AWS 액세스 키, SSH 비밀번호, 고유 URL, DNS 이름, 비공개 git 저장소 참조 등 사전에 한 번도 사용된 적 없는 추적 가능한 비밀 정보를 각각 단일 프롬프트에 하나씩 심어 단일 제공업체에 전송했다. 총 약 200만 개의 프롬프트가 OpenRouter, Vercel 등 AI 라우터를 포함한 다양한 AI 서비스에 전송됐다.
실험 결과는 충격적이었다. 최소 3개의 AI 제공업체가 공격자에게 침해당해 수신된 프롬프트가 외부로 빠져나갔다. 추론 마켓플레이스 내 여러 리셀러가 프롬프트를 로깅한 뒤 해당 정보가 외부 인물에게 전달됐고, 그 인물들은 실제로 심어 놓은 자격증명을 사용하려 시도했다. 또한 여러 AI 제공업체가 'Zero Data Retention(ZDR)' 또는 '데이터 수집 없음'과 같은 사용자 설정 플래그를 무시한 사례도 다수 확인됐다.
구조적 원인도 지목됐다. 프롬프트는 전송 중 암호화되지만, AI 라우터가 최적의 추론 엔진을 선택하기 위해 프롬프트 내용을 평문으로 읽어야 한다. 이 과정에서 프롬프트는 Vercel에서 OpenRouter로 넘어가는 식으로 여러 중간 사업자를 거치며, 각 단계마다 로깅 위험에 노출된다. Moore는 "약 200만 개의 AI 프롬프트를 전송하고 비밀 정보가 어디에 나타나는지 추적한 결과, 보안 침해·프롬프트 탈취·고객 데이터 보호 실패가 광범위하게 존재함을 확인했다"고 밝혔다.