Google Gemini, 개인 Drive·Gmail 파일 인간 검토자에 전달
원제: Google Gemini routes personal Drive files and emails to human annotators
왜 중요한가
AI 어시스턴트의 개인정보 처리 약속이 조용히 바뀔 수 있다는 사실은 기업·개인 사용자 모두에게 데이터 거버넌스 위험을 시사한다.
Google이 2023년 Gemini Workspace 확장 기능 출시 시 약속한 '인간 검토자 없음' 정책을 조용히 번복했다. 업데이트된 Google 고객센터 문서(16836988)와 2023년 블로그 게시물 수정본에 따르면, Gmail·Drive·Docs의 개인 콘텐츠가 인간 검토 파이프라인으로 전달될 수 있으며, Google은 기밀 정보를 Gemini에 연결하지 말 것을 명시적으로 경고하고 있다.
GitHub 사용자 thisisme6598가 공개한 문서에 따르면, Google은 소비자용 Gemini에 Connected Apps를 활성화한 상태에서 채팅을 나눌 때 여행 계획, 청구서, 예약 정보 등 개인적 주제를 언급하면 자동으로 백그라운드 Workspace 조회가 발생한다고 밝혔다. 더 중요한 점은 @Drive나 @Gmail 태그를 명시적으로 사용하지 않아도 이러한 데이터 수집이 이뤄진다는 것이다.
Google은 업데이트된 고객센터 문서와 2023년 10월 16일자 블로그 게시물 수정을 통해 검토자가 보는 내용이 '그냥 해당 이메일이나 파일일 수 있다'고 명시하며, 검토자에게 보여주고 싶지 않은 기밀 정보가 담긴 앱은 Gemini에 연결하지 말 것을 권고했다. 이는 2023년 출시 당시 '인간 검토자가 개인 콘텐츠를 보지 않는다'고 명확히 약속한 것과 정면으로 배치된다.
데이터 수집 방식은 확률적(probabilistic)으로 작동한다. 같은 쿼리를 실행해도 ▲데이터 미수집 ▲메타데이터·요약본만 수집 ▲파일 전체 내용 수집 등 다른 결과가 나올 수 있다. 특히 Gemini가 모델 가중치나 이전 대화 기록으로 쿼리를 해결할 수 있다고 판단하면 Connected Apps 도구를 아예 호출하지 않기도 한다. 이처럼 비결정론적 동작 방식은 사용자가 언제 개인 데이터가 노출되는지 예측하기 어렵게 만든다.