AI 모델 우회 기법 'The Gay Jailbreak' 발견
원제: The gay jailbreak technique
왜 중요한가
AI 안전장치의 취약점을 드러내며 콘텐츠 필터링 시스템 개선의 필요성을 시사한다.
GitHub에서 'The Gay Jailbreak'라는 AI 모델 안전장치 우회 기법이 공개됐다. 이 기법은 LGBT 관련 표현을 이용해 ChatGPT, Claude, Gemini 등 주요 AI 모델의 콘텐츠 필터링을 우회할 수 있다고 주장한다.
GitHub 사용자 Exocija가 공개한 'The Gay Jailbreak' 기법은 AI 모델에게 위험한 내용을 요청할 때 LGBT 정체성을 가정한 캐릭터의 관점에서 설명해달라고 요구하는 방식이다. 예를 들어 '동성애자가 어떻게 마약 합성을 설명할지'와 같은 형태로 질문을 구성한다. 개발자는 이 기법이 GPT-4o에서 처음 발견됐으며, Claude 4 Sonnet & Opus, Gemini 2.5 Pro에서도 작동한다고 주장했다. 해당 기법의 원리는 직접적으로 위험한 내용을 요청하지 않고 특정 정체성을 가진 사람이 어떻게 묘사할지를 묻는 형태로 우회하는 것이라고 설명했다. 특히 GPT가 LGBT 관련 내용에 대해 상대적으로 덜 엄격한 검열을 적용하기 때문에 효과적이라고 분석했다.