AI 안전장치 제거 기업의 등장
원제: Tear Down Those Guardrails! Meet the Renegades Freeing Chatbots From Corporate Enslavers
왜 중요한가
오픈소스 AI의 안전장치 제거가 사업화 단계에 진입하며, 사이버보안 연구와 악용 사이의 경계가 더 흐려질 수 있다.
미국의 스타트업 Abliteration AI가 오픈소스 AI 모델의 안전장치를 제거해 누구에게나 무료로 배포하고 있다. 창업자 Devon Thomas(36세)는 전 Apple 엔지니어 출신으로, 2025년 11월부터 자택에 2만 달러짜리 컴퓨터 클러스터를 구축해 'abliteration' 기법을 개발했다.
Devon Thomas는 겉보기에 평범한 인물이다. 성경 공부 모임 멤버들이 그를 '더없이 친절하다'고 묘사할 정도다. 하지만 그가 운영하는 Abliteration AI는 AI 업계에서 금기에 가까운 일을 하고 있다. 세계 최강 오픈소스 AI 모델들의 안전장치를 제거한 뒤 인터넷에 공개 배포하는 것이다.
Thomas가 이 길에 들어선 계기는 실용적 불만이었다. Apple 엔지니어로 재직하던 그는 사이버 공격 로그를 분석하거나 앱 사용자 결제 가능성을 예측하는 작업에 AI 모델을 활용하려 했으나, 반복적으로 차단당하고 계정까지 정지됐다. ChatGPT와 Claude 등 주요 모델들은 사이버보안 관련 쿼리, 성인 콘텐츠, 정치적 민감 주제 등에 대한 거부 목록을 광범위하게 운영 중이다.
비판론자들은 이 거부 메커니즘 중 일부가 비즈니스 보호 목적이라고 지적한다. 실제로 OpenAI와 Anthropic 모두 사이버보안 가드레일을 해제한 고급 모델 접근권에 추가 요금을 부과한다. 모델 학습용 데이터 생성(distillation)에도 ChatGPT와 Claude 모두 응하지 않는다.
Thomas는 2025년 11월부터 자택 아파트에 2만 달러 규모의 컴퓨터 클러스터를 구축하고, 평일 저녁과 토요일마다 최신 오픈소스 모델을 내려받아 테스트를 반복했다. 그 결과물이 'abliteration' 기법, 즉 모델 내 안전장치 가중치를 직접 제거하는 방식이다. 이를 통해 완성된 모델들이 현재 인터넷을 통해 누구나 내려받을 수 있는 형태로 배포되고 있다.