디스코드 사용자들, Anthropic의 Mythos AI에 무단 접근
원제: Discord Sleuths Gained Unauthorized Access to Anthropic’s Mythos
왜 중요한가
강력한 AI 보안 도구에 대한 접근 통제의 어려움을 보여주며, AI 모델 보안 관리의 중요성을 부각시킨다.
디스코드 사용자 그룹이 Anthropic의 비공개 AI 모델인 Mythos Preview에 무단으로 접근했다고 블룸버그가 보도했다. 이들은 AI 교육 스타트업 Mercor의 데이터 유출 정보를 분석하고 URL 추측을 통해 접근했으며, 다른 미공개 Anthropic AI 모델들에도 접근한 것으로 알려졌다.
Anthropic이 엄격하게 접근을 제한하고 있는 보안 취약점 탐지 AI 모델 Mythos Preview에 디스코드 사용자들이 무단 접근했다고 블룸버그가 25일 보도했다. 이 그룹은 AI 해킹 기술을 사용하지 않고도 비교적 간단한 방법으로 접근에 성공했다. 이들은 AI 교육 스타트업 Mercor의 최근 데이터 유출 사건에서 얻은 정보를 분석하고, Anthropic이 다른 모델들에 사용한 URL 형식에 대한 지식을 바탕으로 '교육받은 추측'을 통해 모델의 온라인 위치를 파악했다. 또한 이들 중 일부는 Anthropic 계약업체에서 근무하며 이미 다른 Anthropic 모델에 대한 접근 권한을 보유하고 있었던 것으로 전해졌다. 이러한 조사 과정에서 이들은 Mythos뿐만 아니라 다른 미공개 Anthropic AI 모델들에도 접근할 수 있었다고 한다. 다행히 이 그룹은 Anthropic의 탐지를 피하기 위해 지금까지 단순한 웹사이트 구축에만 Mythos를 사용했으며, 악의적인 해킹에는 사용하지 않은 것으로 보고됐다.