AI 결정 모델로 콘텐츠 모더레이션 혁신
원제: How AI decision models could change content moderation
왜 중요한가
결정 모델이 AI 에이전트 통제를 넘어 인간 생성 콘텐츠 관리로 확장되며, 플랫폼 모더레이션 시장의 새로운 기술 경쟁을 예고한다.
스타트업 Musubi가 2026년 10월 6일, 실시간 콘텐츠 모더레이션용 경량 결정 모델 'PolicyLM-1.7B'를 오픈 웨이트로 공개했다. 이 모델은 영어로 작성된 콘텐츠 정책을 50밀리초 이내에 메시지에 적용하며, 정책 변경 시 재학습 없이 즉시 반영할 수 있다.
Musubi는 기존 소셜 플랫폼 모더레이션을 담당하는 AI 분류기 시스템과 비슷한 비용·속도를 유지하면서도, 현대 LLM의 유연성을 살려 별도 학습 없이 복잡한 정책을 적용할 수 있는 모델을 개발했다. PolicyLM-1.7B는 콘텐츠가 특정 카테고리에 해당하는지를 이진(binary) 판정으로 출력하며, 출력 범위를 사전 정의된 선택지로 제한함으로써 LLM 대비 속도와 비용 효율을 높였다.
가장 주목할 만한 특징은 정책 변경 시 재학습이 불필요하다는 점이다. 플랫폼 운영자가 영어로 정책을 수정하면 모델이 즉시 반영한다. Musubi 공동창업자이자 최고 AI 책임자인 Filip Jankovic은 "콘텐츠 양이 기하급수적으로 늘어나는 상황에서 제품팀은 플랫폼에서 일어나는 일을 더 잘 파악하길 원한다. 확장 가능하고 커스터마이징 가능한 방식으로 모든 콘텐츠에 레이블을 붙일 수 있다는 것은 매우 유용하다"고 말했다.
결정 모델은 TypeSafe AI가 2026년 9월 'Jev'를 출시한 뒤 OpenAI, Amazon이 잇따라 유사 모델을 내놓으며 업계의 뜨거운 화제가 됐다. Jankovic은 자신의 결정 모델 연구가 Jev보다 앞선 2024년 명명 개체 인식 프로젝트 'GLiNER'로 거슬러 올라간다고 밝혔다. Musubi는 오히려 결정 모델에 대한 높아진 관심을 콘텐츠 모더레이션 문제에 대한 주목을 끄는 기회로 활용하겠다는 입장이다.