Thinking Machines, 소형 추론 모델 Inkling 2 Mini 공개

원제: Inkling 2 Mini

왜 중요한가

루프드 트랜스포머 구조가 소형 모델의 추론 한계를 확장할 수 있음을 실증한 첫 오픈웨이트 사례로, 엣지 추론 연구에 새 기준을 제시한다.

Thinking Machines Lab이 2026년 11월 20일 노트북에서 구동 가능한 소형 모델 Inkling 2 Mini를 공개했다. 총 파라미터 26.4B, 활성 파라미터 3.4B의 Mixture-of-Experts 구조로, DeepSWE v1.1 벤치마크에서 48.2%, Vals Index v2.2에서 46.5%를 기록해 100B 미만 오픈웨이트 모델 중 최고 성능을 주장했다.

Inkling 2 Mini는 중간 레이어를 토큰마다 세 번 반복 실행하는 '루프드 트랜스포머(looped transformer)' 구조를 채택했다. 이 설계는 추론 내용을 텍스트로 출력하지 않고도 더 긴 내부 연산을 가능하게 해, 에이전틱 코딩처럼 추론 품질이 중요한 작업에서 토큰 소비를 줄이면서도 정확도를 높인다.

모델은 대부분의 가중치를 NVFP4 형식으로 훈련·배포하며, 마지막 4개 레이어는 별도 정밀도를 유지한다. 총 파라미터는 26.4B이지만 루핑을 반영한 토큰당 가중치 활성화는 5.4B 수준이다.

Thinking Machines는 모니터링 가능성(monitorability) 실험을 위해 루프 깊이를 조절할 수 있는 가변-루프(variable-loop) 연구용 모델도 함께 공개했다. 실험 결과, 루프를 1회에서 3회로 늘렸을 때 체인 오브 사고(CoT) 없이 처리 가능한 작업 시간 지평이 16초에서 37초로 늘었고, 직렬 추론 벤치마크 성능은 훈련 시 루프 수(3회)의 두 배인 10회까지도 계속 향상됐다. 루프가 늘어날수록 CoT는 짧아졌지만 가독성은 유지됐으며, 에이전틱 사보타주 테스트에서는 유의미한 위험 증가가 관찰되지 않았다.

모델은 Hugging Face에서 오픈웨이트로 제공되며, 자사 플랫폼 Tinker에서도 바로 사용할 수 있다.

출처

thinkingmachines.ai — 원문 읽기 →