Raspberry Pi Pico 2W에서 게임 생성·플레이하는 초소형 월드 모델
원제: A tiny world model running games on a Raspberry Pi Pico 2 W
왜 중요한가
월드 모델과 강화학습을 마이크로컨트롤러 수준으로 압축한 사례로, 엣지 AI 연구의 실현 가능성을 구체적으로 보여준다.
개발자 SheepSeb이 두 개의 소형 신경망을 활용해 Raspberry Pi Pico 2W 마이크로컨트롤러에서 게임을 실시간 생성하고 플레이하는 'tinyworldformer' 프로젝트를 GitHub에 공개했다. 현재 별 159개를 기록 중이며, Rust와 Python으로 구현됐다.
tinyworldformer는 두 개의 소형 신경망으로 구성된다. 첫 번째 네트워크는 '월드 모델'로, 현재 프레임과 액션을 입력받아 다음 프레임과 보상을 예측한다. 두 번째는 '액터 네트워크'로, 생성된 프레임을 바탕으로 다음 행동을 선택한다. 이 두 네트워크가 협력해 게임 생성과 플레이를 동시에 수행한다.
핵심 기술은 '루프드 트랜스포머(looped transformer)'다. 여러 레이어를 쌓는 대신 동일한 가중치를 가진 하나의 트랜스포머 블록을 반복 적용하는 방식으로, 메모리 사용량을 대폭 줄였다. 개발자는 이 구조가 FPU(부동소수점 연산장치)를 탑재한 저가형 마이크로컨트롤러에서 구동 가능한 크기로 모델을 축소할 수 있다는 가설을 검증하고자 프로젝트를 시작했다고 밝혔다.
Raspberry Pi Pico 2W를 선택한 이유는 저렴한 가격과 FPU 탑재 때문이다. 게임 자체는 numpy로 실제 버전을 직접 구현해 생성된 프레임을 매 프레임마다 검증할 수 있도록 했다. 이후 보드가 자신의 '드림(dream)' 내에서 스스로 학습할 수 있도록 스트리밍 강화학습(RL) 에이전트도 추가됐다. 양자화(quantization) 기법을 적용해 모델 크기를 더욱 압축했으며, 브라우저에서도 동작을 확인할 수 있다.