칩 작동 원리 연구하기 위해 MIT 자체 운영체제 개발
원제: To study how chips work, MIT researchers built their own operating system
왜 중요한가
Fractal은 현대 프로세서의 보안 취약점을 더 정확하고 효율적으로 발견할 수 있는 도구로서, 칩 설계·검증 분야의 보안 연구 방식을 혁신할 기반을 제공한다.
MIT 컴퓨터과학·AI 연구소(CSAIL)는 칩 내부 동작을 상세히 분석하기 위해 'Fractal'이라는 새로운 운영체제 커널을 개발했다. 이 커널은 Apple M1 프로세서에서 기존에 발견하지 못한 'Phantom' 추측 공격이 가능함을 처음 발견했다.
MIT CSAIL 팀이 개발한 Fractal은 운영체제 커널로서, 프로세서 내부의 동작을 정밀하게 관찰하기 위해 처음부터 새로 설계되었다. 지금까지 보안 연구자들이 Spectre, Meltdown 같은 공격 가능성을 연구할 때는 macOS나 Linux 같은 기존 운영체제에 수작업으로 패치를 적용해야 했으며, 이는 불안정하고 재현이 어려웠다. 특히 Apple 플랫폼에서는 이러한 수정 방식이 더 이상 지원되지 않을 예정이었다.
Fractal의 첫 번째 주요 활용 사례는 Apple M1 프로세서의 분기 예측기(branch predictor) 분석이다. CPU의 분기 예측기는 다음에 실행할 코드를 미리 추측해 대기 시간을 줄이는 역할을 한다. 이 분석을 통해 연구팀은 'Phantom'이라는 추측 공격 방식이 Apple Silicon에 영향을 미친다는 최초의 증거를 발견했다.
프로젝트를 주도한 MIT 전기공학·컴퓨터과학 박사과정 Joseph Ravichandran은 "우리는 하드웨어를 그것이 설계된 방식이 아닌 다른 방식으로 사용하고 있다"고 설명했다. Fractal은 새로운 구조인 '외부 커널 스레드'를 활용하는데, 이는 사용자 프로세스의 메모리 내에 위치하면서도 커널 권한으로 실행된다. 이를 통해 프로세서 동작을 현미경처럼 관찰할 수 있게 되었다.