LLM, 바이너리 직접 읽고 수정한다

원제: LLMs can read and write executables byte by byte from a hex dump

왜 중요한가

LLM이 소스코드 없이 바이너리를 직접 이해·수정할 수 있다면 역공학, 악성코드 분석, 소프트웨어 보안 분야의 작업 흐름이 근본적으로 바뀔 수 있다.

2026년 11월, 연구자 George Xenos와 Sotiris Giannopoulos는 GPT-6.1 Sol이 디스어셈블러·컴파일러 없이 hex dump만으로 실행 파일 5개를 분석하고, 실제 버그를 발견하며 악성코드 IOC까지 추출했다는 실험 결과를 공개했다. LLM이 바이너리를 직접 프로그래밍할 수 있음을 보여준 첫 사례다.

연구팀은 'Machine Code Programming'이라는 개념을 정의하고, LLM이 컴파일러·어셈블러·디스어셈블러 없이 실행 파일의 바이트를 직접 다루는 능력을 세 가지 측면에서 검증했다.

**읽기(Understand)**: GPT-6.1 Sol에 직접 작성한 프로그램 3개(wordcount 5,368B, AES 도구 9,152B, 은행 원장 8,872B)와 FreeBSD의 오픈소스 통계 도구 ministat(67,392B)의 hex dump를 제공했다. 모델은 4개 프로그램 모두를 정확히 식별했고, ministat에서는 업스트림 코드에 존재하는 실제 버그까지 발견했다.

**확장(Extend)**: 기존 바이너리의 바이트를 직접 편집해 기능을 추가하는 실험에서, 3개 프로그램에 성공적으로 새 기능을 삽입했다. 출력 결과는 GCC 기준 빌드와 바이트 단위로 일치해야 했다.

**작성(Write)**: 명세서만 주고 실행 파일을 처음부터 작성하는 실험도 진행됐으며, 3개 프로그램 모두 작동하는 바이너리를 생성했다.

**악성코드 분석**: 미공개 악성코드 샘플을 제공했을 때, 모델은 행동 패턴과 올바른 IOC(침해지표)를 정확히 추출했다. DeepSeek V4.1 Flash도 동일한 악성코드에 대해 같은 결론에 도달해, 이 능력이 특정 모델에 국한되지 않음을 시사했다.

실험은 모든 도구 호출을 차단한 로컬 릴레이를 통해 진행됐으며, 모델이 파일 읽기·명령 실행·URL 접근을 시도하는지도 실시간 감시했다. 테스트는 Apple Silicon 위 qemu-x86_64 환경에서 수행됐다.

출처

sgiannopoulos.github.io — 원문 읽기 →