OpenSSL 버퍼 오버플로 취약점 공개

원제: OpenSSL: Buffer overflow in EVP_EncodeBlock() (CVE-2026-121481, CVSS 9.8)

왜 중요한가

OpenSSL은 전 세계 TLS 인프라의 근간으로, CVSS 9.8 취약점은 광범위한 서버·애플리케이션에 즉각적인 위협이 된다.

2026년 11월 10일, 보안 연구자 nmouha가 OpenSSL의 EVP_EncodeBlock() 함수에서 발견된 버퍼 오버플로 취약점(CVE-2026-121481, CVSS 9.8)에 대한 패치를 GitHub Pull Request #33652로 제출했다. NULL 입력 버퍼, 음수 길이, int 범위를 초과하는 인코딩 크기 등이 트리거 조건이다.

CVE-2026-121481은 OpenSSL의 EVP_EncodeBlock() 함수에서 발생하는 버퍼 오버플로 취약점으로, CVSS 점수 9.8의 치명적 수준이다. OpenSSL SRT(보안대응팀)는 공개 수정을 승인했으나, 공식 보안 권고문은 아직 발행되지 않은 상태다.

제출된 패치의 핵심은 잘못된 입력값에 대해 -1을 반환하는 방어 로직 추가다. NULL 입력·출력 버퍼, 음수 길이값, 인코딩 결과가 int에 담기지 않는 크기 등 세 가지 조건이 해당된다. 이 접근 방식은 wolfSSL의 OpenSSL 호환 레이어에서 EVP_EncodeBlock()을 처리하는 방식과 동일하다.

공격 시나리오도 구체적으로 확인됐다. openssl s_client의 -proxy_pass 옵션에 매우 긴 값을 전달하는 방식으로 명령줄에서 직접 취약점을 트리거할 수 있으며, GOST 알고리즘은 이 같은 긴 패스워드를 기본 설정으로 수용한다. 단, 명령줄 길이 제한 때문에 환경변수(env:VAR) 방식으로 패스워드를 공급해야 한다.

패치는 EVP_DecodeBlock()에 대한 유사한 방어 로직, http_client.c의 base64encode() 함수에서 잘못된 길이 검사 수정(기존 코드는 len > INT_MAX만 거부), 그리고 test/base64_dec_avx2_test.c에 신규 테스트 케이스 추가를 포함한다. 문서화도 doc/man3/EVP_EncodeInit.pod에 반영됐다. 총 4개 커밋으로 구성된 이 PR은 현재 openssl:master 브랜치에 머지 대기 중이다.

출처

github.com — 원문 읽기 →