OpenJDK Base64서 RCE 취약점 발견

원제: Java4Shell: RCE in OpenJDK when processing Base64

왜 중요한가

Fortune 500 기업 90%가 의존하는 Java 런타임의 핵심 디코딩 루틴에서 발생한 취약점으로, 금융·항공·통신 등 주요 인프라 전반에 영향을 미친다.

보안 연구기관 Calif Research가 OpenJDK의 Base64 디코더에서 힙 메모리를 덮어쓸 수 있는 원격 코드 실행(RCE) 취약점 'Java4Shell'(CVE-2026-114938)을 공개했다. CVSS 4.0 기준 9.2점(Critical)으로 평가되며, Keycloak·Jira·Confluence·Jenkins 등 주요 서비스에서 인증 없이 RCE가 확인됐다.

Calif Research는 OpenJDK의 AVX-512 VBMI 명령어를 활용한 고속 Base64 디코딩 루틴에서 메모리 손상 취약점을 발견했다. 문제의 핵심은 최종 문자 처리 로직에 있다. 64개의 'A' 문자 뒤에 '='을 붙인 65바이트 입력을 처리할 때, OpenJDK는 50바이트 결과 배열을 할당한 뒤 출력 길이를 음수로 잘못 계산한다. 이 오류는 실제로 64바이트 쓰기로 이어져 배열 끝 62바이트를 초과 기록하게 된다. OpenJDK 17 구버전에서는 'A' 128개와 '='이 트리거 입력이다.

이 취약점은 Java가 메모리 안전성을 핵심 장점으로 내세우는 언어임에도 불구하고 발생했다. 내부적으로 C, C++, 어셈블리로 작성된 저수준 코드에는 여전히 메모리 손상 위험이 존재한다는 점이 드러났다.

연구팀은 인증 전(Pre-auth) RCE가 가능한 제품으로 Keycloak, Atlassian Jira, Atlassian Confluence, JFrog Artifactory, Jenkins, PingFederate를 확인했다. 인증 후(Post-auth) RCE는 Apache Kafka Broker, Apache Solr, Elasticsearch, Gerrit, Spinnaker에서 시연됐다. Apache Struts, Spring Boot 기반 샘플 애플리케이션에서도 RCE가 재현됐으며, 목록은 완전하지 않다.

보안 연구자 samczsun은 클라이언트 측 익스플로잇도 공유했다. 악성 서버에 TLS 연결을 여는 Java 프로그램이 자체 서비스를 노출하지 않더라도 공격 대상이 될 수 있다는 점이 추가로 확인됐다. Base64는 인증 프로토콜, 파일 업로드, 네트워크 메시지 전달 등 광범위하게 사용되기 때문에 잠재적 공격 표면은 테스트된 제품을 훨씬 넘어선다.

출처

calif.io — 원문 읽기 →