NGINX2Root: nginx 원격 코드 실행 취약점 발견 및 긴급 패치 권고

Xint 팀이 nginx에서 발견한 다섯 개의 원격 코드 실행 취약점과 Linux 커널 취약점을 연계한 nginx2root를 분석합니다. 본 포스트는 취약 여부 점검 방법, 조치 방법, 취약점 발생 원리를 공유함으로써 nginx를 운영하는 조직의 신속한 대응을 돕는 것을 목표로 합니다.
Xint's avatar
Nov 18, 2026
NGINX2Root: nginx 원격 코드 실행 취약점 발견 및 긴급 패치 권고

들어가며

nginx와 같이 전 세계가 사용하는 웹 서버에서 인증 없는 원격 코드 실행(pre-auth RCE) 취약점을 찾아내는 것은 많은 보안 연구자들의 오랜 목표였습니다. 최근 Xint 연구팀의 연구원들은 nginx에서 다섯 개의 원격 코드 실행 취약점을 발견했고, Linux 커널 취약점과 연계하여 호스트의 관리자(root) 권한까지 획득하는 데 성공했습니다. Xint 연구팀은 nginx에서 시작하여 호스트의 root 권한 획득까지 이어진다는 의미를 담아, nginx 취약점 다섯 개와 커널 취약점 하나를 통틀어 nginx2root라고 명명했습니다.

nginx를 운영하고 있다면, 취약점에 대응하기 위해 1.31.9로 업데이트해야 합니다. 본 포스트는 nginx2root의 발생 원리와 악용 과정에 대한 분석을 공유하기 위해 작성되었으며, 취약점의 점검 방법과 조치 방법은 각각 2장과 3장에서 확인할 수 있습니다.

1. 핵심 요약

취약점 영향

nginx는 웹 통신 규격인 HTTP/2를 지원합니다. 공격자는 HTTP/2가 활성화된 nginx 서버에서 로그인 같은 인증 절차를 거치지 않고 원격으로 명령을 실행할 수 있습니다(CVE-2026-123007). 명령은 요청을 처리하는 nginx 워커 프로세스의 권한으로 실행됩니다.

Xint 연구팀은 CVE-2026-123007과 Linux 커널의 SCTP 취약점을 연계하여 서버 전체를 제어할 수 있는 root 권한을 획득했습니다. nginx가 Docker 컨테이너 안에서 격리되어 동작하는 환경에서도 컨테이너 바깥 호스트의 root 권한을 획득할 수 있었습니다.

아래 영상에서 CVE-2026-123007을 이용해 컨테이너 내 nginx 워커 권한으로 명령을 실행한 후, Linux 커널 취약점을 이용해 호스트 root 권한을 획득하는 과정을 확인할 수 있습니다.

NGINX2Root demo video

시연은 AWS 환경에서 공인 IP로 접속하여 진행했습니다. AWS, GCP, Azure, 베어메탈 서버의 시연 영상은 nginx2root.com에서 모두 확인할 수 있습니다.

영향 범위

CVE-2026-123007은 nginx가 HTTP/2를 처음 도입한 2015년부터 10년 넘게 존재해 왔습니다. nginx 1.9.5부터 1.31.8까지 모든 공식 릴리스에 취약한 코드가 포함되어 있으며, 2026년 11월 10일 기준 개발 중인 소스(master)에도 같은 코드가 남아 있습니다. 따라서 오래된 버전을 사용하는 서버뿐 아니라 최근 버전으로 업데이트한 서버도 패치 적용 여부와 HTTP/2 설정을 확인해야 합니다.

조치 방법

nginx를 1.31.9로 업데이트해야 합니다. 즉시 업데이트가 어려운 경우 영향을 받는 접속 포트에서 HTTP/2를 비활성화하여 대표 취약점인 CVE-2026-123007을 차단할 수 있습니다. 하지만 HTTP/2 비활성화만으로는 모든 취약점을 방어할 수 없으므로, 아래 표에서 영향받는 구성을 확인하고 3.3의 임시 완화책을 적용해야 합니다.

  • nginx2root의 nginx 취약점 다섯 개는 서로 연계되지 않는 독립적인 공격 경로이며, 취약점마다 영향을 받는 구성이 다릅니다.

  • CVE-2026-123634의 영향받는 구성은 Xint 연구팀이 검증한 구성이며, SSI처럼 서브리퀘스트를 만드는 다른 기능에서도 같은 취약점이 발생할 수 있습니다.

CVE

영향받는 구성

영향 시작 버전

임시 완화책(3.3)

CVE-2026-123007
(대표 취약점)

HTTP/2가 활성화된 서버

1.9.5

HTTP/2 비활성화

CVE-2026-123634

resolver + 요청 값으로 업스트림을 정하는 proxy_pass + mirror(mirror_request_body off)

1.13.4

요청 시점의 DNS 조회 제거(고정 업스트림 사용)

CVE-2026-123633

HTTP/2 + 업스트림으로 요청을 전달하는 구성

1.19.7

HTTP/2 비활성화

CVE-2026-121810

HTTP/3 + 업스트림으로 요청을 전달하는 구성

1.25.0

HTTP/3 비활성화

CVE-2026-113425

메일 프록시(proxy on + auth_http)

0.5.15

메일 리스너의 외부 공개 중단 또는 접근 제한

* 업스트림(upstream): nginx가 요청을 전달하는 백엔드 서버

nginx2root 요약

항목

내용

CVE

CVE-2026-123007, CVE-2026-123634, CVE-2026-123633, CVE-2026-121810, CVE-2026-113425

심각도

Critical

수정 버전

1.31.9

영향

인증되지 않은 원격 공격자가 nginx 워커 권한으로 임의 명령을 실행할 수 있음

영향 버전(대표 취약점)

nginx 1.9.5부터 1.31.8까지의 모든 공식 릴리스. 2026년 11월 10일 기준 master에도 취약한 코드가 포함됨

코드 이력(대표 취약점)

첫 HTTP/2 지원 버전인 nginx 1.9.5에서 도입된 후 현재까지 유지됨

임시 완화책(대표 취약점)

영향을 받는 접속 포트의 HTTP/2 비활성화

완전 조치

1.31.9로 업데이트

제보

Xint Researchers (@imssm99, @cdor1, @tjbecker, @yves)

2. 영향 범위 및 취약 여부 확인 방법

먼저 운영 중인 nginx가 취약점의 영향을 받는지 확인하는 방법을 살펴보겠습니다. 점검 절차는 영향 범위가 가장 넓은 대표 취약점(CVE-2026-123007)을 기준으로 합니다.

2.1. 영향 범위

CVE-2026-123007은 nginx 1.9.5부터 1.31.8까지의 모든 공식 릴리스에 영향을 주며, 2026년 11월 10일 기준 개발 중인 소스(master)에도 취약한 코드가 남아 있습니다. 1.9.5~1.31.8 버전이나 master로 빌드한 nginx를 운영 중이라면 2.3의 절차에 따라 취약 여부를 확인해야 합니다.

2.2. 인터넷 노출 현황

인터넷에 노출된 nginx 서버 중 영향 범위에 포함되는 서버의 규모는 Shodan의 검색 결과로 추정할 수 있습니다. 2026년 11월 10일 기준, Shodan에서 product:nginx로 검색된 호스트는 5,670만 대입니다. 버전을 확인할 수 있는 호스트는 1,194만 대(21.1%)이며, 버전이 확인된 호스트의 98.9%는 CVE-2026-123007의 영향을 받는 버전 범위(1.9.5~1.31.8)에 포함되어 있었습니다.

  • 수치는 모두 버전만을 기준으로 집계한 것이며, CVE-2026-123007을 악용한 공격은 HTTP/2가 활성화된 서버에서만 가능합니다.

항목

내용

집계 기준

Shodan product:nginx 필터 (2026년 11월 10일 기준)

전체 nginx 호스트

56,698,621

버전 식별

11,944,374 (21.1%)

버전 미식별

44,754,247 (78.9%, server_tokens off 등으로 버전을 숨긴 호스트)

영향 범위(1.9.5~1.31.8)

11,809,531 (식별 호스트의 98.9%, 전체의 20.8%)

영향 없음(1.9.4 이하)

134,843 (식별 호스트의 1.1%)

영향 범위에 포함된 호스트는 일부 버전에 집중되어 있습니다. 1.24.0, 1.18.0, 1.22.1 세 버전이 58.1%를 차지합니다.

버전

호스트 수

영향 범위 내 비율

누적 비율

1.24.0

3,180,702

26.9%

26.9%

1.18.0

2,116,601

17.9%

44.9%

1.22.1

1,568,534

13.3%

58.1%

유의사항

⚠️

배포판 패키지로 설치한 nginx는 nginx -v에 표시되는 버전만으로 패치 적용 여부를 판단할 수 없습니다.

호스트가 가장 많은 3개 버전(1.24.0, 1.18.0, 1.22.1)은 주요 Linux 배포판이 기본으로 제공하는 버전입니다. Ubuntu 24.04는 1.24.0, Ubuntu 22.04는 1.18.0, Debian 12는 1.22.1을 제공합니다. 배포판은 보안 문제가 발견되었을 때 nginx를 새 버전으로 교체하는 대신, 기존 버전에 수정 사항만 반영하는 백포트(backport) 방식의 업데이트를 제공하는 경우가 많습니다.

백포트 방식의 업데이트를 적용하면 취약점은 수정되지만 nginx -v로 확인한 버전은 달라지지 않고, 배포판 패키지의 버전만 달라집니다. 예를 들어 Ubuntu 22.04의 nginx 패키지 버전은 출시 당시 1.18.0-6ubuntu14였고, 여러 차례의 보안 업데이트를 거쳐 2026년 10월에는 1.18.0-6ubuntu14.22가 되었습니다. 하지만 nginx 자체의 버전인 1.18.0은 바뀌지 않았습니다.

따라서 패키지의 상세 버전을 배포판의 보안 공지와 대조하여 패치 적용 여부를 확인해야 합니다.

설치 방식

주요 버전

패치 제공 경로

업데이트 후 버전 표시

배포판 패키지(apt, yum, dnf)

1.18.0, 1.20.1, 1.22.1, 1.24.0

배포판 보안 업데이트
(백포트)
* 릴리스 이후 지연 제공

기존 버전 유지(예: 1.18.0)

nginx.org 공식 패키지 또는 직접 빌드

1.28.x, 1.31.x

nginx.org 신규 릴리스

1.31.9 로 변경

어플라이언스, 컨테이너 이미지

벤더별 상이

벤더 또는 이미지 업데이트

벤더별 상이

2.3. 취약 여부 확인 명령어

운영 중인 서버의 CVE-2026-123007 노출 여부는 버전과 HTTP/2 모듈, HTTP/2 설정, 외부 접속 결과를 차례로 확인하여 판단할 수 있습니다.

1단계: 버전 및 HTTP/2 모듈 확인

먼저 nginx 버전을 확인합니다.

nginx -v 2>&1

위 명령은 nginx version: nginx/1.31.8과 같은 형식으로 버전을 출력합니다.

  • 1.9.5~1.31.8: 취약한 코드가 포함된 공식 릴리스이므로, 다음 확인을 이어서 진행해야 합니다.

  • 1.9.4 이하: HTTP/2 구현이 없는 버전이므로 CVE-2026-123007의 영향을 받지 않습니다.

  • 1.31.9 이상: 패치가 적용된 버전일 가능성이 높습니다. 릴리스 공지(github.com/nginx/nginx/releases#release-release-1.31.9)에서 수정 사항이 포함되었는지 확인해야 합니다.

  • 배포판이나 어플라이언스의 패키지: nginx -v의 버전만으로 판단하지 않고, 설치된 패키지의 버전을 배포판 또는 벤더의 보안 공지와 대조해야 합니다.

이어서 아래 명령으로 nginx에 HTTP/2 모듈이 포함되어 있는지 확인합니다.

nginx -V 2>&1 | grep -q -- '--with-http_v2_module' \
  && echo 'HTTP2_MODULE=present' \
  || echo 'HTTP2_MODULE=absent'
  • HTTP2_MODULE=present: HTTP/2 코드가 바이너리에 포함되어 있습니다.

  • HTTP2_MODULE=absent: HTTP/2 코드가 바이너리에 포함되지 않아 CVE-2026-123007의 영향을 받지 않습니다.

2단계: 현재 설정에서 HTTP/2 활성화 여부 확인

HTTP/2 모듈이 포함되어 있더라도 설정에서 HTTP/2를 활성화하지 않았다면 CVE-2026-123007의 공격 경로는 동작하지 않습니다. 아래 명령으로 현재 설정에 HTTP/2 활성화 구문이 있는지 확인합니다.

sudo nginx -T 2>&1 \
  | sed 's/#.*//' \
  | grep -nE 'listen[[:space:]].*http2|^[[:space:]]*http2[[:space:]]+on[[:space:]]*;'
  • listen 443 ssl http2;가 출력됨: nginx 1.25.0 이하 방식으로 HTTP/2가 활성화되어 있습니다.

  • http2 on;이 출력됨: nginx 1.25.1 이상 방식으로 HTTP/2가 활성화되어 있습니다.

  • 출력 없음: 설정에 HTTP/2 활성화 구문이 없습니다.

3단계: 외부에서 실제 HTTP/2 통신 여부 확인

외부에서 접속했을 때 서버가 실제로 HTTP/2 연결을 지원하는지 확인합니다. 아래 명령의 [HOST]에는 점검할 서비스의 실제 도메인을 입력합니다. ALPN은 클라이언트와 서버가 TLS 연결 위에서 사용할 프로토콜을 정하는 절차이며, 출력의 ALPN protocol: h2는 서버가 HTTP/2 연결을 받아들인다는 의미입니다.

openssl s_client -connect [HOST]:443 -servername [HOST] -alpn h2 </dev/null 2>&1 \
  | grep -E 'ALPN protocol:|No ALPN negotiated|Connection refused|connect:errno|handshake failure'
  • ALPN protocol: h2: 서버가 HTTP/2로 통신할 수 있습니다.

  • No ALPN negotiated: 해당 연결에서는 HTTP/2 통신이 불가능합니다.

  • 연결 거부 또는 TLS 핸드셰이크 오류 출력: 서버가 연결 가능한 상태인지 확인하고 재시도해야 합니다.

  • 출력 없음: 필터를 제거하고 같은 명령을 다시 실행해 시간 초과 또는 인증서 및 TLS 오류가 없는지 확인해야 합니다.

CDN이나 리버스 프록시가 nginx 앞에 있다면 위 명령은 프록시까지만 확인하므로, nginx 서버를 대상으로도 직접 실행해야 합니다.

판정

세 단계의 확인 결과를 종합한 판정은 아래와 같습니다.

확인 결과

판정

1.9.5~1.31.8 + HTTP2_MODULE=present + 실제 nginx 접속 포트에서 ALPN protocol: h2

취약하고 외부에 노출됨. 즉시 대응 필요

1.9.5~1.31.8 + HTTP2_MODULE=present + HTTP/2 비활성

취약한 코드는 포함되어 있지만 CVE-2026-123007의 공격 경로는 비활성화됨

1.9.4 이하 또는 HTTP2_MODULE=absent

CVE-2026-123007 영향 없음

1.31.9 적용 또는 백포트로 수정 사항이 반영된 사실 확인

패치됨

연결 실패, TLS 핸드셰이크 실패, 수정 사항 반영 여부 불명확

판정 불가. 추가 확인 필요

  • 위 판정은 CVE-2026-123007에만 해당하는 내용으로, 나머지 네 개의 취약점은 각 CVE가 발생하는 구성을 확인하여(1장 표 참고) 영향 여부를 판정해야 합니다.

3. 대응 방안 및 권고 조치

3.1. 즉시 조치

nginx를 1.31.9로 업데이트해야 합니다.

  • 1.31.9에는 다섯 개 취약점의 수정 사항이 모두 포함되어 있습니다.

  • 업데이트를 설치한 후에는 nginx를 재시작하거나, 서비스 중단 없이 실행 파일을 교체하는 절차를 완료해야 합니다. 설정을 다시 적용(reload)하는 것만으로는 실행 중인 nginx가 새 실행 파일로 교체되지 않습니다.

바로 업데이트하기 어려운 경우 3.3의 안내에 따라 운영 중인 구성에 맞는 임시 완화책을 적용하고, 패치를 적용할 때까지 유지해야 합니다. HTTP/2 비활성화만으로는 모든 취약점이 차단되지 않으므로, 운영 중인 구성이 영향을 받는 취약점을 먼저 확인해야 합니다(1장 표 참고).

3.2. 공격 여부 확인

CVE-2026-123007을 이용한 공격은 nginx 액세스 로그에 흔적을 거의 남기지 않습니다. 공격에 사용되는 HTTP/2 제어 프레임(WINDOW_UPDATE, RST_STREAM)은 액세스 로그에 기록되지 않으며, 네트워크에서는 TLS로 암호화됩니다. 따라서 공격 여부를 조사하려면 현재 연결의 통계, 연결별 요청 기록, 워커의 명령 실행 기록, 워커의 비정상 종료 기록을 함께 확인해야 합니다.

3.2.1. 연결 통계 확인

CVE-2026-123007을 악용하려면 WINDOW_UPDATE 프레임을 대량으로 보내야 하므로, 공격에 사용되는 연결에서는 수신량이 계속 증가합니다. 또한 공격 과정에서 같은 송신지가 TLS 연결을 반복적으로 생성합니다. 두 현상은 서버의 TCP 연결 통계에서 확인할 수 있습니다.

아래 명령으로 443 포트의 TCP 통계를 확인합니다.

sudo ss -tinp state established '( sport = :443 )'

명령을 일정 간격으로 두 번 실행하여 수신량(bytes_received)과 송신량(bytes_sent)의 증가량을 비교합니다. 아래 조건이 함께 나타나는 연결을 우선적으로 조사해야 합니다.

  • 같은 외부 IP의 연결이 수 분 이상 유지됨

  • bytes_received가 매우 빠르게 계속 증가함

  • 서버의 bytes_sent가 bytes_received보다 현저히 작음

  • 같은 외부 IP에서 짧은 TLS 연결이 다수 생성됨

대용량 업로드가 필요하지 않은 상황에서 위의 조건이 수 분 이상 함께 이어진다면 공격을 의심할 수 있습니다.

3.2.2. 연결별 요청 기록 확인

수신량이 많은 연결을 발견했다면, 수신된 데이터가 정상적인 요청인지 확인해야 합니다. nginx의 http 블록에 아래 로그 형식을 추가하면 디버그 빌드 없이 HTTP/2 요청을 연결별로 기록할 수 있습니다.

log_format h2_hunt '$time_iso8601 src=$remote_addr conn=$connection '
                   'requests=$connection_requests proto=$server_protocol '
                   'status=$status request_length=$request_length '
                   'bytes_sent=$bytes_sent request_time=$request_time';

access_log /var/log/nginx/h2-hunt.log h2_hunt;

설정 문법을 검사하고 nginx에 다시 적용한 후, 로그에서 HTTP/2 요청을 선별하여 확인합니다.

sudo nginx -t && sudo nginx -s reload
sudo grep 'proto=HTTP/2.0' /var/log/nginx/h2-hunt.log | tail -n 200

로그에서 같은 송신지(src)와 연결 번호(conn)의 요청 수와 요청 길이를 합산한 후, ss로 확인한 수신량과 비교합니다. ss의 bytes_received가 빠르게 증가하는데 로그의 요청 길이 합계가 수신량에 비해 현저히 작다면, 액세스 로그에 나타나지 않는 HTTP/2 제어 프레임이 대량으로 들어온 상황을 의심할 수 있습니다. 같은 연결의 요청 시간(request_time)이 길거나 같은 송신지에서 다수의 연결이 함께 관찰된다면 공격이 발생했을 가능성이 높아집니다.

3.2.3. 워커의 명령 실행 감시

공격이 성공하면 nginx 워커는 exec 계열의 시스템 호출(예: execve())로 셸 또는 다른 프로그램을 실행합니다. 일반적인 구성의 nginx 워커는 다른 프로그램을 실행하지 않으므로, 워커 계정의 프로그램 실행 기록은 침해와 직접적으로 연결되는 지표로 볼 수 있습니다. 따라서 워커 계정의 프로그램 실행을 기록하도록 설정할 것을 권고합니다.

먼저 워커 계정의 UID를 확인합니다.

ps -eo uid,user,pid,ppid,args | grep '[n]ginx: worker process'

Linux의 시스템 호출 감사 기능인 auditd를 사용하는 서버에서는 아래 규칙을 추가합니다. NGINX_UID에는 위 출력의 숫자 UID를 입력합니다.

sudo auditctl -a always,exit -F arch=b64 -S execve,execveat \
  -F euid=NGINX_UID -k nginx_worker_exec

규칙을 추가한 시점부터 워커 계정의 프로그램 실행이 기록됩니다.

  • 규칙을 추가하기 전에 실행된 프로그램은 기록되지 않으므로, 조회 결과가 없다고 해서 이전에 공격이 없었다고 판단할 수는 없습니다.

  • 워커와 같은 계정을 사용하는 다른 프로세스가 프로그램을 실행해도 기록이 남으므로, 프로세스 ID와 부모 프로세스 ID를 확인하여 nginx 워커가 실행한 것인지 구분해야 합니다.

기록은 아래 명령으로 조회할 수 있습니다.

sudo ausearch -k nginx_worker_exec -ts recent -i

nginx 워커 계정이 /bin/sh, /bin/bash 같은 프로그램을 실행한 기록이 있다면 즉시 조사가 필요합니다.

3.2.4. 워커의 비정상 종료 기록 확인

공격 시도 과정에서 nginx 워커가 비정상 종료될 수 있습니다. 종료 기록은 아래 명령으로 확인할 수 있습니다.

sudo grep -Ei 'worker process.*exited|signal 11|segfault' /var/log/nginx/error.log
sudo coredumpctl list nginx

워커의 비정상 종료는 다른 원인으로도 발생할 수 있으므로, 다른 징후를 함께 관찰하여 판단해야 합니다.

3.2.5. 판단 기준

nginx 워커의 프로그램 실행 기록은 직접적인 침해 지표로 보고 즉시 조사해야 합니다. 아래는 공격 시도를 의심할 수 있는 정황이므로, 둘 이상이 함께 관찰되면 관련 송신지를 차단하고 조사할 것을 권고합니다.

  • 장시간 이어지는 대량 수신 (3.2.1)

  • 같은 송신지의 다수 연결 (3.2.1)

  • 액세스 로그의 요청 길이 합계와 실제 수신량의 차이 (3.2.2)

  • 반복되는 워커의 비정상 종료 (3.2.4)

3.3. 임시 완화책

패치를 적용하기 전에는 각 취약점이 사용하는 기능을 비활성화하는 방식으로 알려진 공격 경로를 차단할 수 있습니다. 본 절에서 다루는 조치는 임시 완화책이므로, 패치를 적용할 수 있다면 패치를 우선해야 합니다.

(2026년 11월 19일 기준) 배포판별 보안 업데이트가 아직 제공되지 않았으므로, Ubuntu, Debian, RHEL 등의 패키지로 nginx를 설치한 경우 본 절의 임시 완화책을 적용해야 합니다. HTTP/2 등의 기능을 계속 사용해야 한다면, 기존 설정과 모듈의 호환성을 확인한 후 nginx 공식 릴리스인 1.31.9로 전환해야 합니다. 배포판 패키지를 계속 사용하는 경우에는 보안 업데이트가 제공될 때까지 완화책을 유지하고, 이후 배포판에서 제공하는 업데이트를 적용해야 합니다.

각 완화책은 설정을 변경한 후 nginx -s reload로 적용합니다. 설정을 다시 적용하더라도 기존의 HTTP/2, HTTP/3, 메일 연결은 이전 워커에 남아 계속 처리될 수 있으므로, 기존 연결을 즉시 종료해야 하는 경우 서비스 관리자를 통해 nginx를 재시작해야 합니다.

3.3.1. HTTP/2 비활성화 (CVE-2026-123007, CVE-2026-123633)

HTTP/2를 사용하는 서버는 패치를 적용하기 전까지 HTTP/2를 비활성화해야 합니다. 두 취약점은 HTTP/2 연결을 처리하는 과정에서 발생하므로, HTTP/2를 비활성화하면 공격 경로가 차단됩니다. HTTP/2를 비활성화해도 클라이언트는 HTTP/1.1로 접속하므로 서비스는 유지됩니다. 다만 gRPC처럼 HTTP/2가 요구되는 서비스는 동작하지 않을 수 있어, 설정 전 주의가 필요합니다.

설정 방법은 nginx의 버전에 따라 다릅니다.

nginx 1.25.1 이상에서는 HTTP/2가 활성화된 모든 listen을 대상으로 server 블록에 http2 off;를 지정합니다. listen에 http2 파라미터가 남아 있다면 함께 제거해야 합니다.

listen 443 ssl;
http2 off;

nginx 1.9.5~1.25.0에서는 listen 443 ssl http2;에서 http2를 제거합니다.

listen 443 ssl;

설정 변경 시 문법을 검사하고 nginx에 다시 적용한 후, 외부에서 HTTP/2가 비활성화되었는지 확인해야 합니다.

sudo nginx -t
sudo nginx -s reload
openssl s_client -connect HOST:443 -servername HOST -alpn h2 </dev/null 2>&1 | grep -F 'ALPN protocol: h2'

TLS 연결은 성공하지만 마지막 명령에서 h2가 출력되지 않는다면 해당 접속 경로에서 HTTP/2가 비활성화된 것입니다. 연결 자체가 실패한 경우에는 출력만으로 판단하지 않고, 서비스 상태를 확인한 후 다시 검사해야 합니다.

3.3.2. 요청 시점의 DNS 조회 제거 (CVE-2026-123634)

요청 값으로 업스트림을 정하는 proxy_pass와 mirror를 함께 사용하는 서버는 패치를 적용하기 전까지 구성을 변경해야 합니다. 취약점은 메인 요청과 서브리퀘스트(nginx가 요청을 처리하는 중에 내부적으로 만드는 보조 요청)가 같은 이름의 DNS 응답을 기다리는 동안 발생하므로, 전달 대상을 고정된 업스트림 그룹으로 지정하여 요청 시점의 DNS 조회를 없애면 알려진 공격 경로가 차단됩니다.

또한 CVE-2026-123634가 발생하는 구성의 조건으로 mirror_request_body off가 있지만, on으로 변경하는 것만으로는 충분한 대응이 되지 못합니다. 따라서 미러링의 필요 여부에 따라 아래의 조치 방법을 적용해야 합니다.

미러링이 필요하지 않다면 영향을 받는 location에서 mirror를 해제하고, 전달 대상을 고정된 업스트림 그룹으로 변경합니다.

upstream backend_hotfix {
    server [SERVER_IP]:8080;
}

location / {
    mirror off;
    proxy_pass http://backend_hotfix;
}

미러링을 유지해야 한다면 메인 요청과 미러 요청의 전달 대상을 모두 고정된 업스트림 그룹으로 변경합니다.

upstream backend_main_hotfix {
    server [MAIN_SERVER_IP]:8080;
}

upstream backend_mirror_hotfix {
    server [MIRROR_SERVER_IP]:8080;
}

location / {
    mirror /mirror;
    proxy_pass http://backend_main_hotfix;
}

location = /mirror {
    internal;
    proxy_pass http://backend_mirror_hotfix;
}

설정을 변경한 후에는 문법을 검사하고 nginx에 다시 적용합니다.

sudo nginx -t
sudo nginx -s reload

3.3.3. HTTP/3(QUIC) 비활성화 (CVE-2026-121810)

HTTP/3를 사용하는 서버는 패치를 적용하기 전까지 HTTP/3를 비활성화해야 합니다. 취약점은 HTTP/3 요청 스트림을 처리하는 QUIC 연결에서 발생하므로, quic 리스너를 제거하면 공격 경로가 차단됩니다.

영향을 받는 server 블록에서 quic이 포함된 listen 지시어와 HTTP/3 지원을 알리는 기존 Alt-Svc 헤더 설정을 제거하고, 아래 설정을 적용합니다.

listen 443 ssl;
# listen 443 quic reuseport;
# listen [::]:443 quic reuseport;
http3 off;
add_header Alt-Svc 'clear' always;

설정 변경 시 문법을 검사하고 nginx에 다시 적용한 후, UDP 443 포트의 리스너가 제거되었는지 확인해야 합니다.

sudo nginx -t
sudo nginx -s reload
sudo ss -lunp 'sport = :443'

마지막 명령에서 nginx 리스너가 출력되지 않는다면 HTTP/3가 비활성화된 것이며, 취약점이 발생하는 QUIC 연결이 수립되지 않습니다.

3.3.4. 메일 프록시 접근 차단 (CVE-2026-113425)

auth_http와 proxy on을 사용하는 메일 프록시는 패치를 적용하기 전까지 신뢰할 수 없는 클라이언트가 접속할 수 없도록 차단해야 합니다. 취약점은 메일 프록시가 클라이언트의 로그인을 처리하는 과정에서 발생하므로, 접속을 제한하면 공격 경로가 차단됩니다.

아래 두 방법 중 하나를 적용합니다.

  • 리스너의 외부 공개 중단: 외부에서 메일 프록시에 접속할 필요가 없다면 IMAP, POP3, SMTP 리스너를 외부 주소 대신 루프백 주소에 바인딩합니다.

listen 127.0.0.1:143;

설정 변경 시 문법을 검사하고 nginx에 다시 적용한 후, 메일 포트가 의도하지 않은 외부 인터페이스에 열려 있지 않은지 확인해야 합니다.

sudo nginx -t
sudo nginx -s reload
sudo ss -ltnp | grep -E ':(25|110|143|465|587|993|995)([[:space:]]|$)'
  • 접근 주소 제한: 외부 공개가 필요하다면 방화벽에서 신뢰할 수 있는 주소만 메일 프록시에 접근할 수 있도록 허용합니다. 접근 주소를 제한하여 공격에 노출되는 범위를 줄일 수 있지만, 허용된 주소에서는 패치를 적용하기 전까지 여전히 공격이 가능합니다.

4. 발견 과정 및 타임라인

nginx는 20년 넘게 전 세계 연구자가 분석해 온 소프트웨어이며, 인증 없이 원격에서 코드를 실행할 수 있는 취약점은 오랫동안 드물게 보고되었습니다. 대표적인 사례는 2013년에 공개된 CVE-2013-2028로, 조작된 HTTP 요청으로 스택 버퍼 오버플로를 일으켜 원격 코드 실행이 가능했던 취약점입니다. 또한, nginx가 2015년부터 지원한 HTTP/2에서 2025년까지 보고된 취약점은 모두 CPU나 메모리를 과도하게 사용하게 만드는 서비스 거부(DoS) 문제였습니다.

하지만 2026년에는 nginx에서 버퍼 오버플로, use-after-free와 같은 메모리 손상 취약점이 연이어 보고되었습니다. 같은 해 nginx 보안 권고에 등록된 취약점은 모두 26건(nginx2root 제외)으로, 2건이었던 2025년에 비해 크게 늘었습니다.

Xint 연구팀은 nginx에 아직 발견되지 않은 취약점이 더 있다고 보았고, AI(Xint)를 활용하여 분석 및 취약점 탐색에 나섰습니다. 그 결과 ZeroDay Cloud 준비 과정에서 다섯 개의 취약점을 발견할 수 있었습니다. 대표 취약점인 CVE-2026-123007은 Xint 연구원이 직접 발견했고, 나머지 네 개 취약점은 Xint가 사람의 지시 없이 찾아냈습니다. 다섯 개 모두 Xint 연구팀이 독립적으로 발견했으며, 그중 CVE-2026-123633은 비슷한 시기에 다른 연구자들도 발견한 것으로 확인되었습니다.

취약점 발견부터 패치 공개까지의 과정은 아래와 같으며, 날짜는 모두 한국 표준시(KST) 기준입니다.

날짜

진행 내용

2026년 10월 11일

Xint 연구팀 취약점 발견

2026년 10월 16일

HackerOne 취약점 제보 (F5)

2026년 10월 20일

HackerOne 검증 완료

2026년 10월 27일

F5 nginx 개발팀 전달 완료

2026년 11월 10일

F5 nginx 개발팀 패치 확인 요청

2026년 11월 10일

Xint 연구팀 패치 검증 완료

2026년 11월 19일

패치 공개

5. nginx 취약점 상세 분석

이제 Xint 연구팀이 nginx에서 발견한 다섯 개의 취약점을 각각 관련 기능(기능 분석), 발생 원리(취약점 분석), 원격 코드 실행 검증 결과(악용 가능성 검증)의 순서로 살펴보겠습니다. 대표 취약점인 CVE-2026-123007은 숫자 계산의 오류로 인해 버퍼의 범위를 벗어난 메모리에 데이터를 쓰게 되는 out-of-bounds write 취약점이며, 나머지 네 개 취약점은 해제한 메모리를 다시 사용하는 use-after-free 취약점입니다.

  • 익스플로잇을 재현하는 데 필요한 세부 절차는 악용 가능성을 고려하여 본 포스트에서 다루지 않습니다.

5.1. CVE-2026-123007

CVE-2026-123007은 HTTP/2 흐름 제어(Flow Control)에서 발생하는 정수 오버플로(Integer Overflow) 취약점입니다. 전송 윈도우가 허용된 최댓값을 넘으면서 비정상적인 메모리 복사가 일어나고, 공격자는 버퍼의 범위를 벗어난 메모리를 읽고 쓸 수 있게 됩니다.

5.1.1. 기능 분석: nginx가 HTTP/2 전송 윈도우를 관리하는 방식

HTTP/2는 하나의 연결에서 여러 요청과 응답을 동시에 처리합니다. 요청과 응답 한 쌍을 스트림이라고 하며, 클라이언트가 만든 스트림에는 Stream ID라는 식별 번호가 1, 3, 5와 같이 서로 다르게 부여됩니다. 각 스트림에서 헤더는 HEADERS 프레임으로, 본문은 DATA 프레임으로 전달됩니다.

전송 윈도우는 송신 측이 상대에게 보낼 수 있는 DATA의 양을 나타냅니다. HTTP/2는 스트림별 윈도우와 모든 스트림이 공유하는 연결 전체의 윈도우를 함께 관리하며, 송신 측은 두 윈도우에 남아 있는 전송 허용량 안에서 DATA를 보낼 수 있습니다. 수신 측이 WINDOW_UPDATE로 추가 전송을 허용할 크기를 알리면, 송신 측은 같은 크기만큼 윈도우를 늘립니다.

어느 윈도우를 늘릴지는 WINDOW_UPDATE의 Stream ID로 구분합니다. Stream ID가 0이면 연결 전체의 윈도우를, 0이 아니면 Stream ID가 가리키는 스트림의 윈도우만 늘립니다.

nginx가 사용하는 윈도우 기본값은 0xffff (65535)이며, 최댓값은 0x7fffffff ((1U << 31) - 1)입니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/v2/ngx_http_v2.h#L50-L51
#define NGX_HTTP_V2_MAX_WINDOW      ((1U << 31) - 1)
#define NGX_HTTP_V2_DEFAULT_WINDOW  65535

nginx는 전송할 프레임을 소켓으로 보내기 전까지 메모리상의 출력 큐에 보관합니다. 응답 DATA를 출력 큐에 넣을 때 ngx_http_v2_send_chain()은 연결 전체의 전송 윈도우인 h2c->send_window와 해당 스트림의 전송 윈도우인 stream->send_window에서 DATA 길이를 미리 차감합니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/v2/ngx_http_v2_filter_module.c#L1232-L1244
ngx_http_v2_queue_frame(h2c, frame);

h2c->send_window -= frame_size;
stream->send_window -= frame_size;
stream->queued++;

DATA가 전송되기 전에 스트림이 취소되면, ngx_http_v2_filter_cleanup()은 큐에 남은 해당 스트림의 DATA 프레임을 제거하고 차감했던 길이를 연결 전체의 전송 윈도우에 반환합니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/v2/ngx_http_v2_filter_module.c#L1719-L1767
h2c->send_window += window;

전송할 양을 미리 차감하고 취소 시 반환하는 동작 자체는 정상이지만, 반환 시 전송 윈도우가 최댓값을 초과하는지 검사하지 않아 취약점이 발생합니다.

5.1.2. 취약점 분석

취약점이 발생하여 명령 실행으로 이어지는 흐름은 아래와 같습니다.

단계

설명

  1. DATA 보류

응답 본문을 출력 큐에 넣되 아직 전송되지 않은 상태로 만들어, 전송 윈도우에서 본문 길이가 미리 차감되게 합니다.

  1. 윈도우 중복 반환

WINDOW_UPDATE로 전송 허용량을 복구한 후 스트림을 취소해 같은 허용량을 한 번 더 돌려받습니다.

  1. 상한 검사 우회

HTTP/2 연결 전체의 전송 윈도우가 최댓값을 넘으면서 남은 공간이 잘못 계산되고, 이후 WINDOW_UPDATE가 계속 허용됩니다.

  1. 비정상 복사 생성

nginx가 같은 값을 부호 있는 정수와 부호 없는 정수로 번갈아 해석하면서, 음수였던 값이 매우 큰 양수가 되어 복사 길이로 쓰입니다.

  1. 주소 노출과 메모리 변경

복사 양 끝의 위치를 조절해 메모리 포인터를 응답으로 노출하고 TLS 메모리의 할당 정보도 변경합니다.

  1. 정리 함수 제어

노출된 주소와 변경된 메모리를 이용해 정리 함수의 포인터를 덮어쓰고, 정리 함수가 호출될 때 명령을 실행합니다.

(1) 31비트 상한을 넘기는 중복 반환

클라이언트는 연결 설정을 전달하는 SETTINGS 프레임의 SETTINGS_INITIAL_WINDOW_SIZE로 새 스트림이 처음 가질 전송 윈도우를 정할 수 있습니다. 초기 전송 윈도우를 0으로 설정하면 nginx는 응답 HEADERS는 만들지만 DATA는 보내지 못하므로, 클라이언트는 여러 응답을 원하는 시점까지 대기시킬 수 있습니다.

이후 각 스트림에 응답 본문 크기만큼 WINDOW_UPDATE를 보내면 nginx가 DATA를 출력 큐에 넣고 DATA의 길이를 전송 윈도우에서 미리 차감합니다. 윈도우가 다시 열렸으므로 원래는 DATA가 바로 전송됩니다. 하지만 nginx는 PING 응답과 같은 제어 프레임을 대기 중인 DATA보다 앞에 넣습니다. 클라이언트가 응답 읽기를 멈춘 상태에서 제어 프레임이 먼저 쌓이게 하면 TLS와 TCP 송신 버퍼가 가득 차고, 뒤에 있는 DATA는 윈도우에서 이미 차감된 상태로 출력 큐에 남습니다.

큐에 남은 DATA 길이의 합계를 Q라고 하겠습니다. Stream ID가 0인 WINDOW_UPDATE로 Q를 복구한 후, 스트림을 취소하는 RST_STREAM을 보내면 ngx_http_v2_filter_cleanup()이 미전송 DATA를 제거하면서 같은 Q를 다시 반환합니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/v2/ngx_http_v2_filter_module.c#L1723-L1767
if (frame->stream == stream && !frame->blocked) {
    *fn = frame->next;
    window += frame->length;
}

h2c->send_window += window;

마지막 덧셈에는 최댓값 검사가 없습니다. 클라이언트가 Stream ID가 0인 WINDOW_UPDATE로 연결 전체의 전송 윈도우를 정상 최댓값(Wmax)까지 미리 올려 두면, 전송 윈도우는 Wmax -> Wmax - Q -> Wmax -> Wmax + Q 순서로 변하며 31비트 상한을 넘습니다. 응답 크기나 스트림 수 자체가 중요한 것은 아니며, 아직 전송되지 않은 DATA 길이의 합계 Q를 두 번 반영할 수 있다는 점이 핵심입니다.

(2) WINDOW_UPDATE 검사가 무력화되는 이유

ngx_http_v2_state_window_update()는 증가량을 더하기 전에 남은 공간을 계산합니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/v2/ngx_http_v2.c#L2564-L2575
if (window > NGX_HTTP_V2_MAX_WINDOW - h2c->send_window) {
    return ngx_http_v2_connection_error(h2c, NGX_HTTP_V2_FLOW_CTRL_ERROR);
}

h2c->send_window += window;

위 검사는 현재 연결 전체의 전송 윈도우가 최댓값 이하일 때만 올바르게 동작합니다. 하지만 h2c->send_window는 메모리 크기를 담는 부호 없는 정수형인 size_t이고, 앞 단계에서는 이미 Wmax + Q가 되었습니다. 따라서 남은 공간을 구하는 식은 Wmax - (Wmax + Q)가 됩니다. 계산 결과는 부호 있는 정수에서 음수이지만, 부호 없는 정수에서는 범위를 넘어 매우 큰 양수로 바뀝니다.

nginx는 남은 공간이 매우 많다고 잘못 판단하고 이후 Stream ID가 0인 WINDOW_UPDATE를 계속 받아들입니다. 각 프레임의 증가량이 HTTP/2 규격의 허용 범위 안에 있더라도, nginx는 증가 대상인 내부 값이 이미 비정상 범위에 있다는 점을 검사하지 못합니다. WINDOW_UPDATE를 반복해서 보내면 연결 전체의 전송 윈도우를 64비트 값의 최대치에 가깝게 만들 수 있습니다.

취약한 코드는 nginx 1.9.5에 HTTP/2가 도입될 때 함께 추가되었습니다. HTTP/2 이전에 사용하던 SPDY 구현은 값을 더한 후 상한을 확인했지만, HTTP/2 구현은 현재 값이 정상이라는 전제 아래 남은 공간을 먼저 계산합니다.

(3) 비정상 윈도우가 큰 메모리 복사로 이어지는 과정

h2c->send_window는 부호 없는 size_t입니다. 전송 윈도우를 2^64 - d까지 늘리면 부호 없는 값으로는 매우 크지만, 부호 있는 off_t로 읽을 때는 -d가 됩니다.

ngx_http_v2_send_chain()은 전송 윈도우의 값으로 DATA 프레임의 크기를 정합니다. 먼저 이번 호출에서 보낼 수 있는 최대 길이인 limit과 전송 윈도우를 비교합니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/v2/ngx_http_v2_filter_module.c#L1144-L1146
if (limit == 0 || limit > (off_t) h2c->send_window) {
    limit = h2c->send_window;
}

위 비교에서 h2c->send_window는 부호 있는 off_t로 변환되므로, 2^64 - d가 아닌 -d로 해석됩니다. 양수인 limit이 -d보다 크므로 조건이 참이 되고, limit도 -d가 됩니다.

다음 비교에서는 현재 DATA 프레임 크기인 frame_size와 limit을 사용합니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/v2/ngx_http_v2_filter_module.c#L1163-L1166
if ((off_t) frame_size > limit) {
    frame_size = (size_t) limit;
}

양수인 frame_size는 -d보다 크므로 조건을 충족합니다. -d를 size_t로 변환하면 다시 2^64 - d가 되어, 정상적인 DATA 크기가 매우 큰 값으로 바뀝니다.

변환된 frame_size는 아직 버퍼에 연결하지 못한 길이인 rest에 저장되며, 버퍼의 시작과 끝을 지정하는 ngx_http_v2_filter_get_shadow()에 전달됩니다.

// 호출부: https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/v2/ngx_http_v2_filter_module.c#L1169-L1207
// 구현부: https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/v2/ngx_http_v2_filter_module.c#L1287-L1308
rest = frame_size;
cl = ngx_http_v2_filter_get_shadow(stream, in->buf, offset, rest);

static ngx_chain_t *
ngx_http_v2_filter_get_shadow(ngx_http_v2_stream_t *stream, ngx_buf_t *buf,
    off_t offset, off_t size)
{
    chunk->last = chunk->pos + size;
}

size는 off_t이므로 -d입니다. 따라서 chunk->last는 chunk->pos보다 d만큼 낮은 주소가 됩니다. 이후 TLS 출력 로직에서는 last와 pos의 차이를 복사 길이로 사용합니다.

// 변수 선언: https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/event/ngx_event_openssl.c#L3054-L3057
// 복사 경로: https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/event/ngx_event_openssl.c#L3137-L3150
ssize_t size;

size = in->buf->last - in->buf->pos;

ngx_memcpy(buf->last, in->buf->pos, size);

last - pos는 -d이지만, memcpy()의 길이 인자는 size_t입니다. 마지막 변환에서 값이 다시 2^64 - d가 되면서 비정상적으로 큰 복사 길이가 전달됩니다.

하지만 glibc의 x86-64 memcpy()는 전달된 길이 전체를 처음부터 끝까지 순서대로 복사하지 않습니다. 처음과 끝을 먼저 읽고 가운데만 반복문으로 처리하므로, 끝 주소가 시작 주소보다 낮게 전달되면 가운데 부분은 반복해서 복사하지 않고 양 끝만 복사합니다. 익스플로잇이 이용한 4-vector 역방향 복사 구조는 2016년경 glibc 2.24부터 x86-64 구현에 포함되었습니다.

glibc 2.41의 AVX2 경로를 단순화하면 아래와 같습니다.

# 도입 버전: https://github.com/bminor/glibc/blob/glibc-2.24/sysdeps/x86_64/multiarch/memmove-vec-unaligned-erms.S#L413-L462
# https://github.com/bminor/glibc/blob/glibc-2.41/sysdeps/x86_64/multiarch/memmove-vec-unaligned-erms.S#L513-L554
head = load128(src)
tail = load32(src + size - 32)

end = (dest + size) mod 2^64
cursor = align_down(end - 129, 32)

do {
    copy128(dst=cursor, src=src + (cursor - dest))
    cursor -= 128
} while (cursor > dest)

store128(dst=dest, data=head)
store32(dst=end - 32, data=tail)

align_down(x, 32)는 x가 속한 32바이트 구간의 시작 주소를 구합니다. size = 2^64 - d이면 복사 끝은 end = dest - d가 됩니다. end가 32의 배수이면 cursor는 end - 160이 됩니다. glibc는 cursor 위치에서 128바이트를 한 번 복사하고, 바로 뒤의 마지막 32바이트도 별도로 복사합니다.

end - 160                         end - 32             end
    |--------- 128바이트 ----------|------ 32바이트 -----|
          반복문 복사                    고정 복사

cursor가 이미 dest보다 낮은 주소이므로 반복문은 한 번만 실행됩니다. 따라서 glibc는 긴 가운데 구간을 건너뛰고, 처음 128바이트와 끝의 160바이트만 아래와 같이 복사합니다.

src ~ src + 127                    -> dest ~ dest + 127
src - d - 160 ~ src - d - 1       -> dest - d - 160 ~ dest - d - 1

dest는 TLS 평문 버퍼에서 다음 응답을 쓸 위치입니다. nginx 소스에서 HTTP/2 프레임 헤더는 9바이트, PING 데이터는 8바이트, SETTINGS ACK 데이터는 0바이트입니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/v2/ngx_http_v2.h#L27
#define NGX_HTTP_V2_FRAME_HEADER_SIZE    9

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/v2/ngx_http_v2.c#L30-L34
#define NGX_HTTP_V2_SETTINGS_ACK_SIZE    0
#define NGX_HTTP_V2_PING_SIZE            8

따라서 ACK 플래그가 없는 PING을 보내면 17바이트 PING ACK가 생성되고, SETTINGS를 보내면 9바이트 SETTINGS ACK가 생성됩니다. PING을 p개, SETTINGS를 s개 보내면 nginx가 먼저 만드는 응답 길이는 17p + 9s입니다. 뒤이어 붙는 DATA 프레임 헤더 9바이트까지 포함하면 다음 응답 본문이 시작될 위치를 계산할 수 있습니다.

P = 17p + 9s + 9
dest = TLS + P

WINDOW_UPDATE로 전송 윈도우를 조절해 d = P - 64로 만들면, 복사 끝인 dest - d는 TLS + 64가 됩니다. 끝부분의 160바이트는 TLS 버퍼가 시작되기 전 96바이트부터 버퍼 안의 첫 64바이트까지 복사됩니다.

src는 nginx가 TLS 버퍼로 옮길 응답 데이터의 시작 위치입니다. 하나의 Range 헤더에 여러 범위를 지정하면 nginx는 multipart 응답용 경계 문자열을 요청 풀에 할당하고, 할당한 주소를 응답 버퍼의 시작 위치로 사용합니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/modules/ngx_http_range_filter_module.c#L484-L505
ctx->boundary_header.data = ngx_pnalloc(r->pool, size);

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/modules/ngx_http_range_filter_module.c#L867-L882
b->pos = ctx->boundary_header.data;

b->pos가 출력 경로를 따라 in->buf->pos로 전달되므로, 최종 memcpy()에서는 src가 됩니다.

같은 요청에 Cookie 헤더 필드를 여러 개 보내면 nginx는 각 값의 길이에 구분자 "; "의 길이인 2바이트를 더해 전체 길이를 계산한 후, 값들을 하나의 버퍼에 합칩니다. 계산한 길이와 버퍼의 주소는 요청 헤더 구조체에 저장됩니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/v2/ngx_http_v2.c#L3725-L3769
len += vals[i].len + 2;
len -= 2;

h->key.data = cookie.data;
h->value.len = len;
h->value.data = buf;

h->key.data는 nginx 바이너리의 정적 문자열을 가리키고, h->value.data는 요청 풀에 할당한 Cookie 버퍼를 가리킵니다. 따라서 생성된 헤더 구조체에는 nginx 이미지와 힙의 주소, 그리고 공격자가 조절할 수 있는 Cookie 길이가 함께 저장됩니다.

요청 풀의 작은 객체는 현재 풀 블록에 공간이 남아 있으면 마지막으로 할당한 객체의 뒤에 이어서 배치됩니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/core/ngx_palloc.c#L157-L166
m = p->d.last;

if ((size_t) (p->d.end - m) >= size) {
    p->d.last = m + size;
    return m;
}

공격자는 Cookie의 개수와 길이로 헤더 관련 객체의 내용과 크기를 조절하고, Range 헤더와 URI의 길이로 multipart 응답 버퍼 src의 상대적인 위치를 맞춥니다. glibc가 끝부분 복사에 사용하는 src - d - 160부터 src - d - 1까지의 160바이트는 아래와 같이 구성됩니다.

원본 앞 96바이트:  TLS 버퍼 앞의 힙 영역을 덮어쓸 값
원본 뒤 64바이트:  nginx 이미지 및 힙 포인터

복사 위치:
원본 앞 96바이트  -> TLS 평문 버퍼 앞 96바이트
원본 뒤 64바이트  -> TLS 평문 버퍼의 첫 64바이트

앞의 96바이트는 TLS 평문 버퍼 앞에 있는 힙 영역의 크기 필드를 덮어쓰고, 뒤의 64바이트는 TLS 응답으로 전송되어 nginx 이미지와 힙 주소를 노출합니다. 따라서 한 번의 비정상적인 복사로 out-of-bounds write와 주소 노출이 함께 발생합니다. 이후 노출된 주소와 out-of-bounds write를 이용해 요청 정리 구조체의 함수 포인터를 덮어쓰면, nginx 워커 프로세스의 실행 흐름을 제어하고 임의의 명령을 실행할 수 있습니다.

  • 함수 포인터를 덮어쓰는 세부 과정은 악용 가능성을 고려하여 본 포스트에서 다루지 않습니다.

5.1.3. 악용 가능성 검증

Xint 연구팀은 외부에 공개된 TLS/HTTP/2 포트만을 이용해 전송 윈도우 손상, nginx 이미지 및 힙 주소 노출, 요청 정리 함수 제어를 거쳐 nginx 워커 권한으로 명령을 실행할 수 있음을 확인했습니다. 별도의 인증이나 애플리케이션 기능은 필요하지 않았습니다.

검증 결과

Xint 연구팀은 정상 요청이 함께 처리되고 있는 서버와 사양이 서로 다른 서버에서도 익스플로잇이 동작하는 것을 확인했습니다. AWS, GCP, Azure에서는 접속 경로를 세 가지로 나누어 검증했으며, 아래 표와 같이 모든 경로에서 명령 실행에 성공했습니다.

클라우드

대상 서버 내부

클라우드 사설망(VPC/VNet)

공인 IP

AWS

성공

성공

성공

GCP

성공

성공

성공

Azure

성공

성공

성공

검증 환경과 방식은 아래와 같습니다.

항목

내용

진입점

TLS/ALPN h2가 열린 nginx 포트

인증 및 애플리케이션 의존성

없음

대상 워커

worker_processes auto 환경에서 동적으로 선택

주소 확보

현재 워커에서 노출된 값으로 nginx 이미지와 힙의 주소를 매번 계산

대상 환경

HTTP/2가 활성화된 기본 nginx 구성

명령 실행 결과

기존 연결을 통해 공격자 측에서 직접 수신

5.2. CVE-2026-123634

CVE-2026-123634는 DNS 응답을 기다리는 리졸버 컨텍스트를 처리하다 발생하는 use-after-free 취약점입니다. 리졸버가 아직 처리하지 않은 컨텍스트를 다른 컨텍스트의 핸들러가 해제하면, 리졸버는 대기 목록을 계속 순회하면서 해제된 메모리에 접근합니다.

5.2.1. 기능 분석: 요청 시점에 nginx가 업스트림 이름을 해석하는 방식

nginx는 클라이언트의 요청을 받아 실제 서비스를 처리하는 백엔드 서버로 전달하는 리버스 프록시로 사용할 수 있습니다. 요청을 전달할 서버를 지정하는 설정이 proxy_pass이며, nginx에서는 전달 대상 서버를 업스트림이라고 부릅니다.

업스트림은 고정된 서버로 지정하거나 요청에 따라 달라지도록 설정할 수 있습니다. 예를 들어 proxy_pass http://$host;는 $host에 담긴 호스트 이름을 전달 대상으로 사용합니다. $host는 주로 클라이언트 요청의 Host 헤더에서 가져온 호스트 이름입니다. nginx가 접속할 IP 주소를 DNS로 조회해야 할 때는 resolver 지시어에 지정한 DNS 서버를 사용합니다.

nginx는 DNS 응답을 기다리는 동안에도 다른 요청을 처리하기 위해 각 조회의 상태와 결과, 완료 후 실행할 콜백 함수인 handler를 리졸버 컨텍스트(ngx_resolver_ctx_t)에 저장합니다.

여러 요청이 같은 도메인을 조회하면, nginx는 도메인별 리졸버 노드의 대기 목록에 각 컨텍스트를 연결합니다. 이미 조회 중인 도메인에는 DNS 질의를 다시 보내지 않고, 새 컨텍스트를 목록 맨 앞에 추가합니다.

DNS 응답을 처리할 때는 대기 목록을 노드에서 분리하고 rn->waiting을 NULL로 변경합니다. 이어서 목록을 순회하며 각 컨텍스트의 handler를 호출합니다. handler를 실행하기 전에는 아래 코드처럼 다음 컨텍스트를 next에 저장합니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/core/ngx_resolver.c#L2131-L2147
next = rn->waiting;
rn->waiting = NULL;
...
while (next) {
    ctx = next;
    ctx->state = code;
    ctx->valid = ngx_time() + (r->valid ? r->valid : 10);
    next = ctx->next;

    ctx->handler(ctx);
}

mirror 지시어를 사용하면 메인 요청을 처리하면서 별도 location으로 백그라운드 서브리퀘스트를 보낼 수 있습니다. 일반적으로 운영 트래픽을 테스트 시스템에도 전달할 때 사용하는 기능입니다. 메인 요청과 미러 요청이 같은 이름의 업스트림을 사용하면, 두 요청의 컨텍스트가 같은 노드에서 DNS 응답을 기다릴 수 있습니다.

5.2.2. 취약점 분석

(1) 메인 요청의 종료로 미러 컨텍스트가 해제되는 과정

DNS 조회가 실패하면 메인 요청의 ngx_http_upstream_resolve_handler()는 클라이언트에 502 응답 전송을 시도합니다. 전송이 TCP reset으로 실패하면 ngx_http_terminate_request()가 메인 요청을 종료합니다.

ngx_http_terminate_request()는 메인 요청에 등록된 모든 정리 작업을 실행합니다. 미러 요청의 업스트림 정리 작업도 메인 요청에 등록되어 있으므로, 아직 DNS 결과를 처리하지 않은 미러 요청에 대해서도 아래 코드가 실행됩니다. 실행 과정에서 ngx_resolve_name_done()이 미러 컨텍스트를 해제합니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/ngx_http_upstream.c#L4802-L4805
if (u->resolved && u->resolved->ctx) {
    ngx_resolve_name_done(u->resolved->ctx);
    u->resolved->ctx = NULL;
}

(2) 리졸버가 해제된 컨텍스트에 다시 접근하는 과정

리졸버가 아직 처리하지 않은 미러 컨텍스트는 NGX_AGAIN 상태입니다. ngx_resolve_name_done()은 NGX_AGAIN 상태의 컨텍스트를 노드의 대기 목록에서 찾아 제거한 후 해제하도록 되어 있습니다. 그러나 목록은 이미 순회를 위해 분리되었고 rn->waiting은 NULL이므로, 미러 컨텍스트를 찾을 수 없습니다. 함수는 컨텍스트를 찾지 못한 경우에도 메모리를 해제합니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/core/ngx_resolver.c#L554-L595
if (ctx->state == NGX_AGAIN || ctx->state == NGX_RESOLVE_TIMEDOUT) {
    rn = ctx->node;

    if (rn) {
        p = &rn->waiting;
        w = rn->waiting;

        while (w) {
            ...
        }

        ngx_log_error(NGX_LOG_ALERT, r->log, 0,
                      "could not cancel %V resolving", &ctx->name);
    }
}

done:
    ...
    ngx_resolver_free_locked(r, ctx);

메인 요청의 핸들러가 실행을 마치면 리졸버 루프는 미리 저장한 next로 이동합니다. next가 가리키는 미러 컨텍스트는 이미 해제되었지만, 루프는 해제된 메모리에 ctx->state와 ctx->valid를 쓰고 ctx->next를 읽은 후 ctx->handler(ctx)를 호출합니다. 이때 use-after-free가 발생합니다. 해제된 영역이 다른 데이터로 재할당되면 next와 handler도 새 데이터에서 읽히므로, 공격자는 목록을 순회할 위치와 호출할 함수 주소를 바꿀 수 있습니다. 따라서 마지막 ctx->handler(ctx) 호출은 명령 포인터(RIP) 제어로 이어질 수 있습니다.

5.2.3. 악용 가능성 검증

5.2.2에서 설명한 것처럼, 해제된 리졸버 컨텍스트의 handler 값을 바꾸면 명령 포인터를 제어할 수 있습니다. 원격 코드 실행 검증은 주소 확보와 실행 흐름 제어의 두 단계로 진행했습니다.

주소 확보에도 같은 취약점을 이용했습니다. 미러 컨텍스트가 해제되면 glibc는 빈 메모리를 관리하기 위한 포인터를 next 필드가 있던 위치에 기록합니다. glibc가 기록한 포인터는 해제된 DNS 레코드 배열을 가리키므로, 리졸버 루프는 DNS 레코드 배열을 다음 컨텍스트로 읽습니다. 배열의 내용은 공격자가 정할 수 있습니다. 검증에서는 배열에서 handler로 읽히는 위치에 gettimeofday()의 vsyscall 주소를 넣었습니다. vsyscall은 amd64 시스템의 커널이 일부 시스템 호출을 고정된 주소로 제공하는 영역입니다. gettimeofday()가 호출되면 힙 청크의 크기 값이 조작되고, nginx가 공격자 서버로 보내는 DNS 질의에 glibc와 힙의 포인터가 포함됩니다. DNS 질의에 포함된 포인터를 읽어 필요한 주소를 구했습니다.

이어서 리졸버 루프가 같은 배열을 거쳐, 대기 중인 요청 본문에 배치한 가짜 컨텍스트로 이동하게 했습니다. 가짜 컨텍스트의 handler가 system()을 가리키게 하여, 리졸버 루프가 해당 handler를 호출할 때 nginx 워커 권한으로 임의 명령이 실행되는 것을 확인했습니다.

항목

내용

대상

공식 nginx:1.31.8 이미지의 기본 구성에 요청 시점의 DNS 조회와 mirror를 사용하는 서버 블록 추가

진입점

8080번 포트의 HTTP와 공격자 도메인에 대한 DNS 응답

인증

필요 없음

네트워크 조건

nginx가 사용하는 DNS 리졸버가 공격자 도메인의 DNS 서버에 질의 가능

호스트 커널

Ubuntu Linux 6.8(x86-64), vsyscall=xonly

결과

nginx 워커 권한의 원격 코드 실행

5.3. CVE-2026-123633

CVE-2026-123633은 요청을 처리 중인 HTTP/2 연결이 정리 대상으로 남아 발생하는 use-after-free 취약점입니다. 해당 요청이 업스트림 연결을 여는 도중 자신의 HTTP/2 연결이 닫히면서 요청 메모리가 해제되고, 이후 업스트림 처리 코드가 메모리에 다시 접근합니다.

5.3.1. 기능 분석: 연결 슬롯이 부족할 때 nginx가 유휴 연결을 정리하는 방식

nginx 워커가 사용할 수 있는 연결 슬롯 수는 worker_connections로 정해지며, 클라이언트 연결과 업스트림 연결이 연결 슬롯을 함께 사용합니다. 새 연결에 할당할 슬롯이 부족해지면 nginx는 기존 유휴 연결을 닫아 슬롯을 확보합니다. 닫을 수 있는 연결을 구분하기 위해 HTTP/1.1 keep-alive 연결이나 활성 스트림이 없는 HTTP/2 연결 등을 재사용 가능(reusable) 상태로 표시하고 큐에 보관합니다.

새 연결에 슬롯을 할당하는 ngx_get_connection()은 먼저 ngx_drain_connections()를 호출합니다. 여유 슬롯이 전체의 1/16 이하이고 재사용 가능 큐에 연결이 남아 있으면, 큐에 오래 남아 있던 연결부터 닫도록 처리합니다. 이 동작을 drain이라고 합니다.

drain은 정리할 연결에 c->close를 설정하고 read handler를 직접 호출합니다. read handler는 ngx_get_connection() 안에서 동기적으로 실행되므로, 실행을 마친 후에야 슬롯 할당이 이어집니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/core/ngx_connection.c#L1411-L1442
if (cycle->free_connection_n > cycle->connection_n / 16
    || cycle->reusable_connections_n == 0)
{
    return;
}
...
n = ngx_max(ngx_min(32, cycle->reusable_connections_n / 8), 1);

for (i = 0; i < n; i++) {
    ...
    q = ngx_queue_last(&cycle->reusable_connections_queue);
    c = ngx_queue_data(q, ngx_connection_t, queue);
    ...
    c->close = 1;
    c->read->handler(c->read);
}

5.3.2. 취약점 분석

(1) 요청을 처리하기 시작한 HTTP/2 연결이 큐에 남는 과정

ngx_http_v2_handle_connection()은 처리 중인 스트림과 전송 대기 프레임이 없는 HTTP/2 연결을 재사용 가능 큐에 넣습니다. 프레임을 일부만 받은 경우에는 h2c->state.incomplete가 설정되는데, nginx는 연결을 큐에 넣은 후에 incomplete를 검사합니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/v2/ngx_http_v2.c#L628-L674
if (h2c->last_out || h2c->processing) {
    return;
}
...
ngx_reusable_connection(c, 1);

if (h2c->state.incomplete) {
    return;
}

프레임 처리가 끝난 유휴 연결의 read handler는 ngx_http_v2_idle_handler()로 교체되며, 이 핸들러는 새 데이터가 도착하면 연결을 재사용 가능 큐에서 제거합니다. 하지만 프레임을 일부만 받은 경우에는 ngx_http_v2_handle_connection()이 read handler를 교체하기 전에 반환하므로, 기존의 ngx_http_v2_read_handler()가 그대로 남습니다. ngx_http_v2_read_handler()에는 연결을 큐에서 제거하는 처리가 없습니다.

따라서 공격자가 HEADERS 프레임을 나누어 보내면, nginx는 앞부분만 받은 시점에 연결을 재사용 가능 큐에 추가합니다. 이후 나머지를 받아 스트림을 열고 요청을 처리하기 시작하더라도, 연결이 큐에 그대로 남아 정리 대상이 될 수 있습니다.

(2) 업스트림 연결 중 자신의 요청 메모리가 해제되는 과정

nginx가 큐에 남은 연결의 요청을 proxy_pass로 백엔드에 전달하려면 새로운 연결 슬롯이 필요합니다. ngx_event_connect_peer()가 ngx_get_connection()을 호출했을 때 여유 슬롯이 부족하면 drain이 실행되며, 요청이 속한 HTTP/2 연결도 정리 대상으로 선택될 수 있습니다.

drain이 호출한 HTTP/2 read handler는 c->close를 확인하고 GOAWAY 전송을 시도합니다. 클라이언트의 TCP reset으로 전송이 실패하면, ngx_http_v2_finalize_connection()이 연결과 연결에 속한 스트림을 정리합니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/http/v2/ngx_http_v2.c#L356-L382
if (c->close) {
    c->close = 0;
    ...
    if (!h2c->goaway) {
        h2c->goaway = 1;

        if (ngx_http_v2_send_goaway(h2c, NGX_HTTP_V2_NO_ERROR)
            == NGX_ERROR)
        {
            ngx_http_v2_finalize_connection(h2c, 0);
            return;
        }

        if (ngx_http_v2_send_output_queue(h2c) == NGX_ERROR) {
            ngx_http_v2_finalize_connection(h2c, 0);
            return;
        }
    }

스트림을 닫는 과정에서 ngx_http_free_request()가 요청 풀을 해제하므로, 요청 구조체 r과 업스트림 구조체 u도 함께 해제됩니다. 그러나 ngx_event_connect_peer()가 인자로 받은 포인터는 여전히 u->peer를 가리킵니다. drain이 끝난 후 ngx_event_connect_peer()가 포인터를 다시 참조하면, 이미 해제된 u->peer에 접근하게 되어 use-after-free가 발생합니다.

5.3.3. 악용 가능성 검증

원격 코드 실행 검증은 주소 확보와 실행 흐름 제어의 두 단계로 진행했습니다.

먼저 힙의 할당 순서를 조절하여(heap grooming), glibc가 큰 메모리 블록을 관리하는 데 쓰는 largebin 헤더가 해제된 u의 위치에 놓이게 했습니다. 헤더의 bk_nextsize 필드는 u->peer.sockaddr와 같은 위치에 오며, 공격자 서버의 주소(sockaddr_in)를 기록한 메모리를 가리킵니다. 따라서 nginx는 공격자 서버의 주소를 업스트림 주소로 읽고 공격자 서버에 연결합니다. 공격자 서버가 연결을 수락하면 nginx는 해제된 요청 버퍼를 전송합니다. 전송된 데이터에 남아 있는 포인터에서 glibc와 힙 주소를 확인했습니다. 주소를 노출한 워커는 비정상 종료되지만, 새로 생성된 워커도 같은 주소 배치를 사용합니다.

다음 시도에서는 할당 순서를 다르게 조절하여 해제된 요청 메모리를 가짜 요청 구조체로 채우고, 업스트림 연결의 read handler가 execv()를 가리키도록 조작했습니다. 이후 공격자 서버가 연결을 거부하여 연결 오류 이벤트가 발생하자 nginx가 read handler를 호출했고, 실행 흐름이 execv()로 이어지면서 nginx 워커 권한으로 명령을 실행할 수 있었습니다.

항목

내용

대상

공식 nginx:1.31.8 이미지, 기본 nginx.conf에 proxy_pass를 사용하는 TLS/HTTP/2 서버 하나 추가

진입점

ALPN h2를 사용하는 TLS 포트와 연결 슬롯 점유에 사용한 HTTP/1 포트

인증

필요 없음

네트워크 조건

nginx에서 공격자 서버로 TCP 연결 가능

결과

nginx 워커 권한의 원격 코드 실행

5.4. CVE-2026-121810

CVE-2026-121810은 HTTP/3 요청을 처리하는 중에 그 요청이 속한 QUIC 연결이 닫히면서 발생하는 use-after-free 취약점입니다. 새 스트림을 만드는 과정에서 부모 QUIC 연결이 정리 대상으로 잘못 등록되고, 이후 업스트림 연결을 처리하던 요청의 메모리가 해제됩니다.

5.4.1. 기능 분석: nginx가 HTTP/3 스트림을 연결로 처리하는 방식

HTTP/3는 QUIC 연결 하나에서 여러 요청을 스트림 단위로 처리합니다. nginx는 QUIC 연결과 각 스트림에 ngx_connection_t 객체를 하나씩 할당합니다. 모두 같은 워커의 연결 슬롯을 사용하므로, 요청 스트림을 새로 만들 때도 여유 슬롯이 필요합니다. 아래에서는 스트림들이 속한 QUIC 연결을 부모 연결이라고 부릅니다.

5.3.1에서 설명한 것처럼, 워커의 연결 슬롯이 부족해지면 nginx는 재사용 가능 상태로 등록된 연결을 닫아 슬롯을 확보합니다. QUIC 연결과 헤더를 기다리는 HTTP/3 요청 스트림도 drain의 대상이 될 수 있습니다.

스트림이 닫힐 때는 부모 연결도 정리할 수 있는지 확인합니다. nginx는 ngx_quic_can_shutdown()으로 부모 연결의 스트림 트리를 검사하고, 남아 있는 스트림이 모두 취소 가능한 상태이면 부모 연결을 재사용 가능 큐에 넣습니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/event/quic/ngx_event_quic_streams.c#L1168-L1170
if (!pc->reusable && ngx_quic_can_shutdown(pc) == NGX_OK) {
    ngx_reusable_connection(pc, 1);
}

5.4.2. 취약점 분석

(1) 스트림 생성 중 QUIC 연결이 큐에 다시 들어가는 과정

새 스트림을 만드는 ngx_quic_create_stream()은 연결 슬롯을 할당하기 전에 부모 연결을 재사용 가능 큐에서 제거합니다. 슬롯을 확보하는 ngx_get_connection() 안에서 drain이 실행되더라도 부모 연결은 닫히지 않게 하려는 처리입니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/event/quic/ngx_event_quic_streams.c#L734-L743
reusable = c->reusable;
ngx_reusable_connection(c, 0);

sc = ngx_get_connection(c->fd, log);
if (sc == NULL) {
    ngx_destroy_pool(pool);
    ngx_queue_insert_tail(&qc->streams.free, &qs->queue);
    ngx_reusable_connection(c, reusable);
    return NULL;
}

하지만 새 스트림을 부모 연결의 스트림 트리에 등록하는 코드는 함수 끝에 있습니다. 따라서 위의 연결 슬롯 할당 시점에는 새 스트림이 트리에 나타나지 않습니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/event/quic/ngx_event_quic_streams.c#L814
ngx_rbtree_insert(&qc->streams.tree, &qs->node);

이 상태에서 drain이 같은 부모 연결에 속한 기존 유휴 스트림을 닫으면 문제가 발생합니다. 기존 스트림의 송수신 양방향이 모두 종료되어 완전히 닫을 수 있는 상태라면, 부모 연결을 함께 정리할 수 있는지도 검사합니다. 그러나 생성 중인 새 스트림은 아직 트리에 없습니다. 트리에 취소할 수 없는 다른 스트림도 없다면 부모 연결을 재사용 가능 큐에 다시 넣으며, 새 스트림의 생성이 끝난 후에도 부모 연결이 큐에 남아 use-after-free가 발생할 수 있는 상태가 됩니다.

(2) 업스트림 연결 중 요청 메모리가 해제되는 과정

nginx가 새 스트림의 요청을 proxy_pass로 백엔드 서버에 전달하려면 연결 슬롯이 추가로 필요합니다. 이때 ngx_event_connect_peer()가 호출한 ngx_get_connection()에서 drain이 실행되고, 앞서 큐에 들어간 부모 QUIC 연결이 정리 대상으로 선택될 수 있습니다.

부모 연결을 닫는 ngx_quic_close_connection()은 ngx_quic_close_streams()를 호출해 연결에 속한 스트림을 종료합니다. 이 과정에서 현재 업스트림 연결을 시도하던 요청도 종료됩니다.

ngx_http_free_request()가 요청 풀을 해제하면서 업스트림 구조체 u도 함께 해제됩니다. 그러나 실행 흐름이 ngx_event_connect_peer()로 돌아오면, 이 함수는 이미 해제된 u->peer를 계속 사용하면서 use-after-free를 일으킵니다.

5.4.3. 악용 가능성 검증

원격 코드 실행 검증에서는 먼저 해제된 요청 버퍼가 공격자 서버로 전송되게 만들어, glibc와 힙 주소를 확인했습니다. 이어 같은 취약점을 다시 트리거하면서 해제된 요청 풀을 가짜 요청 구조체로 채우고, 업스트림 read handler를 execv()로 설정했습니다. 이후 연결 오류 이벤트가 발생하자 nginx가 read handler를 호출했고, 실행 흐름이 execv()로 이어지면서 nginx 워커 권한으로 명령을 실행할 수 있었습니다.

항목

내용

대상

공식 nginx:1.31.8 amd64 이미지. 기본 nginx.conf에 HTTP/3 프록시 서버 추가

진입점

UDP 443(HTTP/3), TCP 443(HTTP/2), TCP 80

인증

필요 없음

네트워크 조건

nginx에서 공격자 서버로 TCP 연결 가능

결과

nginx 워커 권한의 원격 코드 실행

5.5. CVE-2026-113425

CVE-2026-113425는 메일 프록시의 auth_http 인증 처리 중 발생하는 use-after-free 취약점입니다. 클라이언트 연결이 닫히면서 세션이 해제되지만, 인증 서비스와의 연결은 남아 있어 이후 이벤트를 처리할 때 해제된 세션을 다시 사용합니다.

5.5.1. 기능 분석: 메일 프록시가 클라이언트를 인증하는 방식

nginx는 클라이언트와 메일 서버 사이에서 IMAP, POP3, SMTP 통신을 중계하는 메일 프록시로도 사용할 수 있습니다. 클라이언트가 로그인을 요청하면 auth_http로 지정한 HTTP 인증 서비스에 로그인 정보가 유효한지, 어느 백엔드 메일 서버로 연결해야 하는지 확인합니다.

인증 조회 중에는 클라이언트와 nginx 사이의 연결, nginx와 HTTP 인증 서비스 사이의 연결이 각각 유지됩니다. 아래에서는 nginx와 HTTP 인증 서비스 사이의 연결을 인증 연결이라고 부릅니다.

인증 조회를 시작하는 ngx_mail_auth_http_init()는 조회 컨텍스트와 전용 메모리 풀을 만듭니다. 다만 인증 연결의 data와 pool 필드는 클라이언트의 세션 s와 메모리 풀을 그대로 가리킵니다. 따라서 인증 연결이 이 세션을 사용하는 동안에는 클라이언트의 메모리 풀이 해제되지 않아야 합니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/mail/ngx_mail_auth_http_module.c#L216-L221
ctx->peer.connection->data = s;
ctx->peer.connection->pool = s->connection->pool;

s->connection->read->handler = ngx_mail_auth_http_block_read;
ctx->peer.connection->read->handler = ngx_mail_auth_http_read_handler;
ctx->peer.connection->write->handler = ngx_mail_auth_http_write_handler;

5.5.2. 취약점 분석

인증 조회가 시작되면 클라이언트의 read handler는 ngx_mail_auth_http_block_read()로 바뀝니다. 이 함수에는 read event 등록에 실패했을 때 인증 연결을 닫고 조회 풀을 해제하는 처리가 있습니다. 그러나 클라이언트에 응답을 보내는 write handler는 기존의 ngx_mail_send()로 유지되며, 이 함수의 오류 처리에서는 인증 연결을 정리하지 않습니다.

(1) 인증 조회 중 클라이언트 세션이 해제되는 과정

ngx_mail_send()의 오류 처리가 실행되려면 클라이언트의 write event가 미리 등록되어 있어야 합니다. 예를 들어 클라이언트가 응답을 읽지 않아 send buffer가 가득 차면, send가 EAGAIN을 반환하고 ngx_mail_send()는 전송을 다시 시도하기 위해 write event를 등록합니다.

이 상태에서 로그인 명령과 TCP reset이 같은 이벤트 루프 회차에서 처리되면, nginx는 epoll이 보고한 소켓 오류에 대해 활성화된 read handler와 write handler를 차례로 실행합니다. 먼저 read handler가 로그인 명령을 읽어 인증 조회를 시작하지만, 클라이언트에 보낼 응답은 아직 s->out에 남아 있습니다.

이어서 실행되는 ngx_mail_send()는 대기 중인 응답의 전송을 시도하지만, 연결이 이미 reset된 상태이므로 실패합니다. 전송에 실패한 ngx_mail_send()는 ngx_mail_close_connection()을 호출해 클라이언트 연결을 닫고 메모리 풀을 해제합니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/mail/ngx_mail_handler.c#L812-L815
if (n == NGX_ERROR) {
    ngx_mail_close_connection(c);
    return;
}

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/mail/ngx_mail_handler.c#L966-L972
c->destroyed = 1;

pool = c->pool;

ngx_close_connection(c);

ngx_destroy_pool(pool);

클라이언트의 메모리 풀에 할당된 세션 s와 모듈 컨텍스트 배열도 이때 함께 해제됩니다. 하지만 인증 연결은 열린 채로 남으며, 그 연결의 data 필드는 여전히 해제된 세션을 가리킵니다.

(2) 인증 연결이 해제된 세션을 사용하는 과정

이후 인증 연결의 접속이 완료되거나 응답 또는 타임아웃 이벤트가 발생하면 인증 연결의 핸들러가 실행됩니다. read handler와 write handler 모두 연결의 data에서 세션 포인터를 읽어 조회 컨텍스트를 가져오므로, 이미 해제된 세션의 s->ctx에 접근하면서 use-after-free가 발생합니다. 이 메모리가 공격자가 제어하는 데이터로 다시 할당되면 s->ctx가 가짜 컨텍스트를 가리키게 할 수 있으며, 이후 인증 응답 처리에서 호출하는 ctx->handler를 통해 명령 포인터를 제어할 수 있습니다. 아래는 read handler가 세션 포인터에서 조회 컨텍스트를 가져오는 부분입니다.

// https://github.com/nginx/nginx/blob/140aa942711868a8daeb95810bc9a81f272ada72/src/mail/ngx_mail_auth_http_module.c#L307-L313
c = rev->data;
s = c->data;
...
ctx = ngx_mail_get_module_ctx(s, ngx_mail_auth_http_module);

5.5.3. 악용 가능성 검증

원격 코드 실행 검증에서는 먼저 인증 연결의 타임아웃을 이용해 주소를 확보했습니다. 타임아웃으로 다른 연결이 일부만 수신한 IMAP 명령의 메모리가 해제되게 만들고, 이후 그 메모리에 기록된 힙 포인터를 IMAP 응답에서 확인했습니다. 이어서 새 워커에서 취약점을 다시 트리거하고, 해제된 세션과 같은 크기의 IMAP 비밀번호가 할당되게 만들어 세션이 있던 메모리를 가짜 세션으로 다시 채웠습니다. 가짜 세션의 s->ctx가 별도로 준비한 컨텍스트를 가리키게 하고, 그 컨텍스트의 handler에는 system() 주소를 넣었습니다. 이후 인증 서비스의 응답이 도착하자 ngx_mail_auth_http_read_handler()가 해제된 세션을 참조하여 system(s)을 호출했고, nginx 워커 권한으로 명령을 실행할 수 있었습니다.

항목

내용

대상

공식 nginx:1.31.8 이미지, 기본 구성에 IMAP·POP3·SMTP용 mail 블록 추가

진입점

IMAP 143, POP3 110, 같은 워커가 처리하는 HTTP 80

인증

필요 없음. 인증 서비스는 모든 로그인을 거부

결과

nginx 워커 권한의 원격 코드 실행

6. Linux 커널 취약점(LPE) 분석

5장의 nginx 취약점을 악용하면 워커 프로세스의 권한으로 임의의 코드를 실행할 수 있습니다. 워커 프로세스는 제한된 권한으로 동작하므로, 서버 전체를 제어하려면 로컬 권한 상승(LPE, Local Privilege Escalation) 취약점이 추가로 필요합니다. Xint 연구팀은 워커 권한에서 호스트의 root 권한까지 획득할 수 있는지 확인하기 위해 Linux 커널을 분석했습니다. 분석 과정에서 SCTP 서브시스템의 제로데이 취약점을 발견했으며, nginx 취약점과 연계해 호스트의 root 권한을 획득했습니다. 또한 nginx가 Docker 컨테이너 안에서 실행되는 환경에서도 같은 공격으로 컨테이너를 벗어나 호스트의 root 권한을 획득할 수 있음을 확인했습니다.

이번 장에서는 SCTP 취약점의 발생 원리와 검증 결과를 살펴보겠습니다.

  • (2026년 11월 19일 기준) 배포판의 커널 업데이트가 아직 제공되지 않았으므로, 취약점을 재현하거나 악용하는 데 필요한 세부 정보와 구체적인 공격 절차에 대한 설명은 생략했습니다.

6.1. 기능 분석: SCTP의 연결 방식

SCTP(Stream Control Transmission Protocol)는 TCP, UDP와 같은 전송 계층 프로토콜입니다.

SCTP는 TCP처럼 연결 지향 방식이며, 하나의 연결을 association이라고 부릅니다. 연결의 양쪽 끝점에서 여러 IP 주소를 사용할 수 있어, 한 경로에 장애가 발생하더라도 다른 경로로 같은 association을 유지할 수 있는 구조입니다.

6.2. 취약점 분석

Xint 연구팀이 발견한 취약점은 SCTP의 데이터 전송 과정에서 발생하며, 2018년 Linux 커널 v4.15에서 유입된 후 8년 넘게 커널에 남아 있었습니다. 전송 작업이 대기하는 동안 association이 다른 소켓으로 이전될 수 있는데, 대기하던 전송 작업이 이전된 association을 해제하면서 문제가 발생합니다. 다른 소켓의 동작에 따라 해제한 메모리를 다시 사용하는 문제(use-after-free)나 같은 메모리를 두 번 해제하는 문제(double free)로 이어질 수 있습니다.

메모리 오류 탐지 기능인 KASAN을 활성화한 커널에서 취약점을 재현하면 아래와 같은 double free 로그가 기록됩니다.

BUG: KASAN: double-free in sctp_[...]
Free of addr ffff8880021b0880 by task t306/838
Call Trace:
 kfree+0x170/0x490
 sctp_[...]
 sctp_[...]
 sctp_[...]
Freed by task 836:
 kfree+0x23c/0x490
 sctp_[...]
 sctp_[...]
 sctp_[...]
 sctp_[...]

6.3. 악용 가능성 검증

연구팀은 use-after-free 취약점을 이용하여 두 가지 기능을 구현했습니다. 하나는 커널 메모리를 유출하여 커널 주소 무작위화(KASLR)를 무력화하는 기능이고, 다른 하나는 커널 안의 임의 함수를 호출하는 기능입니다. 두 기능을 결합하면 공격자가 커널의 실행 흐름을 제어할 수 있으며, 최종적으로 로컬 권한 상승을 달성합니다. nginx 취약점과 연계하면, nginx 워커 권한으로 코드를 실행하는 공격자가 안정적으로 root 권한을 획득할 수 있습니다.

연구팀은 nginx가 Docker 컨테이너에서 실행되는 환경에서도 호스트의 root 셸을 획득했습니다. 검증 환경에서는 컨테이너 안의 프로세스가 SCTP 소켓을 생성하여 호스트 커널의 취약점을 트리거할 수 있었습니다. 다른 환경에서도 같은 공격이 가능한지는 커널, 설치된 모듈, 컨테이너의 제한 설정에 따라 달라집니다. 컨테이너는 호스트의 커널을 공유하므로, 공격자가 커널의 실행 흐름을 제어하면 호스트와 그 위에서 구동 중인 다른 컨테이너를 모두 통제할 수 있습니다.

커널 패치를 적용하기 전까지, SCTP를 사용하지 않는 호스트에서는 /etc/modprobe.d/의 설정 파일에 install sctp /bin/false를 추가하여 SCTP 모듈이 로드되지 않도록 차단할 것을 권고합니다.

  • 다만 이 설정은 이미 로드된 모듈을 해제하지 않고 커널에 내장된 SCTP도 비활성화하지 않으므로, 적용 후 호스트의 SCTP 상태를 확인해야 합니다.

마치며

이번 포스트에서는 nginx2root의 영향 범위, 점검 및 조치 방법, 다섯 개의 nginx 취약점과 Linux 커널 취약점의 발생 원리를 살펴보았습니다. Xint가 보여 준 것처럼, 오랜 기간 널리 사용되고 분석된 소프트웨어에도 AI로 찾아낼 수 있는 취약점이 남아 있습니다. AI를 활용한 취약점 탐색은 공격자도 시도할 수 있으므로, 공개된 패치를 신속하게 적용하는 일이 더욱 중요합니다.

nginx를 운영하고 있다면 2장의 방법으로 영향 여부를 확인하고, 1.31.9로 업데이트할 것을 다시 한번 권고합니다. 임시 완화책을 적용한 서버도 업데이트가 필요합니다. SCTP 취약점의 커널 패치를 적용하기 전까지는 6.3의 조치도 함께 확인해야 합니다.

취약점 제보부터 패치 공개까지 협조해 주신 F5와 nginx 개발팀에 감사드립니다. nginx2root에 대한 최신 정보와 자주 묻는 질문은 nginx2root.com에서 확인할 수 있습니다.


About Xint

진트(Xint)는 글로벌 오펜시브 보안 전문 기업 티오리(Theori)가 개발한 자율형 AI 보안 플랫폼입니다. 세계적인 화이트햇 해커들의 공격 및 방어 연구 경험과 AI 기술을 결합해, 실제 공격자의 관점에서 소프트웨어와 서비스의 보안 취약점을 자율적으로 탐색하고 검증합니다.

소스 코드와 바이너리를 분석하는 ‘Xint Code’, 실제 운영 중인 웹 서비스를 대상으로 보안 검증을 수행하는 ‘Xint Web’을 통해 취약점 발견부터 실제 악용 가능성 검증, 재현 과정과 대응 방안까지 제공합니다. 발견한 취약점의 실제 공격 가능성을 입증하는 데 집중하며, 기존의 인력 중심 모의해킹을 지속적이고 확장 가능한 AI 기반 보안 검증 체계로 발전시키는 것을 목표로 하고 있습니다.

현재 미국 국방고등연구계획국(DARPA), 마이크로소프트, 구글, 옥타(Okta), 삼성, LG전자 등 최고 수준의 방어 보안이 요구되는 기관 및 기업과 협력하고 있습니다. 또한 앤트로픽(Anthropic)의 사이버 검증 프로그램과 오픈AI의 데이브레이크(Daybreak) 사이버 보안 프로그램에도 참여하고 있습니다.

Share article