탐지만 하는 AI의 한계 | LLM 취약점 탐지와 AI 보안 플랫폼의 차이

지난해 Xint는 두 개의 굵직한 글로벌 보안 대회에서 괄목할 만한 성과를 거두었습니다. AI가 스스로 취약점을 찾아 패치하는 DARPA 주최 'AI 사이버 챌린지(AIxCC)'에서 최종 3위를 차지했고(예선 1위), 무대에서 직접 클라우드 오픈소스를 해킹해 내는 'Wiz 제로데이 클라우드'에서는 당당히 우승을 했습니다. 특히 제로데이 클라우드의 우승은 사람의 개입 전혀 없이, Xint 솔루션이 단독으로 인간 팀들을 꺾고 이뤄낸 결과였습니다.

당시 이 소식은 업계에 큰 반향을 일으켰습니다. LLM이 숙련된 모의해킹 전문가 못지않게 복잡한 취약점을 찾아낼 수 있다는 사실을 증명한 첫 사례였기 때문입니다.

하지만 불과 얼마 지나지 않은 현재, 이 성과를 대단한 무용담처럼 꺼내놓기는 벌써 머쓱해져 버렸습니다. 올해 2월 'Claude Code Security'와 4월 'Mythos'의 연이은 등장을 기점으로, '취약점 탐지'는 더 이상 놀라운 기술이 아닌 LLM의 기본 역량에 가까워졌기 때문입니다. 나아가 지난 7월, OpenAI의 에이전트가 격리된 샌드박스를 탈출해 타 플랫폼(허깅페이스)에 침투했던 사건은 AI의 진화를 여실히 보여주었습니다. AI 에이전트가 사람처럼 유연하게 공격 방식을 바꾸며 인간이 따라갈 수 없는 속도와 깊이로 시스템을 파고든다는 사실은 이제 모두가 아는 상식이 되었습니다.

그럼 이제 LLM으로 취약점을 찾으면 충분하지 않나?

자연스럽게 이런 생각이 들 수 있습니다. 최신 LLM이 취약점을 척척 찾아낸다면, 기업은 그냥 LLM API나 AI 코딩 툴을 가져다 쓰면 되는 것 아니냐는 것이죠. 결론부터 말씀드리면 전혀 그렇지 않습니다. 오히려 새로운 AI 연구 결과가 발표되고 강력한 프론티어 모델들이 등장할수록, 고도화된 애플리케이션 보안 플랫폼을 찾는 기업들의 문의는 눈에 띄게 늘어나고 있습니다.

이는 전문 보안 솔루션이 다루는 영역이 단순한 '탐지' 단계에서 끝나지 않기 때문입니다. 취약점을 찾아내는 것 이후에도, LLM 단독으로는 해결할 수 없지만 실제 보안 환경에서는 탐지 못지않게 중요한 후속 과제들이 산더미처럼 남아있습니다.

1. 단순한 버그가 아닌 '치명적 위협'의 발견

LLM은 수많은 코드 결함을 찾아내지만, 그중 무엇이 공격자가 노리는 '치명적 결함'인지 가려내지는 못합니다.
Xint가 겨냥하는 것은 공격자가 실제 타깃으로 삼는 치명적인 취약점입니다.

최근 Xint Code가 찾아낸 리눅스 취약점 'Copy Fail(CVE-2026-31431)'이 대표적인 사례입니다. 이는 2017년 이후 배포된 전 세계 대부분의 리눅스 시스템에 수년 동안 숨겨져 있던 치명적인 결함이었습니다. 누구나 아무런 흔적 없이 시스템의 최고 권한(root)을 완전히 장악할 수 있어, 공개 직후 '최근 몇 년간 발견된 가장 심각한 리눅스 위협'이라는 평가를 받았을 정도로 파급력이 엄청났습니다.

최근 Apple과 Android의 최신 OS 업데이트에 패치된 취약점들 역시 마찬가지입니다. 사용자의 아무런 상호작용 없이도(Zero-click) 공격자가 기기의 관리자 권한을 장악할 수 있는 심각한 결함이었습니다.

물론, 이러한 취약점들을 전문가가 아예 찾을 수 없었던 것은 아닙니다. 항상 발목을 잡은 것은 '시간과 비용'이었죠. 거대한 코드베이스 전체나 운영 중인 애플리케이션을 샅샅이 분석하려면 막대한 인력과 일정이 필요했고, 결국 우선순위가 높은 일부 영역만 검토할 수밖에 없었습니다. 안타깝게도 AI 기술은 공격자들에게 먼저 이 시간과 비용이라는 제약을 없애주었습니다. 하지만 이제 방어자 입장에서도 애플리케이션의 모든 구석구석을 스캔하여, 숨겨진 보안 취약점들을 남김없이 찾아내는 일이 가능해졌습니다.

2. 피로도를 높이는 오탐의 최소화

보안 현장에서 실무진을 가장 지치게 하는 것은 쏟아지는 취약점 자체가 아니라, 그 속에 섞인 ‘노이즈’입니다. 기존의 스캐너들은 오탐과 중복 알림이 80%를 넘는 경우가 많고, 심지어 최상위 프론티어 AI 랩들조차 스캐닝 결과를 필터링하기 위해 별도의 인력을 투입해 수동 검증을 거치고 있을 정도입니다.

하지만 Xint는 다릅니다. Apple, Linux, PostgreSQL 등 수십억 명이 쓰는 글로벌 프로젝트 메인테이너들에게 제출된 Xint의 리포트는 현재까지 100% 수용되었습니다. 전체 진단 기준 오탐률도 25% 미만이며, 이마저도 향후 환경 변화에 따라 유효한 위협이 될 수 있는 '잠재적 위험'들입니다.

3. 운영 환경을 해치지 않는 '서비스 안전성' 보장

앞서 언급한 허깅페이스 침투 사건은 자율 에이전트를 운영 환경에 투입할 때 가장 우려되는 지점을 보여줍니다. 바로 "AI가 시스템을 망가뜨리거나 허용 범위를 넘지 않게 통제하는 방법"입니다

Xint의 에이전트 역시 공격자와 동일한 수준의 복잡한 취약점을 찾아냅니다. 하지만 결정적인 차이는 '어디에 가드레일를 두어야 하는지'를 정확히 알고 움직인다는 점입니다. 단순히 LLM에 도구만 쥐여주고 운영 서비스에 던져놓는 방식은 실제 환경에서 치명적인 사고를 부를 수 있습니다.

4. 예산의 불확실성을 없앤 '예측 가능한 비용'

LLM 모델들이 토큰 기반으로 과금되면서 보안팀은 스캔을 돌릴 때마다 비용을 계산해야 하는 불편을 겪고 있습니다.

반면, Xint는 애플리케이션의 규모가 커지고 구조가 복잡해지더라도 비용이 어느 선까지 발생할지 사전에 명확히 예측할 수 있습니다. 여기에는 단순히 취약점을 '찾는' 단계 뿐만 아니라, 발견된 결과를 선별하고 검증하여 실제 패치까지 이끌어가는 전체 보안 프로세스의 작업량이 모두 포함되어 있습니다.

5. '발견'에서 '해결'까지의 시간 단축

지금의 보안 병목은 '탐지'가 아니라 '조치'에서 발생합니다. 쏟아지는 리포트 속에서 개발자가 무엇을 어떻게 고쳐야 하는지 모르면 아무 소용이 없습니다.

그래서 Xint의 리포트는 철저히 '조치 속도'를 최우선 기준으로 설계되었습니다. 담당자가 무엇을, 어떻게 고쳐야 하는지 직관적으로 파악할 수 있도록 해결책을 명확히 제시합니다. 다만 안전성을 담보하기 위해, 운영 환경에 실제 코드를 반영하기 전에는 반드시 담당 실무자가 내용을 검토하고 승인하는 절차(Human-in-the-loop)를 유지하고 있습니다.

6. 데이터 프라이버시: "우리 소스 코드는 안전한가?” (ZDR)

국내 기업들이 새로운 솔루션 도입을 검토할 때, 기능보다도 가장 먼저 묻는 질문이 바로 소스 코드의 유출 우려입니다.

'제로 데이터 보존(ZDR, Zero Data Retention)' 계약 없이 일반적인 LLM API를 그대로 사용하면, 제공사의 기본 정책에 따라 입력한 프롬프트와 출력 결과물이 로그 형태로 고스란히 남게 됩니다. 이 보관 기간은 며칠이 될 수도 있고, 기한 없이 무기한 저장될 수도 있습니다.

👉 ZDR 더 알아보기

하지만 ZDR이 적용되면, 제공사는 사용자의 데이터를 요청 처리 목적 외에는 일절 저장하거나 활용하지 않겠다는 법적 약속을 하게 됩니다. Xint는 오직 분석이 실행되는 동안에만 고객의 소스 코드를 안전하게 보관하며, 분석 완료 후 최대 2일이 지나면 시스템에서 자동으로 영구 삭제되는 강력한 안전장치를 마련해 두었습니다. 또한 백엔드에서 활용되는 모델 API 제공사들과도 이미 철저한 ZDR 계약 체결을 완료하여 데이터 보안의 빈틈을 없앴습니다.

'탐지'의 시대를 넘어 '해결'의 시대로

AI 모델의 눈부신 발전으로 취약점을 찾아내는 속도와 양은 폭발적으로 늘어났습니다. 하지만 앞서 살펴보았듯, 진정한 보안의 완성은 단순히 취약점을 '발견'하는 것에 머물지 않습니다. 쏟아지는 수많은 경고음 속에서 진짜 치명적인 위협을 가려내고, 운영 중인 서비스를 해치지 않으면서 가장 빠르게 패치를 적용하는 것. 이것이 LLM 단독 사용을 넘어 AI 취약점 탐지 플랫폼으로서의 Xint 역할입니다.

📩 최신 보안 인사이트 받아보기

Xint 팀이 분석한 취약점 연구와 최신 보안 인사이트를 이메일로 가장 먼저 받아보세요.

[이메일 뉴스레터 구독하기]

문의: contact@xint.io

웹사이트: xint.io