가설 설정은 저렴하고 검증은 비싸다: 에이전트 기반 취약점 탐지의 방어 표면
Cheap to Hypothesize, Costly to Verify: The Defense Surface of Agentic Vulnerability Discovery
자율형 대규모 언어 모델(LLM) 에이전트(agent)는 취약점 탐지를 저장소 규모의 탐색으로 전환합니다. 이들은 수많은 취약점 가설을 생성하지만 한정된 예산 내에서는 그중 일부만을 검증할 수 있습니다. 본 연구에서는 자율형 취약점 탐지가 가설-검증 비대칭성을 보이며, 도달 가능성 분석, 실행 및 개념 증명(PoC) 구축을 통해 후보 가설을 검증하는 비용이 가설을 수립하는 비용보다 훨씬 크다는 점을 보입니다. 한정된 자원 예산 하에서 이는 자율 탐지를 자원 제약적 선택적 검증 과정으로 만들며, 나아가 검증에 드는 노력을 고유한 방어 표면으로 노출시킵니다. 본 논문에서는 검증 노력을 실제 취약점으로부터 분산시키는, 증명 가능하게 안전한 미끼를 삽입하는 RedHerring을 제시합니다. 각 미끼는 검증을 유도하는 CVE 유래 취약점 체인과 위험한 싱크(sink)에 도달할 수 없도록 유지하는 거짓 브리지(false bridge)를 결합합니다. 방어자는 비공개 인증서를 통해 이 특성을 효율적으로 검증할 수 있는 반면, 공개된 저장소로부터 동일한 사실을 밝혀내는 것은 계산적으로 어려운 문제를 해결해야 합니다. RedHerring은 나아가 각 미끼를 대상 저장소에 맞게 조정하여 일반적인 프로그램 로직처럼 읽히도록 합니다. 33개의 OSS-Fuzz 프로젝트, 70개의 평가(evaluation) 인스턴스, 동일한 예산 하의 5개 모델에 걸쳐 RedHerring은 탐지되는 실제 취약점을 38.7~60.4% 감소시킵니다. 궤적 분석 결과 에이전트는 완료 토큰(token)의 30.6~51.5%와 예상 실행 시간의 32.5~49.9%를 미끼를 검증하는 데 소비하는 것으로 나타나, RedHerring이 고정된 탐색 예산의 상당 부분을 미끼로 전환함을 보여줍니다. 미끼가 존재할 수 있음을 명시적으로 인지했을 때 에이전트는 탐색 전략을 조정하지만, 그럼에도 RedHerring은 정보를 인지한 기준선(baseline) 대비 발견된 취약점을 37.2% 감소시켜 미끼의 은닉 여부에 효과가 좌우되지 않음을 입증합니다.