PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.35909v3cs.CR

가설 설정은 저렴하고 검증은 비싸다: 에이전트 기반 취약점 탐지의 방어 표면

Cheap to Hypothesize, Costly to Verify: The Defense Surface of Agentic Vulnerability Discovery

자율형 대규모 언어 모델(LLM) 에이전트(agent)는 취약점 탐지를 저장소 규모의 탐색으로 전환합니다. 이들은 수많은 취약점 가설을 생성하지만 한정된 예산 내에서는 그중 일부만을 검증할 수 있습니다. 본 연구에서는 자율형 취약점 탐지가 가설-검증 비대칭성을 보이며, 도달 가능성 분석, 실행 및 개념 증명(PoC) 구축을 통해 후보 가설을 검증하는 비용이 가설을 수립하는 비용보다 훨씬 크다는 점을 보입니다. 한정된 자원 예산 하에서 이는 자율 탐지를 자원 제약적 선택적 검증 과정으로 만들며, 나아가 검증에 드는 노력을 고유한 방어 표면으로 노출시킵니다. 본 논문에서는 검증 노력을 실제 취약점으로부터 분산시키는, 증명 가능하게 안전한 미끼를 삽입하는 RedHerring을 제시합니다. 각 미끼는 검증을 유도하는 CVE 유래 취약점 체인과 위험한 싱크(sink)에 도달할 수 없도록 유지하는 거짓 브리지(false bridge)를 결합합니다. 방어자는 비공개 인증서를 통해 이 특성을 효율적으로 검증할 수 있는 반면, 공개된 저장소로부터 동일한 사실을 밝혀내는 것은 계산적으로 어려운 문제를 해결해야 합니다. RedHerring은 나아가 각 미끼를 대상 저장소에 맞게 조정하여 일반적인 프로그램 로직처럼 읽히도록 합니다. 33개의 OSS-Fuzz 프로젝트, 70개의 평가(evaluation) 인스턴스, 동일한 예산 하의 5개 모델에 걸쳐 RedHerring은 탐지되는 실제 취약점을 38.7~60.4% 감소시킵니다. 궤적 분석 결과 에이전트는 완료 토큰(token)의 30.6~51.5%와 예상 실행 시간의 32.5~49.9%를 미끼를 검증하는 데 소비하는 것으로 나타나, RedHerring이 고정된 탐색 예산의 상당 부분을 미끼로 전환함을 보여줍니다. 미끼가 존재할 수 있음을 명시적으로 인지했을 때 에이전트는 탐색 전략을 조정하지만, 그럼에도 RedHerring은 정보를 인지한 기준선(baseline) 대비 발견된 취약점을 37.2% 감소시켜 미끼의 은닉 여부에 효과가 좌우되지 않음을 입증합니다.

arXiv:2606.21037v1cs.CR

LLM을 위한 Honeyquest: AI 공격자에 대한 사이버 기만의 재고

Honeyquest for LLMs: Rethinking Cyber Deception for AI Attackers

Honeyquest를 LLM에 맞게 개조한 자동화 평가 프레임워크로 21개 LLM 공격자 코호트를 47명 인간 기준선과 동일한 174개 정찰(reconnaissance) 쿼리에서 비교한 결과, LLM은 인간보다 기만적 함정에 더 자주 걸리고 방어적 어텐션 분산 효과는 통계적으로 나타나지 않았으며 추론에서 함정을 인식해도 73.4%는 기만 요소를 그대로 이용하는 인식-행동 격차(recognition-action gap)를 보였다. 이는 인간 중심 사이버 기만 가설이 AI 공격자에게 신뢰성 있게 전이되지 않음을 보여주며 AI 네이티브 능동 방어 프레임워크에 대한 새로운 연구가 필요함을 시사한다.