PyTorchKR Papers

최신 논문

총 10편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.02869v1cs.CR

AgentTrap: 자율 침투 테스트 에이전트에 대응하는 상태 기반 피드백 기만 기법

AgentTrap: Stateful Feedback Deception against Autonomous Penetration Testing Agents

자율 침투 테스트 에이전트(autonomous penetration testing agent)는 대상의 반응에 맞춰 계획과 행동을 지속적으로 적응시키며 다단계 공격을 수행합니다. 일반적인 방어 기법으로 허니팟(honeypot)을 배치하여 미끼 서비스를 제시함으로써 이러한 에이전트를 실제 자산으로부터 유인하는 동시에, 공격 추적 및 능동적 반격을 지원할 수 있습니다. 그러나 기존의 허니팟은 주로 정적 아티팩트와 사전 정의된 응답에 의존하므로, 자율 침투 테스트 에이전트의 진화하는 공격 전략에 적응하지 못합니다. 이를 위해 본 연구에서는 자율 침투 테스트 에이전트에 맞춤화된 최초의 폐루프(closed-loop) 허니팟인 AgentTrap을 제안합니다. AgentTrap은 정상적인 간섭을 피하기 위한 센티넬 엔드포인트(sentinel endpoint), 보호 대상 애플리케이션에 기반한(grounded) 상태 기반 기만, 제어된 정보 공개를 통해 교전을 지속하고 에이전트 측 행동 증거를 수집하는 행동 유도형 에스컬레이션을 사용합니다. 실제 애플리케이션 엔드포인트와 세 가지 방어 전략으로 구성된 별도의 허니팟 엔드포인트가 포함되어 배포된 웹 애플리케이션 환경에서, 8개의 자율 침투 테스트 에이전트를 대상으로 AgentTrap을 평가합니다. 방어가 없는 경우와 비교했을 때, AgentTrap은 실제 대상을 향한 총 공격 성공률을 95.8%에서 79.2%로 감소시키고 실행 중 18.8%에서 공격자의 API 키를 성공적으로 유도해 내어 정적 기만 및 고정된 에스컬레이션 방식보다 우수한 성능을 보였습니다. 나아가 추적 분석 결과, 이러한 역공격에 대한 저항력은 기만적 요청에 대한 모델(model) 수준의 인식과 민감한 자원의 아키텍처 수준 격리에 복합적으로 의존함을 보여줍니다.

arXiv:2609.22664v1cs.CR

자율 침투 테스트 하네스에서 역량에서 보증으로: 프레임워크와 참조 구현

From Capability to Assurance in Autonomous Penetration-Testing Harnesses: A Framework and Reference Implementation

침투 테스트를 위한 대규모 언어 모델 에이전트 연구는 거의 전적으로 역량(capability)으로 평가된다. 즉, 에이전트가 플래그를 획득하는지 또는 개념 증명(proof of concept)을 재현하는지 여부이다. 그 지표는 벤치마크에는 적합하지만, 승인된 수행(authorized engagement)에서 자율 에이전트를 사용할 수 있는지를 가르는 성질—보고된 발견이 사실인지, 에이전트가 승인된 범위 안에 머물렀는지, 운영자가 그 행위를 감사(audit)할 수 있는지—에는 말을 하지 않는다. 우리는 이러한 것을 보증(assurance) 속성이라 부르며, 이는 모델을 감싸는 런타임인 하네스(harness)에 속하며 코드로 강제할 수 있다고 주장한다. 본 논문은 세 가지 기여를 한다. 첫째, 다섯 가지 보증 속성(증거 그라운딩(evidence grounding), 비파괴적 주장 축소(non destructive claim reduction), 계산된 심각도(computed severity), 강제된 승인(enforced authorization), 변조 방지 책임(tamper evident accountability))으로 구성된 프레임워크를 정의한다. 각 속성에는 형식 모델과 명시적 수용 테스트(acceptance test)가 있으며, 역량 기반 보안(capability based security), 변조 방지 로깅(tamper evident logging), 소프트웨어 출처(provenance)의 선행 연구와 연결된다. 둘째, 대표 시스템(PentestGPT, Cochise 참조 하네스, MAPTA, 궤적 판정기 PentestJudge)을 공개된 코딩 기준에 따라 프레임워크 안에 배치하고, 일관된 보증 격차(assurance gap)를 식별한다. 셋째, NeuroSploit이라는 하나의 오픈소스 구현을 정확한 커밋에 고정(pin)하여 아키텍처, 복잡도 비용, 공개 의도적 취약 대상에 대한 실행으로부터 얻은 콘텐츠 주소(content addressed) 아티팩트 번들을 보고한다. 우리는 결정적(deterministic) 승인 및 감사 수용 테스트를 직접 실행하여 실제 강제 격차(enforcement gap)를 발견·보고하며, 두 속성 모두 부분(partial) 점수로 반영한다. 따라서 우리는 비교 성능 결과가 아니라, 이 속성들이 함께 실현 가능하다는 초기 존재 논증(existence argument)을 주장하고, 프레임워크 의무를 측정으로 전환하는 데 필요한 다중 대상(multi target), ablation, 적대적(adversarial) 평가 프로토콜을 명시한다.

arXiv:2607.20255v1cs.CR

공격적 보안을 위한 자율 AI 에이전트의 윤리

The Ethics of Autonomous AI Agents for Offensive Security

LLM 기반 자율 에이전트가 공격적 보안의 판도를 바꾸고 있다. 결정론적이고 범위가 좁으며 숙련된 실무자가 운용하는 전통적인 침투 테스트(penetration testing) 도구와 달리, 에이전트형(agentic) 보안 도구는 세 가지 독립적인 차원에서 \textit{indeterminacy}를 보인다. 첫째, 그 행동은 비결정론적 정책에서 추출되며, 그 출력은 사전(ex-ante) 및 사후(ex-post) 설명 모두에 저항하여 사고 귀속(incident attribution)과 배포 전 안전성(safety) 검토를 어렵게 한다. 둘째, 비결정론적 행동, 사용된 모델의 에이전시(agency), 불투명한 LLM 공급망(supply chain)으로 인해 그 영향은 개방적(open-ended)이다. 셋째, 사용자 집단은 규모와 필요 기술 모두에서 불확정적이다. 공격 능력을 사용하거나 개발하는 데 필요한 최소 기술 수준(skill floor)이 급격히 낮아졌다. 이 세 가지 속성은 주제적으로 연결되어 있지만, 서로로부터 도출될 수는 없다. 공격과 방어 간의 구조적 비용 비대칭(structural cost asymmetry)과 결합되어 공격 능력의 산업화(industrialization)를 가능하게 한다. 단기적 순효과는 공격자에게 유리하며, 동일한 기술이 장기적으로는 방어 실무에 대한 접근을 민주화할 수 있더라도 마찬가지이다. 기존의 이중용도(dual-use) 사이버보안 및 AI 윤리 프레임워크는 이러한 조합을 염두에 두고 설계되지 않았다. 본 연구는 공격적 보안을 위해 자율 AI 에이전트를 사용할 때 도덕적 귀속(moral attribution)이 사용자, 도구 제작자, 제3자 사이에서 어떻게 분산되는지 분석한다. 또한 이 기술의 이해관계자(stakeholder) 영향을 검토하고 계층화된 권고를 제시한다.

arXiv:2607.14006v1cs.CR

AI 기반 시스템의 침투 테스트 재고: 자원 침해에서 행동 목표 위반으로

Rethinking Penetration Testing for AI-Enabled Systems: From Resource Compromise to Behavioral Objective Violation

전통적으로 침투 테스트는 공격자가 소프트웨어, 인프라, 구성 또는 운영 통제의 취약점을 악용하여 보안상 관련된 침해를 달성할 수 있는지를 평가한다. 이러한 패러다임은 AI 기반 시스템에 대해서도 여전히 필요하지만, 더 이상 충분하지 않다. 이러한 시스템에서 공격자는 프롬프트, 검색된 콘텐츠, 센서 입력, 학습 데이터, 메모리, 도구 또는 인간-AI 상호작용 루프에 영향을 미하여 기반 인프라를 직접 침해하지 않고도 시스템 행동을 변경할 수 있다. 본 논문은 AI 기반 시스템에 대한 침투 테스트를 목표 지향적 행동 평가(objective-driven behavioral evaluation)로 재정의한다. 학습된 모델이 운영 결과에 영향을 미치는 행동에 실질적으로 영향을 미치는 시스템을 AI 기반 시스템으로 정의하며, AI 기반 침투를 명시적 위협 모델 하에서 하나 이상의 운영 목표를 위반하는 AI 지배 행동의 실현 가능한 유도로 정의한다. 이 정의는 전통적 침투 테스트를 보존하면서 프롬프트 인젝션(prompt injection), 간접 프롬프트 인젝션(indirect prompt injection), 데이터 포이즈닝(data poisoning), 센서 조작, 검색 poisoning(retrieval poisoning), 도구 오용, 에이전트적 정렬 실패(agentic misalignment)와 같은 적대적 경로로 확장한다. 또한 운영 목표를 식별하고, AI 지배 행동을 매핑하며, 적대적 영향 표면(adversarial influence surfaces)을 분석하고, 행동 실패 기준을 정의하며, 시나리오 기반 테스트를 실행하고, 적대적 행동과 목표 위반 간의 연관성을 입증하는 증거를 보고하는 테스트 워크플로를 제안한다. AI 기반 보안 운영 센터(SOC) 어시스턴트를 예로 들어, 침투가 인프라 침해가 아닌 행동적 영향을 통해 어떻게 발생할 수 있는지 보여준다. 정의, 워크플로, 예시를 통합하여, 배포된 AI 기반 시스템에서 적대적 성공을 평가하기 위한 기술적 프레임워크를 제공한다.

arXiv:2607.13085v1cs.CR

아키텍처보다 먼저 기준선: 자율 침투 테스트를 위한 코딩 에이전트 평가

Baselines Before Architecture: Evaluating Coding Agents for Autonomous Penetration Testing

최근 자율 침투 테스트 논문들은 최첨단 LLM 주변에 다중 구성요소 보안 하네스(harness)를 추가하면서 높은 벤치마크 점수를 보고하고 있다. 이러한 시스템은 종종 아키텍처와 백본 모델을 모두 바꾸기 때문에, 성능이 기저 모델에서 오는 것인지 하네스에서 오는 것인지 구분하기 어렵다. 본 논문은 기본 코딩 CLI 에이전트를 plain-agent 기준선으로 사용하여 104개 태스크 XBOW 벤치마크에 대한 통제된 연구를 제시한다. 먼저 Codex, OpenCode, Pi를 동일한 GPT-5 모델, 예산, 타깃 인터페이스, 채점 규칙으로 실행한다. 이 단계에서 동일 모델 기준선 중 가장 강한 것을 식별하고, 보안 특화 프롬프트 변형이 관측된 점수를 개선하는지 검증한다. 다음으로 기본 Codex 스캐폴드(scaffold)를 가장 가까운 모델 매칭을 따르는 공개된 MAPTA 및 PentestGPT V2 결과와 비교한다. 마지막으로 동일한 스캐폴드 내에서 모델 스케일링(scaling)을 측정하기 위해 GPT-5.2와 GPT-5.5로 plain-agent 실험을 반복한다. 결과는 혼합적이지만 실용적인 그림을 보여준다. 특화 하네스는 측정 가능한 벤치마크 향상을 추가하고 비용 효율성을 개선할 수 있지만, plain 코딩 에이전트도 이미 벤치마크의 상당 부분을 해결한다. 반복된 plain-agent 실행은 union coverage에서 일부 공개 아키텍처 점수와 동등하거나 이를 초과할 수 있으며, 더 새로운 모델은 동일한 스캐폴드를 실질적으로 개선한다. 향후 평가에서는 벤치마크 향상을 아키텍처 설계만으로 귀인하기 전에 모델이 매칭된 plain-agent 기준선을 보고해야 한다.

arXiv:2607.09653v1cs.CR

VEXAIoT: AI 에이전트를 이용한 자율 IoT 취약점 활용

VEXAIoT: Autonomous IoT Vulnerability EXploitation using AI Agents

사물 인터넷(IoT) 시스템은 제한된 하드웨어, 구식 펌웨어, 안전하지 않은 기본 설정으로 인해 본질적으로 취약하며, 이는 확장 가능하고 적응적인 보안 테스트 접근 방식의 필요성을 야기한다. 최근 대규모 언어 모델(LLM) 에이전트가 침투 테스트 및 Capture-the-Flag(CTF) 환경에서 가능성을 보여주고 있으나, IoT 특정 취약점에 대한 적용은 아직 탐구되지 않은 상태이다. 본 논문은 LLM 기반 추론 및 공격적 보안 도구를 활용하여 IoT 환경에서의 취약점 발견 및 활용을 위한 자율 다중 에이전트 프레임워크인 VEXAIoT(Vulnerability EXploitation using AI Agents)를 제시한다. 이 프레임워크는 취약점 탐지 에이전트와 공격 실행 에이전트를 결합하여 취약한 IoT 서비스에 대한 정찰 수행, 공격 시퀀스 계획 및 익스플로잇 실행을 수행한다. 본 시스템은 OWASP IoT 취약점에 매핑된 10개의 공격 시나리오에 걸쳐 IoTGoat 및 Metasploitable 환경에서 평가된다. 실험 결과, 대부분의 공격에서 낮은 토큰 오버헤드와 평균 2분 미만의 실행 시간으로 최대 100%의 공격 성공률을 보였다. 260회의 공격 실행에 걸쳐 VEXAIoT는 IoTGoat에서 94.5%, Metasploitable2에서 96.7%의 성공률을 포함하여 전체 95.0%의 성공률을 달성하였다. 이러한 결과는 통제된 환경에서 IoT 취약점 평가 및 공격적 보안 워크플로를 자동화하는 LLM 기반 에이전트의 가능성을 입증한다.

arXiv:2603.19864v2cs.LG

NASimJax: 침투 테스트를 위한 GPU 가속 정책 학습 프레임워크

NASimJax: A GPU-Accelerated Policy Learning Framework for Penetration Testing

Network Attack Simulator(NASim)의 JAX 기반 재구현 NASimJax는 GPU 가속 학습 파이프라인으로 기존 시뮬레이터 대비 최대 100배 환경 처리량을 달성해, 고정 연산 예산 하에서 더 큰 네트워크에서 침투 테스트 강화학습(RL) 정책 학습을 가능하게 한다. 자동화된 침투 테스트를 Contextual POMDP로 공식화하고 구조적으로 다양하며 해결 가능함이 보장된 시나리오 생성 파이프라인을 도입해 제로샷 일반화를 연구했으며, 최대 40개 호스트 실험에서 Prioritized Level Replay가 Domain Randomization보다 유리하고 2단계 행동 분해(2SAS)가 커지는 행동 공간에서 평탄한 행동 마스킹을 크게 능가한다는 결과를 확인했다.

arXiv:2509.20008v2cs.LG

부분 가관측성 하에서 견고한 침투 테스트 정책 학습: 체계적 평가

Learning Robust Penetration Testing Policies under Partial Observability: A systematic evaluation

부분 가관측·확률적 침투 테스트 환경 StochNASim에서 PPO 기반 이력 집약 기법(프레임 스택킹, 관측 보강, LSTM, TrXL)을 체계적으로 비교했으며, 이력 집약이 다른 접근보다 최대 4배 빠르게 수렴하고 단순 관측 보강이 LSTM·TrXL 같은 복잡한 아키텍처를 능가할 수 있음을 보였다.

arXiv:2606.25332v1cs.CR

Decoupling Reconnaissance and Exploitation: Measuring the Capability Boundaries of LLM-Based Web Penetration Testing

Large Language Models (LLMs) have shown promise for automated penetration testing, yet existing end-to-end black-box evaluations are highly susceptible to error cascading: failures in early reconnaissance can mask an agent's actual ability to exploit vulnerabilities. To more accurately characterize these capabilities, we propose a two-stage decoupled evaluation framework that separates exploit execution from reconnaissance. Using ground-truth injection and knowledge-driven ablation across 70 high-fidelity web vulnerability testbeds, our framework isolates exploitation performance from reconnaissance noise. We empirically evaluate five open-source penetration-testing agents, covering multiagent, monolithic, and graph-driven architectures, on a strictly aligned subset of 50 representative vulnerabilities. The results reveal a substantial capability gap. With accurate vulnerability context, agents achieve a functional success rate of up to 90.0%, whereas autonomous reconnaissance, measured by targeted vulnerability recall, plateaus at approximately 50.0%, primarily due to failures in parsing unstructured telemetry. Cross-architectural analysis further reveals distinct capability niches: multi-agent isolation is more effective for long-sequence interactions such as de-serialization, while monolithic and graph-driven designs perform better on short-chain injections and cross-session access-control vulnerabilities, respectively. This decoupled evaluation work provides a fine-grained benchmarking protocol and an empirical basis for designing next-generation automated offensive security agents.

arXiv:2606.13079v1cs.CR

대규모 언어 모델 기반 AI 시스템에서 자율 침투 능력의 창발

The Emergence of Autonomous Penetration Capabilities in Large Language Model-Powered AI Systems

요즘, 상당한 실세계 피해를 일으킬 수 있는 사이버공격의 자율 실행은 선단 AI 시스템이 넘지 말아야 할 핵심 레드라인(red line) 중 하나로 널리 여겨진다. 이 더 넓은 레드라인 시나리오 안에서, 자율 침투는 핵심 기반 능력이자 하위 작업을 나타낸다. 즉, LLM 기반 AI 시스템이 인간 개입 없이 목표 서버에 대해 독립적으로 적대적 작전을 수행하고, 취약점을 식별·이용하여 무단 접근 또는 제어를 획득하는 능력이다. AI 시스템의 자율 침투 능력을 평가하려는 연구가 점점 늘고 있다. 그러나 기존 평가들은 종종 불투명한 방법론을 사용하거나, 비현실적이거나 지나치게 단순화된 침투 테스트 시나리오에 의존하거나, LLM에 과도한 사전 지식과 작업별 안내를 제공하여, 현대 AI 시스템이 더 넓은 고영향 사이버공격 시나리오 내에서 이 핵심 능력을 얼마나 자율적으로 수행할 수 있는지를 정확히 파악하지 못한다. 이러한 한계를 해결하기 위해, 우리는 목표 서버와 에이전트 스캐폴딩(agent scaffolding)의 두 구성 요소로 이루어진 새로운 자율 침투 평가 프레임워크를 구축한다. 구체적으로 목표 서버 측면에서는, 알려진 취약점이 없는 보안 서비스의 수에 따라 두 단계의 목표 환경을 설계한다. Tier 1(보안 서비스 1개)과 Tier 2(보안 서비스 3개)는 취약한 서비스와 함께 배치되며, 총 300개의 목표 서버를 만든다. 한편 에이전트 스캐폴딩은 범용 에이전트 아키텍처를 채택하며, 범용 사이버보안 도구 세트를 갖추되 목표별 사전 지식은 전혀 제공하지 않는다. 우리는 19개의 오픈웨이트 및 독점 LLM을 평가한 결과, 현재 모델들의 침투 성공률이 10.7%에서 69.3%에 이른다는 것을 확인한다. 또한 자율 침투 능력이 전반적인 모델 역량의 향상과 함께 지속적으로 개선되고 있음을 관찰한다.