LLM 기반 자율 에이전트가 공격적 보안의 판도를 바꾸고 있다. 결정론적이고 범위가 좁으며 숙련된 실무자가 운용하는 전통적인 침투 테스트(penetration testing) 도구와 달리, 에이전트형(agentic) 보안 도구는 세 가지 독립적인 차원에서 \textit{indeterminacy}를 보인다. 첫째, 그 행동은 비결정론적 정책에서 추출되며, 그 출력은 사전(ex-ante) 및 사후(ex-post) 설명 모두에 저항하여 사고 귀속(incident attribution)과 배포 전 안전성(safety) 검토를 어렵게 한다. 둘째, 비결정론적 행동, 사용된 모델의 에이전시(agency), 불투명한 LLM 공급망(supply chain)으로 인해 그 영향은 개방적(open-ended)이다. 셋째, 사용자 집단은 규모와 필요 기술 모두에서 불확정적이다. 공격 능력을 사용하거나 개발하는 데 필요한 최소 기술 수준(skill floor)이 급격히 낮아졌다. 이 세 가지 속성은 주제적으로 연결되어 있지만, 서로로부터 도출될 수는 없다. 공격과 방어 간의 구조적 비용 비대칭(structural cost asymmetry)과 결합되어 공격 능력의 산업화(industrialization)를 가능하게 한다. 단기적 순효과는 공격자에게 유리하며, 동일한 기술이 장기적으로는 방어 실무에 대한 접근을 민주화할 수 있더라도 마찬가지이다. 기존의 이중용도(dual-use) 사이버보안 및 AI 윤리 프레임워크는 이러한 조합을 염두에 두고 설계되지 않았다. 본 연구는 공격적 보안을 위해 자율 AI 에이전트를 사용할 때 도덕적 귀속(moral attribution)이 사용자, 도구 제작자, 제3자 사이에서 어떻게 분산되는지 분석한다. 또한 이 기술의 이해관계자(stakeholder) 영향을 검토하고 계층화된 권고를 제시한다.
The use of agentic systems to perform offensive security operations has moved from a theoretical possibility to a commoditized capability. However, while the community has focused on creating more and more capable agents, less attention has been allocated to assessing the security of those systems. In this work, we present the first in-depth security analysis of the most widely used agentic systems for offensive security operations. We show that most of these tools share common design flaws that enable an active adversary to exfiltrate API keys, establish persistent footholds, and fully compromise the operator's machine, even when the agent operates inside a sandboxed container. To support our analysis, we introduce a full cyber kill chain for such agentic systems, capturing the progression from initial LLM manipulation to lateral movement, persistence, guardrail bypass, and sandbox escape. Building on our security analysis, we derive a robust architecture for agentic offensive-security tools and propose actionable, broadly applicable design principles that mitigate the disclosed attack paths at the architectural level.