공격적 보안을 위한 자율 AI 에이전트의 윤리
The Ethics of Autonomous AI Agents for Offensive Security
LLM 기반 자율 에이전트가 공격적 보안의 판도를 바꾸고 있다. 결정론적이고 범위가 좁으며 숙련된 실무자가 운용하는 전통적인 침투 테스트(penetration testing) 도구와 달리, 에이전트형(agentic) 보안 도구는 세 가지 독립적인 차원에서 \textit{indeterminacy}를 보인다. 첫째, 그 행동은 비결정론적 정책에서 추출되며, 그 출력은 사전(ex-ante) 및 사후(ex-post) 설명 모두에 저항하여 사고 귀속(incident attribution)과 배포 전 안전성(safety) 검토를 어렵게 한다. 둘째, 비결정론적 행동, 사용된 모델의 에이전시(agency), 불투명한 LLM 공급망(supply chain)으로 인해 그 영향은 개방적(open-ended)이다. 셋째, 사용자 집단은 규모와 필요 기술 모두에서 불확정적이다. 공격 능력을 사용하거나 개발하는 데 필요한 최소 기술 수준(skill floor)이 급격히 낮아졌다. 이 세 가지 속성은 주제적으로 연결되어 있지만, 서로로부터 도출될 수는 없다. 공격과 방어 간의 구조적 비용 비대칭(structural cost asymmetry)과 결합되어 공격 능력의 산업화(industrialization)를 가능하게 한다. 단기적 순효과는 공격자에게 유리하며, 동일한 기술이 장기적으로는 방어 실무에 대한 접근을 민주화할 수 있더라도 마찬가지이다. 기존의 이중용도(dual-use) 사이버보안 및 AI 윤리 프레임워크는 이러한 조합을 염두에 두고 설계되지 않았다. 본 연구는 공격적 보안을 위해 자율 AI 에이전트를 사용할 때 도덕적 귀속(moral attribution)이 사용자, 도구 제작자, 제3자 사이에서 어떻게 분산되는지 분석한다. 또한 이 기술의 이해관계자(stakeholder) 영향을 검토하고 계층화된 권고를 제시한다.