arXiv:2610.03014v1 cs.CR

사전 정의된 싱크를 넘어서: LLM 에이전트를 위한 보안 인식 의존성 분석

Beyond Predefined Sinks: Security-Aware Dependency Analysis for LLM Agents

Hang Cui

제출 2026-10-02

저자 비고

arXiv Comments

29 pages, 3 figures, including supplementary appendices. Preprint

한국어 초록

대규모 언어 모델(LLM) 기반 에이전트는 명령 실행, 파일 시스템 접근, 네트워크 통신, 브라우저 제어 및 외부 도구와 같은 보안에 민감한 소프트웨어 기능에 모델이 생성한 결정을 점점 더 많이 연결하고 있습니다. 기존 분석은 사전 정의된 민감 연산을 앵커로 사용하는 경우가 많지만, 연산의 식별 정보 자체만으로는 보안 영향을 판단하기에 불충분합니다. 본 논문에서는 보안에 민감한 각 연산에 대해 후보 중심의 보안 인식 에이전트 의존성 그래프(Security-ADG)를 구축하는 보안 인식 정적 분석 프레임워크인 AgentSecGraph를 제시합니다. 이는 연산 식별 정보에 에이전트 연관성, 소스 및 의존성 증거, 신뢰 경계(trust-boundary) 컨텍스트, 가드 증거, 외부 영향 시맨틱을 보강합니다. 나아가 11개 생태계와 37,542개 소스 파일에 걸친 67개의 실제 LLM 에이전트 저장소 코퍼스인 AgentSecBench를 소개합니다. 현재 분석기는 65개 저장소에서 23,866개의 정적 보안 민감 연산 후보를 식별하고 후보당 하나의 Security-ADG 아티팩트를 출력합니다. 전체 코퍼스 분석 결과 9,821개 후보(41.15%)에 대해 소스-연산 간 의존성 증거를, 3,075개(12.88%)에 대해 잠재적 가드 증거를 복원하였으며, 분석은 50.8분 만에 완료되었습니다. 재현 기반의 별도 평가 층(layer)을 통해 13개 저장소에 걸쳐 22개의 보안 민감 동작(확인된 취약점 1건, 공개 대기 후보 1건, 가드된 동작 20건)을 규명했습니다. 9개의 홀드아웃(held-out) 사례에서 Security-ADG는 싱크 전용(sink-only) 뷰가 20.0%, 단순화된 ADG가 40.0%인 것에 비해 기준 컨텍스트의 91.1%와 관찰된 5개의 가드를 모두 보존했습니다. 이러한 결과는 보안 인식 의존성 및 문맥적 증거를 통해 민감 연산 식별 정보 자체만으로는 포착할 수 없는 차이를 구분할 수 있음을 보여줍니다.

원문 초록

Large language model (LLM)-based agents increasingly connect model-generated decisions to security-sensitive software capabilities such as command execution, filesystem access, network communication, browser control, and external tools. Existing analyses often use predefined sensitive operations as anchors, but operation identity alone is insufficient to determine security implications. We present AgentSecGraph, a security-aware static analysis framework that constructs a candidate-centered Security-Aware Agent Dependency Graph (Security-ADG) for each security-sensitive operation. It augments operation identity with agent relevance, source and dependency evidence, trust-boundary context, guard evidence, and external-effect semantics. We further introduce AgentSecBench, a corpus of 67 real-world LLM-agent repositories spanning 11 ecosystems and 37,542 source files. The current analyzer identifies 23,866 static security-sensitive operation candidates across 65 repositories and emits one Security-ADG artifact per candidate. Corpus-wide analysis recovers source-to-operation dependency evidence for 9,821 candidates (41.15%) and potential guard evidence for 3,075 (12.88%), completing in 50.8 minutes. Using a separate reproduction-backed evaluation layer, we establish 22 security-sensitive behaviors across 13 repositories: one confirmed vulnerability, one pending disclosure candidate, and 20 guarded behaviors. In nine held-out cases, Security-ADG preserves 91.1% of the reference context and all five observed guards, compared with 20.0% for a sink-only view and 40.0% for a simplified ADG. These results show that security-aware dependency and contextual evidence enable distinctions that cannot be recovered from sensitive-operation identity alone.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.03014v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2606.11672v1cs.CR공통 태그 Vulnerability Detection, llm agents

오픈 소스 LLM 에이전트가 정적 응용 프로그램 보안 테스트 도구를 대체할 수 있는가? 실증적 평가

Can Open-Source LLM Agents Replace Static Application Security Testing Tools? An Empirical Assessment

본 논문은 사이버 보안 목적을 위한 에이전트형 AI 도구의 가치를 탐구합니다. 우리는 세 가지 서로 다른 Ollama 호스팅 범용 오픈 소스 모델로 구동되는 범용 생성형 AI 대규모 언어 모델(GenAI LLM) 기반 에이전트의 효능을 평가합니다. 우리는 기존에 검증된 정적 응용 프로그램 보안 테스트(SAST) 도구인 Bandit의 기준선 성능에 대비하여, 정밀도, 재현율, 오탐(false positive) 수, 그리고 측정된 지표들의 상호 작용을 기반으로 계산된 복합 점수를 사용하여 각 에이전트의 성능을 평가합니다. 우리의 연구 결과는 현대적인 오픈 소스 GenAI LLM 기반 에이전트가 현실적인 조건에서 SAST 스캔이라는 전문화된 작업에 현재 적합하다는 견해를 반박합니다.

arXiv:2505.03818v3cs.LG공통 태그 Vulnerability Detection공식 코드 · Papers with Code

대규모 언어 모델을 이용한 프로그램 의미적 비동치 게임

Program Semantic Inequivalence Game with Large Language Models

대규모 언어 모델(LLM)은 일상적인 코딩 작업에서 강한 성능을 낼 수 있지만, 프로그램 의미에 대한 비자명한(non-trivial) 추론을 요구하는 복잡한 작업에서는 실패할 수 있다. LLM이 이러한 작업을 풀도록 가르치기 위한 학습 예시를 마련하는 것은 어려울 수 있다. 본 연구에서는 의미적 비동치 게임(semantic inequivalence game, SInQ)에 기반해 코드 추론 학습 데이터를 합성적으로 생성하는 방법을 탐구한다. 생성자 에이전트는 실제 프로그래밍 과제 데이터셋에서 파생된, 의미적으로 구별되는 프로그램 변형을 만들고, 평가자 에이전트는 두 변형이 서로 다르게 동작하는 입력 예시를 찾아야 한다. 에이전트들은 준적대적으로(semi-adversarially) 서로를 학습시키며 코드의 기저 논리를 이해하는 능력을 향상시킨다. 우리는 코드 생성 및 이해 벤치마크 여러 곳에서 접근법을 평가했으며, 여기에는 교차 언어 취약점 탐지(Lu et al., 2021)가 포함된다. 이 설정에서 우리 방법은 오직 Python 코드로만 학습했음에도 C/C++ 코드의 취약점 탐지를 개선하며, 까다로운 Python 내장 식별자 교체 벤치마크(Miceli Barone et al., 2023)에서는 최신 LLM이 여전히 이 벤치마크에서 어려움을 겪는 반면 우리 접근법이 상당한 개선을 보여준다. 실험 재현에 필요한 코드와 LLM 파인튜닝에 사용할 수 있는 생성된 합성 데이터를 공개한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.