PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.02569v1cs.CR

Pincer: 디지털 트윈을 활용한 에이전트의 리소스 권한 부여

Pincer: Resource Authorization for Agents using a Digital Twin

코딩 에이전트(agent)는 점점 더 장기적인 과제를 수행하고, 자율화되며, 범용 셸에 의존하고, 자체 개선을 위해 영구 메모리를 유지하도록 발전하고 있습니다. 이러한 기능 덕분에 에이전트는 더욱 강력해졌지만, 외부 공격자로부터 방어하기는 더욱 어려워졌습니다. 타입 기반 도구, 정보 흐름 제어, 정책 예측 엔진과 같이 이러한 아키텍처를 제한하는 방어 방식은 채택하기에는 너무 많은 기능을 희생시킵니다. 현재 배포된 에이전트(예: Claude, Codex)는 주요 방어 수단으로 사용자 중재형 샌드박싱과 자동 모드 샌드박싱의 결합에 의존합니다. 사용자 중재형 샌드박싱에서는 사용자가 관리하는 정책이 시간이 지남에 따라 약화되고 반복적인 권한 요청으로 사용자 피로가 발생하는 반면, 자동 모드의 도구 호출 분류기는 사용자별 정책을 학습하지 않으며 적대적 설정에 대한 방어를 목적으로 하지 않습니다. Pincer는 리소스 층(layer)에서 작동하며 자동 모드와 같은 도구 호출 층의 기존 방어 체계와 함께 작동하는 새로운 방어 방식입니다. Pincer의 핵심에는 격리된 컨텍스트 모델(model)인 디지털 트윈이 있으며, 이는 동적인 사용자별 최소 권한 정책을 자동으로 학습하고 시행합니다. 디지털 트윈은 사용자의 선호도를 지속적으로 학습하여 에이전트의 권한 요청에 대해 사용자의 대리인 역할을 수행할 수 있도록 합니다. 학습 단계를 모사하기 위해, 수일에 걸친 사용자-에이전트 상호작용 트랜스크립트를 따르는 예제를 포함한 새로운 사용자 중심 데이터셋(dataset)을 제안합니다. 평가 결과, Pincer는 다양한 대규모 언어 모델(LLM) 판정관 변형 및 Conseca(HotOS '25)의 적응 버전을 포함한 여러 베이스라인과 비교하여 보안성과 유용성 모두에서 뛰어난 성능을 보였습니다. Pincer의 설계가 다른 모든 베이스라인에 비해 현저한 보안 향상을 가져오는 공격 유형을 조명하며, 다른 유형의 공격에 대해서도 베이스라인을 능가함을 보입니다.