PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2608.15108v2cs.CR

직접 접근을 넘어서: 대규모 언어 모델 에이전트의 자원 하이재킹

Beyond Direct Access: Resource Hijacking in LLM Agents

대규모 언어 모델(LLM) 에이전트는 외부 API, GPU 및 서버, 그리고 배포 및 승인과 같은 워크플로를 포함한 고가치 자원에 점점 더 많이 연결되고 있습니다. 기존 에이전트 보안 연구는 주로 정보 및 에이전트 동작에 대한 공격에 초점을 맞추고 있으며, 고가치 자원 자체는 공격 대상으로서 상대적으로 덜 주목받았습니다. 저자들이 아는 한, 본 연구는 공격자가 고가치 자원이나 그 자격 증명을 직접 획득하지 않고도 에이전트를 유도하여 자신의 목표를 위해 해당 자원을 사용하도록 만드는 에이전트 자원 하이재킹(resource hijacking)을 최초로 규명하고 체계적으로 연구합니다. 본 연구는 6가지 범주의 고가치 자원을 다루는 실행 가능한 벤치마크이자 자동화된 사례 생성 파이프라인인 ResourceHijackBench를 소개합니다. 이는 300개의 공격 시나리오와 900개의 공격 프롬프트를 포함하며, 각 케이스는 실제 자원 사용을 기록하는 격리된 로컬 환경에서 실행됩니다. 자원 하이재킹은 4개의 모델 백엔드 전반에서 평균 공격 성공률(ASR) 70.0%에서 89.6%를 기록하며 여전히 유효함을 보였고, OpenClaw에서 평균 ASR 84.1%, Codex에서 72.3%를 기록하며 2개의 에이전트 하네스 전반에서도 나타났습니다. 쌍체 비교에서 자원 하이재킹은 4개 모델 백엔드 전반에서 직접적인 자원 획득보다 62.4에서 84.0퍼센트포인트 더 높은 ASR을 달성했습니다. 실제 환경에서의 실험 또한 자원 하이재킹의 실질적인 유효성을 입증합니다. 저자들이 평가한 세 가지 기존 방어 기법 중 가장 낮은 평균 ASR조차 여전히 55.1%에 달했습니다. 나아가 저자들은 모델 기반 자원 사용 추출과 신뢰할 수 있는 요청자 신원 메타데이터 기반의 결정론적 정책 적용을 결합한 실행 전 자원 인가 방어 기법인 ResGate를 제안하며, 이를 통해 OpenClaw에서의 평균 ASR을 23.6%로 낮췄습니다. 이러한 결과는 직접적인 접근을 방지하는 것만으로는 공격자를 대신하여 에이전트가 여전히 사용할 수 있는 자원을 보호하기에 충분하지 않으며, 명시적인 자원 인가가 이 위험을 줄이는 데 도움이 될 수 있음을 보여줍니다.