대규모 언어 모델(LLM) 에이전트는 외부 API, GPU 및 서버, 그리고 배포 및 승인과 같은 워크플로를 포함한 고가치 자원에 점점 더 많이 연결되고 있습니다. 기존 에이전트 보안 연구는 주로 정보 및 에이전트 동작에 대한 공격에 초점을 맞추고 있으며, 고가치 자원 자체는 공격 대상으로서 상대적으로 덜 주목받았습니다. 저자들이 아는 한, 본 연구는 공격자가 고가치 자원이나 그 자격 증명을 직접 획득하지 않고도 에이전트를 유도하여 자신의 목표를 위해 해당 자원을 사용하도록 만드는 에이전트 자원 하이재킹(resource hijacking)을 최초로 규명하고 체계적으로 연구합니다. 본 연구는 6가지 범주의 고가치 자원을 다루는 실행 가능한 벤치마크이자 자동화된 사례 생성 파이프라인인 ResourceHijackBench를 소개합니다. 이는 300개의 공격 시나리오와 900개의 공격 프롬프트를 포함하며, 각 케이스는 실제 자원 사용을 기록하는 격리된 로컬 환경에서 실행됩니다. 자원 하이재킹은 4개의 모델 백엔드 전반에서 평균 공격 성공률(ASR) 70.0%에서 89.6%를 기록하며 여전히 유효함을 보였고, OpenClaw에서 평균 ASR 84.1%, Codex에서 72.3%를 기록하며 2개의 에이전트 하네스 전반에서도 나타났습니다. 쌍체 비교에서 자원 하이재킹은 4개 모델 백엔드 전반에서 직접적인 자원 획득보다 62.4에서 84.0퍼센트포인트 더 높은 ASR을 달성했습니다. 실제 환경에서의 실험 또한 자원 하이재킹의 실질적인 유효성을 입증합니다. 저자들이 평가한 세 가지 기존 방어 기법 중 가장 낮은 평균 ASR조차 여전히 55.1%에 달했습니다. 나아가 저자들은 모델 기반 자원 사용 추출과 신뢰할 수 있는 요청자 신원 메타데이터 기반의 결정론적 정책 적용을 결합한 실행 전 자원 인가 방어 기법인 ResGate를 제안하며, 이를 통해 OpenClaw에서의 평균 ASR을 23.6%로 낮췄습니다. 이러한 결과는 직접적인 접근을 방지하는 것만으로는 공격자를 대신하여 에이전트가 여전히 사용할 수 있는 자원을 보호하기에 충분하지 않으며, 명시적인 자원 인가가 이 위험을 줄이는 데 도움이 될 수 있음을 보여줍니다.
수명이 긴 AI 에이전트는 배포 이후 경험을 유지하고, 기술과 도구를 습득하며, 워크플로를 수정하고, 작업을 위임하고, 과제 단계를 넘나들면서 점점 더 진화하고 있다. 이는 적응력을 높이지만, 별도의 승인(authorization) 문제를 야기한다. 도구를 사용할 수 있는 에이전트는 모델 오류와 프롬프트 주입(prompt injection)을 중대한 외부 행동으로 전환할 수 있다. 유효한 권한 부여(grant) 하에서 진화가 일어날 때, 그 권한을 행사하는 주체(subject)나 행동 맥락(context)이 사용자가 평가했던 것과 더 이상 일치하지 않을 수 있다. 진화는 기존 권한 부여 하에서 도달 가능한 효과(effects)와 과제에 필요한 권한(authority) 모두를 바꿀 수 있으며, 이는 증가하거나 감소하거나 비교 불가능해질 수 있다. 기존 도구 정책은 행동을 제한하지만, 권한 부여가 이러한 변화를 견뎌낼 때를 결정하지는 않는다. 우리는 승인 연속성(authorization continuity)을 공식화한다: 기존 권한 부여는 언제 유효하게 남는가, 활성 권한은 어떻게 변할 수 있는가, 그리고 결코 이동해서는 안 되는 경계는 무엇인가. 우리의 상태 경계(state-bound) 모델은 권한 부여 시점에 전이 포락(transition envelope)과 불변 효과 상한(immutable effect ceiling)을 고정한다. 포락은 권한 부여가 돌연변이(mutation)를 견뎌내는지를 결정한다. 상한 이하에서는 권한이 자유롭게 축소될 수 있고, 지정된 증거 조건 하에서만 확장될 수 있다. 우리는 요청된 효과와 실현된 효과를 구분하고, 완전 중재(complete mediation), 건전한 효과 추상화(sound effect abstraction), 감쇠 위임(attenuating delegation), 모니터 무결성(monitor integrity) 하에서, 돌연변이가 보호된 효과를 사용자가 발급한 상한을 넘어 증폭할 수 없음을 증명한다. 에이전트가 생성한 증거는 상한 이하에서 권한을 할당할 수 있지만 상한을 높일 수는 없다. 마지막으로, 여섯 가지 돌연변이 클래스를 각각의 승인 결과에 대응시킨다.