함수형 캐시 그래프팅: 구현체 에이전트를 위한 견고하고 신속한 코드 정책 합성
Functional Cache Grafting: Robust and Rapid Code-Policy Synthesis for Embodied Agents
한국어 초록
코드 작성 대규모 언어 모델(CodeLLM)은 자연어 목표와 환경 제약 조건을 구조화된 제어 프로그램으로 변환하여 구현체 에이전트(embodied agent)를 위한 실행 가능한 코드 정책을 생성합니다. 그러나 오픈 도메인 구현체 환경에서의 정책 생성은 두 가지 근본적인 한계를 가집니다: (i) 긴 프롬프트에 대한 반복적인 프리필(prefill) 연산으로 인한 디코딩 지연, (ii) 완전 생성적 디코딩(fully generative decoding)으로 인한 낮은 견고성 — API 불일치, 안전 가드 누락, 불안정한 제어 로직이 자주 발생합니다. 이러한 한계를 해결하기 위해 우리는 FCGraft, 즉 함수형 캐시 그래프팅(Functional Cache Grafting) 프레임워크를 제안합니다. FCGraft는 함수 수준에서 검증된 코드 스켈레톤과 그에 연관된 프롬프트 수준의 트랜스포머 키-값(KV) 캐시 라이브러리를 유지하며, 새로운 태스크가 주어지면 관련 함수를 검색하고 해당 KV 캐시를 그래프팅하여 새로운 정책을 합성합니다. 검색된 함수 캐시가 주어지면, FCGraft는 캐시된 함수 세그먼트를 합성 정책으로 조합하는 스티칭(stitching)과, 최소한의 추가 디코딩으로 태스크별 파라미터 및 제약 조건을 충족하도록 필요한 코드 영역만 국소적으로 적응시키는 패칭(patching)을 통해 캐시 그래프팅을 수행합니다. 중복된 프리필 연산을 제거함으로써 생성 지연을 줄이는 동시에, 검증된 제어 구조를 재사용함으로써 프롬프트 수준 캐싱 방법인 RAGCache 대비 견고성을 향상시켜, 태스크 성공률 18.31% 향상과 2.3배 빠른 정책 합성을 달성합니다.
원문 초록
Code-writing large language models (CodeLLMs) generate executable code policies for embodied agents by translating natural language goals and environmental constraints into structured control programs. However, policy generation in open-domain embodied environments suffers from two fundamental limitations: (i) delayed decoding caused by repetitive prefill computation over long prompts, and (ii) limited robustness due to fully generative decoding, which often produces API mismatches, missing safety guards, and unstable control logic. To address these limitations, we present FCGraft, a Functional Cache Grafting framework. FCGraft maintains a library of function-level validated code skeletons and their associated prompt-level Transformer key-value (KV) caches, and synthesizes new policies by retrieving relevant functions and grafting their KV caches when a new task is provided. Given retrieved function caches, FCGraft performs cache grafting via stitching, which composes cached function segments into a composite policy, and patching, which locally adapts only the necessary code regions to satisfy task-specific parameters and constraints with minimal additional decoding. By eliminating redundant prefill computation, this approach reduces generation latency, while reusing validated control structures improves robustness over prompt-level caching methods RAGCache, achieving 18.31% higher task success rate and 2.3x faster policy synthesis.
요약
임베디드 에이전트의 코드 정책 생성 시 발생하는 지연과 견고성 문제를 해결하기 위해, 검증된 함수 수준 코드 스켈레톤과 KV 캐시를 검색 및 결합하는 FCGraft 프레임워크를 제안합니다. 이 방법은 캐시 그래프팅을 통해 불필요한 계산을 줄여 정책 합성 속도를 2.3배 높이고 작업 성공률을 18.31% 개선했습니다.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.13097v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
iAm.md: 미지의 개방형 어휘 도메인을 위한 에이전틱 자기성찰 기반 로봇 스킬 자가 평가
iAm.md: Robot Skill Self-Assessment through Agentic Introspection for Unknown Open-Vocabulary Domains
대규모 언어 모델(LLM)의 일반화 능력을 기반으로 하는 에이전틱 AI(Agentic AI)는 체화된(embodied) 작업 계획을 포함하여 광범위한 잠재적 응용 분야를 제공합니다. 예를 들어, 파운데이션 모델(Foundation model) 기반의 체화된 에이전트는 자율 로봇 시나리오에서 그럴듯한 계획을 생성할 수 있습니다. 그러나 제한된 컨텍스트 윈도우(context window)나 다음 토큰(token) 예측 방식에서의 환각(hallucination) 현상으로 인해, 배포된 로봇과 관측된 환경(environment)이 요청된 작업을 실제로 지원하는지 확인하지 않은 채 행동이 생성될 수 있으며, 이를 우리는 "그라운딩 실패(grounding failure)"라고 부릅니다. 최근 파운데이션 모델의 추론 능력 향상 덕분에 자율 로봇 행동 생성 문제는 코드 생성 문제로 공식화될 수 있습니다. 본 논문에서는 배포 환경의 상호 보완적인 증거 형태에 이러한 과정을 고정(anchoring)할 수 있도록 지원하는 마크다운 표준 및 생성 프레임워크인 iAm.md를 제시합니다. 개방형 어휘(open-vocabulary) 시맨틱 매핑을 통해 로컬 비전-언어(vision-language) 검출 및 객체 분할을 결합하고, 이를 이러한 중간 표준화 표현 내의 영구 객체 레코드에 참조시킴으로써 에이전틱 자기성찰(agentic introspection)을 가능하게 합니다. 이어 시뮬레이션된 TIAGo 로봇의 내비게이션 및 매니퓰레이션 작업을 통해 이 새로운 기법을 연구하며, 이러한 표준화된 표현이 스킬 자가 평가와 실행 가능한 작업 일반화를 동시에 어떻게 지원하는지 보여줍니다.
CoMem: 지속적 중간 잔차를 통해 여러 쿼리에 걸쳐 트랜스포머 깊이를 재사용하기
CoMem: Reusing Transformer Depth across Queries with Persistent Intermediate Residuals
공유 문서에 대한 반복적인 쿼리는 동일한 하위 트랜스포머(transformer) 층(layer)들을 반복해서 실행합니다. 본 논문에서는 분할 깊이 j를 명시적인 재사용 가능 문맥 축으로 만드는 CoMem을 소개합니다. CoMem은 토큰(token)당 하나의 깊이 j 잔차를 기록하고, 유계 청크 집합을 선택하며, [j:L) 층만 재개합니다. 우리가 알고 있는 문서 재사용 시스템 중 CoMem은 분할 깊이를 조정 가능한 서빙 축으로 만들고 이를 일치하는 j=0 엔드포인트로 격리합니다. Qwen3-8B에서 j=12는 선택된 팩 Read를 931.9ms에서 664.4ms로 줄이며(1.403배), 3.12포인트의 RULER 비용(95% CI [2.36, 3.93])을 수반하지만, 연속 접두 문맥(continuous-prefix) 오라클은 전체 격차를 회복합니다. 그 결과로 생성된 깊이 축은 품질-지연 시간-스토리지 간의 트레이드오프를 정량화하며, 동일 어댑터를 사용하는 별도의 Write 포함 파이프라인은 2.74배 더 빠릅니다. 동일 지연 시간 기준 원시 재생(raw replay)은 BM25에서 11.56포인트 앞서며, 이는 선지불된 깊이의 적용 가능성 한계를 숨기지 않고 직접 측정합니다. CoMem은 토큰당 8KiB를 저장하는 반면, 프로토콜 정렬된 동일 Qwen3 CacheBlend 스타일 진단 방식은 토큰당 144KiB를 저장합니다(집단 및 적응 예산은 일치하지 않음). 문맥-위치 인수분해는 누락된 하위 층 문서 문맥을 테스트된 주요 멀티키 오류로 식별하며, 32토큰 오버랩은 지속 바이트나 쿼리당 Read를 늘리지 않고도 92.5에서 98.5로 점수를 높입니다. CoMem은 반복 쿼리 긴 문맥 서빙을 위해 트랜스포머 깊이를 측정 및 조정 가능한 차원으로 개방합니다.
FlashBack: 스트리밍 비전-언어 모델에서 언제 기억해야 하는지 알기
FlashBack: Knowing When to Remember in Streaming Vision-Language Models
스트리밍 비전-언어(vision-language) 모델은 제한된 연산 예산 내에서 지속적으로 증가하는 비디오 스트림을 처리해야 하므로, 실시간 인지와 장기 기억 사이에 지속적인 긴장 관계가 발생합니다. 과거 정보를 검색하는 것은 자연스러운 해결책을 제공하지만, 과거 정보를 회상(recall)하는 것이 항상 유익한 것은 아닙니다. 불필요한 과거 정보는 현재의 추론(inference)에 무관한 문맥을 유입시키고 고유한 실시간 인지를 방해할 수 있습니다. 따라서 효과적인 스트리밍 메모리는 무엇을 기억할지뿐만 아니라 언제, 어떻게 접근할지도 다루어야 합니다. 이를 위해 본 연구에서는 스트리밍 비전-언어 모델을 위한 선택적 다수준(multi-level) 메모리 기반의 학습(training) 불필요 프레임워크인 FlashBack을 소개합니다. 과거 정보를 검색하기 전에, FlashBack은 동결된 스트리밍 VLM의 의미론적 이해를 활용하여 쿼리가 과거의 근거를 필요로 하는지 추론합니다. 이 평가는 추론이 기본(Native) 궤적을 유지할지, 아니면 격리된 회상(Recall) 궤적을 호출할지를 결정합니다. Recall 궤적은 쿼리 로컬 Side-KV 경로를 통해 최근 문맥과 검색된 장기 메모리를 결합하여 영구적인 Native 상태를 수정하지 않고도 국소적인 시간적 연속성을 보존합니다. 우리는 StreamingVLM 및 Mage-VL-4B에 FlashBack을 구현하고 OVO-Bench 및 StreamingBench에서 이를 평가합니다. 실험 결과, 실시간 인지 능력을 대체로 보존하면서도 여러 장기(long-horizon) 및 메모리 의존적 작업에서 성능 향상을 보였으며, 추가 학습이 전혀 필요하지 않음에도 강력한 학습 기반 스트리밍 방식들과 경쟁력 있는 성능을 달성했습니다. 코드는 추후 공개될 예정입니다.
분리형 어텐션 융합: 효율적인 KV 캐시 재사용을 통한 RAG 가속
Decoupled Attention Fusion: Accelerating RAG with Efficient KV Cache Reuse
검색-증강 생성(RAG)은 대규모 언어 모델(LLM)의 환각을 효과적으로 완화하지만, 긴 컨텍스트 시나리오에서 Time-To-First-Token(TTFT) 지연이 과도하게 발생한다. 사전 계산된 문서 KV 캐시를 재사용하면 이 문제를 해결할 수 있지만, 분포 불일치가 발생한다. 오프라인 캐시에는 일관된 추론에 필요한 문서 간 어텐션 패턴이 없기 때문이다. CacheBlend는 선택적 어텐션을 통해 재계산을 줄이지만, 더 긴 컨텍스트에서는 정확도가 크게 저하된다. 이러한 과제를 해결하기 위해, 높은 정확도를 유지하면서 재계산 오버헤드를 크게 줄이는 프레임워크인 Decoupled Attention Fusion(DAF)을 제안한다. DAF는 어텐션 과정을 세 가지 통합 단계로 분리한다: 누락된 문서 간 어텐션을 복원하는 중요 토큰 self-attention, 표준 추론을 위한 질문-문서 self-attention, 그리고 두 출력을 연결하여 최종 은닉 상태를 합성하는 상태 융합. 이 연산들을 dense 패턴으로 분리함으로써 DAF는 Flash-Attention 커널과 기본적으로 호환되어 복잡한 어텐션 마스크 없이도 하드웨어 활용을 극대화한다. 실험 결과, DAF는 긴 컨텍스트 벤치마크에서 vLLM을 사용할 때 CacheBlend 대비 최대 2배, 전체 재계산 대비 5.6배의 속도 향상을 정확도 희생 없이 달성한다.
ArrivalBench: 에이전트가 생성한 데이터 파이프라인은 단 한 번만 올바르고 시간에 따라 틀린다
ArrivalBench: Agent-Generated Data Pipelines Are Correct Once and Wrong Under Time
에이전트가 생성한 데이터 작업을 평가하는 기존 벤치마크는 고정된 스냅샷에 대해 파이프라인을 한 번 실행하여 채점합니다. 이와 달리 ArrivalBench는 적대적이지만 재현 가능한 전달 스케줄(지연, 중복, 순서 뒤바뀜, 재시도된 레코드) 하에서 에이전트가 남긴 파이프라인을 재실행하며, 최종 상태가 전체 로그에 대한 배치 재계산 결과와 동일할 것을 요구합니다. 오라클이 분류하는 대신 재계산하기 때문에, 잘못된 테이블과 비정상 종료(crash)는 명확히 구분된 판정으로 취급됩니다. 즉, 비정상 종료는 팀이 이미 운영 중인 모니터링을 통해 감지할 수 있지만 잘못된 테이블은 감지되지 않습니다. 저자들이 구축한 40개 작업에서 단일 실행 채점을 재구현한 결과 11개 모델이 생성한 파이프라인의 86~100%가 통과 판정을 받았으나, 동일한 산출물을 재실행하자 통과된 것 중 7.0~79.2%가 조용히 틀린 결과를 내는 것으로 나타났습니다. 이러한 격차는 복구 루프 때문에 발생하는 것이 아닙니다. 동일한 모델과 작업 내에서 스냅샷 테스트를 거쳐 수정된 파이프라인은 처음에 통과한 파이프라인과 거의 비슷한 빈도로 재실행에 실패합니다. 모든 모델에서 멱등성 위험(idempotency hazard)이 순서 관련 위험보다 더 자주 실패를 유발했습니다. 오답과 비정상 종료를 분리하는 것은 개입(intervention)의 해석 방식도 바꿉니다. 한 모델의 경우 위험 경고를 통해 무음 실패(silent failure)를 48.2%에서 10.5%로 줄였지만 비정상 종료율은 9.0%에서 37.0%로 증가하여 전체 실패율은 51.0%에서 44.0%로 소폭 이동하는 데 그쳤습니다. 11개 실험군 모두 독립적으로 재실행되었으며, 실패율 변동은 최대 5.9%포인트에 불과했습니다.
GameReplica: 비전-언어 에이전트를 위한 블랙박스 시각적 게임 복제 벤치마크
GameReplica: A Benchmark for Black-Box Visual Game Replication by Vision-Language Agents
코딩 에이전트 벤치마크는 통상 명시적 사양으로부터의 구현을 평가하므로, 규칙이 문서화되어 있지 않고 상호작용을 통해서만 접근 가능한 시스템을 에이전트가 발견하고 재현할 수 있는지는 열려 있는 문제로 남아 있다. 본 연구는 관측 가능한 행동과 결과를 가진 통제된 환경을 제공하는 웹 게임에서 이 능력을 연구하며, 종단 간 블랙박스 게임 복제를 위한 벤치마크 GameReplica를 소개한다. 이 벤치마크는 25개 웹 게임과 다섯 가지 핵심 메커니즘 계열에 걸친 125개 인스턴스로 구성되며, 각 게임은 다섯 가지 난이도로 구현된다. 컨테이너 격리 하에서 에이전트는 행동–스크린샷 인터페이스를 통해서만 대상 게임에 접근하고, 게임 탐색, 복제본 구현, 검증을 반복할 수 있으며, 자체 완결적으로 실행 가능한 복제본과 규칙 체크리스트를 제출한다. 이후 참조 기반 평가가 산출물을 규칙 일관성, 구현 일관성, 시각적 충실도에 대해 별도로 채점한다. 여섯 모델과 다섯 에이전트 런타임에 걸친 실험은 블랙박스 복제가 여전히 어렵다는 점을 보여 준다. Claude Opus 4.8이 71.6%로 가장 높은 Overall 점수를 달성하였고, 다른 모델들은 4.0%~43.0%를 얻었다. 모든 모델이 시각적 충실도에서 가장 높고 규칙 일관성에서 가장 낮은 점수를 받았으며, 이는 외형을 재현하는 것이 메커니즘을 복원하는 것보다 쉽다는 점을 시사한다. 난이도는 격차를 벌린다. L1에서 L5로 갈수록 하위 네 모델은 Overall 점수가 상대적으로 33%~63% 감소한 반면, 가장 강한 모델은 5% 미만 감소하였다. 평가된 구성에서 결과는 에이전트 런타임 간보다 모델 간에 더 크게 달랐으며, 약한 모델의 귀속된 실패 대부분은 복제본 코드를 작성하기 전의 탐색 단계에서 발생하였다. 자료와 대화형 데모는 https://qqqqqqby.github.io/GameReplica/ 에서 제공된다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.