캐시를 쓸까, 잡음 제거 단계를 줄일까? 플로 매칭 월드 행동 모델의 잔차 재사용
Cache or Denoise Less? Residual Reuse in a Flow-Matching World Action Model
한국어 초록
플로 매칭 기반 로봇 정책은 잡음 제거 단계마다 신경망을 한 번씩 실행해 행동 청크를 생성한다. C$^3$ache처럼 재계획 주기 사이에 계산을 공유하는 캐시는 앞선 재계획 호출에서 수행한 계산을 재사용한다. 그러나 단순히 잡음 제거 단계를 줄이는 것보다 나은지는 분명하지 않다. 본 연구는 매개변수 60억 개의 월드 행동 모델 Fast-WAM으로 LIBERO-Goal에서 두 방식을 비교한다. 체크포인트와 잡음 시드를 하나씩 고정했을 때, 캐시를 사용하지 않는 2단계 방식은 초기 상태 500개 전체에서 10단계 방식에 비해 성공률이 2%포인트 이내라는 비열등성 기준을 충족했다. PyTorch의 기본 컴파일 모드에서 RTX A6000의 재계획 호출 시간도 202ms에서 92ms로 줄었다. 따라서 캐시가 시간을 더 줄일 여지는 작다. 캐시를 써도 두 단계를 새로 계산하면, 캐시 없이 두 단계를 실행하는 방식보다 빠를 수 없다. 두 방식 모두 호출할 때마다 이미지를 인코딩하고 동영상 전문가를 실행한 뒤 두 단계를 계산해야 하기 때문이다. 두 단계 중 첫 단계를 캐시에 저장하고 네 번 호출할 때마다 갱신하면, 비용 모델상 호출 시간이 최대 11~14% 줄어든다. 캐시를 사용하는 정책은 설정 변화에도 취약하다. 성능 손실은 캐시한 단계가 차지하는 플로 경로의 비율과 함께 변했다. Fast-WAM의 현재 시간 이동 설정에서 C$^3$ache가 캐시한 여덟 단계는 경로의 44% 대신 80%를 차지했다. 캐시를 쓴 정책은 상태의 63%에서 성공했고, 캐시를 쓰지 않은 정책은 95%에서 성공했다. 호출할 때마다 잡음을 다시 표본 추출하면 경로의 60% 이상을 캐시하는 방식의 성공률이 14~40%포인트 떨어졌다. 이 결과는 단계 수를 줄인 기준선을 사용하고, 실제 배포할 샘플러와 잡음 설정에서 계산 재사용을 시험해야 함을 보여 준다. 평가 도구와 로그, 점검표를 공개한다.
원문 초록
Flow-matching robot policies generate each action chunk through repeated network evaluations, one per denoising step. Cross-cycle caches such as C$^3$ache reuse computation from earlier replanning calls, but whether they beat simply taking fewer steps is unclear. We compare the two in Fast-WAM, a 6B-parameter world action model, on LIBERO-Goal. Two uncached steps keep the success of ten: on all 500 initial states they are non-inferior within two percentage points, for one checkpoint and noise seed. Under PyTorch's default compile mode, they also cut a replanning call on an RTX A6000 from 202 to 92 ms. This leaves little room for caching. A cache that keeps two fresh steps cannot be faster than two uncached steps: every call still encodes the images, runs the video expert and computes those two steps. Caching the first of two steps, refreshed every fourth call, saves at most 11--14% of a call by our cost model. Cached policies are also fragile. Their losses tracked the share of the flow path the cached steps cover: under Fast-WAM's current time shift, C$^3$ache's eight cached steps cover 80% of the path instead of 44%, and the cached policy succeeds on 63% of states against 95% uncached. Resampling the noise on every call cost caches covering 60% or more of the path 14--40 points. These results argue for fewer-step baselines and for testing reuse under the deployed sampler and noise settings. We release our evaluation harness, logs and a checklist.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.19709v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.