PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2411.11925v3cs.CV공식 코드 · Papers with Code

Continuous Speculative Decoding for Autoregressive Image Generation

연속적 시각 자기회귀(AR) 모델의 순차적 추론 속도 문제를 해결하기 위해, 이 연구는 기존 이산 분포에만 적용 가능했던 투기적 디코딩(speculative decoding)을 연속 분포로 확장한 Continuous Speculative Decoding 프레임워크를 제안한다. 목표 모델과 드래프트 모델 간 출력 분포 불일치로 인한 낮은 수용률 문제를 디노이징 궤적 정렬(denoising trajectory alignment)과 토큰 사전 채움(token pre-filling)으로 해결하고, 해석적 표현이 없는 수정 분포에서의 샘플링은 수용-기각 샘플링으로 처리하여, 256×256 및 512×512 해상도 실험에서 생성 품질 유지와 함께 2배 이상의 추론 속도 향상을 달성했다.