PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.02440v1cs.LG

가산적 양자화 표현을 통한 밴딧

Bandits via Additive Quantized Representations

맥락적 밴딧(contextual bandit)은 비선형 보상(reward) 모델링과 온라인 효율성 사이의 균형을 필요로 한다. 트리 앙상블과 신경망 기반 방법은 비선형성을 포착할 수 있지만 주기적인 재학습과 대규모 리플레이 버퍼를 필요로 한다. 선형 모델은 관측값마다 O(1) 메모리로 효율적으로 업데이트할 수 있지만, 근본적으로 선형 보상 구조에만 제한된다. 우리는 이러한 간극을 메우기 위한 표현 층(representation layer)으로 잔차 양자화(Residual Quantization, RQ)를 제안한다. 오프라인으로 학습된 RQ 코드북(codebook)은 연속적인 맥락(context)을 여러 수준에 걸친 이산적 중심점(centroid) 할당으로 매핑하며, 이 수준들은 섀도 메커니즘(shadow mechanism)을 통해 동적으로 설정된다. 이를 통해 엄격하게 제한된 메모리로 비선형 표현력을 달성하는 다양한 가산적(additive) 밴딧 알고리즘을 구현할 수 있다. 13개의 데이터셋(dataset)에 걸쳐, RQ 변형들은 13개 중 11개 데이터셋에서 비-RQ 대응 모델을 종종 큰 차이로 능가했으며, 더블링 재학습(doubling-retrain) 방식의 XGBoost 및 신경망 베이스라인과 비슷한 성능을 최대 1000배 적은 메모리로 달성했다.

arXiv:2610.03012v1cs.CV

고정된 시간 격자에 대한 재고: 주파수 분리 기반 모션 생성

Rethinking Fixed Temporal Grids: Frequency-Disentangled Motion Generation

대부분의 인체 모션 생성 방식은 모든 토큰이 동일한 고정 시간 윈도우에 걸쳐 있는 균일한 시간 격자(temporal grid) 상의 토큰으로 모션을 인코딩합니다. 그러나 인체 모션은 시간적으로 이질적입니다. 즉, 천천히 변화하는 전역 궤적과 발 접지 및 관절 충격과 같은 빠른 일시적 이벤트가 공존합니다. 이러한 다중 스케일 역학을 동일한 시간 해상도의 토큰에 억지로 맞추면 모션 주파수가 얽히게 되어 느린 영역은 불필요하게 중복되는 반면, 사실적인 모션을 구분 짓는 빠른 디테일은 뭉개지게 됩니다. 본 논문에서는 모션을 웨이블릿 주파수 대역으로 분해하여 시간적 위치 파악과 정확한 재구성을 유지하면서 시간 스케일 전반의 역학을 분리하는 스케일 적응형 모션 표현인 \textbf{FreqMo}를 제안합니다. 이후 통합 주파수 잔차 양자화(UFRQ)를 통해 단일 공유 코드북 내에서 모든 대역을 인코딩함으로써 토큰 시퀀스를 3배 압축하고 안정적인 단일 단계 생성을 가능하게 합니다. 실험 결과, FreqMo는 고주파수 보존 능력이 대폭 향상되어 SOTA 충실도(fidelity)를 달성하며, 동일한 분해 기법이 연속 확산(diffusion) 백본에도 전이될 수 있음을 보여줍니다.