CTS-MoE: 지각 기반 보행을 위한 전문가 혼합을 통한 암시적 지형 적응
CTS-MoE: Implicit Terrain Adaptation via Mixture-of-Experts for Perceptive Locomotion
한국어 초록
불연속 지형(예: 계단, 틈, 장애물)에서의 지각 기반 보행은 적응적 행동을 요구하며, 이는 단일한 보수적인 보행(gait)으로는 급격한 지형 구조 변화에 필요한 예측적 기동을 수행할 수 없기 때문입니다. 멀티태스크 강화학습으로 정의되는 이 문제는 공유와 분리 사이의 긴장을 야기합니다. 태스크들은 공통된 보행 기반을 사용하지만 상충하는 보상을 가지므로, 정책은 가치 간섭을 피하면서 행동을 공유해야 합니다. 기존 연구는 한쪽 측면만 해결하며, 단일(monolithic) 정책은 전문화를 희생하고 계층적 하위 정책은 전이 과정과 미지의 지형에 대한 일반화를 희생합니다. 본 연구에서는 CTS-MoE를 제안합니다. 이 모델은 공유된 행동을 구성하기 위해 지각 기반 게이팅을 갖춘 밀집 전문가 혼합(MoE) 액터와, 간섭을 방지하기 위해 태스크 특정 가치 헤드를 갖춘 멀티-크리틱을 결합합니다. 해당 모델은 부분적 관측 가능성을 처리하고 순차적 증류를 피하는 단일 단계 동시 교사-학생 설정에서 엔드-투-엔드로 학습되며, 태스크 라벨은 학습 중에만 사용됩니다. 배포 시 라우팅은 지각에만 의존하므로, 고위 선택기나 지형 분류기 없이 지형 적응이 가능합니다. 시뮬레이션과 실제 하드웨어(Unitree Go1)에서 알려진 지형과 미지의 지형에 걸쳐 수행된 실험은, 단일(monolithic) 기준 모델 대비 더 낮은 추적 오차와 더 높은 성공률을 통해 태스크 인식 전문화를 보여주었습니다. 프로젝트 웹사이트: https://cts-moe.github.io/ .
원문 초록
Perceptive legged locomotion over discontinuous terrain (e.g., stairs, gaps, and obstacles) requires adaptive behavior, as a single conservative gait cannot produce the anticipatory maneuvers needed for abrupt topology changes. Cast as multi-task reinforcement learning, this problem introduces a tension between sharing and separation. Tasks use a common locomotion base but have conflicting rewards, so a policy must share behavior while avoiding value interference. Prior work addresses only one side, with monolithic policies sacrificing specialization and hierarchical sub-policies sacrificing generalization across transitions and unseen terrain. We propose CTS-MoE, which combines a dense mixture-of-experts actor with perception-based gating to compose shared behaviors and a multi-critic with task-specific value heads to prevent interference. The model is trained end-to-end in a single-stage concurrent teacher-student setup that handles partial observability and avoids sequential distillation, with task labels used only during training. At deployment, routing depends solely on perception, allowing terrain adaptation without a high-level selector or terrain classifier. Experiments on a Unitree Go1 in simulation and on hardware across seen and unseen terrains show task-aware specialization, with lower tracking error and higher success rates than monolithic baselines. Project Website: https://cts-moe.github.io/ .
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.19633v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
ACLArena: 다단계 사후 학습에서의 에이전트 지속 학습
ACLArena: Agent Continue Learning in Multi-stage Post-training
산업 배포를 위한 범용 에이전트를 구축하려면 여러 역량을 통합해야 하며, 각 역량은 일반적으로 서로 다른 학습 단계에서 습득된다. 그러나 현재 에이전트 지속 학습(Agent Continual Learning, ACL)에 대해 잘 정립된 방법론은 없으며, 기존 통합 패러다임 간 트레이드오프에 대한 이해도 부족하다. 이 공백을 메우기 위해 ACL을 포괄적으로 연구·분석·평가하기 위한 프레임워크인 ACLArena를 제안한다. 우리는 먼저 순차적 학습 파이프라인을 구축하고, 모델 수준과 토큰 수준이라는 두 상보적 관점에서 망각과 일반화의 메커니즘을 설명하는 심층 분석을 수행한다. 이 분석을 바탕으로, 다중 교사 온-정책 지식 증류, 자기 증류 기반 미세조정, 모델 병합을 체계적으로 비교하여 이전에 학습한 역량을 회복하면서 새로 습득한 역량을 보존하는 능력을 평가한다. 광범위한 실험을 통해 단계 간 역량이 어떻게 전이되는지에 대한 상세한 이해를 얻는다. 마지막으로, 고품질 궤적에 대한 오프라인 리플레이와 강화학습(RL)을 통해 각각 특화된 다중 LoRA 전문가의 라우팅 네트워크를 결합한 새로운 ACL 방법론을 제안하여, 여러 도메인에 걸친 학습 능력을 크게 향상시킨다. 추론 및 에이전트적 과업 4가지에 대한 포괄적 실험을 도메인 내 및 도메인 외 설정 모두에서 평가한 결과, 우리 분석의 가치와 접근법의 효과가 입증된다.
VideoGen-Agent: 비디오 생성 에이전트 강화
VideoGen-Agent: Reinforcing Video Generation Agents
FedGuide: 이종 연합 강화학습을 위한 확산 사전확률 정렬 및 가치 기준선 유도
FedGuide: Diffusion Prior Alignment and Value Baseline Guidance for Heterogeneous Federated Reinforcement Learning
연합 강화학습(Federated Reinforcement Learning, FRL)은 이종의 환경을 가진 분산 에이전트 간의 협력적 정책 학습(policy learning)을 가능하게 합니다. 분산 감소, 다이버전스 페널티 부여, 모멘텀(momentum) 최적화에 기반한 최근 방법들이 이종 환경 설정에서 FRL을 개선하고 있지만, 여전히 주로 정책 또는 가치 네트워크 파라미터를 동기화하는 데 그치며 이종 클라이언트 간의 분포 불일치 문제를 명시적으로 해결하지 못합니다. 이에 따라 본 논문에서는 이종 로컬 정책 학습을 위해 개인화된 데이터 지지 분포(data supported distribution)를 제공하는 행동 모델로 확산 사전확률(diffusion prior)을 사용하는 FRL 프레임워크인 FedGuide를 제안합니다. FedGuide는 로컬 정책을 직접 평균화하는 대신, 최적 수송 전문가 혼합(Optimal-Transport Mixture-of-Experts, OT-MoE)을 통해 이러한 확산 사전확률들을 집계하여 분포 공간에서 이종 행동 모드를 보존합니다. 나아가 로컬 정책 개선을 위한 저분산 및 수익 인식 유도를 제공하고자 분포 교정 추정(Distribution Correction Estimation, DICE) 가치 기준선(value baseline)을 개발합니다. 이종 환경 전반에 걸친 실험 결과, FedGuide는 더 강한 이종성 하에서도 안정적인 학습을 유지하면서 클라이언트 평균 수익, 최종 라운드 성능, 최악 라운드 견고성 측면에서 대표적인 FRL 방법들을 능가함을 보여줍니다.
사전식 다중 목적 온-정책 증류
Lexicographic Multi-Objective On-Policy Distillation
검증 가능한 보상 기반 강화학습(RLVR)은 일반적으로 정답의 정확성을 최적화하지만, 유용한 언어 모델 동작을 위해서는 고품질의 추론과 간결한 응답 또한 필요합니다. 기존의 다중 보상 사후 학습(post-training) 방법들은 대개 보상을 스칼라화하거나 명시적인 보상 우선순위를 보호하지 않고 전문가 모델들을 결합합니다. 이는 트레이드오프가 비대칭적일 때 문제가 됩니다. 예를 들어 간결성을 개선하기 위해 정확성을 희생해서는 안 됩니다. 본 논문에서는 명시적인 우선순위 하에서 보상 특화 정책들을 통합하기 위한 다중 교사 방법인 사전식 다중 목적 온-정책 증류(LMOPD)를 소개합니다. 학생 모델의 각 롤아웃(rollout)에 대해, LMOPD는 게이트가 결함을 감지한 첫 번째 목적의 전문가를 선택한 다음, 더 높은 우선순위의 전문가와 상충하는 구성 요소를 제거하도록 중심화된 로그-정책 보정을 국소적으로 투영합니다. 저자들은 3개의 수학 벤치마크에서 2개 및 4개 전문가 설정의 30B-A3B 전문가 혼합(MoE) 트랜스포머 모델을 평가하여 유지된 전문가 성능 향상을 측정합니다. 2개 전문가 설정에서 LMOPD의 점 추정치는 정확도와 추론 품질 향상을 온전히 유지하면서 간결성 향상의 $46.9\%$를 확보합니다. 4개 전문가 설정에서는 차상위 기준선(baseline)이 $\approx57\%$에 그친 것에 비해 정확도 향상과 추론 정확성 향상을 모두 $\approx90\%$ 유지합니다. 동일 조건의 4개 전문가 어블레이션 연구는 사전식 라우팅이 무작위 라우팅보다 우수하며 투영이 최우선 역량을 더욱 강화함을 보여줍니다. 두 규모 모두에서 LMOPD는 평가된 기존 기준선보다 최우선 역량을 더 효과적으로 보존하여 전문가 통합에서 명시적 우선순위의 가치를 입증합니다.
QATFactory: LLM의 양자화 인식 학습 및 증류를 위한 다목적 배포 정렬 프레임워크
QATFactory: A Versatile, Deployment-Aligned Framework for Quantization-aware Training and Distillation of LLMs
대규모 언어 모델(LLM) 추론은 하드웨어 가속기의 처리량을 최대한 활용하기 위해 점차 저정밀도로 전환되고 있으나, 공격적인 사후 학습 양자화(PTQ)는 모델 성능을 저하시킬 수 있습니다. 본 논문에서는 배포 환경에 정렬된 양자화 인식 증류(QAD) 및 강화학습(QARL)을 위한 오픈소스 프레임워크인 QATFactory를 제시합니다. QATFactory는 BF16으로 행렬 곱셈을 수행하면서 배포 시점의 양자화를 시뮬레이션하므로, 목표 포맷을 네이티브로 지원하는 학습 하드웨어 없이도 모델이 양자화 노이즈에 적응할 수 있도록 합니다. 예를 들어 FP4 텐서 코어가 없는 H100 GPU에서도 NVFP4 학습을 지원합니다. 이 프레임워크는 NVFP4, MXFP4, 그리고 $\text{llama}.\text{cpp}$의 Q4_K 포맷을 지원하며, 밀집(dense) 및 전문가 혼합(MoE) 모델과 전체 매개변수 및 LoRA 기반 학습을 모두 지원합니다. 또한 추가적인 손실 변환 단계나 추론 오버헤드 없이 체크포인트를 vLLM 및 $\text{llama}.\text{cpp}$로 직접 내보냅니다. QATFactory를 활용하여 8B부터 230B 매개변수에 이르는 모델을 대상으로 광범위한 실험을 수행하고 프로덕션 추론 엔진에서 내보낸 체크포인트를 평가했습니다. 다양한 모델과 포맷 전반에서 QAD는 강력한 PTQ 베이스라인 대비 배포된 모델의 품질을 일관되게 향상시킵니다. Qwen3.5-9B의 경우, QAD는 NVFP4 환경에서 68.9%, MXFP4 환경에서 66.0%의 평균 벤치마크 정확도를 달성하여 가장 우수한 PTQ 결과인 각각 65.4%와 56.4%를 능가했습니다. 실험을 통해 두 FP4 포맷 모두 배포 시 가중치와 활성화를 양자화함에도 불구하고 최적의 학습 전략은 포맷에 따라 다르다는 점을 발견했습니다. NVFP4는 학습 중 가중치만 양자화할 때 전반적으로 더 나은 성능을 보이는 반면, MXFP4는 가중치와 활성화를 모두 양자화할 때 이점을 얻습니다. 고정된 학습 토큰 예산에서, 더 많은 4K 시퀀스로 학습하는 것보다 더 적은 수의 32K 시퀀스로 학습할 때 평균 정확도가 1.9%포인트 향상됩니다.
Live Assistant: 실제 라이브 소셜 스트림에서 지원 여부, 시점 및 대상을 학습하기
Live Assistant: Learning Whether, When, and Whom to Assist in Real-World Live Social Streams
라이브 스트리밍은 시청각 콘텐츠, 시청자 활동, 호스트의 행동, 플랫폼 신호가 함께 진화하는 장기적인 상호작용 환경으로, 스트림 자체로부터 지원(assistance)에 대한 요구가 자연스럽게 발생합니다. 본 논문에서는 라이브 스트림 상호작용을 네 가지 결합된 결정, 즉 행동 여부(whether to act), 행동 시점(when to act), 대화 대상(whom to address), 소통 내용(what to communicate)으로 정식화하는 혼합 주도형(mixed-initiative) 및 역할 조건부 지원 프레임워크인 \liveassistant를 소개합니다. 10초 간격마다 하나의 자기회귀(autoregressive) 정책이 동기화된 댓글, 후원 선물, 시청자 역학, 방송방 메타데이터와 함께 원본 오디오 및 비디오를 입력받아 \textsc{OBS}, \textsc{MEM}, 또는 \textsc{ANS}를 선택합니다. \textsc{OBS}는 침묵을 유지하고, \textsc{MEM}은 비공개 의미론적 업데이트를 기록하며, \textsc{ANS}는 수신자, 태스크, 그라운딩된 메시지를 지정합니다. 이 태스크를 지원하기 위해 실제 라이브 스트림 세션을 구조화된 인과적 지도 신호로 재구성하는 궤적 엔진을 구축하여, 320시간 이상의 최적화(optimization) 궤적과 275개 클립 및 13,812개 결정 구간으로 구성된 인간 검토 벤치마크를 생성했습니다. 희소한 구조화 결정을 강화하는 마커 인식 다중 턴 지도 미세조정(MA-MSFT)으로 정책을 학습(training)한 후, 턴 및 궤적 수준의 크레딧으로 자체 생성된 궤적을 최적화하는 스트리밍 다중 턴 GSPO(SM-GSPO)를 적용합니다. 미공개(held-out) 벤치마크에서 \liveassistant는 상태 정확도 71.14%, 수신자 정확도 72.67%, 태스크 정확도 58.41%를 달성하며 대표적인 스트리밍 및 범용 멀티모달 베이스라인 대비 일관된 성능 향상을 보였습니다. 종합적으로 이러한 공식화, 벤치마크, 학습 프레임워크는 라이브 스트림 지원을 공유 소셜 스트림에서의 선택적 참여로 정립합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.