arXiv:2003.13249

Towards Stable and Comprehensive Domain Alignment: Max-Margin Domain-Adversarial Training

Jianfei Yang, Han Zou, Yuxun Zhou, Lihua Xie

제출 2020-03-30

원문 초록

Domain adaptation tackles the problem of transferring knowledge from a label-rich source domain to a label-scarce or even unlabeled target domain. Recently domain-adversarial training (DAT) has shown promising capacity to learn a domain-invariant feature space by reversing the gradient propagation of a domain classifier. However, DAT is still vulnerable in several aspects including (1) training instability due to the overwhelming discriminative ability of the domain classifier in adversarial training, (2) restrictive feature-level alignment, and (3) lack of interpretability or systematic explanation of the learned feature space. In this paper, we propose a novel Max-margin Domain-Adversarial Training (MDAT) by designing an Adversarial Reconstruction Network (ARN). The proposed MDAT stabilizes the gradient reversing in ARN by replacing the domain classifier with a reconstruction network, and in this manner ARN conducts both feature-level and pixel-level domain alignment without involving extra network structures. Furthermore, ARN demonstrates strong robustness to a wide range of hyper-parameters settings, greatly alleviating the task of model selection. Extensive empirical results validate that our approach outperforms other state-of-the-art domain alignment methods. Moreover, reconstructing adapted features reveals the domain-invariant feature space which conforms with our intuition.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.01001v1cs.AI공통 태그 Domain Adaptation, Model Selection

제어된 월드 모델 적응을 위한 보정 위험 기반 라우팅

Calibration-risk routing for controlled world-model adaptation

모델 기반 강화학습(MBRL)은 시뮬레이션된 경험을 활용할 수 있지만, 시뮬레이터와 타깃 간의 분포 변화(shift)로 인해 모델 선택 문제가 발생합니다. 제한된 타깃 데이터 환경에서는 시뮬레이터를 보정하는 방식과 타깃에 직접 적합(fitting)시키는 방식 모두 실패할 수 있습니다. 본 논문에서는 초기 타깃 데이터를 서로 겹치지 않는 적합, 선택, 보정(calibration) 분할로 나누고 표준화된 보정 위험이 더 낮은 모델 패밀리를 배포하는 모델 보정 월드 모델(MC-WM)을 소개합니다. 학습된 신뢰도 신호와 결정론적 유효성 술어(predicate)는 물리적 보상을 다시 작성하지 않고도 1단계 가상 정책 업데이트에 가중치를 부여합니다. 우리는 제어된 세 가지 MuJoCo(Multi-Joint dynamics with Contact) 변화 전반에 걸쳐 보고된 540개의 고유 실행 셀을 평가했으며, 배포 전 아티팩트 게이트를 거친 후 정확한 라우팅 셀 하나를 재실행하여 총 541개의 완료된 실행을 얻었습니다.

arXiv:2610.01291v2cs.CV공통 태그 Domain Adaptation

ODDR: 보상 가이던스를 통한 단일 단계 그림자 제거 확산 모델

ODDR: One-Step Deshadow Diffusion via Reward Guidance

그림자 제거를 위한 심층 학습(deep learning)의 최근 발전은 이미지 품질과 사실성을 크게 향상시켰습니다. 그러나 대부분의 접근 방식은 수집 비용이 많이 들고 장면 다양성이 제한적인 경우가 많은 실제 쌍(paired) 데이터셋에 의존하므로 일반화 성능이 제한됩니다. 이러한 한계를 해결하기 위해, 우리는 실제 쌍으로 구성된 지도학습(supervision)에 의존하지 않고도 효율적이고 충실도 높은 그림자 제거를 달성하는 새로운 프레임워크인 보상 가이던스를 통한 단일 단계 그림자 제거 확산 모델(One-step Deshadow Diffusion via Reward guidance, ODDR)을 제안합니다. 본 연구의 방법은 효율적인 단일 단계 무그림자 재구성을 위해 합성 그림자 데이터로 학습된 기준선(baseline) 모델인 One-step Deshadow Diffusion(ODD)에서 시작합니다. 나아가 우리는 ShadowReward를 사용하여 ODD를 ODDR로 발전시킵니다. 주석(annotation) 작업이 많이 필요한 기존 방식과 달리, ShadowReward는 인간의 주석 없이 전적으로 학습된 그림자 제거용 최초의 보상 모델(reward model)입니다. 이는 질감 왜곡 및 경계 아티팩트와 같이 통제된 품질 저하가 적용된 합성 생성 이미지를 순위화하여 인간의 지각적 판단을 모방하도록 학습합니다. 이러한 보상 기반 미세조정(fine-tuning)을 통해 ODDR은 합성-실제 간 도메인 간극을 좁힐 수 있습니다. 광범위한 실험을 통해 ODD는 실제 쌍 지도학습에 의존하지 않고도 강력한 성능을 달성하며, ODDR은 결과를 더욱 향상시켜 단일 단계 모델로서 더 높은 연산 효율성을 유지하면서도 실제 쌍 데이터로 학습된 완전 지도학습 방식과의 격차를 좁힘을 보여줍니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.