Continual Domain Adversarial Adaptation via Double-Head Discriminators
원문 초록
Domain adversarial adaptation in a continual setting poses a significant challenge due to the limitations on accessing previous source domain data. Despite extensive research in continual learning, the task of adversarial adaptation cannot be effectively accomplished using only a small number of stored source domain data, which is a standard setting in memory replay approaches. This limitation arises from the erroneous empirical estimation of $\gH$-divergence with few source domain samples. To tackle this problem, we propose a double-head discriminator algorithm, by introducing an addition source-only domain discriminator that are trained solely on source learning phase. We prove that with the introduction of a pre-trained source-only domain discriminator, the empirical estimation error of $\gH$-divergence related adversarial loss is reduced from the source domain side. Further experiments on existing domain adaptation benchmark show that our proposed algorithm achieves more than 2$\%$ improvement on all categories of target domain adaptation task while significantly mitigating the forgetting on source domain.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
ORDER: 도메인 적응형 체화 AI(Embodied AI)를 위한 허구 세계 벤치마크
ORDER: A Fictitious-World Benchmark for Domain-Adaptive Embodied AI
연속 사전학습(continual pre-training)으로 언어 모델을 새 도메인에 적응시키면 근본적인 평가 문제가 생긴다. 학습 코퍼스가 모델이 이미 알고 있는 내용과 겹치면, 성능 향상을 새로운 학습이 아니라 기존 지식 탓으로 깔끔하게 구분할 수 없기 때문이다. 이는 지식 집약·과업 경량(knowledge-intensive, task-light, KHTL) 로봇 배치—의약품 조제, 유해 물질 취급, 시설별 규정 등—에서 특히 중요하다. 여기서 물리적 과업은 단순하지만 적용 규칙은 독점적이며 안전에 critical하고, 광범위한 현장 시험은 비용이 크거나 위험하다. 본 논문은 ORDER(Ontology-driven Decision-making for Embodied Reasoning)를 제안한다. ORDER는 허구 세계 위에 구축된 벤치마크로, 어떤 모델의 사전학습 데이터에도 등장할 수 없는 자기 일관적 물리를 정의하는 342,069토큰 규모의 합성 코퍼스를 바탕으로 한다. ORDER는 500문항 지식 시험(ORDER-BENCH)과 더 어려운 구성(compositional) 과업 ORDER-SPATIAL—익숙한 장면과 완전히 새로운 장면 모두에서 안전한 조작을 위한 객체 순서 정하기—to 짝지운다. 적응 없이 GPT-4.1은 ORDER-SPATIAL에서 우연 수준 이하(Kendall's tau = 0.441)를 기록하며, 선험(prior)이 발명된 물리와 적극적으로 충돌함을 보여준다. 연속 사전학습 이후 소형 모델은 익숙한 장면과 새로운 장면 모두에서 크게 향상되어, 암기가 아닌 진정한 세계 모델 유도(world-model induction)의 증거를 제공한다. 이어 로봇 파이프라인까지 확장한다. 지식 시험을 잘 통과하는 모델도 추가 스킬 적응(skill-adaptation) 단계 없이는 유효하고 실행 가능한 계획을 종종 만들지 못한다. 그 단계 이후 완전 오프라인 소형 모델은 GPT-4.1이 동일 규칙에 대한 검색(retrieval) 접근을 제공받는 경우에도 GPT-4.1을 능가한다(Kendall's tau = 0.848 대 0.606). 이는 human-in-the-loop 보정이 포함된 시뮬레이션 iiwa7 팔에서 지각부터 실행까지의 전체 루프로 시연된다. 전반적으로 실제 계획 품질을 예측하는 것은 지식 시험 정확도가 아니라 ORDER-SPATIAL 성능이다.
BrainIAC: 온라인 적응을 통한 이종 MRI 모달리티 전반에서의 대화형 3D 뇌 병변 분할
BrainIAC: Interactive 3D Brain Lesion Segmentation across Heterogeneous MRI Modalities with Online Adaptation
뇌 병변 분할은 의료 영상 분석의 핵심 과제로, 진단, 치료 계획 수립, 장기적인 질환 모니터링에서 결정적인 역할을 수행합니다. 그러나 기존 모델들은 스캐너 하드웨어, 이미징 프로토콜(다양한 MRI 모달리티 조합)의 차이 및 새로운 병리적 특성으로 인해 발생하는 데이터 분포 변화(distribution shift)가 존재하는 실제 임상 현장의 요구 조건을 충족하는 데 여전히 어려움을 겪고 있습니다. 본 논문에서는 다음 요소들을 통합한 단일 프레임워크인 BrainIAC(Brain lesion Interactive Adaptive Continuously learning segmentation)를 제안합니다: (i) 제로 필링(zero-filling) 및 무작위 모달리티 드롭(random modality dropping)을 통해 다양한 유형의 뇌 병변을 분할하고 이종 모달리티 조합을 처리하도록 학습(training)된 멀티모달 백본 네트워크, (ii) 프롬프트(prompt)가 주어지지 않을 때 완전 자동 예측을 유지하면서 바운딩 박스 및 클릭 프롬프트를 활용하는 3D 대화형 분할(interactive segmentation), (iii) 네트워크 자체의 예측값을 의사 라벨(pseudo label)로 활용하여 지도 학습을 수행하고 추가적인 클릭 중심 가우시안 손실(Click-Centered Gaussian loss)의 안내를 받는 상호작용 중(Mid-Interaction) 적응과 상호작용 후(Post-Interaction) 적응을 결합한 온라인 적응 메커니즘. 저자들이 아는 한, 이는 대화형 분할을 위한 최초의 3D 온라인 적응 방법 중 하나이며, 이종 모달리티 조합 처리와 온라인 적응을 결합한 최초의 연구입니다. 7개의 뇌 MRI 데이터셋(dataset)을 활용한 실험을 통해 제안된 구성 요소들이 상호 보완적이고 시너지 효과를 내는 이점을 제공함을 입증했습니다. 제안 방법은 기존 접근 방식들을 지속적으로 능가하며, 학습 중 보지 못한 모달리티를 포함한 이종 이미징 모달리티 전반은 물론 이전에 보지 못한 뇌 병리 유형에 대해서도 우수한 일반화 성능을 보입니다. 코드 및 3D Slicer 플러그인은 논문 게재 시 https://github.com/WenTXuL/BrainIAC 에 공개될 예정입니다.
학습 없는 생성형 리플레이 기반 클래스 증분 학습에서 합성-실제 도메인 단축 경로 극복
Breaking the Synthetic-Real Domain Shortcut for Training-Free Generative Replay-based Class Incremental Learning
클래스 증분 학습(CIL)은 모델이 치명적 망각(catastrophic forgetting)을 피하면서 지속적으로 새로운 지식을 습득해야 한다. 예시(exemplar) 리플레이는 효과적이지만 프라이버시와 저장 공간 측면에서 우려를 제기한다. 따라서 생성형 리플레이가 실현 가능한 대안으로 부상했으며, 추가 학습 없이 고정된 사전학습(pre-trained) 텍스트-이미지(T2I) 모델을 사용해 이전 클래스 데이터를 합성한다. 그러나 증분 학습 중 합성된 이전 클래스 데이터와 실제 새 클래스 데이터를 직접 혼합하면 성능이 크게 저하된다는 것을 관찰했다. 이 문제는 모델이 의미적 클래스 단서 대신 도메인 판별(discriminative) 특징에 의존하는 "도메인 단축 경로(domain shortcut)"에서 비롯된다. 이를 해결하기 위해 DREAM($\underline{\mathbf{D}}$omain-$\underline{\mathbf{R}}$egularized $\underline{\mathbf{E}}$xemplar-free $\underline{\mathbf{A}}$lignment $\underline{\mathbf{M}}$odel)을 제안한다. DREAM은 학습 없는 생성기로 이전 클래스 데이터를 합성하고, 부분공간(subspace) 정정(rectification)과 직교 투영(orthogonal projection)을 통해 도메인 단축 경로를 제거하며, 실제 데이터에 고정된(real-anchored) 프로토타입 정규화(prototype regularization)로 의미적 정렬(alignment)을 강화한다. 4개 데이터셋에 대한 광범위한 실험에서 DREAM은 기존 예시 없는 CIL 방법을 능가하며 최첨단(state-of-the-art) 성능을 달성한다. 소스 코드는 https://github.com/Light-ZhangTao/DREAM 에서 제공된다.
장기 뇌-기계 인터페이스를 위한 불확실성 기반 자기 주도 학습 기반 순환 적응-일반화 프레임워크
A Cyclic Adaptation-Generalization Framework with Uncertainty-Guided Self-Paced Learning for Long-Term Brain-Machine Interfaces
뇌-기계 인터페이스(BMI)는 뇌와 외부 장치를 연결하여 재활, 인간 성능 증강, 인간 중심 로봇공학에서 큰 잠재력을 지닌다. 그러나 침습적 BMI는 신경 드리프트(neural drift)로 인해 장기 배치에 있어 중대한 과제에 직면한다. 신경 드리프트는 시간이 지남에 따라 디코딩 성능을 저하시키고 빈번한 재보정을 필요로 한다. 신경 드리프트를 완화하기 위해 설계된 기존 방법들은 일반적으로 도메인 적응(DA) 또는 도메인 일반화(DG) 중 하나에만 의존하며, 신경 서브도메인에 걸친 세밀한 분포 변화를 포착하지 못하는 경우가 많아 성능이 제한된다. 이러한 한계를 극복하기 위해, 우리는 불확실성 기반 자기 주도 의사 라벨링(UnSPL) 메커니즘 하에서 목표 도메인 정제를 위해 DA와 DG를 시너지하는 강건한 프레임워크인 Uncertainty-guided Self-paced Cycling(UnSPC)를 제안한다. 도메인 간 서브도메인 신경 드리프트를 처리하기 위해 UnSPL은 노이즈에 강건한 순위 전략으로 신뢰할 수 있는 의사 라벨 샘플을 반복적으로 탐색하여 추가 미세조정을 수행하도록 제안된다. 이러한 고품질 샘플을 활용하여, 우리는 DA와 DG를 반복적 순환 내에서 통합하여 전역 및 서브도메인 드리프트를 점진적으로 완화하는 새로운 Cycling Adaptation and Generalization(CycAG) 전략을 도입한다. 이 순환 과정은 진화하는 목표 분포에 대한 효과적인 정렬을 가능하게 하면서 강건하고 전이 가능한 표현을 보존하여, 장기 신경 드리프트 하에서의 성능 저하를 완화한다. 다수의 신경 디코딩 데이터셋에 대한 광범위한 실험은 UnSPC의 효과와 강건성을 입증한다. 우리가 아는 한, 제안한 UnSPC는 의사 라벨링과 DA 및 DG를 순환적으로 통합한 최초의 방법으로, 안정적인 장기 BMI 제어를 향한 길을 열어준다.
구축된 현실, 경합적 사전분포: 자유 에너지 원리 하에서의 분리와 인지 재발의 구조
Constructed Reality, Contested Priors: Decoupling and the Architecture of Cognitive Relapse Under the Free Energy Principle
자유 에너지 원리(FEP) 하에서 예측 시스템은 현실을 직접 관측하지 않으며, 세계에 대한 생성 모델을 유지하고 그 모델의 현재 최선 가설을 경험한다. 합성 환경을 충분히 일관되게 만들 수 있어 예측 시스템의 추론 기작이 이를 기본 가설로 채택하고, 처음 형성시킨 환경을 영구적으로 대체하게 할 수 있을까? 우리는 이 상태를 존재론적 전도(ontological inversion)라고 부른다. 신경계에서 그러한 전이를 유도하고 모니터링하는 것은 윤리적으로도 기술적으로도 불가능하므로, 우리는 통제된 대리(proxy)를 통해 근본적인 계산 문제를 연구한다: 순환 잠재 예측기와 결합된 합성곱 변분 오토인코더(convolutional VAE)로, 증거 하한(ELBO) 목적함수가 부호에 한해 변분 자유 에너지(variational free energy) 자체와 수학적으로 동일하다. 네트워크는 먼저 기준선 시각 도메인에서 학습한 뒤, 기준선 콘텐츠가 목표 도메인으로의 전환 동안 얼마나 지속되는지를 스위프된 리허설 비율 r이 제어하는 혼합 스트림에서 학습된다. 표상 용량, 즉 잠재 공간이 구별할 수 있는 것은, 제약 없이 두었을 때 시스템이 생성하는 기본 행동(default behavior)과 별도로 추적된다. 90회 실행에 걸친 전체 스위프에서 두 지표는 급격히 갈라진다: 표상 정확도는 r와 관계없이 0.97에서 0.998의 천장 근처를 유지하는 반면, 기본 행동은 r만에 따라 시스템 전체 범위에 걸쳐 변하며, 이는 학습과 수용(acceptance)의 분리(decoupling)이다. 더 두드러진 것은, 중간 r에서 시스템의 기본 출력이 목표 도메인 쪽으로 상승했다가 학습이 변하지 않은 채로 기준선 쪽으로 부분적으로 되돌아가는 현상으로, 우리는 이 구조적 실패를 인지 재발(cognitive relapse)이라 부른다. 현실 채택에 대한 저항은 학습 속도로 환원될 수 없으며, 고유한 실패 양식을 가진 구조적 속성이다. 여기서는 이를 계산적 존재 증명으로만 확립하고 그 이상은 다루지 않는다.
연속 가짜 음성 탐지에서 망각 방지를 위한 역추적 변환기
Traceback Translators Against Forgetting in Continual Fake Speech Detection
가짜 음성 탐지기는 점점 더 정확해지는 생성 모델의 발전으로 어려움을 겪고 있다. 이 문제에 대응하기 위해 연속 학습(continual learning) 기법은 새로운 데이터셋에 모델을 업데이트하는 실행 가능한 전략으로 널리 고려되고 있지만, 이전에 본 샘플에 대한 성능 저하(파국적 망각, catastrophic forgetting)도 초래한다. 본 연구에서는 동결된 탐지기 내 도메인 변환기(domain translator)를 도입하여 역추적 변환기(traceback translator) 네트워크를 통해 새로운 특징 공간을 원래 공간으로 재매핑하는 망각에 강인한 해결책을 제안한다. 실험 결과, 이 전략이 기존 재학습 대비 높은 탐지율을 달성하면서 계산 비용을 최소화하고 이전 데이터에 대한 탐지 정확도를 유지할 수 있음을 보여준다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.