arXiv:2611.24145v1 cs.CV

재생 없는 도메인 점진 학습을 위한 상속 어댑터 전문가

Inherited Adapter Experts for Replay-Free Domain-Incremental Learning

Gyutae Oh, Hyunmin Kong, Jitae Shin

제출 2026-11-19

한국어 초록

재생이 없는 도메인 점진 학습은 이전 이미지를 보관하지 않은 채 연속적인 도메인에서 동일한 클래스들에 대해 모델을 학습시킨다. 도메인별 학습기는 사전 학습된 ViT를 고정하고 새 도메인마다 추가 전문가, 즉 해당 도메인에서 학습된 소규모 파라미터 집합과 분류 헤드를 학습한다. 테스트 이미지에는 도메인 레이블이 없으므로 라우터가 각 이미지에 대해 하나의 전문가를 선택한다. 최근 연구는 이 라우터를 학습한다. 그러나 학습이 필요 없는 Mahalanobis 라우터는 각 이미지의 자기 도메인 전문가를 항상 선택하는 경우에 비해, 분석 대상 학습기들의 최종 정확도를 2.7포인트 미만만큼만 낮춘다. 정확도를 제한하는 것은 이 라우터가 아니라 전문가이다. 따라서 본 논문의 학습기 Lamarck는 이 라우터를 사용하고 전문가를 강화한다. 깊은 ViT 블록마다 뒤에서 모든 이미지 토큰을 보정하는 소규모 학습 가능 계층인 어댑터는 딥페이크 벤치마크 CDDB-Hard에서 최종 정확도를 4.4포인트 높인다. 아울러 각 전문가는 추가 비용 없이 이전 전문가로부터 초기화되는데, 도메인들이 클래스를 공유하므로 이후 전문가로 잘못 라우팅된 이미지도 손실이 더 적다. 하나의 프로토콜 아래에서 12개의 고정 백본 기준선과 비교할 때, Lamarck는 CDDB-Hard에서 5.2포인트 차이로 1위, DomainNet과 OfficeHome에서 2위이며 평균 정확도는 가장 높다.

원문 초록

Replay-free domain-incremental learning trains a model on the same classes in successive domains without keeping earlier images. Per-domain learners freeze a pre-trained ViT and train an additional expert for each new domain: the small set of parameters and the classification head learned on that domain. Test images carry no domain label, so a router selects one expert for each image. Recent work trains this router. However, a training-free Mahalanobis router costs the analyzed learners under 2.7 points of final accuracy relative to always selecting each image's own-domain expert. The experts, not this router, limit accuracy. Our learner, Lamarck, therefore uses this router and strengthens the experts. Its adapters, small trainable layers that correct every image token after each deep ViT block, add 4.4 points of final accuracy on the deepfake benchmark CDDB-Hard. In addition, each expert is initialized from its predecessor at no extra cost: the domains share their classes, so an image misrouted to a later expert loses less. Against twelve frozen-backbone baselines under one protocol, Lamarck is first on CDDB-Hard by 5.2 points, second on DomainNet and OfficeHome, and highest in mean accuracy.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.24145v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.