FeatCal: 병합 후 모델을 위한 특징 보정
FeatCal: Feature Calibration for Post-Merging Models
모델 병합(Model merging)은 여러 태스크 전문가 모델을 하나의 모델로 결합하여 공동 학습(joint training), 재학습 또는 다수의 전문가 모델 배포를 피할 수 있게 하지만, 병합된 모델은 여전히 개별 태스크 전문가 모델보다 성능이 떨어지는 경우가 많습니다. 본 연구에서는 동일한 입력에 대해 병합된 모델과 전문가 모델이 생성하는 특징(feature) 간의 차이인 특징 드리프트(feature drift)를 통해 이러한 성능 격차를 분석합니다. 본 연구의 이론은 이 드리프트를 상류 전파(upstream propagation)와 국소적 불일치(local mismatch)로 분해하고, 순방향 순서로 이후 층(layer)들을 거치며 어떻게 전파되고 결합되는지 추적하며, 최종 특징 드리프트를 출력 드리프트와 연결합니다. 이러한 관점에 기반하여 소규모 보정 데이터셋을 사용해 병합된 모델 가중치를 순방향 순서로 층별 보정하는 FeatCal을 제안합니다. FeatCal은 병합된 가중치와 가깝게 유지하면서 특징 드리프트를 줄여 모델 병합의 이점을 보존합니다. FeatCal은 경사하강법(gradient descent), 반복적 최적화(iterative optimization) 또는 추가 모듈 없이 효율적인 닫힌 형태의 해(closed-form solution)를 사용하여 모델 가중치를 업데이트합니다. 주요 CLIP 및 GLUE 벤치마크에서 FeatCal은 가장 유사한 병합 후 보정 베이스라인인 Surgery 및 ProbSurgery를 능가하여, CLIP-ViT-B/32 Task Arithmetic(TA)에서 85.5% 대 77.0%/78.8%, FLAN-T5-base GLUE에서 85.2% 대 83.7%/82.2%를 기록했습니다. CLIP-ViT-B/32의 경우 태스크당 8개의 예시만으로 82.9%에 도달하며, 태스크당 256개의 예시 기준 53초가 소요되어 두 베이스라인 대비 약 4배 빨라 더 우수한 샘플 효율성과 더 낮은 보정 비용을 보여줍니다.