다국어 지시 미세조정에는 최적의 언어 집합이 존재하지 않는다: 언어학적 정보 기반 연구의 통찰
No Optimal Language Set Exists for Multilingual Instruction Tuning: Insights from a Linguistically-Informed Study
다국어 지시 미세조정(MIT)은 다국어의 저주, 데이터 부족, 높은 계산 비용으로 인해 어려움을 겪는다. 자연스러운 가설은 언어학적으로 다양한 언어 집합을 신중하게 선택하면 보편적으로 더 나은 모델을 얻을 수 있다는 것이다. 우리는 유형론적, 지리적, 의미적, 학습된 특징에 기반한 언어학적 정보 기반 선택 전략을 무작위 기준선과 비교 평가하여, 세 가지 모델 패밀리(mGPT, mT5-xl, BLOOM)와 다섯 개의 다국어 벤치마크에 걸쳐 이를 체계적으로 검증한다. 우리의 핵심적인 부정적 발견은 고정 예산 설정에서 보편적인 언어 선택 전략이 나타나지 않는다는 것이다. 성능은 작업과 모델에 크게 의존하며, 적당한 임계값을 넘어 더 많은 언어를 추가하면 다국어의 저주와 일치하는 성능 저하가 발생한다. MIT 데이터 큐레이션에 대한 함의와 벤치마크 평균 평가의 함정에 대해 논의한다. 모든 자료는 https://github.com/GGLAB-KU/ling-informed-mit 에서 공개적으로 이용할 수 있다.