PyTorchKR Papers

최신 논문

총 69편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.21445v2cs.CL

트리비아가 결코 사소하지 않을 때: 다국어 LLM의 일상 지식 실패

When Trivia Is Not Trivial: Everyday Knowledge Failures in Multilingual LLMs

퀴즈 룸, 트리비아 나이트, 퀴즈 쇼는 정통 사실부터 일상 문화에 이르기까지 폭넓은 주제에 걸쳐 인간의 지식을 시험한다. 본 논문에서는 대규모 언어 모델(LLM)이 이러한 환경에서 경쟁력 있는 성능을 보일 수 있는지 살펴보고자, 퀴즈 형식의 질문을 활용하여 일반적인 주제와 틈새 주제 모두에서 모델을 테스트한다. 우리는 288개 주제에 걸쳐 일상적이고 문화적으로 그라운딩된 롱테일 지식을 평가하도록 설계된 다국어 벤치마크인 TriviaRoomQA를 소개한다. 이 벤치마크는 6개 유럽 언어로 된 3,300개의 병렬 객관식 질문과, 보다 세밀한 사례 연구를 위한 5,340개의 프랑스어 전용 추가 질문을 포함한다. 우리는 7B에서 70B 매개변수에 이르는 유럽, 아시아, 북미 제공업체의 30개 오픈 가중치 LLM을 평가한다. 그 결과, 모델들은 역사, 지리, 수학과 같은 지식 집약적 주제에서는 강세를 보이지만, 유명인, 음악, 영화, 뉴스와 같은 일상 대중문화 주제에서는 상당히 취약하다는 점을 발견했다. 나아가 동일한 근본 질문에 대해서도 언어에 따라 모델 성능이 달라지며, 이는 사실적 지식에 대한 접근이 항상 언어에 독립적이지는 않음을 시사한다. 요약하자면, 우리의 데이터셋과 실험은 기존의 학술 기반 포화 벤치마크에서는 포착되지 않는 중요한 지식 격차를 보여준다.

arXiv:2610.03367v1cs.AI

다국어 GSM-Symbolic: 언어 간 능력 전이를 결정하는 요인은 무엇인가?

Multilingual GSM-Symbolic: What determines capability transfer across languages?

한 언어에서 습득된 능력이 다른 언어로 어떻게 전이되는지, 혹은 무엇이 이러한 전이를 지배하는지에 대해서는 알려진 바가 거의 없습니다. 기존 평가는 비교 불가능하고 포화되기 쉬운 데이터셋에 의존하며 전이의 결정 요인들을 함께 검토하는 경우가 드뭅니다. 전이를 예측하는 요인을 식별하면 모든 언어 쌍에 걸친 소모적인 평가를 피할 수 있으며, 개발자가 저자원 언어에서의 성능을 제한하는 요소를 집중 공략할 수 있게 됩니다. 교차 언어 능력 전이를 평가하기 위해, 본 연구에서는 15개 언어에 걸쳐 항목별로 매칭된 30,000개의 질문-답변 쌍을 포괄하는 확장 가능한 다국어 수학 데이터셋인 Multilingual GSM-Symbolic을 소개합니다. 이 데이터셋은 단일 샘플로부터 수백만 개의 고품질 변형 생성을 가능하게 함으로써 과적합을 방지하고 일반화를 보장하기 위해 기호 템플릿을 활용합니다. Multilingual GSM-Symbolic을 사용하여 능력의 가장 큰 결정 요인을 모델 크기($β= 1.77$), 언어 자원 수준($β= 0.77$), 추론($β= 0.67$), 언어유형학적 거리($β= -0.25$)로 정량화합니다. 이러한 공동 추정을 통해 결정 요인들을 상호 간의 관계로 표현할 수 있습니다. 즉, 마라티어로 평가된 32B 모델은 영어에서의 10B 모델과 유사하게 동작합니다. 본 연구 결과는 모델 개발자에게 중요한 시사점을 제공하며, 모델 크기와 추론 능력이 저자원 언어와 고자원 언어 간의 성능 격차를 좁히는 반면($β= -0.27$ 및 $β= -0.20$), 유사한 수단들이 언어유형학적으로 거리가 먼 언어에는 거의 또는 전혀 영향을 미치지 않음을 보여줍니다. 전반적으로 본 분석 프레임워크는 언어 간 변량의 92%를 설명하지만 모델-언어 간 변량은 23%만 설명하며, 확인되지 않은 언어에 대한 모델의 성능을 6.0%p 이내로 예측합니다(r=.96). 타깃 언어에서 단 10개 템플릿의 측정값을 통합하면 이를 4.19%p로 낮출 수 있어, 다운스트림 데이터셋이 거의 없거나 아예 없는 상황에서도 합리적인 성능 추정이 가능해집니다.

arXiv:2609.26942v1cs.CL

인식되나 생성되지 않음: 문화적으로 특수한 친족 호칭에 대한 생성 벤치마크

Recognized but Not Produced: A Generation Benchmark for Culturally Specific Kinship Terms

기존 문헌은 다지선다 벤치마크를 사용해 대규모 언어 모델(LLM)의 다언어 친족 이해를 평가하며, 이를 인식 문제로 다룬다. 우리는 대신 두 가지 의사소통 과제에 걸쳐 세 가지 비서구 언어(힌디어, 타밀어, 한국어)에서 친족 호칭을 생성하도록 다섯 개의 오픈 가중치 LLM에 프롬프트를 주고, 이를 일치하는 선택지 지원 선택 기준선과 짝지었다. 동일한 관계-언어 셀에서 GPT OSS120B는 75개의 유효 셀 중 90.67%에서 올바른 용어를 선택하지만, 해당 시도의 36.00%에서만 수용 가능한 용어를 생성한다; Llama 3.370B도 같은 패턴을 보인다(77.92% 대 24.24%). 4지선다 조건은 후보 용어를 제시하며 문자 생성을 요구하지 않으므로, 이 차이는 어휘 지식이 온전함을 직접 증명하기보다는 평가 형식 간극으로 해석된다. 명시적으로 지정된 L3 프롬프트에서 정확도는 GLM-5.1의 72.29%부터 Llama-3.370B의 24.24%까지 크게 달라진다. 부계 혈통 우위는 언어별로 다르며, 힌디어에서는 크지만 한국어에서는 약하거나 역전되고, 타밀어의 공유 용어 쌍은 측정 변동에 대한 통제를 제공한다. 이 결과는 관계가 명시적으로 진술된 경우에도 문화적으로 특수한 친족 호칭 생성이 여전히 어렵다는 것을 보여 주며, 다지선다 검사와 병행한 생성 기반 평가의 필요성을 제기한다.

arXiv:2609.14570v2cs.CL

다국어 저자원 감정 탐지를 위한 멀티 에이전트 LLM에서 토폴로지와 다양성의 분리 분석

Disentangling Topology and Diversity in Multi-Agent LLMs for Multilingual Low-Resource Emotion Detection

멀티 에이전트 LLM 시스템은 여러 번의 추론 호출을 결합하지만, 기존 연구는 호출들이 서로 연결되는 방식과 호출들을 다양화하는 방식을 종종 혼동한다. 본 연구는 이 두 요인, 즉 추론 토폴로지(inference topology)와 에이전트 간 다양성의 원천을 독립적으로 연구한다. 통제된 $2 \times 3$ 행렬에서 병렬 집계(parallel aggregation)와 순차적 정제(sequential refinement)를 확률적 샘플링(stochastic sampling), 역할 프롬프팅(role prompting), 학습된 QLoRA 전문화(specialization)와 교차 조합하며, 각 백본 내에서 세 번의 호출 예산과 출력 프로토콜을 고정한다. Qwen2.5-14B-Instruct와 Llama-3.1-8B-Instruct를 사용하여 9개 언어에 걸친 다국어 저자원 감정 탐지에서 여섯 가지 구성을 모두 평가한다. 병렬 학습 전문화는 Qwen에서 52.83 Macro-F1로 가장 강력하며 Llama에서는 52.94에 도달한다. Qwen에서는 동일 백본의 제로샷, 퓨샷, CoT, 그리고 일곱 번 호출하는 자기 일관성(self-consistency) 베이스라인도 능가한다. 선호되는 토폴로지는 다양성의 원천에 따라 달라진다. 순차적 정제는 확률적 설정과 프롬프트 기반 설정에서 도움이 되는 반면, 학습된 설정에서의 Width(병렬) 이점은 Qwen의 2.83포인트에서 Llama의 0.17포인트로 줄어든다. 깊이(depth)별 분석은 이후 단계의 학습된 전문가가 올바른 초기 예측을 덮어쓸 수 있음을 시사하지만, 전체적인 효과는 백본에 따라 달라진다. 종합하면, 에이전트를 어떻게 차별화하는가가 토폴로지보다 더 큰 성능 변화를 만들어내며, 토폴로지는 전문화와 함께 공동으로 평가되어야 한다.

arXiv:2607.14480v3cs.CL

LLM 평가자는 언어 간 바이어스를 보인다

Lower-Resource, Higher Scores: Language Bias in LLM Evaluators

LLM 평가자(학습된 보상 모델 및 프롬프트 기반 LLM-as-a-Judge)는 일반적으로 쌍별 정확도(pairwise accuracy)를 통해 검증된다. 다국어 환경에서는 높은 쌍별 정확도가 신뢰할 수 있고 언어 중립적인 채점을 의미한다는 전제 하에 작동한다. 우리는 이 가정이 성립하지 않음을 보인다. 23개 언어에 걸쳐 의미적으로 동일한 지시-응답 쌍으로 실험을 수행한 결과, 다국어 평가자가 평가 언어에 따라 현저히 다른 점수를 부여함을 발견했다. 바이어스는 통계적으로 유의하며, 서로 다른 아키텍처와 학습 패러다임을 가진 8개의 오픈 가중치 평가자 전반에서 일관되며, 최첨단 judge에서도 지속되고, 언어 자원 수준과 강한 상관관계를 보인다: 저자원 언어가 더 관대하게 채점된다. 한편 이러한 바이어스는 쌍별 정확도로는 드러나지 않는다. 평가자는 90% 이상의 쌍별 정확도를 달성하지만, 전역 결정 임계값 하에서 언어 간 수용률에 최대 43%의 차이가 있으며, 이는 예를 들어 저자원 언어의 유해 콘텐츠가 안전성 필터를 통과할 가능성이 더 높다는 것을 의미한다. 언어별 임계값은 언어 식별을 필요로 하며, 이는 코드 스위칭(code-switched) 프롬프트로 우회될 수 있다. 그다음 저자원 언어가 더 낮은 점수가 아니라 더 높은 점수를 받는 이유를 조사했으며, 모델 불확실성이 이 효과와 연관됨을 발견했다. 모델은 음의 로그-가능도(negative log-likelihood)와 토큰-자유(token-free) 불확실성 측정 모두에서 덜 확신할 때 더 높은 점수를 부여하는 경향이 있다. 그러나 불확실성을 통제한 후에도 언어 정체성은 여전히 유의미한 예측 변수로 남으며, 바이어스는 콘텐츠 난이도만으로는 설명되지 않고 구조적, 언어 수준의 정렬(alignment) 오류이다.

arXiv:2607.23545v2cs.CL

언어가 다국어 LLM의 인스트럭션 계층 준수를 형성한다

Language Shapes Instruction Hierarchy Compliance in Multilingual LLMs

인스트럭션 계층(IH)은 모델이 출처에 따라 인스트럭션의 우선순위를 정하도록 요구하며, 더 높은 우선순위의 인스트럭션이 더 낮은 우선순위의 인스트럭션을 우선하도록 보장한다. 안전하고 제어 가능한 배포에 중요함에도 불구하고, 기존 평가는 거의 전적으로 영어에 초점을 맞춰 왔으며, 다국어 설정에서 IH 준수가 안정적으로 유지되는지는 불분명하다. 우리는 6개 언어, 4개 도메인, 3가지 IH 설정에 걸친 동일 언어 및 교차 언어 충돌을 포함하는 다국어 IH 평가 벤치마크 XIH-Bench를 제안한다. 모델 전반에서 두 가지 일관된 패턴을 발견한다. 첫째, IH 준수는 명확한 언어 의존적 비대칭을 보인다. 더 높은 우선순위 위치에서 준수를 강화하는 언어는 더 낮은 우선순위 위치에서는 방해 요인이 될 수 있다. 둘째, 교차 언어 충돌은 동일 언어 충돌보다 더 높은 준수를 산출하며, 우리는 이 현상을 언어 경계 효과(Language Boundary Effect)라고 부른다. 또한 언어 특화는 모델이 선호하는 언어의 낮은 우선순위 인스트럭션을 덮어쓰기 더 어렵게 만들 수 있음을 보여주며, 이는 다국어 신뢰성 및 보안 위험을 초래한다.

arXiv:2607.22699v2cs.AI

유사성은 끝까지: LLM의 다국어 일반화는 언어 수준 유사성 구조에 의존한다

Similarity All The Way Up: Multilingual Generalization in LLMs Relies on Language-Level Similarity Structures

대규모 언어 모델(LLM)이 다양한 작업에서 더욱 유능해질수록, 그들의 일반화 (불)능력은 여전히 정량화하기 어렵고 제한된 영역을 넘어서는 이해가 부족하다. 특히 LLM은 다국어적으로 일반화하는 데 어려움을 겪는 것으로 알려져 있으며, 영어 외의 언어, 그리고 학습 데이터에서 충분히 드러나지 않은 언어로의 일반화에서 특히 그렇다. 이 원인과 어떤 모델이 다른 모델보다 더 잘 수행하는지를 이해하기 위해, 우리는 인지과학 전반에 걸친 오랜 연구에 주목하며, 성공적인 일반화는 유사성 공간(similarity space)에서의 적절한 표현(representation)에서 비롯된다고 주장한다. 우리는 LLM의 표현이 서로 다른 언어 간의 계층적 유사성 구조를 얼마나 잘 포착하는지 살펴본다. 놀랍게도, 우리는 LLM의 잠재 표현(latent representations)이 인도-유럽어족 언어 계통수의 계층적 구조를 대체로 복원함을 보인다 — 같은 하위어족(subfamily)에 속하는 언어들을 표현 공간에서 밀접하게 묶는다. 또한 모델이 언어의 유사성 구조를 반영하는 정도가 XNLI(다국어 자연어 추론 벤치마크)에서의 성능과 상관관계가 있음을 보인다. 이는 유사성 기반 일반화에 관한 고전적 연구를 대규모로 확장하며, 유사한 언어를 유사하게 표현하는 모델이 한 언어에서 다른 언어로 더 잘 일반화함을 보여준다.

arXiv:2607.23322v1cs.CL

IKS-Instruct: 언어 모델에 인도 지식 체계를 가르치기 위한 24,000개 예시 다국어 데이터셋

IKS-Instruct: A 24,000-Example Multilingual Dataset for Teaching Language Models Indian Knowledge Systems

지시 미세조정(instruction tuning)은 대규모 언어 모델(LLM)이 인간의 의도를 따르도록 적응시키는 표준 방법이 되었지만, 기존 지시 데이터셋은 영어 일반 지식 과제가 지배적이며 전문 교육 영역에 대한 커버리지가 부족하다. 본 논문은 언어 모델이 인도 지식 체계(Indian Knowledge Systems, IKS)에 기반한 교육 콘텐츠를 제공하도록 가르치기 위한 24,795개의 지시-응답 쌍으로 구성된 데이터셋 IKS-Instruct를 제시한다. 이 데이터셋은 7개 언어(영어, 힌디어, 산스크리트어, 타밀어, 텔루구어, 칸나다어, 말라얄람어)에 걸쳐 있으며, 베다 구전 및 수학 전통의 41가지 교육 기법을 다루고, 중등교육 중앙위원회(Central Board of Secondary Education, CBSE) 6~12학년 교육과정에 맞춰져 있다. 쌍은 여섯 가지 출처 유형에서 파생된다: 고전 텍스트 코퍼스(Bhagavad Gita, Thirukkural, Sangam literature, Vedic texts), 교육과정에 맞춘 교육 템플릿, 베다 수학 수트라 시연, 이중언어 지시 쌍, 기법 기반 다중 턴 대화, 교차 전통 비교 분석. 품질은 독립적인 언어 모델이 기법 충실도, 교육적 품질, 사실적 정확성, IKS 문화적 깊이를 포함한 12개 차원에서 응답을 채점하는 다중 심사자 평가 프레임워크를 통해 평가된다. 균일한 5명의 외부 심사자 패널(1,201개 계층화 항목에 대한 중앙값 집계) 하에서, 소형 7B 모델의 가장 강력한 IKS-Instruct 미세조정은 중앙 심사자 점수 6.39에 도달하며, 이는 강력한 범용 참조 모델(Nemotron-Nano, 6.54)과 0.15 이내의 차이이면서 배포 비용은 그 일부에 불과하다. 반면 IKS 미세조정 없이 사용한 기본 모델은 IKS 특화 차원에서 거의 0점에 가깝다. 모델 품질은 데이터 큐레이션에 따라 단조롭게 증가하지 않으며, 우리는 이 결과를 해당 데이터 품질 향상과 함께 보고한다.

arXiv:2607.22841v1cs.IR

다국어 금융 QA를 위한 언어 라우팅 RAG 및 직접 선택지 점수화: FinMMEval의 DS@GT

Language-Routed RAG and Direct Option Scoring for Multilingual Financial QA: DS@GT at FinMMEval

우리는 영어, 스페인어, 그리스어, 중국어, 힌디어를 아우르는 다국어 금융 시험 질의응답 벤치마크인 FinMMEval 2026 Task 1에 대한 DS@GT의 제출 결과를 제시한다. CFA, EFPA, CPA와 같은 금융 자격 시험은 표준 자연어 처리(NLP) 벤치마크가 포착하지 못하는 구조화된 도메인 추론을 요구하며, 검색 및 표현 인프라가 미발달된 언어에서는 이 과제가 더욱 가중된다. 우리는 LangGraph 기반의 검색-증강 생성(RAG) 파이프라인을 구축하여 질의 언어를 감지하고, BGE-M3 임베딩과 FAISS 인덱싱을 사용해 30,209개 항목의 다국어 지식 베이스에서 의미적으로 관련 있는 예시를 검색한다. 시스템은 이어서 검색-증강 직접 점수화(RADS)를 통해 답을 채점하며, 자유 형식 출력을 생성하는 대신 후보 선택지 문자에 대한 다음 토큰 로그 확률을 읽는다. 저자원 언어의 경우, 가중 역순위 융합(weighted Reciprocal Rank Fusion)을 사용하여 언어별 및 교차 언어 검색 인덱스를 융합한다. 모델 선택은 언어 라우팅 방식이다: 아랍어, 중국어, 힌디어에는 Qwen3-14B; 영어에는 Qwen2.5-14B; 그리스어에는 Llama-3.1-8B를 사용하며, 이 라우팅은 상당한 언어 비대칭 성능 격차를 드러내는 실증적 ablation에서 도출되었다. 주목할 점은, 사고의 연쇄(Chain-of-Thought) 프롬프팅이 그리스어 정확도를 크게 저하시킨다(90.7%에서 20.9%로)는 것이며, Qwen3의 기본 thinking 모드를 활성화하면 아랍어 RADS 성능이 거의 무작위 수준으로 붕괴한다. 우리의 결과는 효과적인 다국어 금융 추론이 언어 인식 검색, 모델 라우팅, 그리고 의도적인 점수화 전략 선택을 필요로 함을 보여준다.

arXiv:2601.14896v3cs.CL

다국어 검색-증강 생성을 위한 언어 결합 강화학습

Language-Coupled Reinforcement Learning for Multilingual Retrieval-Augmented Generation

다국어 검색-증강 생성(MRAG)은 모델이 다국어 컬렉션으로부터 유익한 외부 지식을 효과적으로 획득하고 통합해야 한다. 그러나 기존 연구 대부분은 서로 다른 언어에 걸쳐 의미적으로 동등한 쿼리를 단일 턴 검색과 이후 최적화를 통해 처리하는 통합적 절차를 사용한다. 이러한 '일괄 적용(one-size-fits-all)' 전략은 다국어 환경에서 종종 최적이 아니며, 모델이 검색 엔진과 상호작용하는 과정에서 지식 바이어스와 충돌이 발생한다. 이를 완화하기 위해, 우리는 정책 모델과 보상 모델에 언어 결합 Group Relative Policy Optimization을 통합한 다국어 검색-증강 강화학습 프레임워크인 LcRL을 제안한다. 우리는 롤아웃 모듈에서 언어 결합 그룹 샘플링을 채택하여 지식 바이어스를 줄이고, 보상 모델에서 보조 anti-consistency 페널티를 정규화하여 지식 충돌을 완화한다. 실험 결과, LcRL은 경쟁력 있는 성능을 달성할 뿐만 아니라 제한된 학습 데이터나 다수의 언어를 포함하는 컬렉션에 대한 검색과 같은 다양한 실용적 시나리오에도 적합함을 보여준다. 코드는 https://github.com/Cherry-qwq/LcRL-Open 에서 제공된다.

arXiv:2510.06128v2cs.CL

병렬 토크나이저: 저자원 언어의 교차 언어 전이에서 인코더 모델 어휘 설계 재고

Parallel Tokenizers: Rethinking Encoder Models' Vocabulary Design in Cross-Lingual Transfer of Low-Resource Languages

토큰화는 다국어 언어 모델의 기반이지만, 기존 방법은 의미적으로 동등한 단어를 서로 다른 임베딩에 매핑함으로써 교차 언어 전이를 제한하는 경우가 많다. 예를 들어, 영어의 'I eat rice'와 하우사어의 'Ina cin shinkafa'는 일반적으로 서로 다른 어휘 인덱스에 매핑되어 공유 표현을 방해하고 교차 언어 일반화를 제한한다. 이 문제는 저자원 언어에서 더욱 두드러지며, 이러한 언어에서는 공유 표현이 가장 큰 이점을 제공할 수 있다. 우리는 병렬 토크나이저(parallel tokenizers)를 제안한다. 이는 먼저 토크나이저를 단일 언어로 학습한 다음, 이중 언어 사전 또는 단어-단어 번역을 사용하여 어휘를 포괄적으로 정렬하는 새로운 프레임워크이다. 이 정렬은 언어 간 공유 의미 공간을 강제하면서 자연스럽게 fertility 균형을 개선한다. 효과를 평가하기 위해, 우리는 13개의 저자원 언어에 대해 처음부터 트랜스포머 인코더를 사전학습하고, 감성 분석, 혐오 발언 탐지, 감정 분류, 문장 임베딩 유사도에서 평가한다. 모든 과제에서 병렬 토크나이저로 학습된 모델이 기존 다국어 베이스라인을 능가하며, 토큰화를 재고하는 것이 다국어 표현 학습—특히 저자원 환경에서—을 발전시키는 데 필수적임을 확인한다.

arXiv:2410.07809v2cs.CL공식 코드 · Papers with Code

다국어 지시 미세조정에는 최적의 언어 집합이 존재하지 않는다: 언어학적 정보 기반 연구의 통찰

No Optimal Language Set Exists for Multilingual Instruction Tuning: Insights from a Linguistically-Informed Study

다국어 지시 미세조정(MIT)은 다국어의 저주, 데이터 부족, 높은 계산 비용으로 인해 어려움을 겪는다. 자연스러운 가설은 언어학적으로 다양한 언어 집합을 신중하게 선택하면 보편적으로 더 나은 모델을 얻을 수 있다는 것이다. 우리는 유형론적, 지리적, 의미적, 학습된 특징에 기반한 언어학적 정보 기반 선택 전략을 무작위 기준선과 비교 평가하여, 세 가지 모델 패밀리(mGPT, mT5-xl, BLOOM)와 다섯 개의 다국어 벤치마크에 걸쳐 이를 체계적으로 검증한다. 우리의 핵심적인 부정적 발견은 고정 예산 설정에서 보편적인 언어 선택 전략이 나타나지 않는다는 것이다. 성능은 작업과 모델에 크게 의존하며, 적당한 임계값을 넘어 더 많은 언어를 추가하면 다국어의 저주와 일치하는 성능 저하가 발생한다. MIT 데이터 큐레이션에 대한 함의와 벤치마크 평균 평가의 함정에 대해 논의한다. 모든 자료는 https://github.com/GGLAB-KU/ling-informed-mit 에서 공개적으로 이용할 수 있다.

arXiv:2210.05487v3cs.CL

이중언어 아기처럼: 시각적 그라운딩을 적용한 이중언어 언어 모델의 이점

Like a bilingual baby: The advantage of visually grounding a bilingual language model

대부분의 신경 언어 모델과 달리, 인간은 풍부하고 다중 감각적이며 종종 다국어 환경에서 언어를 학습한다. 현재의 언어 모델은 일반적으로 다국어 언어 사용의 복잡성을 완전히 포착하지 못한다. 우리는 MS-COCO-ES의 영어 및 스페인어 이미지와 캡션으로 LSTM 언어 모델을 학습한다. 시각적 그라운딩이 언어 내 및 언어 간 의미적 유사성에 대한 모델의 이해를 향상시키고 perplexity를 개선함을 발견했다. 그러나 추상적 단어에 대해서는 시각적 그라운딩의 유의미한 이점을 발견하지 못했다. 우리의 결과는 시각적으로 그라운딩된 언어 모델의 장점에 대한 추가 증거를 제공하며, 다국어 화자로부터의 보다 자연주의적인 언어 데이터와 지각적 그라운딩이 포함된 다국어 데이터셋의 필요성을 지적한다.

arXiv:2606.27347v3cs.CL

다국어 공동 개체-관계 추출 파이프라인을 통한 유럽 정치 엘리트 네트워크 매핑

Mapping Political-Elite Networks in Europe with a Multilingual Joint Entity-Relation Extraction Pipeline

대규모 비정형 뉴스 코퍼스에서 정치 엘리트의 비공식·적대적 관계를 추출하기 위해, 스팬 기반 개체명 인식(NER), Wikidata 3단계 연결, 온톨로지 제약 전문가 혼합(MoE) 모델의 가이드 디코딩을 결합한 완전 공개 가중치 다국어 공동 개체-관계 추출 파이프라인을 제안한다. 3,491개 관계 골드 스탠다드 전수 점검에서 엄격 기준 68.2%·완화 기준 93.7%의 텍스트 정확도를 보였고, 오스트리아 정당 생애주기와 폴란드 PO–PiS 갈등·국영기업 후원 네트워크 재구성으로 공식 기록과의 일치를 검증했다.

arXiv:2603.07025v2cs.CL

ASR 전용 지도 기반 다국어 지시 따르기 음성 LLM을 위한 언어 인식 증류

Language-Aware Distillation for Multilingual Instruction-Following Speech LLMs with ASR-Only Supervision

여러 언어로 지시를 이해하고 따르는 음성 대규모 언어 모델(Speech LLM)은 실제 상호작용에 유용하지만, 지도 미세조정으로 학습하기 어려워 대규모의 과제별 음성 코퍼스가 필요하다. 최근 증류 기반 접근법은 경량 프로젝터만으로 텍스트와 음성을 정렬하여 주석이 달린 ASR 데이터만으로 성능이 좋은 영어 전용 Speech LLM을 학습시키지만, 공유 프로젝터에서의 언어 간섭으로 인해 다국어 설정으로 확장할 때 성능이 저하된다. 이를 해결하기 위해 쿼리 뱅크와 Q-Former 프로젝터를 사용하여 쿼리 토큰을 선택하거나 혼합하는 게이팅 네트워크를 활용한 언어 인식 증류를 제안한다. 우리 접근법은 지시 따르기에서 동등한 다국어 증류 기준선 대비 14%의 향상을 보인다. 또한 MLQA를 기반으로 고품질 TTS 질문으로 구성된 다국어 음성 QA 벤치마크인 Audio-MLQA를 합성한다. 최고 성능 모델은 Audio-MLQA에서 기존 Speech LLM 기준선 대비 32% 향상된다.

arXiv:2607.13315v2cs.CL

다국어 LLM 정렬을 위한 선호도 메타학습

Meta-Learning Preferences for Multilingual LLM Alignment

언어 간 인간 선호도 데이터의 불균등한 가용성은 다국어 환경에서 대규모 언어 모델(LLM)을 정렬하는 데 상당한 도전 과제를 제기한다. 저자원 언어 정렬에서 충분한 데이터가 부족한 문제를 해결하기 위해, 우리는 인간 피드백 강화학습(RLHF)과 직접 선호 최적화(DPO)를 위한 메타학습 프레임워크를 제안한다. 다른 언어의 선호도 데이터를 활용하여, 우리 프레임워크는 최소한의 데이터로 목표 언어에 효과적으로 적응할 수 있는 전이 가능한 초기화를 학습한다. 우리는 메타 보상 모델링과 메타 정책 최적화 설정 모두에 대해 이론적 보장을 제공하고, 다국어 벤치마크에서 우리 접근법의 효과를 실증적으로 입증한다. 극히 저자원 환경에서 목표 언어 선호도 샘플이 단 100개뿐인 경우에도, 우리 접근법은 기준선 방법 대비 최대 28%의 승률 개선을 달성하며, 여러 목표 언어와 모델 규모에서 기준선을 일관되게 능가한다. 우리 접근법은 메타학습 언어의 다양한 조합과 목표 언어로부터의 언어적 거리 변화에 걸쳐 이러한 이점을 유지한다.

arXiv:2607.15232v1cs.CL

사전학습 LLM의 제자리 토크나이저 확장

In-Place Tokenizer Expansion for Pre-trained LLMs

사전학습 시작 시점에 고정된 토크나이저는 사전학습 말뭉치에 비례하여 어휘를 할당하며, 당시의 배포 우선순위를 반영한다. 그러한 우선순위가 바뀌면, 이후에 추가된 언어는 단어당 훨씬 더 많은 토큰으로 분할되어, 해당 언어 사용자의 지연 시간, 연산량, 에너지 소비를 증가시킬 수 있다. 클라우드 모델은 임베딩과 LM-head 행렬이 매개변수의 작은 부분을 차지하기 때문에 넓은 어휘를 수용할 수 있다. 소형 모델에서는 이러한 행렬이 토큰당 디코딩 대역폭의 상당한 비중을 차지하므로, 온디바이스 모델은 작은 어휘를 탑재하고 고정된 언어 집합 밖의 분할을 감수한다. 우리는 토크나이저 확장을 제시한다. 이는 모델 제작자가 토크나이저 설계를 통제할 때 사전학습된 모델의 토크나이저를 업그레이드하기 위한 제자리 방식이다. 우리는 다국어 말뭉치에서 기존 토크나이저의 BPE 병합을 이어가므로, 대부분의 소스 토큰은 단일 토큰으로 변경 없이 유지되고 모든 새 토큰은 소스 토큰들로의 정확한 분해를 갖는다. 유지된 임베딩 행은 변경 없이 복사하고, 새 행은 해당 소스 서브토큰 임베딩의 평균으로 초기화한다. 2단계 적응—임베딩만 학습한 뒤 전체 모델 지속 사전학습—을 통해 소스 체크포인트 품질을 회복한다. 우리는 이 방식을 8B 매개변수 전문가 혼합(MoE) 모델인 LFM2-8B-A1B의 지속 사전학습 체크포인트에 적용하여 128K 토크나이저를 갖는 LFM2.5-8B-A1B를 만드는 데 기여했다. 확장된 토크나이저는 힌디어와 베트남어를 소스 대비 약 $2.4\times$ 및 $2.6\times$ 더 적은 토큰으로 인코딩한다(태국어에서는 최대 $4.0\times$). 이러한 감소와 더 큰 어휘의 측정된 토큰당 비용을 결합하여, 참조 기기 전반에서 해당 언어에 대해 문자당 $2.2$-$3.7\times$ 디코딩 속도 향상을 추정한다. 우리는 모델 가중치와 확장된 토크나이저를 공개하고, 이 방식을 형성한 부정적 발견을 보고한다.

arXiv:2607.14816v1cs.SE

다국어 프롬프트 기반 코드 생성을 위한 대규모 언어 모델: 큐레이션 벤치마크와 코드 품질 연구

Large Language Models for Code Generation from Multilingual Prompts: A Curated Benchmark and a Study on Code Quality

대규모 언어 모델(LLM)은 동일한 프로그래밍 과제를 서로 다른 자연어로 프롬프트할 때 서로 다르게 수행하며, 이 현상을 언어 바이어스(language bias)라고 한다. 일반 텍스트 생성에서는 이 행동이 널리 연구되었지만, 코드 생성 품질과 프로그래밍 관습에 미치는 영향은 대부분 아직 탐구되지 않았다. 우리는 프로그래밍 과제를 설명하는 데 사용되는 언어가 GPT-4o mini, DeepSeek, Claude가 생성하는 소스 코드에 어떤 영향을 미치는지 조사한다. 본 연구는 Python(230)과 Java(230)에 걸친 460개의 코딩 과제로 구성된다. 원래 영어 프롬프트를 기술적 의미를 보존하면서 중국어, 힌디어, 스페인어, 이탈리아어로 번역하고 수동으로 큐레이션한다. 생성된 코드를 여러 차원에서 평가하는데, 여기에는 테스트 통과율을 통한 기능적 정확성, 확립된 코드 메트릭을 이용한 구조적 품질, 정적 분석 도구가 탐지한 문제, 식별자와 주석에 사용된 언어와 같은 어휘적 특성이 포함된다. 결과는 (i) 영어 프롬프트가 항상 최고의 기능적 정확성이나 코드 품질을 내지는 않으며, (ii) 프롬프트 언어의 영향은 프로그래밍 언어와 LLM 모두에 달려 있고, (iii) 생성된 코드가 주석과 문자열 리터럴에서 영어와 프롬프트 언어를 자주 혼합한다는 것을 보여준다. 이러한 발견은 코드 생성에서의 언어 바이어스를 연구하기 위한 최초의 큐레이션된 다국어 벤치마크를 제공하며, 보다 견고한 다국어 코드 생성 시스템 개발을 위한 통찰을 제공한다.

arXiv:2607.13901v1cs.CL

다국어 교육 맥락에서의 고차 질문 생성

High-Order Question Generation in a Multilingual Educational Context

비판적 사고는 학습자가 단순 암기를 넘어서도록 돕는 기본적인 역량이다. 이 역량을 기르는 한 방법은 고차 질문하기를 통하는 것이다. 그러나 이러한 질문을 만드는 일은 여전히 교육자들에게 어려운 과제이며, 교실 수업은 저차 질문에 의존하는 경향이 있다. 대규모 언어 모델(LLM)은 특히 Bloom의 분류체계(Bloom's Taxonomy)에 기반한 프롬프트로 유도될 때 고차 질문 생성에서 뛰어난 역량을 보여주었다. 그러나 기존 연구는 대체로 이 프레임워크에 집중해 왔으며 영어에만 국한되어 왔다. 본 연구는 Claim-Evidence-Reasoning과 Divergent Questioning이라는 두 가지 대안적 프레임워크에 기반한 프롬프트를 도입하고, 바스크어, 스페인어, 영어를 사용하는 다국어 맥락에서 이러한 공백을 해소한다. 결과에 따르면, 오픈소스 모델과 독점 모델 모두 세 언어에서 상당히 효과적으로 질문을 생성했지만, 답변 가능한 질문 중 약 절반만 교사들이 고차 질문으로 인식했다. 긍정적인 발견은 대안적 프레임워크가 구조적으로·개념적으로 다양한 질문을 생성한다는 점이며, 이는 두 프레임워크가 서로를 보완할 수 있고 Bloom의 분류체계에 대한 실행 가능한 대안을 제시할 수 있음을 시사한다.

arXiv:2510.05860v2cs.CL

언어 장벽 극복: 2023년 스위스 개인정보보호법 개정 영향의 다국어 분석

Overcoming Language Barriers: Multilingual Analysis of the 2023 Swiss Privacy Law's Impact

정책 입안자들은 실무에서 국민에게 의미 있는 이익을 기대하며 개인정보보호법을 제정하고 개정한다. 학계에서는 일부 개인정보보호 규제—특히 EU와 캘리포니아—의 실제 영향을 측정해 왔지만, 어떤 형태든 개인정보보호 입법을 시행한 140개국 이상 중 다수에 대해서는 제한적인 실증적 증거만 존재한다. 스위스는 EU 국가들과 거의 전면을 접하고 있는 다국어 국가로, 그러한 사례 중 하나이다. 본 논문은 2023년 스위스 개인정보보호법을 EU 개인정보보호 규제에 맞춘 개정이 스위스 내 웹사이트 개인정보 처리방침에 어느 정도 영향을 미쳤는지 분석한다. 스위스의 독특한 다국어 문화를 다루기 위해, 우리는 번역 없이 단일 추론(inference)에서 법적으로 관련 있는 정보를 문서 수준 라벨로 추출하는 LLM 기반 파이프라인을 개발한다. 독일어, 프랑스어, 이탈리아어, 영어로 작성된 전문가 주석 120건의 개인정보 처리방침 벤치마크에서, 우리 파이프라인은 대부분의 언어 쌍과 법적으로 관련 있는 공시 항목에 대해 0.90 이상의 F1 점수를 달성한다. 2023년 개인정보보호법 개정 전후에 35,000개 이상의 스위스 및 EU 대상 웹사이트에서 수집한 개인정보 처리방침에 이 파이프라인을 적용한 결과, 스위스 개인정보 처리방침에서 정보주체 권리에 대한 의무 및 자발적 공시가 모두 유의미하게 증가한 것으로 나타난다. 공시율 상승을 이끄는 메커니즘을 탐구하는 과정에서, 자동화된 개인정보 처리방침 생성기의 광범위한 사용을 확인했으며, 생성된 처리방침은 최대 15퍼센트포인트 더 높은 공시율과 연관되는 것으로 나타난다. 이러한 결과는 독특한 다국어 환경에서 규제 변화와 새로운 작성 기술이 개인정보 처리방침의 내용에 미치는 영향에 대한 대규모 실증적 증거를 제공한다.