arXiv:2611.24043v1 cs.CL

저자원 다국어 번역에 대한 압축의 영향

Compression Effects on Low-Resource Multilingual Translation

Abbas Sani

제출 2026-11-19

한국어 초록

본 논문은 학습 후 양자화가 하우사어, 스와힐리어, 요루바어의 세 아프리카 언어에 대한 다국어 기계 번역 품질과 추론 비용에 미치는 영향을 규명하는 예비 연구를 제시한다. 대상 모델 계열은 소형 범용 LLM(Qwen2.5-1.5B), 더 큰 다국어 지시 튜닝 LLM(Aya-23-8B), 전용 다국어 MT 모델(NLLB-200-distilled-1.3B)이다. 소비자용 NVIDIA T4 GPU에서 FP16, bitsandbytes INT8, NF4 INT4 정밀도로 FLORES-200 devtest 세트(방향당 1,012문장)를 평가한 결과는 다음과 같다. (i) 특화된 MT 모델은 8B 지시 튜닝 LLM의 약 6분의 1 크기임에도 하우사어와 스와힐리어 방향에서 두 LLM보다 chrF 기준 32.7~43.3점, 요루바어에서 12.9~24.7점 높은 성능을 보인다. (ii) 학습 후 양자화는 모든 모델 계열과 언어 방향에서 전체 번역 품질을 약 1 chrF 이내로 보존하며, 최악의 단일 사례는 2.19 chrF이다. (iii) 소비자용 GPU에서 INT8과 INT4 양자화는 상당한 메모리 절감(INT4에서 49~61%)을 제공하지만 FP16 대비 추론 지연 시간을 줄이지 못하며, 오히려 지연 시간이 1.3배에서 5.3배 증가한다. (iv) 학습 자원의 가용성을 따르는 뚜렷한 성능 기울기가 언어 간에 나타난다(스와힐리어 > 하우사어 > 요루바어). 이러한 결과는 저자원 환경 배포를 위해 하드웨어를 고려한 압축과 집계 지표를 넘어서는 오류 유형 분석에 초점을 맞춘 연구 의제의 필요성을 시사한다.

원문 초록

We present a pilot study characterising the effect of post-training quantisation on multilingual machine translation quality and inference cost for three African languages - Hausa, Swahili, and Yoruba - across three model families: a small general-purpose LLM (Qwen2.5-1.5B), a larger multilingual instruction-tuned LLM (Aya-23-8B), and a dedicated multilingual MT model (NLLB-200-distilled-1.3B). Evaluating on the FLORES-200 devtest set (1,012 sentences per direction) under FP16, bitsandbytes INT8, and NF4 INT4 precisions on consumer-grade NVIDIA T4 GPUs, we find: (i) the specialised MT model outperforms both LLMs by 32.7-43.3 chrF on the Hausa and Swahili directions, and by 12.9-24.7 chrF on Yoruba, despite being roughly a sixth the size of the 8B instruction-tuned LLM; (ii) post-training quantisation preserves aggregate translation quality within approximately 1 chrF across all model families and language directions, with a single worst case of 2.19 chrF; (iii) on consumer GPUs, INT8 and INT4 quantisation provide substantial memory savings (49-61% at INT4) but do not reduce inference latency relative to FP16 - in fact, latency increases by 1.3x to 5.3x; (iv) a clear performance gradient tracking training-resource availability is visible across languages (Swahili > Hausa > Yoruba). These findings motivate a research agenda focused on hardware-aware compression and error-type analysis beyond aggregate metrics for low-resource deployment.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.24043v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.