PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.10827v1cs.CL

대규모 문법 개념 주석: 배포된 미세조정 소형 언어 모델이 프롬프트 기반 프론티어 모델을 능가하다

Grammar Concept Annotation at Scale: Deployed Fine-Tuned Small Language Models Outperform Prompted Frontier Models

교정 피드백은 제2언어 습득을 이끄는 가장 입증된 요인 중 하나이지만, 수업 중에 제공되는 교정은 문법 숙달도에 대한 실행 가능한 관점으로 축적되는 경우가 드뭅니다. 프롬프트(prompt)를 적용한 프론티어 모델(frontier model)은 학습자-튜터 수업 녹취록을 통해 이러한 관점을 제공할 수 있으나, 대규모 환경에서는 비용이 많이 듭니다. 본 연구에서는 필터링 및 재조정된 교사 생성 지도 데이터를 바탕으로 Qwen3.5 소형 언어 모델(SLM)을 미세조정(fine-tuning)한 후, 플랫폼의 모든 영어 학습자를 위한 엔드투엔드 문법 숙달도 추적기에 효율적인 0.8B 모델을 배포함으로써 이러한 격차를 해소합니다. 주석 규약을 어댑터 가중치에 내재화함으로써 장황한 지시문 대신 간결한 매칭 프롬프트와 0.8B 모델을 결합할 수 있었습니다. 사람이 큐레이션한 두 개의 벤치마크에서, 배포된 0.8B 모델과 4B 참조 비교 모델 모두 개념, 근거 범위, 정확도 등 점진적으로 엄격해지는 중첩 매칭 기준 하에서 프롬프트를 적용한 GPT-5.4 및 GPT-5.6 Sol보다 정밀도(precision)와 재현율(recall) 측면에서 우수한 성능을 보였습니다. 배포된 0.8B SLM은 서빙 비용을 약 16배 절감합니다. 기능 수준의 온라인 실험에서는 학습자 참여도(+15.8%) 및 예약 시간(+2.1%), 신규 수업 기반 GMV(+13.2%)를 포함한 주요 비즈니스 지표에서 상당한 향상을 보였습니다.

arXiv:2607.21887v1cs.HC

학습자 수준에 적합한 체화된 대화형 에이전트를 활용한 외국어 불안 감소 연구

Towards Reducing Foreign Language Anxiety Using Level-Appropriate Embodied Conversational Agents

외국어 불안(FLA)은 특히 대화 맥락에서 제2언어 습득(SLA)의 주요 장벽이 될 수 있다. 생활 전반에 걸쳐 대규모 언어 모델(LLM)이 확산됨에 따라, 최근 연구는 LLM 에이전트와의 상호작용이 SLA 및 외국어 교육 분야, 특히 FLA 감소에 중요한 역할을 할 수 있음을 시사한다. 관련 연구는 또한 언어적 요구와 과제 복잡성이 FLA의 예측 변수가 될 수 있음을 제시하며, 이는 요구 수준이 높고 복잡한 언어의 사용이 학습자에게 더 높은 FLA를 유발할 수 있음을 의미한다. 본 논문에서는 영어 학습자를 위한 학습자 수준에 맞는 대화를 생성하는 새로운 다중 에이전트 체화 대화 시스템을 제안한다. 이러한 수준은 비원어민 청자 및 화자의 숙련도를 설명하기 위해 유럽 공통 참조 틀(CEFR)에서 정의한 것을 기반으로 한다. 여러 LLM 에이전트와 수준 분류기를 활용한 "생성-평가-재생성" 루프를 통해, 사용자의 숙련도 수준에 적응하는 원하는 단순성을 달성한다. 또한 일본 대학생을 대상으로 이 시스템을 테스트하여 단순화되지 않은 체화 대화형 에이전트보다 더 낮은 FLA 수준을 산출하는지 확인한 예비 소규모 파일럿 연구 결과를 공유한다. 대화 출력 분석 결과, 제안된 다중 에이전트 시스템이 생성한 대화 문장의 87.4%가 학습자의 자기 평가 숙련도로 예측된 CEFR 수준의 ±1 수준 이내에 있었으며, 단순화되지 않은 에이전트의 경우 54.1%였다. 이는 새로운 시스템이 학습자에게 더 적절한 수준의 출력을 생성할 수 있음을 시사한다. 본 연구는 표본 크기가 작아 일본인 영어 학습자의 FLA 수준을 시스템이 감소시킨다는 통계적으로 유의미한 증거를 제공하지 못했으나, 향후 연구를 위한 사용성 발견과 문화적으로 고려된 설계 통찰을 제공한다.

arXiv:2606.06065v4cs.CL

멀티태스크 학습만으로는 부족하다: 이중 출력 제2언어 음성 인식에서의 표현 얽힘

Multi-task Learning is Not Enough: Representational Entanglement in Dual-output Second Language Speech Recognition

제2언어(L2) 음성 인식은 발음 전사와 의도된 의미 전사를 동시에 필요로 하는 경우가 많다. 멀티태스크 학습(MTL)은 공유 표현이 두 출력 모두에 이점을 제공한다는 가정 하에 자연스러운 접근법으로 여겨진다. 그러나 본 논문은 이 가정이 한국어와 영어 전반에 걸쳐 성립하지 않음을 보인다. MTL은 의미 전사 성능을 향상시키지만 표층 전사를 저하시키며, 특히 영어에서 이러한 저하는 Levenshtein 편집 거리로 측정한 표층-의미 간 발산 정도에 비례하여 나타난다. 인코더 분석을 통해 이러한 패턴이 인코더 수준의 얽힘(entanglement)과 연관되어 있음을 밝혔으며, 한국어는 분리된(disentangled) 표현을 유지하는 반면 영어는 거의 동일한 표현을 생성하는 것으로 나타났다. 교차 출력 디코더 분석에서는 의미 이중 출력 디코더가 고유한 표현으로 적응하는 반면, 표층 이중 출력 디코더는 인코더에 의해 제약을 받는 상태로 유지됨을 보인다. 이러한 발견은 이중 출력 L2 자동 음성 인식(ASR)에서의 표층 저하를 줄이기 위해 인코더 수준의 얽힘을 완화하는 MTL 프레임워크 설계의 필요성을 뒷받침한다.

arXiv:2606.19170v1cs.CL

Dango: 제2언어 습득 연구를 위한 엄격한 L1 전용 대규모 언어 모델

Dango: A Strictly L1-Only Large Language Model for Studying Second Language Acquisition

제2언어 습득(SLA)에서 일본어(L1)에서 영어(L2)로의 전이를 통제적으로 연구하기 위해 18억 매개변수 LLM Dango를 제안하며, L1 사전학습 말뭉치의 L2 오염을 줄이는 필터링과 LLM 생성 L2 학습 레슨 파인튜닝으로 L2 습득 과정을 시뮬레이션한다. 평가 결과 Dango는 인간과 유사한 L2 산출 패턴을 발달시키며 필터링되지 않은 모델과 표준 다국어 기준선을 능가한다.