PyTorchKR Papers

최신 논문

총 13편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.10827v1cs.CL

대규모 문법 개념 주석: 배포된 미세조정 소형 언어 모델이 프롬프트 기반 프론티어 모델을 능가하다

Grammar Concept Annotation at Scale: Deployed Fine-Tuned Small Language Models Outperform Prompted Frontier Models

교정 피드백은 제2언어 습득을 이끄는 가장 입증된 요인 중 하나이지만, 수업 중에 제공되는 교정은 문법 숙달도에 대한 실행 가능한 관점으로 축적되는 경우가 드뭅니다. 프롬프트(prompt)를 적용한 프론티어 모델(frontier model)은 학습자-튜터 수업 녹취록을 통해 이러한 관점을 제공할 수 있으나, 대규모 환경에서는 비용이 많이 듭니다. 본 연구에서는 필터링 및 재조정된 교사 생성 지도 데이터를 바탕으로 Qwen3.5 소형 언어 모델(SLM)을 미세조정(fine-tuning)한 후, 플랫폼의 모든 영어 학습자를 위한 엔드투엔드 문법 숙달도 추적기에 효율적인 0.8B 모델을 배포함으로써 이러한 격차를 해소합니다. 주석 규약을 어댑터 가중치에 내재화함으로써 장황한 지시문 대신 간결한 매칭 프롬프트와 0.8B 모델을 결합할 수 있었습니다. 사람이 큐레이션한 두 개의 벤치마크에서, 배포된 0.8B 모델과 4B 참조 비교 모델 모두 개념, 근거 범위, 정확도 등 점진적으로 엄격해지는 중첩 매칭 기준 하에서 프롬프트를 적용한 GPT-5.4 및 GPT-5.6 Sol보다 정밀도(precision)와 재현율(recall) 측면에서 우수한 성능을 보였습니다. 배포된 0.8B SLM은 서빙 비용을 약 16배 절감합니다. 기능 수준의 온라인 실험에서는 학습자 참여도(+15.8%) 및 예약 시간(+2.1%), 신규 수업 기반 GMV(+13.2%)를 포함한 주요 비즈니스 지표에서 상당한 향상을 보였습니다.

arXiv:2610.03213v1cs.AI

소형 언어 모델(SLM) 기반 에이전트의 태스크-도구 의도 매칭을 향하여

Toward SLM-based agentic task-tool intent matching

도구를 장착한 AI 에이전트는 도구 호출을 사용하여 데이터에 접근하고 외부 시스템에 조치를 취합니다. 에이전트 시스템의 수평적 성장은 이러한 상호작용의 수를 증가시키며, 짧은 지연 시간(latency) 및/또는 온프레미스(on-prem) 환경에서 작동할 수 있는 호출 단위의 자동화된 감독 필요성을 더욱 강화합니다. 기존의 권한 부여 방식은 에이전트의 도구 호출 허용 여부를 결정할 수는 있지만, 도구 선택이 태스크의 의도를 충족하기 위한 논리적이고 유의미한 단계인지 여부와 같은 에이전트의 기저 인지(cognition)를 평가하지는 못합니다. 결과적으로 허용된 호출이라 하더라도 태스크의 의도에서 벗어날 수 있습니다. 악성 에이전트가 호출을 왜곡하거나 다른 에이전트를 유도하여 태스크의 의도와 일치하지 않는 일련의 호출을 수행하도록 만들 수 있습니다. 따라서 모든 호출에 대한 검증이 필요합니다. 본 연구에서는 이러한 목적을 위한 소형 언어 모델(SLM)의 적용 가능성을 조사합니다. SLM은 할당된 태스크에 대해 선택된 각 도구를 독립적으로 평가하고 다운스트림 집행을 위한 관련성 신호를 반환하는 태스크-도구 관련성 분류기 역할을 수행합니다. 필요한 도구들이 서로 다른 모델 컨텍스트 프로토콜(MCP) 서버들에 걸쳐 있는 다중 도구 태스크를 포함하는 새로운 데이터셋을 기반으로, 본 연구는 프롬프트 최적화, 지도 미세조정(supervised fine-tuning), 그리고 GRPO를 통한 강화학습을 활용하여 SLM을 최적화하고 특화했습니다.

arXiv:2610.02001v1cs.AI

Mingbird: 소형 오픈 모델의 실제 작업 완수를 가능하게 하는 로컬 우선 에이전트 하네스

Mingbird: A Local-First Agent Harness Enabling Small Open Models to Complete Real Tasks

소형 오픈 가중치(open-weight) 모델(2-9B)은 일반 노트북에서도 구동되지만, 클라우드 스케일의 에이전트(agent) 하네스 환경에서는 실제 작업을 완수하는 경우가 드뭅니다. 도구 사전 채우기(prefill)로 컨텍스트가 넘치고, 자체 교정(self-correction)이 발산하며, 도구 시연이 루프에 빠지고, 작업이 조용히 중단되기 때문입니다. 본 논문에서는 통제된 단일 머신 비교와 하나의 서드파티 벤치마크를 통해, 이러한 실패의 상당 부분이 모델보다는 하네스에 기인한다는 증거를 제시합니다. 우리는 Windows 및 Ollama를 위한 로컬 우선 에이전트 하네스인 Mingbird를 소개합니다. Mingbird의 10가지 메커니즘은 소형 모델의 실패 형태를 조목조목 보완하며, 그중 대표적인 세 가지는 바이트 수준의 순 제로(net-zero) 사전 채우기 예산, 완료를 수락하기 전에 작업을 다시 읽는 완료 게이트(finish gate), 그리고 서명 수준의 루프 감지입니다. 머신, 모델, 예산, 점수 산정을 고정한 통제된 비교인 LRAB(4개 하네스 $\times$ 4개 오픈 모델(2B-35B) $\times$ 18개 실제 작업, 결정론적 산출물 점수 산정)에서 Mingbird는 goose(0.631), opencode(0.479), agent-mini(0.405) 대비 종합 0.886을 달성했으며 288개 셀 전체를 공개했습니다. $τ^2$-bench(278개 작업, 3개 암, 단일 프로토콜)에서는 0.791 및 0.737 대비 총합 0.856을 기록했습니다. 또한 동일한 18개 작업에 대한 프론티어 모델 프로브에서는 하네스 전반에 걸쳐 0.997에서 0.478의 범위를 보였으며, 잘 구성된 스캐폴드는 서로 0.072 이내의 차이를 유지했습니다. 단일 메커니즘 제외 어블레이션(leave-one-mechanism-out ablation)은 방향성만을 나타내는 것으로 보고됩니다. 동일 암에 대해 같은 날 밤 수행된 반복 실험은 그 평균을 최대 0.069까지 변화시켰는데, 이는 모든 명목상 단일 시행 델타의 크기이며, 단일 배치(batch) 매칭 비교(전체 메커니즘 스택 대 텍스트 재읽기 단독)에서는 실행 가능한 완료 가드가 세 차례의 반복 실험에 걸쳐 페어 기준 +0.10을 보였습니다. 본 증거에는 자체 제작된 벤치마크, 단일 머신, 단일 시행 점수 산정이라는 명시된 한계가 수반됩니다.

arXiv:2609.25081v1cs.CL

ufakzeka-1: 밑바닥부터 구축하고 평가한 1억 5,100만 매개변수의 튀르키예어 언어 모델

ufakzeka-1: Building and Evaluating a 151M-Parameter Turkish Language Model from Scratch

본 논문에서는 클라우드 GPU, API, 노트북 사용 시간을 합쳐 총 약 286달러의 비용으로 공개 라이선스 텍스트 135억 토큰(token)을 사용해 밑바닥부터 사전학습(pre-training)하고 대화용으로 인스트럭션 튜닝(instruction tuning)한 1억 5,100만 매개변수(임베딩 포함 시 1억 8,200만) 디코더 전용 튀르키예어 언어 모델인 ufakzeka-1을 소개한다. 본 연구의 기여는 이 크기의 모델에서 기대할 수 있는 수준인 모델의 성능 자체가 아니라, 이를 구축하고 측정한 기록에 있다. 즉, 단어당 1.77개 토큰 수준의 튀르키예어 바이트 단위 토크나이저, 3단계 사전학습 일정, 공개 라이선스 데이터와 생성 데이터의 사후 학습(post-training) 혼합, 그리고 출시 게이트(release gate), 규칙 검증을 거친 5,508개 대화 스윕, 판정 대화 및 수동 테스트로 구성된 평가 세트를 포함한다. 이 모든 평가는 학습(training) 데이터 구축 과정 내 오염 제거와 각 빌드 전에 실행되는 커밋된 불변성 검사 스크립트를 통해 강제하여 학습 데이터에서 제외된 프롬프트(prompt)로 수행되었다. 우리는 다른 소형 모델 연구에도 적용될 수 있다고 생각되는 세 가지 결과를 보고한다. 첫째, 자체 질문으로 작성된 학습 데이터로 "수정"되었던 안전성(safety) 게이트는 정직한 수치가 34/64였던 반면 64/64로 나타났다. 둘째, 학습 시드(seed) 간 분산이 우리가 시도한 모든 레시피 전반의 편차만큼 컸으므로 이 규모에서 단일 시드 비교는 유의미한 정보를 제공하지 않는다. 셋째, 데이터 라운드는 데이터에 부재했던 부분만을 복구했을 뿐 긴 문맥에서의 정체성 추적과 다중 턴(multi-turn) 산술 연산은 시도한 어떤 데이터 변화에도 개선되지 않았으며, 우리는 이를 데이터의 공백이라기보다는 모델 크기의 한계로 해석했고 이는 다음 대형 모델에서 검증될 것이다. 가중치, 데이터 레시피, 평가 코드, 지출 내역 장부는 Apache-2.0 라이선스로 공개된다.

arXiv:2607.22556v1cs.AI

MIITA: 소형 언어 모델의 지속 학습을 위한 메모리 유도 추론 시점 적응

MIITA: Memory-Induced Inference-Time Adaptation for Continual Learning with Small Language Models

지속 학습(CL)은 자원이 제한된 배포 환경에서 진화하는 실세계 요구에 적응하기 위해 소형 언어 모델(SLM)에 필수적이다. 그러나 제한된 매개변수 공간을 직접 업데이트하면 치명적 망각(catastrophic forgetting)이 발생한다. 메모리 기반 방법은 지식 보존을 매개변수와 분리함으로써 이를 자연스럽게 해결하지만, 대규모 언어 모델(LLM)용으로 설계된 기존 접근법은 SLM이 갖추지 못한 풍부한 저장 공간과 강력한 문맥 내 추론에 의존한다. 이러한 과제를 해결하기 위해, 우리는 제한된 저장 공간 하에서의 지도 CL을 위한 메모리 유도 추론 시점 적응(Memory-Induced Inference-Time Adaptation) 프레임워크 MIITA를 제안한다. MIITA는 지도 경험을 의미적 앵커를 갖춘 압축된 교정 방향 프로토타입으로 저장하고, 의미적 및 불��실성 기반 단서를 사용하여 추론 시점에 이를 검색한다. 검색된 방향은 게이트된 임시 은닉 상태 적응을 통해 적용되며, 백본 업데이트, 프롬프트 확장, 또는 테스트 시점 역전파 없이 과거 지도 정보를 비파괴적으로 재사용할 수 있게 한다. 국소 이론 분석은 이 설계를 1차 손실 감소, 불확실성 안내 검색, 그리고 이전 단계 지식 보존을 위한 방향적 커버리지와 연결한다. 다양한 지도 CL 설정에 걸친 광범위한 실험은 MIITA가 고정된 메모리 예산 하에서 최종 성능을 지속적으로 향상시키고 망각을 완화함을 보여준다.

arXiv:2607.21677v1cs.SE

전파 천문학에서 지속 가능한 코드 최적화를 위한 SLM 강화

Enhancing SLMs for Sustainable Code Optimization in Radio-Astronomy

최근 대규모 언어 모델(LLM)은 복잡한 코드를 생성하고 최적화할 수 있다. 우리는 대규모 과학 분야, 특히 전파 천문학과 지속 가능성에 초점을 맞춰 LLM을 이용해 코드를 생성하고 최적화하는 방안을 조사한다. LOFAR 망원경은 현재 업그레이드 중이며, 관측하는 하늘 영역을 크게 늘리는 동시에 더 많은 데이터를 더 빠르게 처리한다. 그러나 이로 인해 계산 요구량이 40배 증가할 것으로 예상된다. 따라서 이 업그레이드는 기존 소프트웨어의 엄격한 성능 최적화와 가속기(accelerator)의 광범위한 도입에 결정적으로 의존한다. 코드베이스가 매우 크기 때문에 이는 매우 어려운 과제가 된다. 따라서 우리는 개발자가 코드를 평가하고 최적화하는 것, 하드웨어 가속기로의 이식(porting)을 포함하여 이를 지원하기 위한 AI 기반 접근법을 조사하고 시연한다. LOFAR 커뮤니티는 지속 가능한 해결책에 전념하고 있으며, 에너지 예산을 늘리지 않고 이러한 개선을 달성해야 한다. 따라서 기존 코드를 최적화하거나 가속기로 이식해야 하며, 최적화 과정 자체도 에너지 효율적이어야 한다. LLM은 에너지 소모가 크기 때문에 이는 도전 과제가 된다. 따라서 환경 영향을 제한하기 위해 대신 소형 언어 모델(SLM)을 사용할 것을 제안한다. 본 논문에서는 에이전트 AI(agentic AI)를 활용하여 SLM을 강화하는 방법을 보여준다. 코드 생성 품질과 성능을 향상시키기 위해 SLM을 두 가지 방식으로 확장한다: 첫째, 다중 샘플링(multi-sampling) 생성 전략, 둘째, 컴파일러 피드백(compiler feedback) 통합. 다중 샘플링 SLM이 더 적은 계산 자원으로 더 큰 단일 생성(single-generation) 모델과 동등하거나 이를 능가할 수 있음을, 그리고 컴파일러 출력을 SLM에 다시 피드백하면 테스트한 모든 모델에서 일관된 개선이 이루어짐을 시연한다. 우리의 접근법은 범용적이며, 코드 생성 파이프라인에서 검색-증강 생성(RAG)뿐 아니라 정적 및 동적 분석 도구도 활용할 수 있다.

arXiv:2607.14149v1cs.AI

지식 그래프 그라운딩을 통한 소형 언어 모델 추론 능력 향상

Enhancing Small Language Models Reasoning through Knowledge Graph Grounding

대규모 언어 모델(LLM)은 제로샷(zero-shot) 추론에서 벤치마크를 세웠지만, 배포 비용이 과도하고 환경 부담도 큽니다. 소형 언어 모델(SLM)은 지속 가능한 대안이지만, 복잡한 다중 홉(multi-hop) 논리적 그라운딩(grounding)이 요구되는 과제에서는 오류에 취약합니다. 우리는 CLUTRR kinship 벤치마크를 사용하여 Gemma 3 (1B, 4B) 및 Llama 3.2 (3B)와 같은 SLM의 추론 능력을 향상시키기 위한 뉴로-심볼릭(neuro-symbolic) 에이전트 프레임워크를 조사합니다. 우리 접근법은 SLM을 두 가지 특화된 도구 호출을 활용하는 미니멀리스트 에이전트로 변환합니다: extract_facts는 심볼릭 triplet 추출용이고, get_hint는 Relational Graph Convolutional Network(RGCN)를 통한 전문가 추론용입니다. 우리는 정답 triplet을 사용하는 Oracle 시나리오와 자체 추출 지식에 의존하는 Realistic 시나리오라는 두 가지 구성에서 이 모델들을 평가합니다. 결과는 RGCN 파생 힌트가 스토리만 사용하는 baseline 대비 1.5~2배 성능 향상을 제공하지만, 시스템이 추출 병목(extraction bottleneck)과 순차적 연역적 취약성(sequential deductive fragility)에 의해 제약받으며, 초기 추출 오류가 다중 홉 체인 전체에서 누적된다는 것을 보여줍니다. 또한 우리는 특정 아키텍처에서 전문가 힌트가 존재함에도 불구하고 노이즈가 있는 자체 생성 사실이 성능을 저하시키는 "distraction effect"를 확인합니다. 본 연구는 저자원 에이전트 시스템에서 심볼릭 그라운딩의 과제를 규명하고, 뉴로-심볼릭 에이전트 파이프라인에서 반복적 검증을 위한 로드맵을 제시합니다.

arXiv:2607.05571v1cs.AI

CSTutorBench: 블록 기반 프로그래밍 튜터로서의 소형 언어 모델 벤치마킹

CSTutorBench: Benchmarking Small Language Models as Tutors for Block-Based Programming

K-12 환경에서 개인정보 보호와 비용 문제로 소형 언어 모델(SLM)이 주목받는 가운데, VEX VR 블록 기반 로봇 프로그래밍 환경에서 언어 모델의 CS 튜터링 능력을 평가하는 CSTutorBench를 소개한다. 4B~120B 파라미터 규모의 11개 모델 평가 결과, 어휘·어조 같은 표면적 기준에서는 양호한 성능을 보이나 답 유출 방지 및 학생의 디버깅 이력 반영 등 심층적 교육학적 행동에서는 취약했으며, 교육 프롬프트 엔지니어링 기반의 프롬프트 수정이 11개 중 10개 모델의 점수를 향상시켰다.

arXiv:2606.24980v1cs.LG

Closed-Loop Graph Algorithm Execution with Small Language Models: Step Accuracy and Rollout Reliability

소규모 언어 모델(SLM)을 BFS, DFS, 그래프 색칠, Dijkstra 등 고전 그래프 알고리즘의 클로즈드-루프(closed-loop) 실행 정책으로 평가한 연구로, Llama-3.2-1B와 Qwen2.5-1.5B에 LoRA 어댑테이션을 적용하여 순회(traversal)·색칠 알고리즘에서는 높은 롤아웃 정확도를 달성했으나, 가중치 기반 알고리즘(Prim, Borůvka, Dijkstra)에서는 스텝 정확도가 높더라도 오차 누적으로 인해 전체 실행 신뢰도가 크게 저하됨을 실증적으로 보여준다. 이 결과는 개별 스텝 예측 성능이 자율적 알고리즘 실행 신뢰성을 보장하지 않으므로, 알고리즘 언어 모델의 평가는 단일 스텝이 아닌 완전한 클로즈드-루프 롤아웃을 기준으로 수행해야 함을 시사한다.

arXiv:2606.24585v1cs.AI

LLMs Prompted for Legal Context Object More: Overrefusal from Small On-Premises LLMs in Criminal Legal Context

While the validity of LLMs' use in the legal context remains subject to ethical and legal debate, legal professionals are already experimenting with personal LLMs, if only for translation and reformulation. However, even such a seemingly innocuous use can introduce biases through case processing speed if LLM assistants selectively refuse assistance on certain topics. To better anticipate such biases, we investigate several modern small LLMs that are most likely to be used as on-device assistants, to assess the impact of overrefusal on legal prompts. Surprisingly, we find that authority-style prefixes (``you are acting as an assistant of the national supreme court'', ``[...] defense lawyer'') systematically increase refusal rates by 2--20x over the no-prefix baseline, while a known role-play jailbreak prefix shows mixed effects, sharply increasing refusals in some models and barely shifting them in others. The finding suggests that small on-prem deployable LLMs are unstable under contextual framings that a real institutional user might naturally introduce, and further investigation is essential to minimize opportunities for bias.

arXiv:2606.04694v2cs.CL

DuDi: 교차 언어 버벌라이저를 활용한 이중 신호 증류

DuDi: Dual-Signal Distillation with Cross-Lingual Verbalizer

소형 언어 모델(SLM)의 다국어 성능 저하 문제를 해결하기 위해 온라인 시퀀스 수준 신호와 토큰 수준 신호를 결합하고 교차 언어 버벌라이저를 활용하는 DuDi 프레임워크를 소개한다. SEA-HELM 벤치마크에서 수행된 실험 결과, DuDi는 다양한 설정에서 기존 증류 기법보다 일관되게 우수한 성능을 달성했다.

arXiv:2605.04221v2cs.CL

프라이버시 민감 임상 정보 추출을 위한 자기 프롬프팅 소형 언어 모델

Self-Prompting Small Language Models for Privacy-Sensitive Clinical Information Extraction

치과 경과 기록에서의 임상 개체명 인식(named entity recognition)은 문서화가 매우 비구조적이고 도메인 특화적이며 종종 프라이버시에 민감하기 때문에 어렵습니다. 우리는 치과 기록에서 여러 임상 개체를 추출하기 위해 소형 언어 모델이 개체별 프롬프트를 자체 생성, 검증, 정제 및 평가할 수 있게 하는 로컬 배포 가능한 프레임워크를 개발했습니다. 1,200개의 주석이 달린 기록을 사용하여 다중 프롬프트 앙상블 추론(multi-prompt ensemble inference)으로 후보 오픈 가중치 모델을 평가했으며, QLoRA 기반 지도 미세조정(supervised fine-tuning)과 직접 선호 최적화(direct preference optimization)를 사용하여 선택된 모델을 추가로 적응시켰습니다. 모델 성능은 크게 달라졌으며, 이는 일반적인 벤치마크에 의존하기보다는 작업별 평가의 필요성을 강조합니다. Qwen2.5-14B-Instruct가 가장 강력한 기준선 성능을 달성했습니다. DPO 후, Qwen2.5-14B-Instruct와 Llama-3.1-8B-Instruct는 각각 0.864/0.837과 0.806/0.797의 마이크로/매크로 F1 점수를 달성했습니다. 이러한 발견은 자동화된 프롬프트 최적화와 경량의 선호 기반 사후 학습(post-training)을 결합하면 로컬 배포된 소형 언어 모델을 사용한 확장 가능한 임상 정보 추출을 지원할 수 있음을 시사합니다.

arXiv:2606.06920v1cs.LG

미세조정의 함정: 10억 미만 매개변수 수학적 추론에서의 네거티브 전이 평가와 PEFT의 역할

The Fine-Tuning Trap: Evaluating Negative Transfer and the Role of PEFT in Sub-1B Mathematical Reasoning

엣지 디바이스에 소형 언어 모델(SLM)을 배포하려면 모델의 범용 능력을 저하시키지 않으면서 새로운 작업에 적응하는 효율적인 미세조정 전략이 필요합니다. 본 연구에서는 5개의 10억 미만 매개변수 모델(135M-1B)을 수학적 추론 과제에서 평가하여 중요한 취약점을 발견했습니다. 3억 매개변수 미만의 모델에서 완전 미세조정(Full FT)은 성능을 적극적으로 해치며, 종종 정확도를 제로샷(zero-shot) 기준선보다 떨어뜨립니다. 이러한 '네거티브 전이(negative transfer)'는 파라미터 효율적 미세조정(PEFT)을 단순한 효율성 선호가 아닌 안정성 요구사항으로 만듭니다. 우리는 LoRA와 가중치 분해 LoRA(DoRA)가 유사한 성능을 보이지만 강점이 작업에 따라 다르다는 것을 발견했습니다. DoRA는 복잡한 추론(GSM8K)에서 뛰어난 반면, LoRA는 패턴 매칭(OrcaMath)에서 우위를 점합니다. 특히 완전 미세조정은 정렬된 모델(Qwen2.5-0.5B)에서 LoRA에 의해, 가장 작은 아키텍처(SmolLM2-135M)에서는 단순한 5샷 문맥 내 학습(ICL)에 의해서도 성능이 뒤처집니다. 이러한 발견을 바탕으로, 우리는 모든 정렬된 10억 미만 매개변수 모델에 대해 PEFT를 기본값으로 사용할 것을 권장하며, 재앙적 망각을 방지하기 위해 5억 매개변수 미만의 모든 아키텍처에 대해 완전 미세조정 사용을 자제할 것을 권고합니다. 이 연구의 재현 결과는 https://github.com/gulguluu/tiny-slm-finetune-compare에서 확인할 수 있습니다.