PyTorchKR Papers

최신 논문

총 4,526편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.31349v1eess.SP

PGUDA: Pressure-Guided Unsupervised Domain Adaptation with Cross-Modal Knowledge Distillation for sEMG-Based Gesture Recognition

표면 근전도(sEMG) 기반 제스처 인식에서 피험자 및 세션 간 특징 분포 불일치로 인한 성능 저하를 해결하기 위해, 압력 신호로 학습된 교사 네트워크가 레이블 없는 목표 도메인의 sEMG 학생 네트워크를 교차 모달 지식 증류(cross-modal knowledge distillation)로 지도하는 PGUDA 프레임워크를 제안한다. 11명의 피험자 데이터로 검증한 결과, 교사 네트워크 학습에 레이블 데이터의 단 5%만 사용해도 완전 지도학습에 준하는 정확도를 달성하며 크로스-서브젝트 및 크로스-세션 분류에서 기존 도메인 적응(domain adaptation) 방법들을 크게 상회하는 평균 58.08%의 정확도를 기록했다.

arXiv:2606.31259v1cs.SD

SwiftAudio: Data-Efficient Caption-Only Distillation for One-Step Text-to-Audio Diffusion-based Generation

SwiftAudio는 사전학습된 다중 스텝 텍스트-오디오(TTA) 확산 모델을 오디오 없이 텍스트 캡션만으로 지식 증류하여 단일 스텝 생성기를 학습하는 프레임워크로, Variational Score Distillation(VSD)을 오디오 도메인에 적용하고 시간적 평활화 정규화 목적 함수를 도입하였다. 약 45K개의 캡션만으로 AudioCaps와 Clotho에서 엄격한 단일 스텝 방법 중 최고 성능을 달성하며 다중 스텝 확산 시스템과의 품질 격차를 크게 줄였다.

arXiv:2606.30923v1cs.LG

Behavior Cloning is Not All You Need: The Optimality of On-Policy Distillation for Noisy Expert Feedback

Imitation Learning is a natural framework for learning in sequential decision-making systems and has emerged as the dominant paradigm through which we understand language model training. A central puzzle is that, while in theory offline IL can be horizon-free and optimal, in practice online methods such as on-policy distillation often outperform offline methods such as supervised fine-tuning. We propose a noisy expert model to explain this gap, in which the learner only has access to a noisy version of the expert's policy, but wishes to compete against the reward achieved by a clean expert, motivated by the fact that in many applications, e.g. training language models to perform long chains of thought, the expert is often imperfect. In this setting, we show a sharp separation between offline and online IL. Offline learning from noisy trajectories is fundamentally hard: to compete with the clean expert, the sample complexity must grow exponentially, in contradistinction to the clean expert setting where no explicit horizon dependence exists. In contrast, we prove that online interaction with the noisy expert via a novel variant of OPD enables polynomial dependence on the horizon in general. We further show that, under a natural condition on the expert noise distribution, which we show to be necessary for any horizon-free sample complexity, one can obtain such a guarantee, although our proposed algorithm sacrifices statistical efficiency in its dependence on the size of the policy class. Our analysis leads to an alternative loss function that is commonly considered empirically for LM training. We further provide algorithms and lower bounds, and extend our results to the more realistic setting of unknown corruption when the clean expert is deterministic, thereby providing a theoretical foundation for why OPD can outperform SFT when training language models from imperfect teachers.

arXiv:2410.00074v2cs.LG

Collaborative Knowledge Distillation via a Learning-by-Education Node Community

A novel Learning-by-Education Node Community framework (LENC) for Collaborative Knowledge Distillation (CKD) is presented, which facilitates continual collective learning through effective knowledge exchanges among diverse deployed Deep Neural Network (DNN) peer nodes. These DNNs dynamically and autonomously adopt either the role of a student, seeking knowledge, or that of a teacher, imparting knowledge, fostering a collaborative learning environment. The proposed framework triggers knowledge transfer via autonomous teacher discovery and stream-driven DNN distillation as needed, while enhancing their learning capabilities and promoting their collaboration. LENC addresses the challenges of handling diverse training data distributions and the limitations of individual DNN node learning abilities. \hl{It enables the exploitation of selected peer-teacher knowledge upon learning a new task and mitigates catastrophic forgetting in DNN nodes.} \hl{Additionally, it supports task-boundary-free continual adaptation in distributed settings via autonomous role assignment and modular forgetting mitigation, as DNN nodes receive no explicit task-boundary metadata during deployment.} Experimental evaluation on a proof-of-concept implementation demonstrates the LENC framework's functionalities and benefits across multiple DNN learning and inference scenarios. The conducted experiments showcase its ability to gradually improve the average test accuracy of the community of interacting DNN nodes in image classification problems, by appropriately leveraging the collective knowledge of all node peers. The LENC framework achieves strong performance in on-line unlabelled CKD.

arXiv:2606.30499v1cs.LG

새로움으로부터 협력 발견하기: 클러스터링 연합학습을 위한 랜덤 네트워크 증류

Discovering Collaboration from Novelty: Random Network Distillation for Clustered Federated Learning

연합학습의 비독립동일분포(non-IID) 환경에서 클러스터링과 주 학습 루프의 결합으로 발생하는 계산·통신 비용 문제를 해결하기 위해, 각 클라이언트가 랜덤 네트워크 증류(Random Network Distillation, RND) 기반의 소형 예측기를 로컬 데이터로 학습하고 예측 오차를 새로움(novelty) 신호로 활용해 사전에 클라이언트 그룹을 자율적으로 발견하는 경량 클러스터링 방법을 제안한다. 이 방식은 원시 데이터 공유나 전체 모델 반복 평가 없이 클러스터 수를 사전에 지정하지 않아도 되며, 컴퓨터 비전 벤치마크 실험에서 특징 왜곡(feature skew) 환경의 비독립동일분포 데이터에 대해 의미 있는 클라이언트 그룹 발견이 가능함을 검증하였다.

arXiv:2606.30445v1cs.LG

온라인 모방 학습은 LLM 사후 학습에서 언제 도움이 되는가? 지평선을 넘어선 (비)실현가능성의 역할

When Does Online Imitation Learning Help in LLM Post-Training? The Role of (Non-)Realizability Beyond Horizon

온라인 모방 학습(IL)이 오프라인 지도 미세조정(SFT)보다 유리한 이유를 오차 누적이 아닌 비실현가능성(non-realizability)으로 규명하며, 학생 정책 클래스가 전문가 정책을 표현할 수 있는 실현가능한 설정에서는 오프라인 IL만으로도 전문가 수준에 도달함을 실험적으로 보인다. 반면 비실현가능(misspecified) 설정에서는 지평선 H=1인 경우에도 오프라인 IL이 정보-이론적 병목에 직면함을 증명하고, 보상과의 정렬 구조를 활용한 온라인 IL이 큰 분포 불일치에도 불구하고 높은 성능을 달성할 수 있음을 이론적으로 제시한다.

arXiv:2606.30414v1cs.LG

보상 모멘트 매칭 증류를 활용한 확산 모델 미세조정

Diffusion Fine-tuning with Rewarded Moment Matching Distillation

확산 모델의 지식 증류와 강화학습 기반 보상 최적화를 동시에 수행하는 새로운 프레임워크인 RMMD(Rewarded Moment Matching Distillation)를 제안하며, 온-정책 샘플링 루프 적용과 증류 손실을 KL 정규화 프록시로 재활용해 고품질 생성을 유지한다. ImageNet FID-보상 파레토 프론트에서 DI++, DRaFT, HyperNoise 대비 우수한 성능을 보이며, 기상 예측 모델 GenCast에 적용 시 7.5배 속도 향상과 함께 대상 기상 변수의 93%에서 교사 모델을 능가하는 결과를 달성했다.

arXiv:2606.30067v1cs.LG

뉴럴 서브스페이스 재할당: 검색 기반 서브스페이스 메모리 관리로서의 지속 학습

Neural Subspace Reallocation: Continual Learning as Retrieval-Based Subspace Memory Management

LoRA 모듈을 일회용 어댑터가 아닌 압축·검색 가능한 메모리 단위로 관리하는 뉴럴 서브스페이스 재할당(NSR)을 제안하며, SVD 압축과 임베딩 유사도 기반 검색으로 구성된 TaskKnowledgeBank를 통해 순환 태스크 복구 속도를 10배 향상시키고 5-Datasets 벤치마크에서 최고 정확도와 최저 망각을 달성했다. 핵심 발견은 지속 학습 성능을 이끄는 것이 학습된 강화학습 할당 정책이 아니라 압축과 유사도 검색이라는 메모리 메커니즘 자체임을 통제 실험과 이론적 후회 하한(Ω(T(M-1)Δ_switch))으로 증명했다는 점이다.

arXiv:2606.30044v1cs.LG

2단계 지식 증류를 통한 멀티태스크 에이전틱 대규모 언어 모델 구축

Building Multi-Task Agentic LLMs via Two-Phase Distillation

개별 태스크에 특화된 강화학습(RL) 전문가 모델들을 지식 증류(distillation)로 통합할 때, 오프-정책 증류는 순방향 KL의 모드 포괄 특성으로 인해 멀티태스크 환경에서 성능이 저하되고 온-정책 증류는 강한 초기화가 필요하다는 한계를 분석하여, 두 방식을 순차적으로 결합한 2단계 증류 방법을 제안한다. 대화형 에이전트와 텍스트 기반 게임 벤치마크에서 제안 방법이 단일 태스크 RL 전문가 수준의 성능을 회복함을 검증하였다.

arXiv:2606.29961v1cs.LG

DuoMem: 이중 공간 지식 증류를 통한 온디바이스 메모리 에이전트 강화

DuoMem: Towards Capable On-Device Memory Agents via Dual-Space Distillation

DuoMem은 대형 교사 모델의 절차적 메모리 능력을 소형 학생 모델로 전이하기 위해 컨텍스트 공간 증류(교사 생성 메모리를 학생 입력에 직접 제공)와 매개변수 공간 증류(LoRA 파인튜닝)를 결합한 이중 공간 지식 증류 프레임워크다. ALFWorld 벤치마크에서 4B 모델의 과제 성공률을 4.3%에서 77.9%로 끌어올리며 72B 교사 모델(87.1%)과의 격차를 대부분 좁혔고, 72B 모델 대비 3배 이상 빠른 추론 속도로 엣지 디바이스 배포에 적합한 성능을 달성했다.

arXiv:2606.29476v1cs.LG

CRAFT: 자기 증류 에이전틱 강화학습을 위한 무비용 형제 롤아웃 기반 반사실적 크레딧 할당

CRAFT: Counterfactual Credit Assignment from Free Sibling Rollouts for Self-Distilled Agentic Reinforcement Learning

CRAFT는 자기 증류 에이전틱 강화학습에서 기존 단일 스칼라 게이팅 방식의 두 한계—회고적 신호와 부호 불감성—를 해결하기 위해, GRPO가 이미 샘플링하는 형제 롤아웃을 재활용한 반사실적 토큰 중요도(CTI), 비대칭 적응형 컨트롤러, 토큰별 방향 양극화 KL 패널티라는 세 기둥으로 구성된 크레딧 할당 방식을 제안한다. 각 기둥은 독립적으로 비활성화 시 기준선과 바이트 단위 동일한 결과를 보장하며, 세 가지 에이전틱 환경과 네 가지 모델 스케일에 걸친 실험을 통해 그 효과를 검증한다.

arXiv:2606.29287v1cs.LG

궤적 매칭을 넘어서: 주변 분포 정렬을 통한 리플로우

Beyond Trajectory Matching: Reflow with Marginal Distribution Alignment

리플로우(reflow) 기반 지식 증류에서 궤적 매칭(trajectory matching)만으로는 학생 모델이 유도하는 주변 분포(marginal distribution)를 완전히 결정하지 못한다는 이론적 한계를 규명하고, 이를 해결하기 위해 보조 학습 가능 네트워크나 적대적 최적화 없이 각 증류 구간 끝점에서 학생-교사 주변 분포 불일치를 패널티로 부과하는 주변 정렬(marginal-alignment) 정규화기를 제안한다. SD 1.5, SDXL 등 벤치마크에서 소수 단계 생성 품질을 일관되게 개선함을 실험으로 검증하며, 텔레스코핑 총 변동(telescoping total-variation) 상한을 통해 이론적 보장도 함께 제시한다.

arXiv:2606.28600v1cs.NE

적응형 심부 뇌 자극을 위한 뉴로모픽 에너지 인식 학습

Neuromorphic Energy-Aware Learning for Adaptive Deep Brain Stimulation

뉴로모픽 및 엣지 컴퓨팅 연구는 신경망 컨트롤러의 추론 비용 절감에 집중해 왔으나, 물리적 폐루프 시스템에서는 액추에이터가 효율적인 컨트롤러에 맞먹거나 이를 초과하는 에너지를 소비할 수 있다. 따라서 효율적인 컨트롤러는 필요조건이지만 충분조건은 아니며, 추론이 더 이상 지배적이지 않게 되면 액추에이터가 절감 대상이 되는 비용으로 부각된다. 본 논문에서는 액추에이터 에너지를 강화학습 보상에 직접 통합하는 접근법인 에너지 인식 학습(energy-aware learning)을 소개하고, 이를 파킨슨병 치료를 위한 폐루프 심부 뇌 자극(DBS)에 적용하여 시연한다. 생물물리학적 피질-기저핵-시상 회로 모델에서 훈련된 심층 스파이킹 Q-네트워크는, 지속적 DBS 대비 자극 전하량을 80.0% 줄이면서 병리적 알파-베타 진동을 45.2% 억제하는 방법을 학습한다. 희소성 제약 지식 증류를 통해 정책을 SynSense XyloAudio 3 뉴로모픽 프로세서에 0.52 mW 추론 전력으로 압축하며, 이는 기존 엣지 하드웨어 상의 동등한 인공 신경망 대비 추론당 에너지를 28.1배 낮춘다. 자극 에너지와 추론 효율을 공동 최적화함으로써, 본 프레임워크는 이식형 신경 조절 장치의 두 가지 주요 전력 수요를 동시에 해결한다.

arXiv:2606.30562v1cs.CL

하이브리드 어텐션 모델로의 변환

Morphing into Hybrid Attention Models

하이브리드 어텐션 모델은 전체 어텐션 층의 일부만 유지하고 나머지 층을 선형 어텐션으로 대체함으로써 긴 컨텍스트 효율성을 개선한다. 그러나 트랜스포머-하이브리드 변환의 효과는 어떤 층이 전체 어텐션을 보존하는지에 따라 크게 달라진다. 기존의 하이브리드 층 선택 방법은 고정 배치 패턴이나 층별 점수 산정과 같은 휴리스틱 전략에 주로 의존하며, 층 중요도를 독립적으로 취급하고 전역 하이브리드 구성 하에서 상호 의존적인 층 효과를 간과한다. 본 연구에서는 하이브리드 층 선택을 예산 제약 부분집합 최적화 문제로 공식화한다. 또한, 트랜스포머-하이브리드 변환을 위한 효과적이고 효율적이며 확장 가능한 층 선택 방법인 FlashMorph(Fast LAyer Selection for Hybrid MORPHing)를 제안한다. FlashMorph는 먼저 각 전체 어텐션 층에 변환된 선형 어텐션 브랜치를 장착하여 변환 가능한 모델을 구성한다. 이후 모든 모델 가중치를 고정하고 합성 긴 컨텍스트 검색 데이터에서 층별 게이트를 공동으로 최적화하는데, 이때 모델이 효율성을 위해 선형 어텐션에 의존하도록 유도하는 선형화 정규화를 적용한다. 학습된 게이트는 사전 설정된 전체 어텐션 예산 하에 이산화되어 하이브리드 아키텍처를 구성하며, 이후 표준 로짓 증류와 긴 컨텍스트 파인튜닝이 수행된다. 광범위한 실험을 통해 FlashMorph가 보다 효과적인 하이브리드 구성을 발견하고, 긴 컨텍스트 재현율과 일반 벤치마크 성능을 유지하면서 기존 층 선택 방법 대비 층 선택 비용을 크게 절감함을 보여, 그 효과성, 효율성, 확장성을 입증한다.

arXiv:2606.30518v1cs.CL

이질적 지식 충돌 하에서 강건한 RAG를 위한 레짐 인식 피어 특화

Regime-Aware Peer Specialization for Robust RAG under Heterogeneous Knowledge Conflicts

검색-증강 생성(RAG)은 외부 컨텍스트에 생성을 그라운딩함으로써 언어 모델을 개선한다. 그러나 검색된 컨텍스트가 모델의 파라메트릭 지식과 충돌할 때 취약해질 수 있다. 이러한 충돌은 신뢰할 수 있는 증거, 부분적으로 신뢰할 수 있는 증거부터 적대적 컨텍스트까지 신뢰성 스펙트럼에 걸쳐 있다. 기존 방법들은 이러한 이질적 충돌을 레짐 비인식 감독으로 처리하는 경우가 많아, 신뢰성 레짐 전반에 걸쳐 양립 불가능한 학습 신호를 혼재시킬 수 있다. 이러한 신호를 분리하기 위해, 우리는 두 가지 상호 보완적 단위에서 충돌을 해결하는 레짐 인식 피어 특화 프레임워크인 RAPS-DA를 제안한다. 샘플 수준에서 충돌은 그라운딩(Grounding), 중재(Arbitration), 저항(Resistance)의 세 가지 레짐으로 구분되며, 공유된 기반 모델로부터 레짐별로 동일 규모의 피어 전문가 모델이 하나씩 학습된다. 각 샘플은 온-정책(on-policy) 역방향 KL 감독을 위해 해당 레짐에 일치하는 피어로 하드 라우팅된다. 토큰 수준에서 이중 층(dual-layer) 선택기는 교사 간 불일치, 학생-교사 발산, 학생 엔트로피를 활용하여 비정보적이거나 불안정한 토큰을 걸러내고, 확실하게 잘못 정렬된 토큰의 가중치를 높이며, 학생이 성숙해짐에 따라 점차 고충돌 토큰에 감독을 집중시킨다. 성능 향상은 더 강력한 교사가 아닌 고정된 모델 규모에서의 특화에서 비롯되며, 피어 전문가들은 학습 중에만 존재하므로 배포된 학생 모델은 레짐 레이블이나 피어 접근이 필요하지 않다. 다섯 가지 충돌 시나리오와 두 가지 분포 외(out-of-distribution) 벤치마크에 대한 실험에서 RAPS-DA는 모든 프롬프팅, 디코딩, 미세조정(fine-tuning), 강화학습(RL), 단일 교사 기준선을 능가함을 보인다.

arXiv:2606.30406v1cs.CL

MOPD: 대규모 언어 모델 사후 학습에서 능력 통합을 위한 다중 교사 온-정책 지식 증류

MOPD: Multi-Teacher On-Policy Distillation for Capability Integration in LLM Post-Training

현대의 대규모 언어 모델(LLM)은 사후 학습 중 강화학습에 의존하여 특정 능력을 향상시키지만, 여러 능력을 하나의 모델에 통합하는 것은 여전히 어려운 과제다. 오프-정책 파인튜닝(Off-Policy Finetune)이나 Mix-RL과 같은 기존 방법들은 비효율적이거나 성능 저하를 초래한다. 본 연구에서는 다중 도메인 강화학습 교사들의 능력을 결합하기 위한 사후 학습 패러다임인 다중 교사 온-정책 지식 증류(MOPD, Multi-teacher On-Policy Distillation)를 제안한다. MOPD는 먼저 도메인별 전문화된 강화학습을 수행하여 도메인 교사 집합을 확보한 뒤, 이 교사들을 학생 모델 자체의 롤아웃(rollout) 위에서 증류한다. 이를 통해 노출 바이어스를 제거하고 밀도 높은 최적화 신호를 제공한다. Qwen3-30B-A3B에서 MOPD는 Mix-RL, Cascade RL, 오프-정책 파인튜닝, Param-Merge 기준 모델들을 능가하며 각 교사의 능력을 거의 완전히 계승한다. 또한 MOPD는 도메인 교사들의 병렬적·독립적 개발을 가능하게 함으로써 다중 도메인 사후 학습에서 전형적으로 발생하는 도메인 간 결합 문제를 해소한다. MOPD는 산업 규모의 프론티어 모델인 MiMo-V2-Flash의 사후 학습에 실제 적용되어, 프론티어 규모 LLM에서의 능력 통합에 대한 실용적 가치를 입증하였다.

arXiv:2606.29869v1cs.CL

ARKD: 텍스트 생성을 위한 적응형 강화학습 기반 양방향 KL 발산 지식 증류

ARKD: Adaptive Reinforcement Learning-Guided Bidirectional KL Divergence Distillation for Text Generation

지식 증류(KD)는 대규모 언어 모델(LLM) 압축의 핵심 기법이나, 단일 KL 목적함수에 의존하는 방법들은 주요 분포 적합과 롱테일 확률 모델링 간의 균형에 실패하는 경우가 많아 생성 품질과 일반화를 모두 제한한다. 이를 해결하기 위해, 우리는 분포 정렬에서 순방향 및 역방향 KL 발산(FKL/RKL)의 상호 보완적 역할을 이론적·실증적 관점에서 분석한다. 이를 바탕으로, 정책 네트워크가 교사-학생 분포 특성에 따라 FKL과 RKL의 가중치를 동적으로 할당하는 강화학습 기반 적응형 KL 가중 지식 증류 프레임워크를 제안하며, 즉각적인 보상 신호를 통해 주요 모드와 롱테일 모드에 대한 이중 정렬을 달성한다. 광범위한 실험 결과, Rouge-L 및 BertScore 지표 전반에 걸쳐 일관된 성능 향상을 확인하였으며, 탐욕적 휴리스틱 방법 대비 0.4-0.6점 향상되고 다양한 벤치마크에서 다른 기준선 방법들을 능가함을 입증하였다.

arXiv:2606.29863v1cs.CL

KbSD: 에이전틱 검색에서의 행동 보정을 위한 지식 경계 인식 자기 증류

KbSD: Knowledge Boundary aware Self-Distillation for Behavioral Calibration in Agentic Search

에이전틱 검색은 대규모 언어 모델(LLM)에 동적 검색 능력을 부여하지만, 기존의 강화학습 방법은 지식 경계 보정 — 파라메트릭 메모리를 신뢰할 시점, 검색된 증거에 의존할 시점, 그리고 답변을 자제할 시점을 결정하는 것 — 에서 보상 희소성의 한계를 지닌다. 이진(binary) 보상은 바람직하지 않은 결과에 페널티를 부여할 수 있지만, 다양한 지식 상태에 걸쳐 보정된 결정을 내리는 데 필요한 추론 과정에 대한 지침은 거의 제공하지 못한다. 이를 해결하기 위해 우리는 KbSD(Knowledge boundary Self-Distillation)를 제안한다. 이는 밀집 토큰 수준 감독, 결과 수준 희소 보상, 사분면 적응형 최적화를 통해 이 한계를 극복하는 프레임워크이다. KbSD는 학생 모델과 구조적으로 동일한 힌트 증강(hint-augmented) 교사 모델을 구성하며, 이 교사 모델은 파라메트릭 확실성, 검색 품질, 정답을 포함한 명시적 지식 경계 신호를 수신하여 보정된 추론 시연을 생성한다. 이러한 정보 비대칭 자기 증류는 더 큰 외부 모델 없이도 밀집 감독을 가능하게 한다. 지식 상태에 따른 이질적인 추론 분포를 추가로 고려하기 위해, 우리는 사분면 적응형 증류 목표를 도입한다: 집중적 통합을 위한 역방향 KL, 다양한 거부를 위한 순방향 KL, 그리고 정밀도와 커버리지를 모두 필요로 하는 비대칭 사분면을 위한 파레토 최적 양방향 KL이다. 다양한 벤치마크에서의 실험 결과, KbSD는 강력한 기준선 대비 과제 정확도와 환각(hallucination) 완화 모두에서 일관된 개선을 보이며, 특히 희소 보상이 가장 정보를 제공하지 못하는 어려운 사분면에서 가장 큰 성능 향상을 나타낸다.

arXiv:2606.29130v1cs.CL

DistilledGemma: 다국어 역사적 기사에서의 인물-장소 관계 추출을 위한 균형 잡힌 효율성-정확도

DistilledGemma: Balanced Efficiency-Accuracy for Person-Place Relation Extraction from Multilingual Historical Articles

우리는 영어, 독일어, 프랑스어로 된 다국어 역사 신문 기사에서 인물-장소 관계 추출을 다루는 HIPE-2026 공유 태스크를 위한 효율적이고 정확한 시스템인 DistilledGemma를 제안한다. 우리의 접근법은 분류 정확도와 계산 효율성의 균형을 맞추도록 설계된 3단계 지식 증류 파이프라인을 채택한다. 1단계에서는 이 어려운 태스크에 가장 효과적인 추론 아키텍처를 파악하기 위해 여덟 개의 대규모 언어 모델에 걸쳐 프롬프트 엔지니어링 전략을 체계적으로 탐색하였다. 2단계에서는 QLoRA를 통한 지도 미세조정(SFT)을 Gemma 4 26B A4B 교사 모델에 적용하여, 강력한 다국어 능력을 활용해 학습 코퍼스 전반에 걸쳐 실버 스탠더드 사고의 연쇄 추적 데이터를 생성하였다. 최종 단계에서는 학습된 추론 패턴을 소형 Gemma 4 E2B 학생 모델로 전이하기 위해 응답 수준 증류를 수행하였다. 공식 평가에서 우리 팀 WHEREAMI는 표준 테스트 세트에서 정확도 프로파일 평균 점수 0.688로 3위, 이진 테스트 세트에서 평균 점수 0.8156으로 2위를 기록하였다. 특히, 26B 교사 모델에서 2.3B 학생 모델로 지식을 증류함으로써 강력한 추론 능력을 유지하면서 배포된 모델 크기를 약 2.3B 유효 파라미터로 줄였으며, 학습 중에 사용된 LoRA 어댑터는 추론을 위해 학생 모델에 병합되었다. 이 구성은 표준 및 이진 테스트 세트 모두에서 균형 잡힌 효율성-정확도 프로파일 부문에서 2위를 기록하였다. 이 결과들은 지식 증류가 과도한 계산 비용 없이 경쟁력 있는 성능을 달성하면서 역사적 문서 처리를 위한 실용적이고 확장 가능한 솔루션을 제공함을 보여준다.

arXiv:2606.28953v1cs.SD

음성 명령 분류 시스템에 대한 포이즈닝 공격 방어를 위한 비지도 표현 클러스터링

Clustering Unsupervised Representations as Defense against Poisoning Attacks on Speech Commands Classification System

포이즈닝 공격(poisoning attack)은 공격자가 의도적으로 학습 데이터를 변조하는 것을 의미한다. 본 논문에서는 음성 명령 분류 시스템에 대한 더티-레이블 포이즈닝 공격 시나리오를 고려한다. 위협 모델은 특정 클래스(소스 클래스)의 일부 발화에 트리거를 중첩하여 포이즈닝하고, 해당 레이블을 공격자가 선택한 다른 클래스(타겟 클래스)로 변경하는 것을 가정한다. 우리는 이러한 공격에 대한 필터링 방어를 제안한다. 먼저, 레이블 없는 지식 증류(DINO, DIstillation with NO labels)를 사용하여 모든 학습 예시에 대한 비지도 표현(unsupervised representation)을 학습한다. 다음으로, K-평균과 LDA를 사용하여 이러한 표현을 클러스터링한다. 마지막으로, 각 클러스터에서 가장 많이 반복되는 레이블을 가진 발화만을 학습에 사용하고 나머지는 제거한다. 소스 클래스의 10%가 포이즈닝된 경우, 공격 성공률이 99.75%에서 0.25%로 감소하는 것을 보인다. 서로 다른 타겟 및 소스 클래스, 트리거 변형을 포함한 다양한 위협 모델에 대해 제안된 방어를 검증하였다.