PyTorchKR Papers

최신 논문

총 6편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2608.13545v3cs.CL

LittleLearner: 교육학적으로 제어된 지식 노출 환경에서의 언어 모델

LittleLearner: Language Models Under Pedagogically Controlled Knowledge Exposure

현대 언어 모델은 이종의 웹 규모 텍스트 말뭉치로 학습됩니다. 결과적으로 관련 콘텐츠에 대한 사전 노출을 명확히 규정하기 어렵기 때문에, 지식 및 기술 습득을 연구하는 데 한계가 있습니다. 이러한 문제를 해결하기 위해, 본 연구에서는 미국 초등학교 교육 자료에 맞추어 5학년을 초과하는 학년에서 가르치는 개념, 사실 및 어휘를 명시적으로 제외하고 구축한 880억(88B) 토큰 규모의 사전학습 말뭉치인 LittleCurriculum을 소개합니다. LittleCurriculum을 기반으로 50억(5B) 매개변수 대규모 언어 모델(LLM)을 처음부터 학습(scratch)시켜, 개방형 평가를 수행하기에 충분한 언어 능력을 갖추면서도 해석 가능한 교육과정 지침에 부합하는 명확한 지식 및 능력 경계를 지닌 모델인 LittleLearner를 도출했습니다. 잘 정의된 학습 범위 내에서 모델이 데이터를 어떻게 습득하고, 표현하며, 활용하는지 연구할 수 있도록 발달적으로 제한된 샌드박스로 LittleCurriculum과 LittleLearner를 공개합니다. 또한 사후 학습(post-training)과 문맥 내 학습(ICL)을 통해 새로운 지식을 주입하는 첫 번째 일련의 실험을 통해 이 샌드박스의 유용성을 입증합니다. 이러한 방식은 LittleLearner가 기존 지식을 더 잘 활용할 수 있도록 돕지만, 범위를 벗어난 능력을 향상시키지는 못합니다. 본 연구 결과는 향후 연구를 위한 이러한 통제된 환경의 가치를 강조합니다.

arXiv:2607.22625v1cs.AI

TokenMem: 동결 LLM을 위한 충실한 지식 주입

TokenMem: Faithful Knowledge Injection for Frozen LLMs

검색-증강 생성(RAG)은 대규모 언어 모델(LLM)에 외부 지식을 더해 성능을 높이지만, 지식 충돌 문제가 있습니다. 검색된 정보가 파라미터 메모리와 모순될 때, 공유된 셀프-어텐션(self-attention) 경로가 예측 불가능한 출력을 만들어냅니다. 우리는 TokenMem을 제안합니다. TokenMem은 전용 크로스-어텐션(cross-attention) 채널을 통해 동결 LLM에 지식을 주입하는 경량 메모리 시스템으로, 잔차 스트림(residual stream)에서 파라미터 메모리와의 경쟁을 우회합니다. TokenMem은 2단계 커리큘럼을 통해 얇은 게이팅 어댑터(약 3–7M 파라미터)만 학습합니다. 먼저 일반적인 지식 활용을 학습하고, 이어서 반사실적(counterfactual) 지식 하에서 충실한 준수(faithful compliance)를 강화합니다. 세 가지 모델 패밀리에 걸친 다섯 모델(Qwen3-4B/8B/14B, LLaMA-3.1-8B, OLMo-3-7B)에 대한 통제 실험에서 TokenMem은 반사실적 벤치마크에서 69–70%의 지식 준수(Knowledge Compliance, KC)를 달성했으며, 바닐라 RAG의 20–52%와 비교해 최대 49퍼센트포인트 차이를 보였습니다. ablation 연구는 2단계 커리큘럼이 핵심적임을 보여줍니다. Phase 2를 제거하면 KC가 거의 0에 가까워집니다. 메커니즘 분석은 게이트 어댑터가 명시적 감독 없이 충돌 인식(conflict-aware), 층별(layer-specific) 주입 전략을 학습함을 밝혀냅니다.

arXiv:2607.20453v1cs.CL

섬망 예측을 위한 LLM 제로샷 적응 지식 주입 프레임워크

A Knowledge-Injection Framework for Zero-Shot Adaptation of LLMs to Delirium Prediction

대규모 언어 모델(LLM)은 임상 예측에 유망하지만, 특화된 작업에서의 제로샷 성능은 불완전한 도메인 지식으로 인해 제한되며, 특히 소규모의 로컬 배포 가능 모델에서 그렇다. 우리는 미세조정이나 검색 없이 추론 시점에 구조화된 전자 건강 기록(EHR) 데이터의 결정론적 자연어 요약을 외부 임상 지식 보고서로 보강하는, ICU 섬망 예측을 위한 경량 지식 주입 프레임워크를 제시한다. MIMIC IV 데이터셋의 ICU 입원 3,160건에 대해 LLaMA 3.1 8B와 LLaMA 3.3 70B를 평가한다. 임상적으로 의미 있는 외부 지식 보고서를 추가하면 외부 지식이 없을 때와 비교하여 8B 모델의 AUROC가 8.57퍼센트포인트, 70B 모델은 1.99퍼센트포인트 향상된다. 외부 지식 보고서 없이 사용한 GPT-5.2 프론티어 모델 기준(AUROC 68.86%)과 비교할 때, 지식 주입은 LLaMA 8B의 성능 격차를 15.66에서 7.09 AUROC 포인트로, LLaMA 70B는 5.30에서 3.31 AUROC 포인트로 줄인다. 무작위 대조 보고서는 성능을 개선하지 않으며 오히려 저하시키는 경우가 많아, 향상은 프롬프트 길이 증가만이 아니라 임상적으로 의미 있는 내용에 달려 있음을 시사한다. SHAP 기반 기여도 분석은 주입된 지식이 예측 과정에서 적극적으로 활용됨을 추가로 확인한다. 이러한 결과는 추론 시점 지식 주입이 로컬 배포 가능한 오픈 가중치 모델과 프론티어 폐쇄형 모델 간의 격차를 줄일 수 있으며, 자원이 제한된 임상 환경에서 실용적이고 프라이버시를 보존하는 워크플로를 유지할 수 있음을 시사한다.

arXiv:2606.23271v1cs.CL

분포 최적화 합성을 통한 LLM 지식 경계 확장

Scaling LLM Knowledge Boundaries via Distribution-Optimized Synthesis

기존 합성 데이터 기반 지식 주입은 사전 설정 토큰 수나 고정 비율에만 의존해 도메인별 지식 분포 불균형으로 LLM 지식 경계 확장이 제한된다. KDoS는 지식 밀도와 3단계 피드백으로 목표 분포에 맞게 합성을 조절하며, 0.6B~16B 규모 모델과 1B~5B 토큰 데이터에서 최적 분포가 경계 확장을 일관되게 극대화하고 여섯 가지 지식 벤치마크에서 베이스라인을 능가한다.

arXiv:2605.16865v3cs.CL

MixSD: 지식 주입을 위한 혼합 문맥 자기 증류

MixSD: Mixed Contextual Self-Distillation for Knowledge Injection

지도 미세조정(SFT)은 언어 모델에 새로운 지식을 주입하는 데 널리 사용되지만, 추론 및 일반 도메인 성능과 같은 사전학습된 능력을 저하시키는 경우가 많습니다. 우리는 이러한 망각이 인간이나 외부 시스템의 미세조정 타겟이 모델의 자기회귀 분포와 달라서, 옵티마이저가 낮은 확률의 토큰 시퀀스를 모방하도록 강요하기 때문에 발생한다고 주장합니다. 이 문제를 해결하기 위해 우리는 분포 정렬 지식 주입을 위한 간단한 외부 교사 없는(external-teacher-free) 방법인 MixSD를 제안합니다. 고정된 타겟으로 학습하는 대신, MixSD는 기본 모델 자체의 두 조건부(conditional)에서 토큰을 혼합하여 동적으로 감독(supervision)을 구성합니다: 문맥에서 주입된 사실을 관찰하는 전문가 조건부와 모델의 원래 사전(prior)을 반영하는 순진한(naive) 조건부입니다. 결과적으로 생성된 감독 시퀀스는 기본 모델의 분포에 실질적으로 더 가까워지면서 사실적 학습 신호를 보존합니다. 우리는 통제된 환경에서 사실적 재현율과 산술 함수 습득을 연구하기 위해 구성한 두 개의 합성 말뭉치와, 개방형 도메인 사실적 질의응답 및 지식 편집을 위한 확립된 벤치마크에서 MixSD를 평가합니다. 여러 모델 규모와 설정에 걸쳐, MixSD는 SFT 및 온-정책(on-policy) 자기 증류 기준선과 비교하여 더 나은 암기-유지 트레이드오프를 일관되게 달성하며, 거의 완벽한 학습 정확도를 유지하면서 기본 모델의 제외된(held-out) 능력을 최대 100%까지 유지하는 반면, 표준 SFT는 1%만 유지합니다. 또한 MixSD는 기본 모델에서 실질적으로 더 낮은 NLL(음의 로그 우도) 감독 타겟을 생성하고, 피셔 민감(Fisher-sensitive) 매개변수 방향을 따르는 해로운 이동을 줄인다는 것을 보여줍니다. 이러한 결과는 감독을 모델의 고유 생성 분포와 정렬하는 것이 치명적 망각을 완화하는 지식 주입을 위한 간단하고 효과적인 원칙임을 시사합니다.

arXiv:2606.18310v1cs.CR

LLM 기반 RAG 시스템에 대한 지식 주입 공격을 위한 충돌 인식 리트리버 편집

Conflict-Aware Retriever Editing for Knowledge Injection Attacks on LLM-Based RAG Systems

데이터 중심 말뭉치 조작 대신 오픈 소스 리트리버 매개변수를 직접 편집하는 모델 중심 RAG 악성 지식 주입 공격 프레임워크 CAREATTACK을 제안하며, 그래프 기반 충돌 감지·투영과 공격 보존 앵커 복구로 대상 프롬프트에서 악성 패시지가 양성 경쟁 문단보다 상위로 검색되도록 한다. Qwen3-Embedding-0.6B와 BGE-M3에서 세 벤치마크를 평가한 결과 악성 패시지가 검색 상위에 실질적으로 올라가고 비대상 프롬프트 영향은 작아, 오픈 소스 리트리버 기반 RAG의 실질적 공격 표면을 보여준다.