PyTorchKR Papers

최신 논문

총 7편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.13668v2cs.CL

Influcoder: 데이터 속성(Data Attribution)을 위한 디코더의 그래디언트 영향력 순위를 인코더로 증류하기

Influcoder: Distilling Decoders' Gradient Influence Rankings into an Encoder for Data Attribution

대규모 데이터셋에서 기존 데이터 속성(Data Attribution) 방법들의 속도와 저장 효율성 문제를 해결하기 위해, 디코더의 그라디언트 영향력 순위를 인코더로 증류하는 Influcoder를 제안합니다.

arXiv:2609.38767v2cs.LG

dattri-LLM: LLM 규모의 학습 데이터 기여도 분석을 위한 통합적이고 효율적인 라이브러리

dattri-LLM: A Unified and Efficient Library for Training Data Attribution at LLM Scale

학습 데이터 기여도 분석(TDA, Training Data Attribution)은 개별 학습 예제가 모델 출력에 미치는 영향을 추정합니다. 확장 가능한 대부분의 TDA 방식은 예제별 그래디언트(per-example gradient)에 의존하지만, 이를 대규모 언어 모델(LLM) 규모에서 계산하고 활용하는 데에는 효율성, 호환성 및 확장성 측면의 어려움이 따릅니다. 본 연구에서는 그래디언트 기반 기여도 분석을 대규모 환경에서 더욱 실용적으로 수행할 수 있도록 지원하는 TDA 라이브러리인 dattri-LLM을 소개합니다. 효율성을 위해 dattri-LLM은 간결한 그래디언트 표현 방식을 사용하고 비용 모델을 기반으로 그래디언트 연산을 동적으로 라우팅합니다. 호환성 측면에서는 포착(capture) 메커니즘을 통해 backward()를 호출하는 기존 학습 루프나 그 구성을 변경하지 않고도 예제별 그래디언트를 수집할 수 있습니다. 이는 DDP 및 FSDP를 활용한 분산 학습과 HuggingFace Transformers, TRL, OLMo로 구축된 파이프라인을 지원합니다. 확장성을 위해 dattri-LLM은 기여도 분석 기법과 응용 프로그램을 구현할 수 있는 재사용 가능한 그래디언트 연산 및 학습 시점 콜백을 제공합니다. 이러한 인터페이스는 그래디언트 유사도, 곡률 기반 영향도, 궤적 기반 기법 등 다양한 기여도 분석 방식뿐만 아니라 온라인 데이터 선택과 같이 학습 중 그래디언트를 활용하는 응용 분야도 지원합니다. 동일한 하드웨어와 워크로드에서 dattri-LLM은 가장 빠른 경쟁 라이브러리 대비 평균 3.2배의 처리량을 달성하고, 4대의 H200 GPU에서 다양한 기여도 분석 방식을 1,100억 개 매개변수(110B) 모델까지 확장하며, 다양한 모델 계열 및 규모 전반에 걸쳐 기여도 정확도 대비 비용 면에서 우수한 절충점을 제공합니다. dattri-LLM의 소스 코드는 https://github.com/TRAIS-Lab/dattri-llm 에서 확인할 수 있습니다.

arXiv:2607.09250v1stat.ML

고차원 M-추정에서의 영향력 진단: 정밀 점근 분석

Influence Diagnostics in High-dimensional M-estimation: Precise Asymptotics

통계 모델에 대한 특정 학습 데이터 포인트의 영향은 고전적으로 leave-one-out 영향력을 통해 측정되며, 이는 학습 세트에서 해당 포인트를 제거했을 때 모델 정확도에 미치는 효과를 정량화한다. Leave-one-out 영향력의 통계적 특성은 저차원 대표본 극한 $n\to \infty, d=O(1)$에서는 잘 이해되어 있지만, 고차원에서는 특정 샘플의 영향력이 다른 모든 학습 샘플과 비자명한 의존성을 형성하게 되어 더욱 복잡해진다. 가우시안 설계 하의 볼록 M-추정에서, 고차원 극한 $n\asymp d$에서 학습 세트 전체에 걸친 영향력의 분포가 특정 극한 측도로 수렴함을 보이며, 이를 정밀하게 특성화한다. 이러한 결과를 바탕으로, 영향력이 큰 샘플이 결정 경계(decision boundary) 근처에 위치하는 경향이 있음에 대한 근거를 제시하며, 이를 통해 능동 학습(active learning)의 표준적인 데이터 선택 휴리스틱과의 연결점을 확인한다.

arXiv:2606.25488v1cs.LG

Distill on a Diet: Efficient Knowledge Distillation via Learnable Data Pruning

지식 증류(KD) 학습 비용을 줄이기 위해 영향 함수(influence function) 기반 샘플 점수와 Beta 분포로 파라미터화한 학습 가능 샘플링 정책을 결합한 IF-Beta를 제안하고, 교사 feature space에서의 이분법(bilevel) 최적화로 프루닝 정책을 KD 목표에 맞게 효율적으로 학습한다. CIFAR-10/100과 ImageNet에서 다양한 프루닝 비율에서 기존 baseline을 일관되게 능가하며, 더 적은 데이터와 계산으로 전체 데이터 증류 성능을 넘어선다.

arXiv:2606.18307v1cs.LG

DRIFT: 온-정책 데이터 귀속을 통한 인스트럭션 데이터 정제

DRIFT: Refining Instruction Data via On-Policy Data Attribution

지도 미세조정(SFT) 데이터 분포를 성능 상한선까지 끌어올리기 위해, 표준 영향 함수(IF)의 오프-정책 검증 타겟·그래디언트 노름 편향 한계를 지적하고 DRIFT를 제안한다. DRIFT는 모델의 온-정책 롤아웃을 검증 앵커로 쓰고 궤적 정확도 기반 부호 가중치와 그래디언트 디바이어싱으로 인스턴스 수준 데이터 귀속을 수행하며, 70억 매개변수 인스트럭션·추론 모델에서 기존 데이터 큐레이션 기준을 넘어 성능 상한을 일관되게 높인다.

arXiv:2606.11616v1cs.LG

DeMix: 영향 벡터 분석을 통한 혼합 데이터 오류 유형 학습 데이터 디버깅

DeMix: Debugging Training Data with Mixed Data Error Types by Investigating Influence Vectors

고품질 학습 데이터는 머신러닝 모델의 성공에 필수적입니다. 그러나 실제 데이터셋은 종종 레이블 오류, 특징 오류, 가상 상관관계를 포함하여 데이터 준비 파이프라인의 체계적 결함에서 비롯된 혼합 유형의 오류를 포함합니다. 학습 데이터의 효과적인 디버깅은 표적화된 수정을 위해 오류 샘플을 탐지하고 그 구체적인 오류 유형을 식별하는 것이 모두 필요하지만, 기존 데이터 정제 및 귀인 방법은 이 이중 요구 사항을 적절히 해결하지 못합니다. 본 논문에서는 오류 샘플과 그 오류 유형을 동시에 진단하는 새로운 프레임워크인 DeMix를 제안합니다. 우리의 핵심 통찰은 서로 다른 오류 유형이 모델 동작에 서로 다른 패턴을 생성한다는 것입니다. DeMix는 각 학습 샘플이 모든 검증 샘플에 걸쳐 모델 예측에 미치는 영향을 특징으로 하는 영향 벡터를 통해 이러한 오류 특정 패턴을 포착합니다. 우리는 영향 벡터로부터 직접 오류 유형을 예측하도록 분류기를 개발하여 학습 데이터 디버깅을 다중 레이블 분류 문제로 공식화합니다. 또한, 학습된 분류기가 효과적으로 일반화되도록 보장하기 위해 각 오류 유형에 특정한 불변의 근거를 포착하도록 분류기를 안내하는 개입 기반 학습 전략을 도입합니다. 테이블 데이터 예측, 추천 시스템, LLM 정렬에 걸친 11개 작업에 대한 실증적 평가 결과, DeMix는 최첨단 방법론보다 유의미하게 우수하며, 데이터 디버깅 F1 점수에서 22.61% 향상을 달성하고 데이터 수정 후 작업 모델 성능에서 9.32%의 이득을 보였습니다. 코드는 https://github.com/SJTU-DMTai/DeMix에서 확인할 수 있습니다.

arXiv:2606.05919v2stat.ML

가장 영향력 있는 집합 찾기

Finding Most Influential Sets

가장 영향력 있는 집합(MIS) - 제거 시 목표 추정량을 최대로 변화시키는 크기 $k$의 부분집합 - 식별은 일반적으로 $\binom{n}{k}$ 개의 부분집합에 대한 탐색이 필요하므로 비현실적입니다. 선형 분수 집합 제외(leave-set-out) 효과를 갖는 추정량의 경우, MIS 선택이 상위 $k$개(top-$k$) 문제들의 단일 매개변수 수열로 축소됨을 보여줍니다. Dinkelbach의 방법을 사용하면 반복당 $\mathcal{O}(n)$ 비용이 들고 유한한 단계 내에 종료되는 알고리즘을 제공합니다. 고정된 잔차화 입력에 대해, 해당 알고리즘은 오라클 잔차화 부분 선형 모델을 포함한 단변량 비율 목적함수에 대한 전역 최적 집합을 반환합니다. 추정된 nuisance 함수(잡음 함수)의 경우, 균일 분모와 생성 점수 안정성은 1차 오라클 직교 점수 목적함수에 대한 근사를 의미하며, 분리 조건 하에서 정확한 집합 복구가 뒤따릅니다. 시뮬레이션 및 응용을 통해 본 방법이 기존에는 계산적으로 접근 불가능했던 정확한 MIS를 복구함을 보여줍니다.