PyTorchKR Papers

최신 논문

총 6편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.13668v2cs.CL

Influcoder: 데이터 속성(Data Attribution)을 위한 디코더의 그래디언트 영향력 순위를 인코더로 증류하기

Influcoder: Distilling Decoders' Gradient Influence Rankings into an Encoder for Data Attribution

대규모 데이터셋에서 기존 데이터 속성(Data Attribution) 방법들의 속도와 저장 효율성 문제를 해결하기 위해, 디코더의 그라디언트 영향력 순위를 인코더로 증류하는 Influcoder를 제안합니다.

arXiv:2606.06892v3cs.LG

GRASP: 확장 가능한 사전학습 데이터 기여도 분석을 위한 기하학 인지 잔차 정렬

GRASP: Geometry-aware Residual Alignment for Scalable Pretraining Data Attribution

확장 가능한 데이터 기여도 분석(data attribution) 방법들은 일반적으로 개별 학습 예제에 독립적인 효용 점수를 부여합니다. 이처럼 널리 쓰이는 가법성 가정은 데이터 중복성과 상호 보완적 커버리지를 포함한 핵심적인 부분집합 역학을 근본적으로 포착하지 못합니다. 본 연구에서는 기여도 분석을 부분집합 수준의 반사실적(counterfactual) 효용 예측 문제로 재정의하고, 상호작용을 고려하는 대리 모델인 GRASP를 제안합니다. 이론적인 평활도 하한에 기반한 GRASP는 2차 기하학적 페널티를 통해 부분집합 간 상호작용을 명시적으로 모델링합니다. 숨겨진 오라클 튜닝에 의존하지 않고 사전학습 규모의 효율성을 달성하기 위해, 저차원 특징 스케치와 엄격하게 유한한 하한 신뢰 한계(LCB) 선택 프로토콜을 결합합니다. 광범위한 부분집합 재학습 평가를 통해 GRASP가 기존의 확장 가능한 베이스라인 모델들을 압도적으로 능가함을 입증합니다. GRASP는 사전 산출물 구축 비용을 약 10분의 1 수준으로 줄이면서도, 반사실적 부분집합 충실도에 대한 태스크 수준 순위 상관관계를 2배 이상 끌어올립니다. 나아가 다운스트림 진단을 통해 이러한 점수 측정 메커니즘이 언어 모델 큐레이션 및 교차 도메인 비전 데이터 선택으로도 전이됨을 보여주며, 대규모 사전학습 말뭉치를 최적화하기 위한 탄탄한 토대를 마련합니다.

arXiv:2607.21615v1cs.AI

FrED: 도메인 지식 그래프 그라운딩을 통한 외부 데이터 영향 추정

FrED: External Data Influence Estimation via Domain Knowledge Graph Grounding

생성형 AI의 급속한 배포는 투명성과 책임성을 보장하기 위한 학습 데이터 귀속(Training Data Attribution)에 대한 중요한 필요성을 증폭시켰다. 그러나 현재의 파라미터 기반 접근법은 계산적으로 부담이 큰 모델 가중치 접근을 요구하는 반면, 유사도 기반 방법은 깊은 구조적 문맥을 무시한다. 우리는 완전히 블랙박스(black-box) 환경에서 동작하는 새로운 확률적 프레임워크를 제안한다. 우리 방법은 연속적인 특징(feature) 유사도와 이산적인 도메인 특화 지식 그래프(KG)를 융합한다. 이 접근법은 귀속이 구조적 현실에 그라운딩(grounding)되도록 보장하며, 매우 구체적인 역사적 샘플을 명시적으로 보상하는 동시에 일반적인 배경 데이터가 결과를 지배하는 것을 방지한다. 우리는 출력을 데이터 및 도메인 문맥에 연결하는 것이 본질적으로 복잡한 두 가지 서로 다른 도메인에서 프레임워크를 평가한다: 추상적 예술적 이미지 합성과 고차원 물리 기상 예보. 광범위한 벤치마킹(benchmark)은 우리 접근법의 견고한 효과를 입증한다. 예술 도메인에서, 이 방법은 표준 블랙박스 유사도 기준선(baseline)을 능가하는 강력한 Linear Datamodeling Score를 달성하면서, 그래디언트(gradient) 기반 추정기와의 격차를 상당 부분 좁힌다. 또한 환경 예측 분야의 교차 도메인 실현 가능성 사례 연구를 제시한다. 여기서 우리는 도메인 KG를 사용하여 지역 홍수 예보를 위한 물리적으로 일관된 역사적 유사 사례를 검색하고, 잠재 표현(latent)만 사용하는 기준선(baseline) 대비 지리적 국한(localisation)을 개선한다. 내부 모델 접근 없이 완전히 동작하며, 우리 접근법은 사후 영향 분석(post-hoc influence analysis)과 도메인 그라운딩 검색(domain-grounded retrieval)을 위한 효율적이고 해석 가능한 메커니즘을 제공한다.

arXiv:2606.29171v1cs.LG

심볼릭 메커니즘 데이터 귀인: 학습 영향을 학습된 행동 정책으로 추적하기

Symbolic Mechanistic Data Attribution: Tracing Training Influence to Learned Behavioral Policies

학습 데이터가 모델의 고수준 행동 정책을 어떻게 형성하는지 설명하지 못하는 기존 데이터 귀인(data attribution) 방법의 한계를 극복하기 위해, 희소 오토인코더(SAE) 특징 위에서 폐쇄형 Ridge 회귀로 심볼릭 정책을 학습한 뒤 각 SFT 학습 쌍이 특징 활성화(ΔX)와 출력 확률(ΔY) 경로를 통해 해당 정책을 어떻게 변화시키는지 분해하는 SMDA(Symbolic Mechanistic Data Attribution) 프레임워크를 제안한다. Llama-3.2-3B-Instruct의 거부(refusal) 행동에 적용한 결과, 심볼릭 정책의 계수가 종교적 고정관념 등 범주별 안전성 격차를 드러내고, 개별 학습 쌍이 의도치 않은 특징에 교차 간섭을 일으키는 현상을 식별하는 등 블랙박스 영향 함수보다 세밀하고 수동 회로 분석보다 확장 가능한 진단 도구임을 보였다.

arXiv:2606.18307v1cs.LG

DRIFT: 온-정책 데이터 귀속을 통한 인스트럭션 데이터 정제

DRIFT: Refining Instruction Data via On-Policy Data Attribution

지도 미세조정(SFT) 데이터 분포를 성능 상한선까지 끌어올리기 위해, 표준 영향 함수(IF)의 오프-정책 검증 타겟·그래디언트 노름 편향 한계를 지적하고 DRIFT를 제안한다. DRIFT는 모델의 온-정책 롤아웃을 검증 앵커로 쓰고 궤적 정확도 기반 부호 가중치와 그래디언트 디바이어싱으로 인스턴스 수준 데이터 귀속을 수행하며, 70억 매개변수 인스트럭션·추론 모델에서 기존 데이터 큐레이션 기준을 넘어 성능 상한을 일관되게 높인다.

arXiv:2606.11660v1cs.LG

Bergson: 데이터 귀속(Data Attribution)을 위한 오픈 소스 라이브러리

Bergson: An Open Source Library for Data Attribution

데이터 귀속(Data Attribution)은 학습 데이터의 영향력을 통해 모델 행동을 설명하는 것을 목표로 하는 해석 가능성(interpretability) 분야에서 유망한 기술로, 바람직하지 않은 모델 행동 디버깅 및 학습 데이터셋 큐레이션 등을 응용 분야로 포함합니다. 그러나 이를 대규모로 수행하기 위해서는 상당한 공학적 노력이 필요하며, 많은 최첨단 기술들은 오픈 소스 도구와 지원이 부족한 상황입니다. Bergson은 매우 큰 언어 모델(LLM)과 사전학습(pre-training) 데이터셋까지 확장 가능한 다양한 기술을 제공하여 해당 분야의 더 빠른 발전을 도모하는 것을 목표로 하는 오픈 소스 라이브러리입니다. 이 라이브러리는 디스크 기반 그래디언트(gradient) 저장소와 다중 노드(multi-node) 분산 학습(training)을 기본적으로 지원하며, 연구자들을 위한 편의 기능 도구를 제공합니다. 마지막으로, 세 가지 주요 데이터 귀속(Data Attribution) 방법인 MAGIC, SOURCE 및 TrackStar의 최초 오픈 소스 구현을 소개합니다. 이 라이브러리는 https://github.com/EleutherAI/bergson 에서 확인할 수 있습니다.