PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.22521v1stat.ML

발산 유도 가중 디노이징을 통한 강건 확산 모델

Robust Diffusion Models via Divergence-Induced Weighted Denoising

확산 모델의 표준 MSE 디노이징 손실을 f-발산(f-divergence)이 유도한 비선형 변환으로 바꾸는 발산 유도 가중 디노이징 학습 목표를 제안하며, DDPM의 가우시안 역커널에서 단계별 불일치가 로그정규분포로 정리된다는 이론을 통해 오염 데이터에 강건한 학습을 가능하게 한다. CIFAR-10에서 30% 오염 조건에서 NED(negative exponential divergence)는 FID를 KL 기준 93.0에서 77.5로 낮추고 Huber·clipped MSE 같은 기존 강건 손실보다 우수한 결과를 보였다.

arXiv:2606.18424v1stat.OT

대규모 언어 모델(LLM) 생성기-규제자 게임을 위한 변분 프레임워크

A Variational Framework for LLM Generator-Regulator Games

자기회귀 토큰 샘플링으로 유도된 완전 메시지 분포를 엔트로피 정규화 기브스 법칙과 연결하고, f-발산 쌍대값을 갖는 최적 판별자로 규제를 모델링해 생성기-규제자 상호작용을 안장점 문제로 공식화하는 변분 프레임워크를 제안한다. 모더레이션·검열·AI 기만 탐지·피싱 방어 등 메시지 분포 수준의 규제에 적용되며, 균형 상태는 효용·엔트로피·규제 정합성·유한 길이 탐지 가능성 간 상충 관계를 드러내고 검열 필터링과 피싱 방어 사례 연구로 이론을 평가한다.