PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.20581v2cs.AI

확산에서 신뢰도의 한계

Limits of Confidence in Diffusion

remasking 및 uniform-state sampler를 포함한 이산 확산(discrete diffusion)은 매 스텝마다 여러 토큰 위치에 기록하며, 각 위치는 위치별 분포에서 샘플링하고 어떤 위치를 기록할지도 동일한 분포들로부터 선택하는 방식으로 시퀀스를 생성한다. 픽셀, 음소, 단어 등 일반적인 관심 영역에서는 토큰 간 본질적인 종속성이 존재한다. 우리는 한 스텝이 학습 분포와 일치하는 것은 그 스텝이 기록하는 위치들이 이미 고정된 토큰들이 주어졌을 때 조건부 독립일 때에만 해당함을 보이고, 위치별 분포의 곱은 종속적인 그룹과 일치할 수 없으며, 위치별 분포가 그룹의 종속 여부를 결정하지 않음을 보인다. 두 결합 분포가 동일한 위치별 주변 분포를 가지면서도 어떤 값 조합이 발생하는지는 달라질 수 있다. 결합 분포를 폐형식으로 알 수 있는 합성 과제 ScanAndAdd에서, confidence ranking이 기록하는 미정 위치 두 개 이상의 모든 그룹이 종속임을 검증하고, 생성 분포의 총 변동(total variation)을 샘플링 노이즈 바닥의 $29\times$로 측정한 반면 샘플당 지표는 $1.0$이다.