PyTorchKR Papers

최신 논문

총 11편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2604.26139v3cs.CL

HIVE: 확산 대규모 언어 모델의 환각 탐지를 위한 은닉 증거 검증

HIVE: Hidden-Evidence Verification for Hallucination Detection in Diffusion Large Language Models

확산 대규모 언어 모델(Diffusion Large Language Model, D-LLM)은 반복적인 노이즈 제거(denoising)를 통해 텍스트를 생성하므로, 최종 출력을 넘어 신뢰성 신호를 포함할 수 있는 은닉 궤적(hidden trajectory)을 드러냅니다. 본 논문에서는 궤적의 은닉 상태(hidden state)를 압축하고, 유의미한 단계-층(step-layer) 증거를 선택하며, 연속적인 접두 문맥 임베딩(prefix embedding)을 통해 검증기(verifier)를 조건화하여 환각 점수와 구조화된 진단을 생성하는 HIVE를 제안합니다. 두 종의 D-LLM과 세 가지 QA 벤치마크 전반에 걸쳐, HIVE는 6개 설정 모두에서 8개의 기존 기준 모델(baseline)과 검증기 백본이 일치하는 텍스트 전용 대조군보다 우수한 성능을 보입니다. 텍스트 전용 검증 대비 은닉 증거 조건화는 AUROC를 1.73--4.60포인트, AUPRC를 1.10--3.62포인트 향상시키며 각각 평균 3.15포인트 및 2.28포인트의 성능 향상을 달성합니다. 절제 연구(ablation), 증거 개입, 교차 데이터셋 전이(cross-dataset transfer) 실험은 세밀한 은닉 궤적 증거의 상호보완적 가치를 더욱 뒷받침합니다.

arXiv:2609.26796v1cs.CL

Flash-dLLM: 빠르고 메모리 효율적인 확산 대규모 언어 모델을 위한 I/O 인식 KV 캐싱 및 병렬 디코딩

Flash-dLLM: IO-Aware KV Caching and Parallel Decoding for Fast, Memory-Efficient Diffusion LLMs

확산 대규모 언어 모델(dLLM)은 비자기회귀(non-autoregressive) 텍스트 생성을 가능하게 함으로써 자기회귀 LLM의 유망한 대안으로 최근 부상했습니다. 그러나 효과적인 Key-Value(KV) 캐싱 및 확장 가능한 병렬 디코딩 메커니즘의 부재로 인해 비효율적인 추론(inference)이 발생하여 실제 배포에는 여전히 한계가 있습니다. 기존 가속 방법들은 대개 KV 캐싱과 병렬 디코딩을 개별적으로 연구하여, 캐시 재사용과 병렬 토큰(token) 검증을 결합하여 적용할 때 발생하는 I/O 병목 현상을 간과합니다. 본 연구에서는 빠르고 메모리 효율적인 dLLM을 위한 학습(training) 불필요 추론 가속 프레임워크인 $\textbf{Flash-dLLM}$을 소개합니다. Flash-dLLM은 먼저 GPU 메모리 I/O가 KV 캐시 기반 dLLM 추론에서 주된 병목임을 확인하고, 중복 메모리 이동을 줄이는 I/O 인식 융합 KV 캐시 커널(kernel)을 통해 이를 해결합니다. 이러한 최적화된 캐시 메커니즘을 기반으로, Flash-dLLM은 dLLM 자체가 보조 모델(model) 없이 초안 작성기(drafter)이자 검증기(verifier) 역할을 하는 효율적인 KV 캐시 기반 초안 작성 및 검증(draft-and-verify) 디코딩 전략을 추가로 제안합니다. 이 통합 설계는 생성 품질을 유지하면서 더 빠른 디코딩을 가능하게 하고, 더 긴 시퀀스와 더 큰 배치(batch) 크기에 대한 확장성을 개선합니다. 수학적 추론 및 코드 생성 벤치마크에 대한 광범위한 실험을 통해 Flash-dLLM이 추론 속도와 메모리 효율성 모두에서 기존 최고 수준의 dLLM 가속 방법들을 일관되게 능가함을 입증합니다. 특히 이전의 가장 강력한 기준선(baseline)인 Elastic-Cache 대비 GSM8K 및 HumanEval에서 각각 $5.1\times$ 및 $11.0\times$의 속도 향상을 달성합니다.

arXiv:2609.25927v1cs.CL

정보 기반 마스킹: 확산 대규모 언어 모델의 강화학습을 위한 구조 인지 섭동

Informed Masking: Structure-Aware Perturbation for Reinforcement Learning in Diffusion Large Language Models

확산 대규모 언어 모델(dLLM)은 자기회귀 모델의 효율적인 대안으로 부상했으나, 이를 강화학습(RL)을 통해 정렬(alignment)하려면 롤아웃당 적은 몬테카를로 예산 하에서 마스킹된 재구성 하위 문제로부터 추정된 가능도 대리치(likelihood surrogates)가 필요합니다. 기존 기법들은 균등 무작위 마스킹을 통해 이러한 하위 문제를 구성하므로, 어떤 하위 문제를 우선시해야 하는지에 대한 의문이 남아 있습니다. 본 연구는 dLLM 롤아웃에서 체계적인 상류/하류(upstream/downstream) 구조를 규명합니다. 특정 토큰들은 공개되었을 때 아직 디코딩되지 않은 인접 위치에서 큰 신뢰도 변화를 유발하며, 이를 상류 토큰이라 부릅니다. 반면 다른 토큰들은 국소적으로 작은 변화만을 유발하므로 하류 토큰에 해당합니다. 연구진은 하류 토큰을 마스킹하는 것이 상류 토큰을 마스킹하는 것보다 실질적으로 훨씬 더 잘 정의된(better-posed) 하위 문제를 생성한다는 점을 발견했으며, 이 현상을 '하위 문제 난이도 비대칭성'이라 명명했습니다. 이러한 관찰을 바탕으로, 추가적인 추론 비용 없이 디노이징 궤적에서 토큰별 우선순위 점수를 도출하고 마스크 샘플링이 하류 토큰 쪽으로 편향되도록 하는 정보 기반 마스킹(Informed Masking, IM)을 제안합니다. IM은 플러그 앤 플레이(plug-and-play) 방식으로 적용할 수 있으며, LLaDA-8B-Instruct 기반 세 가지 최신 dLLM 강화학습 기법에 결합했을 때 향상된 학습 안정성과 함께 수학 및 계획 수립 벤치마크에서 각각 최대 2.01%, 8.68%, 5.77%의 상대적 평균 성능 향상을 달성합니다.

arXiv:2607.22634v1cs.AI

PRESTO: 확산 추측 디코딩을 위한 접두 문맥 정렬 트리 드래프팅

PRESTO: Prefix-Aligned Tree Drafting for Diffusion Speculative Decoding

확산 대규모 언어 모델(dLLM)은 토큰을 병렬로 생성하는 자기회귀(AR) LLM의 유망한 대안으로 부상했다. 이는 추측 디코딩(SD)의 드래프트 모델로 효과적이며, 단일 순전파로 드래프트 토큰 블록 전체를 생성할 수 있다. 그러나 기존 확산 기반 드래프팅 방법은 dLLM이 여러 위치에서 다수의 후보 토큰을 출력하여 디코딩 경로의 큰 조합 공간을 유발함에도 불구하고 선형 드래프팅에 의존한다. 결과적으로 수용 길이와 디코딩 효율이 제한된다. 이 다중 후보 구조를 활용하기 위해, 우리는 확산 드래프터에 트리 기반 드래프팅을 적용하여 다양한 후보 경로의 탐험을 가능하게 한다. 그러나 순진한 트리 드래프팅은 최적이 아님을 확인했다. 확산 marginal은 접두 문맥 맹목적(prefix-blind)이어서 접두 문맥 기반 AR 검증과 불일치하며, 신뢰할 수 없는 경로 순위를 초래한다. 우리는 PRESTO를 제안한다. 이는 확산 드래프터에 트리 기반 드래프팅을 확장하면서, 접두 문맥 정렬 점수(PREfix-aligned Scoring)와 확산 추측 디코딩을 위한 우선순위 기반 트리 탐색(priority-based Tree search for diffusion speculative decOding)을 통해 확산 드래프트 신뢰도와 접두 문맥 기반 AR 검증 간의 근본적 불일치를 해소하는 원칙적 프레임워크이다. PRESTO의 핵심 원칙은 (1) 후보 순위가 AR 검증의 접두 문맥 기반 특성과 정렬되어야 하며, (2) 트리 구성이 검증 잠재력이 높은 후보 경로를 우선하여 수용 길이를 극대화해야 한다는 것이다. 광범위한 실험에서 PRESTO는 최신 전용 확산 드래프터 SD에서 평균 최대 $1.5\times$의 엔드투엔드 처리량 가속을, 다양한 벤치마크에서 자기 추측(self-speculative) 확산 LLM에서 평균 $1.12\times$를 달성했다.

arXiv:2607.14107v1cs.CL

Polestar: 확산 LLM의 효율적 추론을 위한 드리프트 인식 캐시 보정 및 토큰 커밋

Polestar: Drift-Aware Cache Calibration and Token Commitment for Efficient Inference of Diffusion LLMs

확산 대규모 언어 모델(dLLM)의 추론 효율은 두 가지 과제에 의해 제약된다. 양방향 어텐션은 효율적인 KV-cache 재사용을 막고, 정적 신뢰도 임계값으로 디코딩 병렬성을 높이면 생성 품질이 저하될 수 있다. 우리는 두 과제 모두 공통 현상에서 비롯된다는 것을 관찰한다. 토큰이 디코딩될수록 양방향 어텐션을 통한 문맥 통합으로 인해 토큰 표현이 디코딩 단계마다 드리프트(진화)한다. 이 통찰은 Polestar를 동기 부여한다. Polestar는 토큰 표현 드리프트를 통합 신호로 사용하여 두 과제를 함께 해결하는 학습 없는 추론 프레임워크이다. Polestar는 두 구성 요소로 이루어진다. Polestar-Cache는 드리프트를 통해 오래된 KV-cache 위치를 식별하고 희소 KV-cache 갱신을 수행하여 효율적 재사용을 가능하게 하며, Polestar-Commit은 급격한 드리프트 이벤트를 감지하여 커밋 준비가 된 토큰을 신뢰성 있게 식별한다. 여러 dLLM 계열에서 수학 및 코딩 벤치마크에 걸쳐 Polestar는 정확도-처리량 Pareto 프론티어에서 새로운 최고 수준을 달성하며, 기존 베이스라인 대비 최대 10.73% 정확도 향상, 최대 3.7배 높은 처리량, 순전파당 3.67 토큰의 높은 디코딩 병렬성을 달성한다.

arXiv:2606.20560v1cs.LG

DiffusionGemma는 얼마나 투명한가?

How Transparent is DiffusionGemma?

대규모 언어 모델(LLM)의 추론 투명성은 모델의 결정을 이해하고, 오남용과 오정렬(misalignment)을 완화하며, 놀라운 모델 행동을 디버깅하는 데 있어 중요한 기능입니다. 그러나 DiffusionGemma는 연속 잠재 공간에서 계산의 더 큰 비중을 수행하는데, 이것이 추론 과정을 덜 투명하게 만드는가요? 우리는 투명성을 두 가지 구성 요소로 분해하여 이 질문을 연구합니다: 모델의 계산 상태에 대한 중간 스냅샷을 이해하는지 여부인 변수 투명성(variable transparency)과, 이 스냅샷을 사용하여 모델이 출력에 도달하는 과정을 재구성할 수 있는지 여부인 알고리즘 투명성(algorithmic transparency)입니다. 직관적으로 볼 때 DiffusionGemma는 변수 투명성이 낮습니다. 해석 가능한 모델 상태 사이에 발생하는 직렬 계산의 양인 불투명한 직렬 깊이(opaque serial depth)는 처음에는 대응하는 오토리그레시브 Gemma 4 모델보다 28.6배 더 높아 보입니다. 그러나 우리는 다운스트림 성능의 저하 없이 디노이징 단계 사이를 흐르는 정보를 해석 가능한 토큰 병목(token bottleneck)을 통해 매핑할 수 있음을 보여줍니다. 이러한 중간 상태를 해석 가능한 것으로 간주하면 불투명한 직렬 깊이가 Gemma 4의 단 1.1배로 줄어듭니다. 디퓨전 모델의 경우 캔버스 내의 모든 토큰 예측이 모든 디노이징 단계에서 변경될 수 있으므로, 모델이 디노이징 과정 동안 복잡한 분산 알고리즘을 구현할 수 있는 능력을 갖게 되어, 오토리그레시브 모델보다 알고리즘 투명성 확보가 더 어렵습니다. 이 격차를 해소하기 위해 우리는 일련의 해석 가능성 사례 연구를 수행했으며, 비연대기적 추론(non-chronological reasoning), 토큰 및 시퀀스 스미어링(smearing), 중간 컨텍스트 추론(intermediate-context reasoning)과 같은 새로운 디퓨전 특유 현상에 대한 초기 증거를 발견했습니다. 마지막으로, 모델 출력이 다운스트림 작업에 유용한지 측정하는 투명성의 핵심 응용인 모니터링 가능성(monitorability)을 테스트합니다. 그 결과 DiffusionGemma는 Gemma 4와 유사한 수준의 모니터링 가능성을 가짐을 확인했습니다.

arXiv:2606.19349v1cs.CL

쿼리를 어디에 배치할 것인가? 디코딩 역학을 통한 디퓨전 대규모 언어 모델의 문맥 내 학습에서 위치적 바이어스의 규명 및 완화

Where to Place the Query? Unveiling and Mitigating Positional Bias in In-Context Learning for Diffusion LLMs via Decoding Dynamics

문맥 내 학습(ICL)은 자기회귀(AR) 대규모 언어 모델(LLM)에서 광범위하게 연구되었지만, 디퓨전 대규모 언어 모델(dLLM) 내에서의 메커니즘은 거의 탐구되지 않았습니다. 단방향 인과 마스킹으로 제한된 AR 모델과 달리, dLLM은 본질적으로 양방향 어텐션을 활용하여 쿼리 배치에 대한 광범위한 공간적 유연성을 제공합니다. 불행히도, 현재의 관행은 관습적으로 AR 스타일의 후행 쿼리 템플릿을 계승하며, 종종 구조적 패러다임의 변화를 간과합니다. 본 논문은 쿼리 위치가 실제로 dLLM에서 1차 변수임을 밝히는 포괄적인 분석을 제시합니다. 경험적 분리를 통해, 우리는 위치적 변동성이 예제의 의미적 품질과 동등한 수준으로 생성 품질에 영향을 미침을 입증합니다. 내부적으로, 이러한 위치적 민감도는 어텐션 흐름의 공간적 '최신성 효과(Recency Effect)'와 디코딩 궤적의 작업 의존적 변화에서 기인합니다. 정답 레이블 없이 이러한 불안정성을 완화하기 위해, 우리는 기존의 단일 단계 신뢰도($C_{decoded}$)가 dLLM에서 실패함을 밝혀냅니다. 대신, 우리는 반복적 디코딩 과정을 추적하는 새로운 지표인 평균 신뢰도($\overline{C}$)를 제안합니다. 기초적인 공간적 ICL 베이스라인을 확립함으로써, 우리는 쿼리 배치를 동적으로 최적화하여 이질적인 추론 및 인식 작업 전반에서 오라클 성능에 견고하게 접근하는 학습 없는 적응형 라우팅 전략인 Auto-ICL을 소개합니다.

arXiv:2602.05992v3cs.CL

DSB: 디퓨전 대규모 언어 모델을 위한 동적 슬라이딩 블록 스케줄링

DSB: Dynamic Sliding Block Scheduling for Diffusion LLMs

디퓨전 대규모 언어 모델(dLLM)의 고정 블록 스케줄은 의미적 난이도를 반영하지 못해 불확실한 위치의 조기 확정과 경계 근처 쉬운 토큰의 지연을 유발한다. 학습 없는 동적 슬라이딩 블록(DSB)과 이에 맞춘 DSB Cache를 제안해 블록 크기와 경계를 동적으로 조절하며, 여러 모델·벤치마크에서 생성 품질과 추론 효율을 일관되게 개선했다.

arXiv:2602.11715v2cs.LG

DICE: 확산 대규모 언어 모델은 CUDA 커널 생성에 탁월합니다

DICE: Diffusion Large Language Models Excel at Generating CUDA Kernels

확산 대규모 언어 모델(dLLMs)은 병렬 토큰 생성 능력 덕분에 자기회귀(AR) LLM의 강력한 대안으로 부상했습니다. 이 패러다임은 전체적인 구조 계획과 비순차적 정제가 중요한 코드 생성에 특히 적합합니다. 이러한 잠재력에도 불구하고, CUDA 커널 생성에 dLLM을 특화하는 것은 높은 전문성뿐만 아니라 고품질 학습 데이터의 심각한 부족으로 인해 여전히 어려운 과제입니다. 이러한 문제를 해결하기 위해, 우리는 고성능 CUDA 커널에 최적화된 증강된 지도 미세조정 데이터셋인 CuKe를 구축했습니다. 이를 바탕으로, 우리는 CUDA 커널 인필링 단계와 엔드투엔드 CUDA 커널 생성 단계로 구성된 이중 단계 선별 강화학습(BiC-RL) 프레임워크를 제안합니다. 이 학습 프레임워크를 활용하여, 우리는 1.7B, 4B, 8B의 세 가지 매개변수 규모를 아우르는 CUDA 커널 생성용 확산 대규모 언어 모델 시리즈인 DICE를 소개합니다. KernelBench에서 수행한 광범위한 실험을 통해 DICE는 유사한 규모의 자기회귀 및 확산 LLM을 현저히 능가함을 입증하며, CUDA 커널 생성 분야의 새로운 최신 성능을 확립했습니다.

arXiv:2509.18085v4cs.LG

미래 구조화하기: 보정된 드래프트 그래프를 통한 디퓨전 LLM 추측 디코딩

Structuring The Future: Diffusion LLM Speculative Decoding via Calibrated Draft Graphs

Diffusion LLM의 추론을 가속화하는 Spiffy 알고리즘은 자동 추측(auto-speculation)과 보정된 방향성 드래프트 그래프를 활용하여 모델의 출력 분포를 보존한다. 이 방법은 LLaDA, Dream, SDAR 모델에서 모델 추론 횟수를 최대 8.6배 줄이고 토큰 생성 속도를 6.3배 향상시켰다.

arXiv:2606.06547v1cs.LG

FAIR-Calib: 확산 대규모 언어 모델의 사후 학습 양자화를 위한 프론티어 인식 불안정성 재가중 보정

FAIR-Calib: Frontier-Aware Instability-Reweighted Calibration for Post-Training Quantization of Diffusion Large Language Models

확산 대규모 언어 모델(dLLMs)은 토큰을 반복적으로 정제하지만 비가역적으로 확정하므로, 초기 결정이 기록된 이후에도 취약한 상태로 남아 있는 '안정성 지연(stability lag)' 현상이 발생한다. 본 연구는 사후 학습 양자화(PTQ) 오류가 쓰기 프론티어에서 이러한 경계선상의 결정을 쉽게 뒤집을 수 있으며, 이후 영구적으로 고정되어 증폭됨을 밝힌다. 이를 해결하기 위해 dLLMs를 위한 2단계 PTQ 프레임워크인 프론티어 인식 불안정성 재가중 보정(FAIR-Calib)을 제안한다. 1단계에서는 완전 정밀도 교사 모델을 탐색하여 프론티어 히트와 마스크된 단계의 신뢰도를 결합한 위치 사전 분포를 추정한다. 2단계에서는 재가중된 은닉 상태 MSE를 최소화하는 오프-정책 층별 보정을 수행하며, 이를 통해 비용이 큰 엔드-투-엔드 확산 롤아웃 없이도 취약한 프론티어 상태를 효과적으로 보호한다. 또한 가중 목적 함수가 출력 KL 발산의 대리 함수임을 이론적으로 정당화한다. 실험적으로, FAIR-Calib는 LLaDA와 Dream(W4A4)에서 최신 기준 모델들을 지속적으로 능가하며, 다양한 벤치마크에서 프론티어 결정 전환을 크게 줄이고 확정 후 불일치를 억제한다.