PyTorchKR Papers

최신 논문

총 9,642편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2603.19146v2cs.AI

D5P4: 병렬 이산 확산 디코딩에서의 다양성을 위한 분할 결정적 점 과정

D5P4: Partition Determinantal Point Process for Diversity in Parallel Discrete Diffusion Decoding

이산 확산 모델은 텍스트 생성을 위한 자기회귀적 접근법의 유망한 대안이지만, 그 디코딩 방법은 아직 충분히 연구되지 않았습니다. 빔 서치(beam search)와 같은 표준 자기회귀적 탐색 절차는 반복적 노이즈 제거(iterative denoising) 과정에 직접 적용할 수 없는데, 이는 해당 과정에서 가설(hypotheses)이 왼쪽에서 오른쪽으로의 접두사(prefixes)가 아닌 완전한 중간 시퀀스이기 때문입니다. 또한, 기존 확산 디코딩 절차는 유지된 가설의 다양성과 커버리지에 대해 제한된 제어만 제공합니다. 본 연구에서는 이산 확산 모델에 특화된 빔 스타일 디코딩 방법인 D5P4를 소개합니다. D5P4는 중간 빔 선택을 분할된 결정적 점 과정 하에서의 최대 사후 확률(MAP) 추론(inference) 문제로 변환합니다. 이를 통해 외부 검증기 없이 품질과 다양성의 균형을 맞추는 모델 내부 배치(batch) 목적 함수가 도출됩니다. 개방형 생성, 질의응답, 수학적 추론에 대한 실험 결과, D5P4는 기준선(baseline)의 품질 및 충실도와 대등하거나 이를 능가하면서도 다양성과 pass@$k$ 커버리지를 향상시키는 것으로 나타났습니다.

arXiv:2602.01740v3cs.AI

MACD: 반사실적 데이터를 통한 모델 인식 대조적 디코딩

MACD: Model-Aware Contrastive Decoding via Counterfactual Data

비디오 언어 모델(Video-LLMs)은 시각적 증거가 약하거나, 모호하거나, 편향되어 있을 때 그럴듯하지만 근거가 없는 콘텐츠를 생성하는 환각(hallucinations) 현상에 취약합니다. 대조적 디코딩(contrastive decoding, CD)과 같은 기존 방법들은 환각 완화를 위해 무작위 섭동에 의존하여 대조적 데이터를 구성하지만, 환각을 유발하는 시각적 단서를 타겟팅하거나 모델의 약점과 정렬하는 데 종종 실패합니다. 우리는 모델이 안내하는 반사실적 구성과 대조적 디코딩을 결합한 추론(inference) 전략인 모델 인식 반사실적 데이터 기반 대조적 디코딩(MACD)을 제안합니다. MACD는 Video-LLM 자체의 피드백을 사용하여 환각에 가장 큰 책임이 있는 객체 영역을 식별하고, 임의의 프레임이나 시간적 수정 대신 타겟팅된 객체 수준의 반사실적 입력을 생성합니다. 이러한 반사실적 입력은 CD에 통합되어 디코딩 과정에서 증거 기반의 토큰(token) 선택을 강제합니다. EventHallusion, MVBench, Perception-test, Video-MME에 대한 실험 결과, MACD가 Qwen 및 InternVL을 포함한 다양한 Video-LLM에서 환각을 일관되게 줄이면서 작업 정확도를 유지하거나 향상시키는 것으로 나타났습니다. 특히 작거나, 가려지거나, 동시에 발생하는 객체가 포함된 시나리오에서 강력한 개선 효과를 보였습니다.