PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2602.03753v2cs.CV

REPA-G: 표현 정렬된 시각 특징을 활용한 테스트 시점 조건화

REPA-G: Test-Time Conditioning with Representation-Aligned Visual Features

자기지도 학습 모델과의 표현 정렬(representation alignment)이 확산 모델(diffusion model) 학습을 개선하는 것으로 나타났으나, 추론 시점의 조건화를 향상시키는 잠재력은 아직 거의 탐구되지 않았습니다. 본 연구에서는 풍부한 의미론적 특성을 지닌 이러한 정렬된 표현을 활용하여 생성 과정에서 특징 기반의 테스트 시점 조건화를 가능하게 하는 프레임워크인 REPA-G(Representation-Aligned Guidance)를 소개합니다. 추론 시 유사도 목적함수(포텐셜)를 최적화함으로써, 사전학습된 특징 추출기에서 추출된 조건 표현을 향해 노이즈 제거(denoising) 과정을 유도합니다. 본 방식은 단일 패치를 통한 패치 수준 매칭부터 전역 이미지 특징 토큰을 사용한 광범위한 의미론적 안내에 이르기까지 다양한 세분성 수준에서 다채로운 제어를 제공합니다. 더 나아가 이를 다중 개념 구성으로 확장하여 서로 다른 개념들을 충실하게 결합할 수 있도록 합니다. REPA-G는 추가 학습 없이 전적으로 추론 시점에만 작동하며, 모호한 경우가 많은 텍스트 프롬프트나 거친 클래스 레이블을 대체할 수 있는 유연하고 정밀한 대안을 제시합니다. 본 접근법은 ImageNet과 COCO에서 고품질의 다양한 생성을 달성합니다. 코드는 https://github.com/valeoai/REPA-G 에서 이용할 수 있습니다.

arXiv:2605.24140v5cs.AI

HyperGuide: 대규모 언어 모델의 효율적인 다단계 추론을 위한 쌍곡 공간 유도

HyperGuide: Hyperbolic Guidance for Efficient Multi-Step Reasoning in Large Language Models

대안적인 후속 생성을 탐색하면 대규모 언어 모델(LLM)이 추론 단계를 확정하기 전에 이후의 결과를 비교할 수 있지만, 수많은 분기를 확장하고 평가하는 과정은 추론 비용을 크게 증가시킵니다. 중간 단계를 점수화하도록 가치 모델을 학습하더라도 추론 시점에 여전히 후보들을 순위화해야 하므로 이러한 비용을 피할 수 없습니다. 본 논문에서는 추론을 쌍곡 공간(hyperbolic space)에 임베딩된 상태 트리 상에서의 이동으로 다루는 프레임워크인 HyperGuide를 제안합니다. HyperGuide는 먼저 푸앵카레 공(Poincaré ball) 상에서 상태 인코더를 학습한 다음, 현재 상태로부터 최소 비용 전이의 방향을 예측하도록 유도 헤드(guidance head)를 학습합니다. 예측된 방향은 각 추론 단계 이후 가상 토큰으로 디코더에 삽입되므로, 후보를 확장하거나 재순위화하지 않고도 단일 자기회귀 궤적을 따라 추론이 진행됩니다. 또한 지도 방식이 이진이 아닌 순서형(ordinal)이므로 신뢰할 수 있으면서도 짧은 후속 생성을 선호하여 생성이 성공적이고 간결한 해결책을 향하도록 유도합니다. 경시 수학 및 코드 생성에 대한 실험 결과, HyperGuide는 탐색 및 검증기 기반 베이스라인보다 훨씬 적은 토큰을 생성하면서도 이들 베이스라인과 일치하거나 이를 능가하는 정확도를 달성하며, 퓨샷(few-shot) 프롬프트와 거의 비슷한 수준의 토큰만을 생성함을 보여줍니다.