PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.20791v2cs.AI

거절 게이트 디코딩: 고온 샘플링 환경에서 거절 동작 보존

Refusal-Gated Decoding: Preserving Refusal Behavior Under High-Temperature Sampling

절단 기반(truncation-based) 샘플링의 최근 발전은 신경망 텍스트 퇴화와 같은 고온(high-temperature) 샘플링의 단점을 완화하는 데 기여하여, 일관성을 해치지 않으면서도 더 높은 다양성을 확보할 수 있게 했습니다. 그러나 높은 온도를 통해 토큰 확률 분포의 엔트로피를 높이는 것은 모델의 거절(refusal) 반응을 약화시키는 것으로도 나타났습니다. 대규모 언어 모델(LLM)의 거절 동작을 유지하기 위한 기존 해결책들은 모델 자체의 거절 결정을 별도의 안전성 분류기로 대체하거나, 모든 프롬프트에 대해 출력 분포를 변경합니다. 이러한 한계를 해결하기 위해, 본 연구에서는 최소한의 추가 지연 시간(latency)만을 유발하면서 고온에서도 모델의 그리디 디코딩(greedy decoding) 거절 반응을 보존하고 다른 모든 프롬프트는 원래의 정확한 직접 고온 분포로부터 샘플링하는 효율적인 순차적 디코딩 접근 방식인 거절 게이트 디코딩(Refusal-Gated Decoding, RGD)을 제안합니다. RGD는 프롬프트의 KV 캐시를 재사용하는 짧은 그리디 프로브(probe)를 실행하고, 학습된 거절 접두사 집합과 일치하지 않게 되는 즉시 조기 종료합니다. 프로브가 호환성을 유지하면 그리디 응답을 반환하고, 그렇지 않으면 프로브를 폐기하고 원래 프롬프트로부터 샘플링을 진행합니다. T=2.0에서 7개 모델과 3개 벤치마크 데이터셋에 걸쳐 평가한 결과, RGD는 다양한 온도 조건에서 비거절(non-refusal) 요청의 중앙값 기준 요청당 지연 시간을 2.2~4.3%만 증가시키면서 직접 샘플링 시 91.9%였던 그리디 거절 보존율을 평균 98.3%로 향상시켰습니다. 다수의 그리디 비거절 응답을 그리디 디코딩으로 라우팅하는 프롬프트 필터링(prompt-screening) 베이스라인과 달리, RGD는 그리디 비거절 응답의 98.1% 이상을 변경되지 않은 고온 샘플링으로 유지하여 모델 본래의 고온 샘플링 동작을 보존합니다. 또한 본 연구에서는 유사한 프롬프트 라우팅 정확도를 유지하면서 이러한 지연 시간 오버헤드를 최대 0.5%까지 낮추는 잔차 스트림(residual-stream) 변형 방식도 제안합니다. 본 연구는 고온 샘플링을 통해 더 높은 다양성을 확보하더라도 모델의 거절 동작이 훼손될 필요가 없음을 보여줍니다.

arXiv:2602.00066v1cs.SE

IntentCoding: 코드 생성에서 사용자 의도 증폭하기

IntentCoding: Amplifying User Intent in Code Generation

대규모 언어 모델(LLM)은 코드 생성에서 강력한 성능을 보여주었으나, 여러 제약 조건이 포함된 세분화된 사용자 의도를 준수하는 것은 여전히 중요한 과제로 남아 있습니다. 본 연구의 실증적 분석을 통해 두 가지 주요 관찰 결과를 발견했습니다. 1) 사용자 의도 내 제약 조건의 수가 증가함에 따라 모델 성능이 급격히 저하되며, 2) 사용자 의도가 모델의 로짓(logits)에 영향을 미치기는 하지만, 디코딩 과정을 효과적으로 유도할 만큼 충분히 강하지 않을 수 있다는 점입니다. 이를 위해 본 논문에서는 LLM의 사용자 의도 준수 능력을 향상시키는 새로운 디코딩 전략인 의도 증폭 코드 생성(IntentCoding, Intent-Amplified Code Generation)을 제안합니다. IntentCoding은 의도를 마스킹하여 사용자 의도의 영향을 포착하고, 다중 강도 앙상블 메커니즘을 적용하여 생성 과정에서 사용자 의도의 효과를 증폭합니다. IntentCoding은 모델에 구애받지 않으며(model-agnostic), 추가 학습이 필요 없고, 기존 디코딩 절차와 매끄럽게 통합됩니다. 체계적인 평가를 위해 다양한 수의 제약 조건 하에서 사용자 의도 준수 여부를 테스트하도록 특별히 설계된 벤치마크 데이터셋인 CodeConstraints도 구축했습니다. 직접 구축한 제약 조건 데이터셋뿐만 아니라 널리 사용되는 IFEvalCode, HumanEval, LiveCodeBench 데이터셋을 대상으로 한 실험 결과, IntentCoding 모델은 표준 디코딩 방식 대비 제약 조건 충족도와 기능적 정확도를 모두 크게 향상시키는 것으로 나타났습니다. IntentCoding은 그리디 디코딩(greedy decoding)과 비교했을 때 CodeConstraints에서 최대 71.0%의 상대적 개선, IFEvalCode에서 최대 67.3%의 상대적 개선, 그리고 HumanEval과 LiveCodeBench의 pass@1에서 최대 29.3%의 상대적 개선을 달성했습니다.

arXiv:2607.10535v1cs.CV

클러스터 절단을 통한 자기회귀 텍스트-이미지 생성의 샘플 다양성 향상

Improving Sample Diversity in Autoregressive Text-to-Image Generation via Cluster Truncation

확산 모델이 텍스트-이미지(T2I) 생성에서 최첨단 이미지 품질을 달성하는 반면, 최근 연구들은 이 모델들이 샘플 다양성 붕괴 문제를 겪고 있음을 보여주었다. 본 연구에서는 자기회귀(AR) 이미지 생성 모델이 이미지 품질과 샘플 다양성 간의 파레토 프런티어를 개선할 수 있는지 탐구한다. 최근 품질과 효율성의 발전으로 AR 모델은 확산 기반 이미지 생성의 유력한 대안으로 부상하였다. 이미지-텍스트 인터리브 생성과 같은 새로운 활용 사례를 가능하게 할 뿐만 아니라, AR 모델의 순차적 생성 방식은 텍스트 생성에서 다양성 향상을 위해 개발된 광범위한 토큰 기반 디코딩 전략과의 호환성을 제공한다. AR 패러다임에서의 더 나은 다양성-품질 트레이드오프 가능성에 착안하여, 본 논문은 AR 이미지 생성 모델에서의 샘플 다양성에 관한 최초의 체계적 연구를 제시한다. 우리는 AR 이미지 생성의 두 가지 핵심 특성, 즉 지속적으로 높은 토큰 수준의 엔트로피와 시각적 토큰 공간에서의 상당한 중복성이, 다양성 향상을 위한 기존 토큰 수준 디코딩 방법의 효과를 제한함을 보인다. 이에 우리는 토큰 수준이 아닌 클러스터 수준에서 엔트로피 기반 절단 샘플링을 수행하는 새로운 디코딩 전략인 $p$-less cluster를 제안한다. 우리는 이미지 품질, 프롬프트 정합성, 다양성을 포괄하는 종합적인 지표 모음을 사용하여 네 가지 자기회귀 T2I 모델과 두 가지 데이터셋에서 우리의 접근법과 기준선 디코딩 방법을 평가한다. 실험 결과, $p$-less cluster는 이미지 품질과 프롬프트 정합성을 유지하면서 대부분의 평가된 자기회귀 T2I 모델과 데이터셋에서 가장 높은 다양성을 달성함을 보여준다.

arXiv:2510.03595v2cs.CL

LLM 생성에서 태스크 해결과 출력 형식화의 분리

Decoupling Task-Solving and Output Formatting in LLM Generation

대규모 언어 모델(LLM)은 수학적 추론 및 자동 평가와 같은 복잡한 문제를 해결하는 데 점점 더 뛰어난 능력을 보이고 있다. 그러나 프롬프트가 태스크 지시사항과 엄격한 형식 요구사항을 혼재시킬 경우 성능이 저하되는 경우가 많다. 이러한 혼재는 모델에 상충하는 목표를 만들어 추론 능력을 저해한다. 이를 해결하기 위해, 우리는 형식 준수와 문제 해결을 명시적으로 분리하는 디코딩 프레임워크인 Deco-G를 소개한다. Deco-G는 형식 준수를 별도의 형식 추정 모듈(FEM, Format Estimation Module)에 위임하며, 이 모듈은 확률적 선행 탐색(probabilistic lookahead)을 수행하여 미래 형식 준수율을 추정하고 토큰 확률을 재가중함으로써 LLM이 태스크 해결에만 집중할 수 있도록 한다. 이 접근 방식을 실용적이고 효율적으로 만들기 위해, 지시사항 인식 증류(instruction-aware distillation), 유연한 트라이(trie) 구축 알고리즘, HMM 상태 가지치기라는 세 가지 핵심 기법을 도입한다. 수학적 추론, 이벤트 인수 추출, LLM-as-a-judge에 걸친 실험에서 Deco-G는 형식 준수를 보장하면서 프롬프팅 또는 구조화된 생성 기준선을 지속적으로 능가함을 보여준다. 코드는 https://github.com/haikangdeng/deco-g에서 공개한다.