문맥 기반 증분 압축을 이용한 멀티턴 대화 생성
Context-Driven Incremental Compression for Multi-Turn Dialogue Generation
한국어 초록
현대의 대화형 에이전트는 매 턴마다 끊임없이 증가하는 대화 기록을 조건으로 사용하며, 이로 인해 대화 길이에 비례하여 증가하는 중복 어텐션 및 인코딩 비용이 발생합니다. 단순 절단이나 요약은 충실도를 저하시키는 반면, 기존 문맥 압축기는 턴 간 메모리 공유나 수정 기능이 부족하여 긴 대화에서 정보 손실과 오류 누적을 초래합니다. 우리는 대화 역학 관계 하에서 문맥 압축을 재조명하고 그 취약성을 실증적으로 제시합니다. 효율성과 견고성을 모두 향상시키기 위해, 우리는 대화를 얽힌 문맥 스레드로 간주하고 수정 가능한 스레드별 압축 상태를 단일한 컴팩트한 대화 메모리에 저장하는 문맥 기반 증분 압축(C-DIC)을 도입합니다. 매 턴마다 가벼운 검색, 수정, 쓰기 루프가 턴 간 정보를 공유하고 오래된 메모리를 업데이트하여 장기적 행동을 안정화합니다. 또한, 우리는 잘린 시간 역전파(TBPTT)를 멀티턴 설정에 맞게 적용하여 전체 기록에 대한 역전파 없이 턴 간 의존성을 학습합니다. 장문 대화 벤치마크에 대한 광범위한 실험을 통해 C-DIC의 우수한 성능과 효율성을 입증했습니다. 특히 C-DIC는 수백 턴의 대화에 걸쳐 안정적인 추론 지연 시간과 혼란도를 보여주며, 고품질 대화 모델링을 위한 확장 가능한 경로를 뒷받침합니다.
원문 초록
Modern conversational agents condition on an ever-growing dialogue history at each turn, incurring redundant attention and encoding costs that grow with conversation length. Naive truncation or summarization degrades fidelity, while existing context compressors lack cross-turn memory sharing or revision, causing information loss and compounding errors in long dialogues. We revisit the context compression under conversational dynamics and empirically present its fragility. To improve both efficiency and robustness, we introduce Context-Driven Incremental Compression (C-DIC), which treats a conversation as interleaved contextual threads and stores revisable per-thread compression states in a single, compact dialogue memory. At each turn, a lightweight retrieve, revise, and write-back loop shares information across turns and updates stale memories, stabilizing long-horizon behavior. In addition, we adapt truncated backpropagation-through-time (TBPTT) to our multi-turn setting, learning cross-turn dependencies without full-history backpropagation. Extensive experiments on long-form dialogue benchmarks demonstrate superior performance and efficiency of C-DIC; notably, C-DIC shows stable inference latency and perplexity over hundreds of dialogue turns, supporting a scalable path to high-quality dialogue modeling.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.12411v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
효율적인 추론을 향하여: 확산 언어 모델을 위한 인과적 지름길 학습
Towards Efficient Reasoning: Learning Causal Shortcuts for Diffusion Language Models
확산 언어 모델(Diffusion Language Models, DLM)은 뛰어난 추론 능력으로 상당한 주목을 받아왔습니다. 그러나 양방향 어텐션(bidirectional attention) 메커니즘 하에서 DLM은 자기회귀 모델(autoregressive models, ARM)에 비해 기하급수적으로 큰 탐험(exploration) 공간에서 작동하므로, 무작위 마스킹 환경에서 추론을 유도하는 토큰에 집중하기 어렵습니다. 본 논문에서는 전체 시퀀스를 포괄하며 올바른 추론 궤적으로 명시적인 가이드를 제공하는 토큰 체인을 인과적 지름길(causal shortcut)로 정의합니다. DLM의 추론 정확도와 수렴(convergence) 속도에 인과적 지름길이 미치는 영향을 분석한 결과, 정답 수렴 효율성과 생성 정확도가 크게 향상됨을 확인했습니다. 이에 영감을 받아, 본 연구에서는 DLM을 위한 인과적 지름길 학습(Causal Shortcut Learning, CSL) 프레임워크를 제안합니다. 구체적으로, 데이터에서 인과적 지름길을 추출하는 단계별 토큰 추출 절차를 도입하고, 학습(training) 중 이러한 토큰들에 병렬 우선순위 마스킹을 적용하여 인과적 지름길을 통해 정답으로의 효율적이고 정확한 수렴을 가능하게 합니다. 여러 추론 벤치마크와 두 가지 기본 모델에 걸친 광범위한 실험을 통해 CSL이 기존 SFT 변형 베이스라인들을 일관되게 능가하며, SFT 전용 모델 대비 평균 $1.92\%$, MATH-500에서는 최대 $4.20\%$의 향상을 달성함을 입증합니다. 코드는 \href{https://github.com/ZJUDianJin/Causal-Shortcuts-Learning}{https://github.com/ZJUDianJin/Causal-Shortcuts-Learning 에서 확인할 수 있습니다.
공유 전역 KV와 층별 로컬 히스토리
Shared Global KV with Layer-Specific Local History
디코더 전용 트랜스포머(Transformer) 언어 모델은 생성 과정에서 과거 연산을 재사용하기 위해 키와 값(KV)을 캐시한다. 층 간에 KV를 공유하면 저장 공간을 절약할 수 있지만, 깊이에 따라 사용할 수 있는 표현의 다양성이 줄어든다. 본 연구는 공유된 전역 KV와 함께 로컬 메모리가 무엇을 보존해야 하는지를 연구하며, 이때 히스토리 내용과 그것을 형성하는 데 사용되는 입력 소스를 구분한다. 126M 파라미터와 2K 컨텍스트에서 수행한 8개 시드 실험 결과, 로컬 히스토리를 사용한 경우가 현재 토큰 로컬 브랜치를 사용한 경우보다 보류(held-out) 테스트 퍼플렉시티가 약 1.4% 낮았다. 용량, 항목 수, 학습 연산량 통제 실험은 히스토리 내용의 가치를 뒷받침한다. 2개 시드 비교에서는 인접한 층이 로컬 입력을 공유하면서도 독립적인 프로젝션을 유지하는 경우에도 이 가치가 유지되며, 소스 공유는 정확한 캐시 구성 의존성도 단축한다. GQA 및 인접 층 KV 공유와 비교했을 때, 동일한 제한 범위의 학습률 탐색과 새로운 시드를 이용한 확인 실험에서 더 큰 캐시와 더 높은 긴 요청 지연 시간을 대가로 동일 소스 가능도가 더 우수했다. 인접 층 공유와의 이러한 순위는 동일 토큰 수로 8K까지 적응시킨 뒤에도 유지되지만, 짧은 컨텍스트에서는 비용이 발생한다. 8개 시드로 측정한 외부 도서 히스토리 효과는 여전히 불확실하며, 다운스트림 결과는 작업에 따라 다르다. 또한 정확한 산술 하에서 완전한 캐시를 보존하면서 상위 층의 구성 작업량을 줄이는 충분 접미사 스케줄(sufficient suffix schedule)을 유도한다.
전문가 혼합(MoE)을 위한 정확한 분위수 균형 및 부하 오류 주입
Exact Quantile Balancing and Load-Error Injection for Mixture-of-Experts
전문가 혼합(MoE) 학습은 전문가 미활용을 막기 위해 전역 부하 균형이 필요하고, 효율적인 전문가 병렬 실행을 위해 지역 균형이 필요하다. 기존 분산 Quantile Balancing(QB)은 샤드(shard)에 따라 달라지거나 근사적인 전역 분위수를 사용하며, 토큰과 무관한 전문가 편향(bias)으로는 마이크로배치(microbatch) 수준의 균형을 보장할 수 없다. 우리는 통신 부담이 거의 없이 정확한 전역 배치 BF16 분위수를 계산하는 Exact Quantile Balancing(EQB)과, 지역 부하 오류를 라우터 점수(router-score) 그래디언트에 직접 주입하는 Load-Error Injection(LEI)을 제안한다. 최대 500B 토큰까지 학습한 75억(7.5B) 매개변수 MoE에서 EQB는 단순 QB 대비 전역 균형과 하류(downstream) 성능을 개선하고, LEI는 지역 균형을 개선하며 유사한 품질에서 GShard 손실(loss)을 능가한다.
대수 깊이 순환 언어 모델링
Log-Depth Recurrent Language Modeling
Transformer를 이용한 언어 모델링은 고정된 계산 깊이와 입력 토큰 수에 대한 이차 시간 복잡도에도 불구하고 널리 쓰이게 되었다. 반면 순환 모델은 선형 깊이를 제공하지만 병렬 실행은 불가능하다. 본 연구에서는 균형 트리(balanced-tree) 재귀 연산자를 시퀀스 인코딩에서 자기회귀(autoregressive) 예측으로 확장하여, 모든 접두 문맥 표현을 대수 깊이와 선형 실행 시간으로 계산할 수 있게 한다. 실험을 통해 이 모델 클래스에 대한 초기 특성 분석을 제공하며, 견고한 길이 외삽(length extrapolation)과 ALiBi 기반 Transformer에 근접한 성능을 보여, 언어 모델링을 위한 대안 아키텍처로서의 잠재력을 부각한다.
zip2zip++: 최소한의 품질 손실로 추론 시점 토큰 압축을 향하여
zip2zip++: Towards Inference-Time Token Compression with Minimal Quality Loss
Lempel-Ziv-Welch(LZW) 압축을 통해 즉석에서 구축되는 동적 어휘(dynamic vocabulary)는 언어 모델이 동일한 텍스트를 더 적은 토큰으로 표현할 수 있게 해주지만, 기존 연구에 따르면 이러한 효율성은 추론 능력과 퍼플렉시티(perplexity)의 저하를 대가로 한다. 우리는 이러한 품질 격차가 압축에 따른 근본적인 대가가 아니며, 기반이 되는 사전학습된 언어 모델을 수정하지 않고도 압축 층과 LZW 코덱에 대한 표적화된 개선을 통해 상당 부분 해소될 수 있음을 보인다. 우리의 분석은 네 가지 핵심 문제를 밝혀낸다: (1) LZW의 압축 알고리즘은 입력 임베딩과 출력 임베딩 사이에 암묵적인 충돌을 발생시키며, 이는 단일한 공유 임베딩으로는 해결할 수 없는 긴장 관계이다; (2) RoPE를 LZW로 압축된 시퀀스에 단순하게 적용하면 병합된 토큰이 여러 토큰에 걸쳐 있을 수 있다는 사실을 무시하게 된다; (3) 특정 토큰(특히 숫자)의 병합은 다운스트림 정확도를 불균형적으로 저해한다; 그리고 (4) 동적 어휘는 표준 평가를 혼란스럽게 만드는 본질적인 분절 모호성을 야기한다. 우리는 입력/출력을 분리한 동적 임베딩 층, 크기를 인식하는 RoPE 위치 인코딩, 그리고 선택적 병합과 다중 관점 분절(multi-view segmentation)을 지원하는 수정된 LZW 코덱을 통해 이러한 문제들을 해결한다. 네 가지 모델에 걸쳐, 우리의 방법은 평가한 모든 코퍼스에서 퍼플렉시티를 개선할 뿐만 아니라 수학적 추론 정확도도 향상시키며, 일반 텍스트에서 유사한 압축률로 zip2zip과 비압축 기준선 사이의 품질 격차를 대략 절반으로 줄인다. 이는 언어 모델을 위한 무손실 적응형 어휘 압축을 향한 중요한 진전을 의미한다.
SOL: 이중 슬라이스드 바서슈타인 거리를 이용한 텍스트 분포 간 격차 측정
SOL: Measuring Gaps between Text Distributions by Double Sliced Wasserstein Metrics
텍스트 생성을 평가하려면 생성된 분포가 데이터 분포와 얼마나 잘 일치하는지 측정해야 합니다. 자기회귀 모델의 경우 이는 퍼플렉서티(perplexity)를 통해 이루어집니다. 확산(diffusion) 및 플로우 기반 언어 모델은 가능도(likelihood)의 한계만을 제공할 수 있으며, 이 한계의 엄밀함은 모델 군(model family)마다 다릅니다. 엔트로피를 활용한 생성적 퍼플렉서티와 같은 샘플 기반 대체 지표는 분포의 적합도를 고려하지 않습니다. 본 논문에서는 텍스트 분포 간의 거리 척도인 SOL을 제안합니다. 각 시퀀스는 고정된 트랜스포머(transformer) 아래에서 은닉 상태들의 경험적 측도로 표현되며, 이러한 측도들의 분포는 이중 슬라이스드 바서슈타인 거리(double sliced Wasserstein distance)를 통해 비교됩니다. 저자들은 트랜스포머가 단사(injective) 함수일 경우 SOL이 거리 함수(metric)임을 증명합니다. 실험을 통해 SOL이 분포적 실패를 감지하고, 예상되는 모델 경향성을 복원하며, 안정적인 샘플 기반 추정치를 제공함을 보여줍니다. 저자들은 비자기회귀 모델에 사용되는 현재 평가 프로토콜의 공백을 메우기 위해 SOL을 제시합니다. 첫 번째 단계로, 저자들은 SOL을 사용하여 OpenWebText에서 학습된 다양한 모델들을 재평가합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.