이산 확산 언어 모델(Discrete diffusion language model, DLM)은 모든 위치를 병렬로 반복해서 노이즈를 제거(denoising)하며 텍스트를 생성하여 자기회귀 모델(autoregressive model)의 대안을 제공합니다. 자기회귀 모델에서 도입된 기존 DLM 제어 생성 방식들은 모든 노이즈 제거 단계에서 균일한 개입을 적용합니다. 본 연구는 이러한 균일한 스케줄이 비효율적이고 품질을 저하시키며, 여러 속성을 공동으로 제어(steering)할 때 손상이 가중됨을 보여줍니다. 이러한 실패 원인을 진단하기 위해 4개의 DLM(124M~8B 파라미터)에서 희소 오토인코더(sparse autoencoder)를 학습시켰으며, 서로 다른 속성들이 타이밍, 선명도, 크기 면에서 상이하고 뚜렷한 스케줄에 따라 결정된다는 점을 발견했습니다. 예를 들어, MDLM에서 주제(topic)는 노이즈 제거의 초기 2% 이내에 결정되는 반면, 감성(sentiment)은 전체 과정의 20%에 걸쳐 점진적으로 나타납니다. 이러한 프로파일에 착안하여, 각 속성이 활발하게 형성되는 구간에 개입을 집중하는 적응형 스케줄링 메커니즘을 제안합니다. 이상화된 할당 분석에 따르면 형성 과정이 더 급격히 집중되는 속성일수록 적응형 스케줄링의 이점을 더 크게 얻는 것으로 예측되며, 이를 실험적으로 확인했습니다. 4개의 DLM에 대한 7가지 단일 및 다중 속성 제어 작업 전반에서, 적응형 제어는 균일 개입 및 구간 제한 베이스라인 대비 제어와 품질 간의 균형을 일관되게 개선합니다.
중요한 애플리케이션에서 대규모 언어 모델(LLM)의 보급이 확대됨에 따라, 계산 효율적이면서도 성능 보장을 제공하는 제어된 언어 생성 방법에 대한 필요성이 강조되고 있습니다. 이러한 요구를 해결하기 위해, 본 연구에서는 개념의 의미론이 LLM의 잠재 공간(latent space)에 선형적으로 표현된다는 일반적인 모델을 활용합니다. 특히, 자연어 생성이 언어 모델의 은닉 활성화(hidden activations)로 실현되는 연속적인 의미 공간 상의 궤적을 그린다는 관점을 취합니다. 이 관점은 잠재 공간에서의 텍스트 생성을 제어 이론(control-theoretic) 관점에서 다룰 수 있게 하며, 이에 따라 원치 않는 의미에 해당하는 영역으로부터 궤적을 동적으로 유도하는 경량의 그래디언트-프리(gradient-free) 개입 기법인 선형 시맨틱 제어(LiSeCo)를 제안합니다. 구체적으로는 생성 중인 토큰의 활성화를 임베딩 공간에서 온라인 방식으로 직접 개입하는 방안을 제안합니다. 결정적으로, LiSeCo는 단순히 활성화를 바람직한 영역으로 유도하는 것에 그치지 않습니다. 대신 제어 이론의 고전적 기법에 의존하여 문맥 의존적인 방식으로 활성화를 정밀하게 제어하며, 활성화가 허용된 의미론에 해당하는 임베딩 공간의 사전에 정의된 특정 영역 내로 진입하도록 보장합니다. 이러한 개입은 최적 제어기(optimal controller) 정식화에 따라 닫힌 형태(closed form)로 계산되므로 생성 시간에 미치는 영향이 극히 적습니다. 이와 같은 임베딩 공간 내 활성화 제어를 통해 생성된 시퀀스의 속성을 세밀하게 조정할 수 있습니다. 본 연구에서는 독성(toxicity), 감성(sentiment), 언어(영어/스페인어) 제어와 같은 다양한 태스크에서 텍스트 품질을 유지하면서도 제안된 접근 방식이 효과적임을 입증합니다.
스티어링 벡터(steering vector)를 활용한 제어 텍스트 생성의 한계를 PLUME 벤치마크에서 36가지 선호 특성, 두 가지 태스크 전이(task transfer), 최대 4개 벡터 조합 실험을 통해 체계적으로 분석한 연구로, Qwen2.5-7B-Instruct와 Llama3.1-8B-Instruct에서 특성 유형별 조정 효과 편차가 크고 다중 벡터 합성 시 특성 표현과 출력 일관성이 모두 저하됨을 밝혔다.