플로우 매칭(flow matching)은 생성 모델링을 위한 강력한 도구이지만, 로보틱스, 계획(planning), 제어 분야에서 새롭게 부상하는 응용 분야들은 생성된 결과물에 대해 추론(inference) 시점의 제약 조건을 요구합니다. 이러한 제약 조건은 복잡하고 고도로 비선형적인 경우가 많습니다. 이에 따라 이미지 인페인팅과 같이 선형 제약 조건을 위해 설계된 방법들은 거의 적합하지 않으며, 사영(projection) 또는 최적화 기반 대안들은 비용이 지나치게 많이 들 수 있습니다. 본 논문에서는 라그랑주 쌍대 역학에 기반한 새로운 제약 조건 생성 기법 제품군인 라그랑주 쌍대 흐름(Lagrangian Dual Flows)을 소개합니다. 생성된 샘플과 함께 쌍대 공액 상태(dual co-state)를 흐르게 함으로써, 노이즈 제거 과정 동안 비용이 많이 드는 최적화 부분 문제나 의사역행렬, 사영 단계 없이도 비선형 제약 조건 만족을 보장할 수 있습니다. 그 결과로 얻어지는 제약 조건 생성 알고리즘은 단순하고 효과적이며, 플로우 매칭과 수치 최적화의 원시-쌍대(primal-dual) 방법 간에 새로운 이론적 연결을 열어줍니다.
자기회귀 대규모 언어 모델(LLM)의 생성을 제약하는 것은 언어 모델을 형식 시스템에 통합하는 데 있어 중요한 구성 요소이다. 프로그램 합성과 같은 작업을 위한 코드 및 데이터 생성에서, 언어 모델이 구문적으로 유효한 출력을 생성하도록 보장하는 것은 그러한 출력을 처리하기 위한 전제 조건이다. 이러한 언어(SQL이나 JSON 등)는 종종 $LR(k)$ 문맥 자유 문법으로 설계된다. LLM을 계산 가능한 확률 모델로 증류함으로써, 그 자기회귀 생성을 조향하고 마스킹하여 논리적 제약을 만족할 확률을 반영할 수 있으며, 유효성이 보장된 고품질 출력을 확보할 수 있다. 본 논문은 유한 지속을 갖는 임의의 $LR(k)$ 문법에 대한 만족을 다항 시간에 계산할 수 있음을 보여내며, 이는 이러한 문법에 기존 방법을 적용할 때의 지수 시간 대비 개선이다. 이 결과는 LLM 생성을 형식적 구문 제약을 더 잘 만족하는 출력을 향해 효율적으로 제약하고 조향하는 것을 가능하게 한다.
제약 생성 모델은 복잡한 실행 가능성 제약을 만족하는 샘플을 생성하면서 데이터 분포에 충실하도록 하는 것을 목표로 한다. 기존 제약 생성 방법은 일반적으로 학습 시점 최적화 또는 샘플링 시점 보정을 통해 제약을 강제한다. 학습 시점 최적화 접근법은 학습 분포에 의해 유도된 상태에서 최적화하는데, 이는 샘플링 중에 마주치는 상태와 상당히 다를 수 있다. 샘플링 시점 보정 방법은 대신 추론 시 샘플링 과정을 수정하여 분포 이동(distribution shift)을 유발하고, 특히 소수 스텝(few-step) 샘플링의 경우 값비싼 튜닝을 필요로 한다. 우리는 온라인 롤아웃을 통해 얻은 제약 안내(constraint guidance)를 학습 과정에 통합하는 미세조정 프레임워크를 제안한다. 이는 노이즈 제거 과정을 수치적으로 적분하는 데 사용되는 고정 노이즈 스케줄을 통해 미분함으로써 학습과 샘플링을 정렬한다. 이를 통해 모델은 노이즈 제거 궤적(denoising trajectory)을 따라 발생하는 위반에 노출되며, 확산 학습을 샘플링 과정과 정렬시킨다. 여러 작업에 걸친 실험에서 우리 방법은 기존 방법 대비 경쟁력 있는 샘플링 품질을 유지하면서 제약 만족도를 개선함을 보여준다.
대규모 언어 모델(LLM)은 절차적 준수가 중요한 영역에서 자신 있지만 프로토콜에 부합하지 않는 답변을 생성할 수 있다. 본 논문은 Answer Engineering을 제시한다. 이는 재학습, 모델 가중치 수정, 또는 전역 탐색 없이 표준 자기회귀(autoregressive) 생성 과정에서 관찰 가능한 추론 궤적에 국소적 규칙 기반 개입을 적용하는 결정론적 런타임 및 저작 층이다. 이 방법은 돌발성 감각신경성 난청(SSNHL)에 대한 통제된 임상 벤치마크에서 평가되며, 여기서 올바른 처치는 증상 발생 시점, Weber/Rinne tuning fork 소견, 이경(otoscopic) 소견의 프로토콜 일관적 해석에 달려 있다. 벤치마크에서 단계별 추론은 오류를 제거하기보다 오히려 전환시켰다. SSNHL에 대한 준수 결과는 비유도 생성에서 54.5%에서 25.1%로 감소했고, 전음성(conductive) 대조 조건에서의 수용률은 1.6%에서 58.9%로 증가했다. 국소 궤적 편집은 SSNHL 준수율을 83.5%로, 전음성 사례 준수율을 77.9%로 높여, 추론 전용 생성에서 42.0%였던 균형 정확도(balanced accuracy)를 80.7%로 끌어올렸다. 이 결과는 추론 궤적에 대한 감사 가능한 런타임 제어를 통해 프로토콜 준수를 개선할 수 있다는 시스템 수준의 관점을 뒷받침하면서, 규칙 커버리지, 트리거 신뢰성, 지속적인 진단 우선 생성 역학으로 인한 한계도 함께 밝힌다.
안전이 중요한 물리적 시스템에서 플로우 기반 생성 모델의 배포를 어렵게 하는 제약 조건 문제를 해결하기 위해, 제약 조건을 모델과 플로우 역학에 직접 임베딩하는 PolyFlow 프레임워크를 제안한다. 이 방법은 반복적인 솔버 없이 임의의 다면체 제약 조건을 엄격하게 만족시키는 projection-free 아키텍처를 사용하여, 제약 조건 위반을 0으로 만들면서도 높은 분포 충실도와 낮은 추론 지연 시간을 달성한다.
구조화된 시퀀스 생성에서 입력 파생 제약 조건을 충족하는 희귀 사건 순차 추론 문제를 해결하기 위해 LatticeBridge가 제안되었다. 이 방법은 접두사 언어 모델과 트위스트된 순차 몬테카를로(SMC) 디코더를 결합하여 기존 기준선 대비 정확한 앵커 만족도와 커버리지를 향상시킨다.