최소 위험 학습(MRT)은 기계 번역 신경망 모델이 토큰 수준 최대 가능도 목적함수에만 의존하지 않고 서열 수준 평가 지표를 직접 최적화할 수 있게 한다 Shen et al. [2016]. 약 10년 전에 도입되었지만, 최근 연구는 현대 언어 모델에서 위험 기반 최적화의 새로운 잠재력을 보여 준다 Yang et al. [2024], Jinnai et al. [2025]. 우리는 Outage Data Initiative Nationwide(ODIN)의 정전 보고서 생성에 MRT를 적용하여, 이질적인 보고서를 CIM IEC 61968-3을 준수하는 표준화된 XML로 변환한다. 우리의 MRT 접근법은 Qwen2.5-7B-Instruct의 전체 정확도를 16.20%에서 68.95%로 향상시켜, 도메인 특화 구조화 생성에 대한 서열 수준 최적화의 효과를 보여 준다.
자기회귀 디코더는 평면적인 토큰 시퀀스를 출력하며 출력 세그먼트 간 계층적 제약을 강제할 수 없는데, 이 한계는 특허 청구항 생성에서 더욱 두드러진다. 여기서 청구항 집합은 깊이에 따라 범위가 단조적으로 좁혀져야 하는 종속성 포리스트(dependency forest)를 형성한다. 위상과 내용은 상호 의존적이다. 종속 청구항의 문구는 부모의 범위를 반영해야 하지만, 그 문구가 존재하기 전에 부모가 선택되어야 하므로, 사후 파싱(post-hoc parsing)이나 문법 제약 디코딩(grammar-constrained decoding)만으로는 충분하지 않다. 우리는 자기회귀 패스 내에서 위상을 예측하는 SPG(Structure-aware Patent Generation)를 제안한다. 포인터 헤드(pointer head)가 각 종속 청구항의 부모를 선택하며, 그 기울기는 깊이 적응형 범위 정규화(depth-adaptive scope regularizer)와 함께 학습 중 공유 디코더의 표현을 재형성한다. 두 번째 단계에서는 자체 생성된 결함 후보들에 대해 위반 가중 선호 목표(violation-weighted preference objective)를 적용하여, 등록 특허 말뭉치가 갖추지 못한 부정적 신호를 제공한다. HUPD-DCG에서 Llama-3-8B-Instruct 기반 SPG는 학습 보상이 전혀 지도하지 않는 정답 부모 링크의 79.0%를 복원하며, 동일 규모의 지도 기준선 대비 선행어 일관성을 0.292에서 0.478로 높였고, 전문가 평가가 이러한 개선을 뒷받침한다.
대규모 언어 모델(LLM)은 수학적 추론 및 자동 평가와 같은 복잡한 문제를 해결하는 데 점점 더 뛰어난 능력을 보이고 있다. 그러나 프롬프트가 태스크 지시사항과 엄격한 형식 요구사항을 혼재시킬 경우 성능이 저하되는 경우가 많다. 이러한 혼재는 모델에 상충하는 목표를 만들어 추론 능력을 저해한다. 이를 해결하기 위해, 우리는 형식 준수와 문제 해결을 명시적으로 분리하는 디코딩 프레임워크인 Deco-G를 소개한다. Deco-G는 형식 준수를 별도의 형식 추정 모듈(FEM, Format Estimation Module)에 위임하며, 이 모듈은 확률적 선행 탐색(probabilistic lookahead)을 수행하여 미래 형식 준수율을 추정하고 토큰 확률을 재가중함으로써 LLM이 태스크 해결에만 집중할 수 있도록 한다. 이 접근 방식을 실용적이고 효율적으로 만들기 위해, 지시사항 인식 증류(instruction-aware distillation), 유연한 트라이(trie) 구축 알고리즘, HMM 상태 가지치기라는 세 가지 핵심 기법을 도입한다. 수학적 추론, 이벤트 인수 추출, LLM-as-a-judge에 걸친 실험에서 Deco-G는 형식 준수를 보장하면서 프롬프팅 또는 구조화된 생성 기준선을 지속적으로 능가함을 보여준다. 코드는 https://github.com/haikangdeng/deco-g에서 공개한다.
구조화 생성(NER, JSON 추출, QA, 분류)에 배포된 대규모 언어 모델(LLM)은 공식적인 신뢰성 보장이 부재하며, 표준 휴리스틱 기권 정책은 사용자 지정 리스크 목표를 7.5--12.5% 초과한다. 우리는 컨포멀 리스크 제어(CRC)가 구조화된 LLM 출력을 인증할 수 있는 경우와 증명 가능하게 인증할 수 없는 경우를 규명한다. 첫째, 불가능성 결과를 증명한다: 기저 리스크(μ> α)일 때, 분포 무관 방법은 적어도 ((μ-α)/(1-α)) 비율의 예시에서 반드시 기권해야 하며, 이는 CRC 실행 전에 작동 여부를 확인할 수 있는 폐형(closed-form) 실현 가능성 검정을 도출한다. 둘째, Hoeffding, 경험적 Bernstein, 베팅 기반 e-CRC 경계에 걸친 인증 계층 구조를 분석하며, 저분산/대표본 체제에서 엄격한 성능 향상을 확인한다: Hoeffding에서 Bernstein으로의 전환이 가장 큰 향상(+37% 인증 구성)을 제공하고, e-CRC는 보정 데이터가 희소할 때 가치를 더한다(데이터 20% 수준에서 10% 인증 달성, Hoeffding은 0%). 셋째, 교차 데이터셋 분포 이동 하에서 적응형 컨포멀 추론(ACI)을 검증하여 리스크 목표 위반을 71%에서 21%로 감소시키며, 잔류 실패는 불가능성 경계가 예측하는 바로 그 지점에 집중됨을 확인한다. 6개의 오픈 가중치 모델(3B--72B 파라미터), 8개의 데이터셋, 4개의 태스크, 6개의 비적합성 점수에 걸쳐, 난이도 높은 NER/QA/분류 구성은 (α= 0.10)에서 인증 불가능하며; (α= 0.30--0.40)으로 완화하면 실용적인 인증이 가능해진다(NER 47%, QA 40%, 분류 60%). 이 프레임워크는 세 단계 배포 방법론을 제시한다: 실현 가능성 확인, 경계 및 점수 선택, 그 후 분포 이동 완화.
최근 대규모 언어 모델(LLM)은 일반적인 텍스트 생성에 능숙하지만, 출력이 엄격한 형식 및 구조 규칙을 따라야 하기 때문에 도메인 특화 데이터 생성에 활용하기는 여전히 어렵다. 질의응답이나 번역과 같은 개방형 과제와 달리, 도메인 특화 생성은 의미적으로 올바를 뿐만 아니라 기존 지침 및 표준을 준수해야 한다. 본 연구에서는 미국 전역의 유틸리티 정전 보고서 전국 상호운용성(interoperability) 문제를 연구한다. 실무에서는 정전 보고서가 기계 판독 가능해야 하며(예: JSON 또는 XML), 에너지 부문 규제 기관의 요구사항을 엄격히 따라야 한다. 이 문제를 해결하기 위해 정전 보고서 생성을 위한 최적화된 LLM인 POTracker를 제안한다. 제안한 목적 함수(objective)를 사용하여 Qwen2.5-7B-Instruct를 미세조정한다. 핵심 기여는 생성된 보고서와 정답(ground-truth) 보고서 간의 텍스트 유사도와 구조적(태그) 유사도를 모두 고려하는 새로운 손실 함수 POTrackerLoss이다. POTracker를 1,000건의 정전 보고서 데이터셋에서 평가하고, 널리 알려진 미세조정 방법 5가지 및 규칙 기반 XML 변환 방법 1가지와 비교한다. 결과는 POTracker가 다른 미세조정 접근법을 능가하며, 전체 정확도를 최대 51% 향상시키고 생성된 정전 보고서에 대해 86.47%의 구조적 정확도를 달성함을 보여준다. 또한 정답 표준 보고서의 품질을 평가하기 위한 인간 연구를 수행했으며, 도메인 전문가가 생성된 라벨에 0~5 척도에서 평균 4.03점을 부여했다.
직접 선호도 최적화(DPO)가 구조화된 생성에서 겪는 그라디언트 희석 및 토큰 침식 문제를 해결하기 위해, 토큰 수준 적응형 장벽을 활용한 TAB-PO를 제안한다. 이 방법은 SciERC 벤치마크에서 기존 SFT 및 DPO 변형 모델들보다 온톨로지 관련 메트릭에서 평균 11.59%의 성능 향상을 달성했다.