본 연구에서는 데이터로부터 학습(training)되고 유한한 수의 노이즈 제거 단계를 통해 구현되는 조건부 확산 모델(conditional diffusion models)에 대한 유한 표본 보장(finite-sample guarantees)을 정립합니다. 제안하는 접근법은 스코어 학습 목적식을 샘플링 그리드와 일치시켜 통계적 추정 오차와 수치적 이산화 오차를 함께 분석할 수 있도록 합니다. 매끄러운 조건부 밀도 모델 하에서 생성된 분포의 오차에 대한 높은 확률의 한계(high-probability bounds)를 도출하고 필요한 스코어 평가 횟수를 정량화합니다. 모든 매끄러움 지수 $β>0$에 대해, 적절한 그리드는 조기 종료(early stopping) 여부와 관계없이 원래 타깃 대비 $\widetilde O_p(n^{-2β/(d_x+d_y+2β)})$의 평균 조건부 쿨백-라이블러(KL) 발산을 산출합니다. 전체 샘플러와 조기 종료 샘플러 모두 $\widetilde O_p(n^{-β/(d_x+d_y+2β)})$의 평균 타깃 총변동(TV) 오차를 달성합니다. 여기서 $n$은 표본 크기이고, $d_x, d_y$는 데이터 및 조건부 변수의 차원이며, 오차는 조건부 변수에 대해 평균화됩니다. 이 총변동 한계는 로그 인자를 제외하면 기존 조건부 분포 추정 이론에서 확립된 수렴율과 일치합니다.
생성 모델링과 샘플링 분야의 최근 응용에 동기를 받아, 비용이 신경망(neural network) 복잡도의 개념을 반영하는 최적 측도 운송(optimal measure transport) 프레임워크를 소개한다. 운송 기반 생성 모델에서는 기준 분포(예: 가우시안)의 샘플이 상미분방정식 또는 확률미분방정식을 따라 목표 분포의 샘플로 매핑된다. 이는 시간에 대해 이산화되면 심층 잔차 신경망(deep residual network)으로 구현되며, 각 은닉층(hidden layer)은 그에 대응하는 순시 속도(instantaneous velocity)를 근사한다. 따라서 목표 측도와 기준 측도의 쌍이 주어졌을 때, 자연스러운 질문은 이 운송을 구현하는 가장 효율적인 신경망 표현을 찾는 것이다. 우리의 출발점은 Benamou와 Brenier에 의한 OT(최적 수송)의 운동론적 공식화(kinetic formulation)이다. 우리는 평균 운동 $L^2$ 에너지를 \emph{Barron} 에너지 \cite{bach2017breaking, ma2022barron}로 대체하는데, 이는 주어진 벡터장을 신경망 은닉층(hidden layer)으로 표현하는 복잡도를 측정하는 자연스러운 노름(norm)으로, 특징(feature) 학습의 적응적 특성을 포착한다. 이는 확률 측도 공간 위에 하나의 거리(metric)를 정의하며, 기존의 Wasserstein 및 Stein 기하학을 보완한다. 본 연구에서는 생성 모델링의 맥락에서 이 거리의 성질을 살펴본다. 첫 번째 응용으로서, 우리는 가우시안의 신경망 푸시포워드(pushforward)로 생성된 데이터에 대해 초다항식적(super-polynomial) 점수(score) 근사 하한을 수립함으로써 Barron 기하학에서 디퓨전(diffusion) 생성 모델링의 준최적성(suboptimality)을 정량화한다. 이어서 우리는 대안적인 생성 모델을 연구하는 방법으로서 적응성(adaptivity)의 이점을 조사한다. 동반 논문 \cite{companionpaper}에서는 특징(feature) 적응을 통해 Stein 변분 그래디언트(gradient) 방법의 적용 범위를 확장함으로써, 샘플링 응용을 위해 Barron 운송 기하학을 활용한다.
인공지능(AI)은 화학적·구조적 공간의 효율적 탐색을 가능하게 함으로써 재료 예측 및 설계를 가속화하고 있으며, 특히 신규 재료 발견에 큰 가능성을 보여준다. 그러나 재료 발견에서의 참신성은 화학적 타당성, 구조적 독특성, 물성 관련성, 실험적 실현 가능성을 포괄하므로 AI 기반 참신성 주장을 입증하기 어렵다. 우리는 배치(deployment) 제약을 명확히 하고 구조적·물리적·배치 참신성을 구별하기 위해, 고유(intrinsic)적이고 조성에 의해 결정되는 물성에서 외재(extrinsic)적이고 가공(processing)에 의존하는 성능까지 이어지는 재료 물성 계층을 제안한다. 이 프레임워크는 화학 조성, 미세구조, 가공, 시험 및 특성화(characterisation)에 걸친 멀티모달 재료 데이터에 대한 증거 기반 관점을 이끌어내며, 현재 증거가 조성과 이상화된(idealised) 구조에 집중되어 있는 반면 이질적·과소 대표·약하게 통합된 모달리티가 물리적 및 배치 참신성에 대한 지지를 제한함을 보여준다. 또한 주로 계산 라벨과 대리(proxy) 참신성 기준에 기반한 벤치마크(benchmark)의 한계를 강조한다. 멀티모달 데이터 구축, 공정 인식(process-aware) 멀티모달 모델링, 실현 가능성 우선(feasibility-first) 생성형 모델링, 배치 인식(deployment-aware) 벤치마킹을 지원하려면 데이터 수집, 모달리티 정렬(alignment), 증거 종합(synthesis)에 대한 커뮤니티 전반의 표준이 필요하며, 이를 통해 생성형·멀티모달 AI가 방어 가능한(defensible) 과학적·실용적 참신성을 갖춘 실험적으로 실현 가능한 재료를 설계할 수 있다.
자기회귀 모델은 연쇄 법칙을 통해 정확한 데이터 가능도를 최적화하는 반면, 확산 모델은 일반적으로 노이즈 제거 목적 함수로 학습된다. 본 연구에서는 광범위한 무기억 노이즈 프로세스에 대해 일반화된 외재적 정보 전달(GEXIT) 함수를 기반으로 한 보존 법칙을 개발하고, 데이터-모델 교차 엔트로피(CE)가 노이즈 경로를 따른 국소 정보 이론적 도함수의 적분으로 정확하게 특성화될 수 있음을 보인다. 이로써 이산 및 연속 확산에 대한 가능도의 통합적 특성화를 제공하며, 가우시안 경우는 잘 알려진 상호 정보-최소 평균 제곱 오차(I-MMSE) 관계로 귀결된다. 즉각적인 함의로는 국소성(locality) 특성이 있으며, 이를 통해 노이즈 경로를 따른 주변 사후 분포만을 사용하여 정보 이론적 도함수를 계산할 수 있다. 결과적으로, 학습은 음의 로그 가능도를 최소화함으로써 주변 사후 분포를 학습하는 것으로 귀결된다. 보존 법칙은 엔트로피가 노이즈 경로에 의존하지 않음을 시사하지만, 유한 용량 노이즈 제거기는 노이즈 유형에 따라 다양한 정확도로 사후 분포를 근사하여 성능 차이를 초래한다. 본 연구는 합성 마르코프 소스와 text8 및 CIFAR-10을 포함한 표준 벤치마크에서 이러한 예측을 검증한다.
평균 효과 중심의 기존 매개 분석이 분포 형태 변화를 놓친다는 한계를 극복하기 위해, DCMA(Distributional Causal Mediation Analysis)는 조건부 생성 모델과 몬테카를로 순방향 시뮬레이션을 통해 처리 효과를 전체 결과 분포 수준에서 직접 경로·간접 경로·경로별로 분해한다. 에너지 거리와 Wasserstein 거리 등 풍부한 분포적 대조를 지원하며, 추정 오차가 개입적 결과 분포로 전파되는 방식을 분석적으로 분해하고 합성·실제 데이터 실험으로 유효성을 검증한다.
교차 도메인 탐색과 희소한 인간 조향을 통한 과학 알고리즘 발견을 위해 인간-AI 공동 발견 시스템(HACO)을 제안한다. 화학 조성으로부터 결정 구조를 생성한다는 목표에서 출발하여, HACO는 여러 분야의 생성 모델링 방법론을 교차 탐색했고, 비전 분야의 마스킹 생성 모델인 MaskGIT이 결정 구조 예측(CSP)에 유망한 프레임워크임을 확인했다. HACO는 이 마스킹 공식화를 결정 구조의 이산 토큰 모델로 구체화했고, 희소한 고수준 인간 목표의 안내하에 결정학적 대칭 토큰, 다형 커버리지를 위한 공간군 층화 샘플링, 서브빈 좌표 정제를 추가하여 Masked Generative Crystal Transformer(MaskGXT)를 완성했다. MP-20 다형 분할에서 MaskGXT는 가장 강력했던 기준선의 70.87%와 비교하여 match-everyone-to-reference(METRe) 정확도 79.06%를 달성했다. MaskGXT는 표준 MP-20 및 MPTS-52 CSP 벤치마크에서도 최고의 match rate를 기록했다. 이러한 결과는 값싸고, 빠르며, 잘 정렬된 검증이 가능한 도메인에서, 전이 기반 상호작용형 AI 공동과학자가 전이 가능한 모델링 원리를 식별하고 이를 목표 지향적 인간 도메인 가이드와 결합함으로써 과학 알고리즘 발견에 기여할 수 있음을 보여준다.
우리는 적분 PF 연산자를 통해 밀도 진화(density evolution)를 매칭하여 플로우(flow), 확산(diffusion), 및 점프(jump) 모델을 아우르는 생성 프레임워크인 페룬-프로베니우스 연산자 매칭(PFOM)을 소개합니다. 우리는 브레그만 발산(Bregman divergence) 중에서 쿨백-라이블러 발산(Kullback--Leibler divergence)만이 밀도 수준(density-level)과 샘플 조건부(sample-conditioned) 목적 함수 사이의 동등성을 보존함을 증명하며, 이는 쿠프만 경로 매칭(Koopman path matching)과 동등한 실용적인 손실(loss)을 제공합니다. 또한, 우리는 이산화(discretization)를 안정화하고 수렴(convergence)을 가속화하는 네스테로프 가속 학습(training) 및 샘플링 방법을 개발했습니다. 가우시안 혼합(Gaussian mixtures) 및 투문(two-moons) 데이터셋에서 PFOM은 경험적 검증(validation)을 통해 더 빠른 KL/$W_2$/MMD 감소와 개선된 실시간 효율성(wall-clock efficiency)을 달성했습니다. PFOM은 연산자 이론적 식별(operator-theoretic identification)과 현대적 생성 모델링을 통합하며, 적응형 사전(adaptive dictionaries) 및 고차원 응용으로 가는 길을 엽니다.
많은 과학적 문제는 간접적인 관측으로부터 관측되지 않은 기계론적 잠재 상태를 추론(inference)해야 합니다. 기댓값 최대화(expectation maximization)를 포함한 고전적 접근법은 조합적으로 거대한 공간에는 대응하기 어렵지만, 변분 오토인코더(variational autoencoders)와 같은 심층 학습(deep learning) 접근법은 기계론적 실제 상태(ground-truth states)를 재구성하기보다는 일반적으로 인위적인 잠재 상태를 형성합니다. 본 연구에서는 동적으로 재조정된 보상을 사용하여 관측 데이터 가능도(likelihood)를 최대화하는 잠재 상태 분포를 학습하는 정책 학습(policy learning) 프레임워크인 GReinSS를 소개합니다. GReinSS는 시뮬레이션된 잠재 집합과 잠재 그래프를 정확하게 재구성하며, 대안적인 정책 학습 및 생성 모델링 기준선(baselines)보다 우수한 성능을 보여줍니다. 또한, GReinSS는 실제 단독 판독(short-read) RNA 시퀀싱 데이터로부터 아이소폼(isoforms)을 재구성하며, 이는 표준 RSEM 알고리즘보다 직교하는 장독 판독(long-read) 시퀀싱으로 검출된 아이소폼과 더 잘 일치합니다. 전반적으로 GReinSS는 간접적인 관측으로부터 조합적 잠재 상태의 생성 모델링 및 추론(inference)을 위한 이론적으로 타당하고 실제로 효과적인 접근법입니다.