arXiv:2401.09451

Diffusion-Driven Generative Framework for Molecular Conformation Prediction

Bobin Yang, Jie Deng, Zhenghan Chen, Ruoxue Wu

제출 2023-12-22

원문 초록

The task of deducing three-dimensional molecular configurations from their two-dimensional graph representations holds paramount importance in the fields of computational chemistry and pharmaceutical development. The rapid advancement of machine learning, particularly within the domain of deep generative networks, has revolutionized the precision of predictive modeling in this context. Traditional approaches often adopt a two-step strategy: initially estimating interatomic distances and subsequently refining the spatial molecular structure by solving a distance geometry problem. However, this sequential approach occasionally falls short in accurately capturing the intricacies of local atomic arrangements, thereby compromising the fidelity of the resulting structural models. Addressing these limitations, this research introduces a cutting-edge generative framework named \method{}. This framework is grounded in the principles of diffusion observed in classical non-equilibrium thermodynamics. \method{} views atoms as discrete entities and excels in guiding the reversal of diffusion, transforming a distribution of stochastic noise back into coherent molecular structures through a process akin to a Markov chain. This transformation commences with the initial representation of a molecular graph in an abstract latent space, culminating in the realization of three-dimensional structures via a sophisticated bilevel optimization scheme meticulously tailored to meet the specific requirements of the task. One of the formidable challenges in this modeling endeavor involves preserving roto-translational invariance to ensure that the generated molecular conformations adhere to the laws of physics. Extensive experimental evaluations confirm the efficacy of the proposed \method{} in comparison to state-of-the-art methods.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27144v2cs.LG공통 태그 Prediction

미관측 교란 변수에 강건한 위험 점수 학습

Learning Risk Scores Robust to Unobserved Confounders

미관측 교란의 영향을 받는 역사적 관찰 데이터로부터, 희소 자원이나 개입 대상 개인의 우선순위를 정하기 위한 위험 점수를 학습하는 문제를 다룬다. 누가 희소 자원을 받을지에 대한 결정은 설문 응답과 같이 기록된 특성에 기반한 위험 점수에 의해 종종 안내된다. 이러한 위험 점수는 개인의 특성, 배분 결정, 결과에 대한 역사적 기록인 관찰 데이터로부터 직접 학습되는 경우가 점점 늘고 있다. 역사적 배분 정책이 도입한 바이어스를 보정하는 역 성향 가중치(inverse propensity weighting, IPW)와 같은 표준 방법은, 역사적 결정 과정이 기록된 특성으로 완전히 설명될 수 있다면 정확한 위험 점수를 학습하는 데 사용될 수 있다. 그러나 실무에서는 역사적 결정이 종종 기록되지 않은 정보에 의존하여, 학습된 위험 점수가 과거 우선순위를 이끌었던 기록되지 않은 상황을 가진 개인들을 정확히 체계적으로 과소 우선순위화하게 만든다. IPW를 기반으로, 이러한 종류의 미관측 교란에 강건한 위험 점수를 학습하는 방법을 제안한다. 미관측 교란 하에서는 성향 가중치를 신뢰할 수 있게 추정할 수 없으므로, 대신 관측 가능한 데이터와 교란 정도에 대한 도메인 정보 기반 추정치로 결정되는 불확실성 집합에 속하는 것으로 취급하며, 인과 추론(causal inference)의 민감도 분석(sensitivity analysis)과 Wasserstein 분포적 강건 최적화(Wasserstein distributionally robust optimization)를 결합한다. 그 결과 강건 위험 점수 학습 문제는 표본 기반 근사를 허용하며, 이를 기성 솔버와 호환되는 지수 원뿔 프로그램(exponential cone program)으로 재공식화한다. UCI Machine Learning Repository의 데이터셋에서 파생된 반합성(semi-synthetic) 데이터에서 접근법의 효과를 입증한다. 제안 방법은 다른 지표를 손상하지 않으면서, 전통적 벤치마크 대비 보정(calibration)을 최대 29.2%까지, 최신(state of the art) 대비 최대 11.1%까지 개선한다.

arXiv:2610.13693v1cs.LG공통 태그 Bilevel Optimization

단 한 번의 과정으로 수행하는 캘리브레이션: 정확하고 잘 보정된 신경망의 결합 학습

Calibration in One Go: Jointly Learning Accurate and Calibrated Neural Networks

신경망(NN)은 매우 유연하고 다재다능하지만 신뢰도 보정(calibration)이 제대로 이루어지지 않는 경우가 많습니다. 사후 캘리브레이션(post-hoc calibration) 방식은 별도의 캘리브레이션 데이터셋과 추가 파라미터를 사용하여 이미 학습된 모델의 출력을 조정합니다. 그러나 이러한 과정은 캘리브레이터의 독립적인 최적화와 후속 모델 선택을 필요로 하여 오버헤드를 가중시킵니다. 본 논문에서는 표준 사후 캘리브레이터를 이단계 슈타켈버그(bilevel Stackelberg) 정식화를 통해 백본과 함께 엔드투엔드(end-to-end)로 학습할 수 있음을 보입니다. 이 정식화는 교차 엔트로피를 사용해 정확도와 캘리브레이션을 결합 최적화함으로써 별도의 캘리브레이션 셋이나 전용 캘리브레이션 손실 없이도 동작하며, 캘리브레이터 학습률이라는 단 하나의 추가 하이퍼파라미터만을 도입합니다. 본 프레임워크는 온도 스케일링(temperature scaling) 및 행렬 스케일링(matrix scaling)부터 신경망 층에 이르는 다양한 캘리브레이터를 지원하지만, 실험 결과 최종 분류 층 자체를 캘리브레이터로 사용하는 것만으로도 추가 파라미터 없이 정확하면서도 잘 보정된 모델을 얻을 수 있음을 보여줍니다. 제안하는 접근법은 최소한의 복잡도 추가만으로 최신 최고 수준(SOTA)의 캘리브레이터들을 능가하며, 멀티태스크 학습과 같은 설정에서 별도 캘리브레이션 컴포넌트로 인해 발생하는 곱절의 오버헤드 또한 방지합니다.

arXiv:2610.13871v1cs.LG공통 태그 Bilevel Optimization

영차 잔차 추적을 통한 부분 정보 확률적 최적화

Partially Informed Stochastic Optimization via Zeroth-Order Residual Tracking

많은 최적화(optimization) 문제에서는 그래디언트(gradient)의 일부에만 직접 접근할 수 있으며, 나머지 성분은 함수 평가를 통해 추론해야 합니다. 이러한 구조는 수행적 예측(performative prediction), 수행적 강화학습(performative reinforcement learning), 그리고 블랙박스 하위 레벨을 갖는 이단계 최적화(bilevel optimization)에서 발생합니다. 본 논문에서는 사용 가능한 그래디언트 성분과 잔차의 이동 추정치를 결합하는 부분 정보 확률적 최적화(Partially Informed Stochastic Optimization, PISO)를 제안합니다. PISO는 각 영차(zeroth-order) 관측을 이 추정치 중심으로 정렬함으로써, 무작위 탐침으로 인한 분산이 잔차의 크기가 아닌 추적 오차에 의존하도록 만듭니다. 이를 통해 명시적인 수축 메커니즘과 모멘텀(momentum)에 대한 원리적 해석을 갖춘 무작위 스케치 반복(iteration)을 도출합니다. 매끄러운 비볼록 목적 함수에 대해, 접근 불가능한 그래디언트 성분에 대한 균일한 경계를 요구하지 않으면서 잔차의 변동과 초기 크기에 의존하는 수렴(convergence) 보장을 확립합니다. 독립적으로 샘플링된 함수 평가와 가우시안 또는 구면 탐침을 사용할 때, PISO는 립시츠 그래디언트 조건에서 \(O(d^{2}\varepsilon^{-6})\), 추가적인 립시츠 헤시안(Hessian) 가정 하에서는 \(O(d^{2}\varepsilon^{-5})\)의 우수한 함수 평가 복잡도를 달성합니다. 이러한 수렴 속도는 업데이트당 단 하나의 탐침 방향, 두 개의 함수 샘플, 그리고 하나의 기지 성분 샘플만을 필요로 합니다. 또한 본 분석은 배치 처리를 통해 배포 횟수를 줄이는 대신 관측치를 교환하는 방식을 정량화합니다. 다섯 가지 설정 전반에서, PISO 변형들은 세 가지 설정에서 유사한 오라클 접근을 갖는 테스트된 베이스라인 대비 성능을 향상시키고, 이단계 라우팅에서는 유사한 해에 더 빠르게 도달하며, 수행적 강화학습에서는 반응 모델(response-model)의 도함수가 없는 방법 중 가장 뛰어난 성능을 보입니다.

arXiv:2607.05098v2cs.LG공통 태그 Bilevel Optimization

비선형 회귀를 위한 평균 인구통계학적 패리티의 직접 최적화

Directly Optimizing Mean Demographic Parity for Nonlinear Regression

본 연구에서는 민감 속성값 전반에 걸쳐 평균 예측값을 균등화하는 공정성 목표인 평균 인구통계학적 패리티(mean demographic parity)를 다루는 회귀 설정에 주목합니다. 이 기준을 직접 최적화하는 것은 미지수이며 학습(training) 중에 변화하는 조건부 평균에 의존하기 때문에 어렵습니다. 일반적인 의존성 페널티 및 적대적 방법은 이 조건부 평균을 추정하지 않는 대신, 예측이 완전한 독립성을 갖도록 강제합니다. 이러한 더 강한 제약 조건은 평균 예측값이 이미 동일한 경우에도 정확도를 저하시킬 수 있습니다. 기존의 조건부 평균 방법들은 선형 예측기 또는 저차원 민감 속성으로 제한됩니다. 본 연구에서는 조건부 평균 예측의 분산으로 정의되는 공정성 척도인 DPVar를 사용하여 평균 인구통계학적 패리티의 직접 최적화를 가능하게 합니다. 조건부 평균은 예측기가 변화함에 따라 추정되어야 하므로, DPVar를 최적화하면 함수형 이단계 문제(functional bilevel problem)로 이어집니다. 본 연구에서는 폐형태 하이퍼그래디언트(closed-form hypergradient)를 사용하는 FBO와 조건부 평균 추정기의 업데이트 과정을 통해 미분하는 반복 미분(iterative-differentiation, ITD) 솔버라는 두 가지 솔버를 개발합니다. 이전의 조건부 평균 방법들과 달리, 본 접근 방식은 비선형 예측기 및 고차원 연속형 민감 속성에 적용할 수 있습니다. 21개의 정형 회귀 데이터셋으로 구축된 준합성 벤치마크 및 Communities & Crime 데이터 전반에서, FBO와 ITD는 기존 방법보다 경쟁력 있거나 더 우수한 정확도-DPVar 트레이드오프를 달성합니다.

arXiv:2609.32652v2cs.AI공통 태그 Prediction

기하학 기반 소프트 상태 추상화의 예측 한계 및 쿱만 폐포

Prediction Limits and Koopman Closure of Geometry-Induced Soft State Abstractions

소프트 상태 표현(soft state representation)은 각 상태에 합이 1인 음이 아닌 클래스 가중치 벡터를 할당합니다. 본 연구에서는 이러한 가중치의 구성과 상태 동역학이 선형 예측의 정확도를 어떻게 공동으로 결정하는지 조사합니다. 고정된 임의의 가측 표현(measurable representation)에 대해, 지정된 스펙트럼 노름(spectral norm) 한계를 가진 행렬들 중 모집단 최소 평균 제곱근 예측 오차에 대한 유한 표본 신뢰 하한을 유도합니다. 이 한계는 각 참조 클래스 내 후속 좌표의 변동과 소프트 입력이 제공할 수 있는 개선 정도를 비교합니다. 또한 예측 행렬을 적합하지 않고도 독립적인 평가 쌍으로부터 계산됩니다. 선택된 허용 오차를 초과하는 한계는 해당 행렬 클래스 전체에 대해 그 허용 오차를 배제하며, 0인 한계는 결론을 내릴 수 없음을 의미합니다. 커널 아핀 헐 머신(Kernel Affine Hull Machines)을 사용하여 구성된 좌표의 경우, 재구성 점수 마진이 참조 라벨과의 불일치를 제어하며 예측 오차 한계에 반영됩니다. 정확한 결정론적 선형 진화 하에서, 잉여 계수 벡터를 고려하여 쿱만(Koopman) 및 재생핵 힐베르트 공간(RKHS) 수반 해석도 확립합니다. 4개 상태 연구에서는 보고된 117,000개의 복제 데이터셋에 걸쳐 신뢰 하한을 해석적으로 알려진 최적값과 비교합니다. 그런 다음 파일럿 데이터에서 선택된 반데르폴(Van der Pol) 표현을 두 가지 전이 법칙 각각에 대해 32개의 독립적인 데이터셋에서 평가합니다. 보고된 한계는 적합된 행렬 노름에서는 양수이지만, 더 큰 노름 한계에서는 0이 될 수 있습니다. 추가적인 예측 연구를 통해 좌표 변동, 공통 예측 목표, 장기 시계(long-horizon) 오차를 검토합니다. 이러한 결과는 재구성 클래스와의 일치도, 달성 가능한 예측 정확도, 정확한 연산자 폐포(operator closure)를 구별합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.