arXiv:2606.12651v1 cs.LG

물리 인식 보조 손실이 GNN 합성 가능성 필터의 분포 외 일반화를 개선한다

Physics-Aware Auxiliary Losses Improve Out-of-Distribution Generalization of a GNN Synthesizability Filter

Riya Bisht, Dhruv Agarwal

제출 2026-06-10

한국어 초록

머신러닝 신약 발굴 파이프라인은 점점 더 다운스트림 합성 가능성 필터의 학습 데이터와 동떨어진 분자를 제안하는 생성 모델에 의존하고 있다. 기존 필터(SAScore, SCScore, RAscore, DeepSA)는 순전히 통계적이며, 바로 이 분포 외(OOD) 환경에서 성능이 저하된다. 본 연구는 폐쇄형(closed-form) 물리적 사전 지식을 그래프 신경망(GNN)의 보조 지도학습으로 활용할 경우 OOD 일반화가 개선되는지 묻는다. 우리는 GINE 백본에 두 가지 보조 손실을 추가한다: Bertz 지수로 지도되는 위상적 복잡도 회귀 손실과 MMFF94 힘장(force-field) 에너지로 지도되는 변형 에너지 소프트 패널티 손실이다. SAScore 임계값으로 레이블링된 65,177개 분자 코퍼스(HIV, Tox21, COCONUT)에서 강력한 분포 내 기준선을 재현한 뒤, 단일 소스 OOD 분할(학습: 약물 유사 HIV+Tox21, 테스트: COCONUT 천연물)에서 4-방향 절제 실험(기준선 / +복잡도 / +변형 / +둘 다)을 5개 시드에 대해 쌍별 부트스트랩 신뢰 구간과 함께 평가한다. 물리 인식 변형 세 가지 모두 기준선(평균 OOD AUC 0.9774) 대비 소폭이지만 통계적으로 유의미한 OOD 개선을 보인다: +복잡도 Δ = +0.0060 (95% CI [+0.0023, +0.0102]), +변형 Δ = +0.0032 ([+0.0008, +0.0052]), +둘 다 Δ = +0.0066 ([+0.0038, +0.0093]); 모든 구간이 영(zero)을 제외하며, 두 손실의 조합이 가장 우수하다. 변형들은 분포 내에서는 구별이 불가능하며, 따라서 효과는 OOD 평가에서만 확인된다. 우리는 효과가 완만함을 명시하며, 방법론적 주의 사항도 보고한다: 이 실험의 단일 시드 버전은 다중 시드 평가에서 살아남지 못한 질적으로 상이한(비단조적) 결과를 산출했다.

원문 초록

Machine-learning drug-discovery pipelines increasingly rely on generative models that propose molecules far from the data used to train downstream synthesizability filters. Existing filters (SAScore, SCScore, RAscore, DeepSA) are purely statistical and degrade in exactly this out-of-distribution (OOD) regime. We ask whether cheap, closed-form physical priors, used as auxiliary supervision on a graph neural network (GNN), improve OOD generalization. We add two auxiliary losses to a GINE backbone: a topological complexity regression supervised by the Bertz index, and a strain-energy soft penalty supervised by MMFF94 force-field energy. On a 65,177-molecule corpus (HIV, Tox21, COCONUT) labeled by SAScore thresholds we reproduce a strong in-distribution baseline, then evaluate a 4-way ablation (baseline / +complexity / +strain / +both) on a single-source OOD split (train on drug-like HIV+Tox21, test on COCONUT natural products), repeated over 5 seeds with paired bootstrap confidence intervals. All three physics-aware variants give a small but statistically significant OOD improvement over the baseline (mean OOD AUC 0.9774): +complexity Delta = +0.0060 (95% CI [+0.0023, +0.0102]), +strain Delta = +0.0032 ([+0.0008, +0.0052]), +both Delta = +0.0066 ([+0.0038, +0.0093]); every interval excludes zero, and the combination is best. The variants are indistinguishable in-distribution, so the effect is visible only under OOD evaluation. We are explicit that the effects are modest, and we report a cautionary methodological finding: a single-seed version of this experiment produced a qualitatively different (non-monotone) story that did not survive multi-seed evaluation.

요약

기존 통계 기반 합성 가능성 필터의 분포 외(OOD) 성능 저하 문제를 해결하기 위해, 그래프 신경망(GNN)에 물리적 사전 지식을 보조 손실로 추가했습니다. 이를 통해 OOD 일반화 성능을 통계적으로 유의미하게 개선하면서도 분포 내 성능은 유지하는 결과를 확인했습니다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.12651v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13404v1cs.LG공통 태그 Domain Generalization, Inductive Bias

복잡하고 변화하는 세상에서도 선형 모델이 여전히 유효할 수 있는 이유

Why Linear Models Can Still Work in a Complex and Changing World

선형 모델은 기저 메커니즘이 비선형적인 경우에도 복잡한 도메인에서 우수한 예측 성능을 보일 수 있습니다. 본 연구에서는 세상의 복잡성이 유한하고 부분적으로만 관측된 데이터로부터 신뢰성 있게 학습(training)할 수 있는 복잡성을 초과하기 때문에 이러한 현상이 발생할 수 있다고 주장합니다. 유연한 모델은 특정 병원, 기간, 집단, 정책 환경(environment) 또는 측정 과정에는 적합하지만 다른 환경에서는 실패하는 곡률, 임계값, 상호작용을 과도하게 활용할 수 있습니다. 이러한 불안정성이 주로 비선형 구성 요소에 존재하는 경우, 이를 생략함으로써 새로운 환경에서 선형 모델의 예측 오차를 더 낮출 수 있습니다. 본 논문은 이 주장을 단순 선형 규칙, 바이어스(bias) 및 분산, 정규화(regularization), 최적 선형 예측, 측정 오차, 분포 변화(distribution shift), 불변성, 라쇼몽 집합(Rashomon sets), 그리고 과소지정(underspecification)에 관한 연구들과 연결합니다. 명제 1(Proposition 1)은 학습 환경에서 학습된 비선형 규칙이 너무 약하게 전이되어 대상 오차를 증가시키는 단순 제곱 오차 사례를 제시하며, 유한 표본 추정 오차는 이러한 결과를 더욱 강화할 수 있습니다. 부분 관측만으로는 충분하지 않으며, 관측된 변수와 관측되지 않은 요인 간의 연결 관계가 환경 전반에 걸쳐 변화해야 합니다. 안정적인 비선형 구조는 유연한 모델에 유리하지만, 선형 모델 역시 선형적인 가짜 관계(spurious relationships)에 취약한 상태로 남아 있습니다. 따라서 모델 복잡성은 학습 데이터의 정확도뿐만 아니라 환경 간 안정성을 함께 고려하여 선택되어야 합니다.

arXiv:2610.13689v1cs.LG공통 태그 Inductive Bias, Graph Neural Network

VQIL: 그래프 상의 섭동 반응 순위화를 위한 가시적 양자 간섭 학습

VQIL: Visible Quantum Interference Learning for Perturbation Response Ranking on Graphs

국소적 섭동(perturbation)이 네트워크에 미치는 영향을 학습하는 것은 시스템의 반응을 유발하거나 흡수하는 구성 요소를 식별하는 데 중요합니다. 본 연구에서는 이를 시드 조건부 반응 순위화(seed-conditioned response ranking) 문제로 정의합니다. 즉, 하나의 시드 노드(node)에서 섭동이 발생했을 때 다른 모든 노드를 반응 강도에 따라 순위화하는 것입니다. 이는 모델(model)에 상호작용 토폴로지만 주어지고 섭동이 전파되는 방식을 지배하는 메커니즘을 데이터로부터 학습해야 할 때 특히 어렵습니다. 본 논문에서는 시드 조건부 순위화를 위한 학습 가능한 세게디 양자 워크(Szegedy quantum walk)인 VQIL(Visible Quantum Interference Learning)을 제안합니다. 워크 연산자가 학습(training) 전반에 걸쳐 유니터리(unitary) 상태를 유지하는 동안, 에지 가중치, 링크 위상, 노드별 위상 회전이 역전파(backpropagation)를 통해 엔드투엔드로 최적화됩니다. 노드 점수는 양자 워크 진폭의 기하학적 감쇠 코히런트 합(coherent sum)에서 얻어지며, 이를 통해 최종 제곱 노름(squared-norm) 판독 전에 양자 간섭이 가능해집니다. 학습된 각 매개변수(parameter)는 명명된 에지 또는 노드에 연결되어 있으므로, 학습된 모델은 전파 메커니즘에서 개별 그래프 구성 요소의 역할에 대해 직접 검사 가능한 가설을 제공합니다. 전기적 매개변수를 모델에 제공하지 않은 6개 송전망에 대한 교류 조류(AC power-flow) 섭동 실험에서, VQIL은 스피어만 순위 상관계수를 학습되지 않은 워크의 0.147에서 0.831로 향상시켰으며 동일하게 학습된 무작위 워크 모델의 성능을 능가했습니다. Perturb-seq 지도 신호가 있는 5개 단백질-단백질 상호작용 네트워크에 대한 유전자 섭동 실험에서 VQIL은 순위 상관계수를 0.171에서 0.620으로 향상시켜 가장 강력한 고전적 및 신경망 기반 학습 베이스라인들을 능가했습니다. 이러한 결과는 학습 가능한 양자 워크 간섭이 그래프 상에서 시드 조건부 반응 순위를 학습하기 위한 확장 가능하고 해석 가능한 귀납적 바이어스(inductive bias)를 제공함을 보여줍니다.

arXiv:2607.19514v3cs.LG공통 태그 Inductive Bias, Graph Neural Network

층 신경망(Sheaf Neural Networks)은 홀로노미를 활용하는가? 측정-개입-통제 연구

Do Sheaf Neural Networks Use Holonomy? A Measure--Intervene--Control Study

기하학적 신경망 구조는 내부 메커니즘을 이론적 동기로 삼는 경우가 많지만, 정확도 지표만으로는 실제 예측이 해당 메커니즘을 활용하는지 여부를 입증하지 못합니다. 층 신경망(Sheaf Neural Networks, SNN)에서는 에지 전달(edge transport) 연산들이 접속(connection)을 형성하며, 사이클 곱(cycle product)은 홀로노미(holonomy)를 정의합니다. 본 연구에서는 학습(training)이 삼각형 홀로노미를 변화시키는지, 예측이 학습된 접속에 의존하는지, 그리고 홀로노미가 삼각형 개수 세기(triangle counting) 작업을 주도하는지 질문을 던집니다. 이를 위해 기저 독립적인 루프 리드아웃과 함께 항등 개입 및 단축 경로 통제를 적용합니다. 높은 동질성(homophily)을 지닌 GraphUniverse 그래프에서 삼각형 개수 세기 작업 시 신경망 층 전파(Neural Sheaf Propagation, NSP)의 평균 SO(2) 삼각형 회전량은 0.010라디안에서 0.388라디안으로 증가한 반면, 커뮤니티 탐지에서는 0.029라디안에 그쳤습니다. 데이터가 늘어남에 따라 학습된 SO(2)-NSP는 항등(Identity) NSP보다 우수한 성능을 보였으며, 학습 후 전달 행렬을 교체하면 오류가 더욱 증가했습니다. 그러나 릿지 회귀가 더 높은 정확도를 보였고, 대각 사상은 연속적인 회전 없이도 성능이 향상되었으며, 고정 차수 모델은 개수 세기 성능 향상 없이도 회전이 발달했습니다. 따라서 NSP는 자명하지 않은 접속을 학습하고 이에 의존할 수 있지만, 본 실험 결과는 삼각형 홀로노미가 예측을 주도한다는 점을 보여주지는 못합니다.

arXiv:2610.10776v1cs.LG공통 태그 Inductive Bias, Graph Neural Network

NEMORA: 장거리 원자론적 학습을 위한 신경 등변 다중극 연산자

NEMORA: Neural Equivariant Multipole Operators for Long-Range Atomistic Learning

등변 그래프 신경망(Equivariant Graph Neural Network)은 머신러닝 기반 원자 간 포텐셜(interatomic potential)의 핵심 아키텍처로 부상하여, 계산 비용의 일부만으로도 양자 화학 수준의 정확도에 근접하고 있습니다. 이러한 모델들은 국소 원자 환경을 정확하게 기술하지만, 유한한 공간적 컷오프(cutoff)로 인해 장거리 정보 흐름이 단절되며, 메시지 전달 계층을 깊게 쌓으면 지나친 평활화(over-smoothing) 및 과도한 압축(over-squashing)이 발생할 수 있습니다. 기존의 장거리 확장 기법들은 고정된 해석적 전파 커널(propagation kernel)을 규정하거나, 장거리 통신을 스칼라 또는 차수 보존 채널로 제한하거나, 근사적으로만 등변성을 만족하거나, 초선형(super-linear) 계산 비용을 초래합니다. 대규모 시스템에 대해 효율적인 스케일링(scaling) 및 다중 스케일 다체 표현력과 함께 학습 가능한 장거리 등변 수송을 결합하는 것은 여전히 핵심 과제로 남아 있습니다. 본 논문에서는 장거리 텐서 표현 학습을 위해 고속 다중극 방법(Fast Multipole Method, FMM)을 신경 등변 방식으로 확장한 NEMORA(Neural Equivariant Multipole Operators)를 소개합니다. NEMORA는 적응형 공간 계층 구조상에서 FMM의 해석적 다중극 전개 및 변환 연산자를 학습 가능한 등변 연산자로 일반화합니다. 이 연산자들은 각도 차수를 결합하고 다양한 길이 스케일에 걸쳐 다체 상호작용을 형성하며, 데이터 의존적인 장거리 결합을 학습하는 동시에 FMM의 계층적 구조와 해석적 방사형 인자를 물리적 귀납 편향(inductive bias)으로 유지합니다. NEMORA는 선형 시간 및 메모리 복잡도로 평가되므로 수십만 개의 원자에 달하는 대규모 시스템을 다른 장거리 방식보다 효율적으로 다룰 수 있으며, 대칭 제약이 있는 백본 및 제약이 없는 단거리 백본 모두를 보강합니다. 비국소(non-local) 벤치마크에서 단거리 백본 대비 힘(force) 및 에너지 오차를 각각 1자릿수(order of magnitude) 이상, 최대 3자릿수까지 줄여, 정확도 측면에서 기존의 장거리 확장 기법보다 우수하거나 경쟁력 있는 성능을 보입니다.

arXiv:2610.10934v1cs.RO공통 태그 Inductive Bias, Graph Neural Network

액추에이터 성능 저하 상황에서의 4족 보행 강화학습을 위한 고차 형태학적 프라이어

Higher-Order Morphology Priors for Quadruped Reinforcement Learning Under Actuator Degradation

액추에이터 성능 저하는 4족 보행을 관절들이 손실된 액추에이션을 보상해야 하는 협응(coordination) 문제로 만든다. 선행 연구들은 형태학을 인식하는 그래프 정책(morphology-aware graph policy)이 신체 교란(body perturbation) 상황에서 학습과 일반화를 향상시킨다고 제안한다. 본 연구는 고차(higher-order) 기계적 구조를 명시적으로 모델링함으로써 이러한 이점을 강화할 수 있는지를 묻는다. 우리는 Unitree Go1을 다리(limb) 및 몸체(body) 수준의 랭크-2 셀(rank-2 cell)을 갖는 셀 복합체(cell complex)로 표현하고, Hodge 기반 메시지 패싱(Hodge-based message passing)을 적용한다. 저하 상황에서의 학습 하에서, 노드-엣지-면 Hodge 액터(node-edge-face Hodge actor)는 보지 못한 액추에이터 저하에 대해 가장 높은 리턴(return)을 달성하며, 더 높은 생존율과 더 낮은 속도 추적 오차(velocity-tracking error)를 보인다. 이러한 결과는 고차 형태학이 액추에이터 저하 상황에서 전신 보상(whole-body compensation)을 위한 유용한 귀납적 바이어스(inductive bias)임을 뒷받침한다.

arXiv:2609.12223v2cs.LG공통 태그 Drug Discovery, Inductive Bias

GRACE를 활용한 충돌 단면적 예측: 조기 융합을 통한 기하학적 잔차 첨가생성물 조건화

Predicting Collision Cross Sections with GRACE: Geometric Residual Adduct Conditioning via Early-fusion

이온 이동도 질량 분석법에서 도출되는 충돌 단면적(CCS, Collision Cross Section)은 분자 주석에 널리 쓰이는 기술자(descriptor)입니다. 기체 상태 분자 이온의 크기, 형태 및 이온화 상태를 반영하기 때문에 머신러닝 모델로 이를 예측하는 것은 까다롭습니다. 기존 예측 모델의 대다수는 명시적인 3차원 구조를 무시하거나 첨가생성물(adduct) 식별자를 후기 범주형 특징(feature)으로 취급하여, 첨가생성물에 따른 기하학적 영향을 포착하는 데 한계가 있습니다. 본 연구에서는 조기 융합(early-fusion)을 통한 기하학적 잔차 첨가생성물 조건화를 사용하여 사전학습된 분자 기하학 인코더를 적응시키는 3차원 CCS 예측 모델인 GRACE(Geometric Residual Adduct Conditioning via Early-fusion)를 제안합니다. GRACE는 두 가지 귀납적 편향(inductive bias)을 결합합니다. 즉, 첨가생성물을 고려한 물리적 기술자 기준선(baseline) 대비 잔차 목적 함수와, 학습된 첨가생성물 토큰(token) 및 저차원 랭크 어텐션(attention) 어댑터를 통한 인코더 내부의 첨가생성물 조건화입니다. 보간(interpolation), 스캐폴드 일반화, 첨가생성물 기반 일반화를 분리하여 평가할 수 있도록 설계된 무작위(random), 스캐폴드(scaffold), 첨가생성물 민감(adduct-sensitive) 분할을 적용하여 9,000건 이상의 실험적 분자-첨가생성물 CCS 레코드로 정제된 데이터셋에서 모델을 평가했습니다. GRACE는 세 가지 분할 모두에서 평가된 학습 모델 중 가장 우수한 평균 백분율 차이(mean percentage difference)를 달성했습니다(무작위 분할 1.67%, 스캐폴드 분할 2.11%, 첨가생성물 민감 분할 2.36%). 진단 분석 결과, 잔차 학습은 지배적인 질량-CCS 추세를 제거함으로써 학습(training)을 안정화하고, 조기 융합은 후기 융합에 비해 첨가생성물 민감 예측 성능을 개선하는 것으로 나타났습니다. 4개의 독립적인 외부 테스트 세트 전반에서 GRACE는 평가된 다른 모델들보다 일관되게 낮은 오차를 보였습니다. 또한 별도로 남겨둔 보류 평가셋(held-out set)에서 GRACE는 이전에 보고된 네 가지 물리 기반 워크플로와 비교했을 때 가장 낮은 평균 백분율 차이를 기록했습니다. 이러한 결과는 잔차 학습과 인코더 수준의 첨가생성물 조건화가 빠르고 정확한 CCS 예측을 위한 실용적인 귀납적 편향임을 뒷받침합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.