GraphGANFed: A Federated Generative Framework for Graph-Structured Molecules Towards Efficient Drug Discovery
원문 초록
Recent advances in deep learning have accelerated its use in various applications, such as cellular image analysis and molecular discovery. In molecular discovery, a generative adversarial network (GAN), which comprises a discriminator to distinguish generated molecules from existing molecules and a generator to generate new molecules, is one of the premier technologies due to its ability to learn from a large molecular data set efficiently and generate novel molecules that preserve similar properties. However, different pharmaceutical companies may be unwilling or unable to share their local data sets due to the geo-distributed and sensitive nature of molecular data sets, making it impossible to train GANs in a centralized manner. In this paper, we propose a Graph convolutional network in Generative Adversarial Networks via Federated learning (GraphGANFed) framework, which integrates graph convolutional neural Network (GCN), GAN, and federated learning (FL) as a whole system to generate novel molecules without sharing local data sets. In GraphGANFed, the discriminator is implemented as a GCN to better capture features from molecules represented as molecular graphs, and FL is used to train both the discriminator and generator in a distributive manner to preserve data privacy. Extensive simulations are conducted based on the three bench-mark data sets to demonstrate the feasibility and effectiveness of GraphGANFed. The molecules generated by GraphGANFed can achieve high novelty (=100) and diversity (> 0.9). The simulation results also indicate that 1) a lower complexity discriminator model can better avoid mode collapse for a smaller data set, 2) there is a tradeoff among different evaluation metrics, and 3) having the right dropout ratio of the generator and discriminator can avoid mode collapse.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Generative AI and Federated Learning for Intrusion Detection Systems: A Survey
URSA: 실용적 역합성 평가를 위한 화학 인식 벤치마크
URSA: Chemistry-Aware Benchmark for Utilitarian Retrosynthesis Assessment
표적 분자에 대한 반응 경로를 찾는 합성 계획은 신약 개발에서 가장 중요하고도 어려운 과제 중 하나이다. 최근 전문화된 딥러닝 역합성 시스템과 범용 대규모 언어 모델이 모두 발전하였으나, 유연하고 화학적으로 해석 가능한 벤치마킹 프로토콜이 없어 객관적인 비교는 여전히 어렵다. 본 연구에서는 URSA(Utilitarian RetroSynthesis Assessment) 평가 프레임워크를 도입한다. 이 프레임워크는 상업적으로 구입 가능한 출발 물질로의 수렴과 같은 형식적 관점뿐 아니라, 전문 화학자가 반응과 경로를 평가하는 방식을 모방한 화학적 타당성 관점에서도 합성 경로를 벤치마킹할 수 있게 한다. 본 연구는 일상적인 약물 설계 업무의 현실적인 과제를 대표하며 합성 경로가 공개되지 않은 새롭고 다양한 표적 분자 집합에서, 합성 계획 과제에 대한 기존의 종단간 역합성 솔루션과 LLM을 포괄적으로 평가한다. LLM은 고수준의 전략적 계획을 지원할 수 있고 OOD 집합에서는 SOTA 성능까지 달성하지만, 추정 실행 비용과 화학적으로 타당한 경로 해결 가능성에 대한 파레토 프런티어는 전적으로 전문화된 역합성 계획기로 구성된다.
SinAE: 교차 도메인 원자계를 위한 단일 아키텍처 플로우 매칭 오토인코더
SinAE: A Single-Architecture Flow-Matching Autoencoder for Cross-Domain Atomic Systems
소분자, 결정체, 단백질은 모두 3차원 공간의 원자로 환원되지만, 생성 파이프라인은 여전히 도메인별로 분절되어 있으며 각각 고유한 그래프, 등변(equivariant), 또는 프레임 기반 아키텍처를 사용한다. 교차 도메인 학습은 도메인별 데이터 부족을 완화할 수 있지만, 3차원 좌표 공간에서의 직접 생성은 세 도메인 모두의 이질적인 구조적 사전지식을 쉽게 다루기 어렵고, 기존 잠재 오토인코더 중 무손실이면서 세 도메인 모두에 걸쳐 아키텍처적으로 일반적인 것은 없다. 우리는 분자, 결정체, 단백질을 위한 단일 아키텍처 플로우 매칭 오토인코더인 SinAE를 제안하며, 이는 바닐라 트랜스포머 인코더와 디코더를 사용하고 등변, 그래프, 또는 도메인 특화 연산자를 포함하지 않는다. 인코더가 세밀한 기하를 포착하도록 요구하는 대신, SinAE는 재구성 부담을 반복적 플로우 매칭 디코더로 옮겨 도메인 전반에 걸쳐 거의 무손실 재구성을 달성하고, 기존 잠재 베이스라인 대비 재구성 오차를 여러 차수에 걸쳐 감소시킨다. 동일한 토큰별 잠재는 표준 Diffusion Transformer 사전 모델을 지원하며, 이는 분자, 결정체, 단백질 생성 벤치마크에서 강력한 성능을 달성한다. 분자-결정체 공동 학습은 두 도메인 모두를 뚜렷이 개선하여, 공유 원자 잠재를 통한 교차 도메인 전이의 직접적 증거를 제공한다. 코드는 https://github.com/BlueWhaleLab/SinAE 에서 이용할 수 있다.
OLS 회귀를 위한 데이터 분할에 대한 분산 스케칭
Distributed Sketching on Data Partitions for OLS Regression
본 논문은 분산 스케치에 기반한 최소제곱(OLS) 회귀의 확장 가능한 접근법을 연구한다. 대규모 데이터 집합의 작은 스케치를 여러 워커에 분산하고, 각 워커가 자신의 스케치로부터 로컬 OLS 추정량을 구성하며, 로컬 추정량들을 평균하여 전역 추정량을 얻는다. 기존 연구는 각 스케치가 전체 데이터로부터 생성된다고 가정하지만, 이 스케치 단계는 계산 비용이 높아 때로는 표준 OLS보다 더 높다. 이에 우리는 데이터를 분할한 부분집합으로부터 각 스케치를 생성할 것을 제안하며, 이로써 워커 수가 늘어날수록 스케치 비용이 감소한다. 고정 설계 설정에서 전역 추정량의 정확한 초과 손실을 규명한다. 이 손실은 기존 연구에서 확립된 손실보다 크지만, 부분집합 공분산 간의 평균 Burg 발산이 작을 때는 그에 가깝게 유지된다. 제안한 분할 설계에서는 워커가 많을수록 발산이 커지는 경향이 있으므로, 이는 추정량의 계산 효율성과 통계적 효율성 사이의 상충 관계를 드러낸다.
Q-Score: 분자 도킹을 위한 양자 네이티브 스코어링 함수
Q-Score: A Quantum-Native Scoring Function for Molecular Docking
분자 도킹은 소분자가 단백질에 결합하는 방식을 예측하며, 신약 개발의 핵심 병목 단계이다. 고전적인 스코어링 함수는 경험적 쌍별 접촉을 합산하는 방식으로, 결합 특이성을 결정하는 궤도 전하 이동과 같은 양자역학적 효과를 반영하지 못한다. 본 연구에서는 Q-Score를 제안한다. Q-Score는 GNN으로 예측된 궤도 전자 공여-수용 에너지를 가중 그래프로 인코딩하고, Digitized-Counterdiabatic QAOA를 통해 최대 가중치 정점 클리크 문제를 풀어 결합을 스코어링한다. 각 상호작용 앵커는 하나의 큐비트에 대응되며, 호환성 제약 조건은 에지로 표현된다. 11개의 단백질 타겟에 대해 DC-QAOA는 10큐비트에서 8개의 타겟에서 정확한 최적해를 복원한다. AI 생성 분자 1,000개에 대해 Q-Score는 Spearman rho 0.05로 고전적 스코어링과 직교하며, rho 0.90으로 궤도 품질에 의해 주도되고, 분자량 바이어스가 없으며, 무작위 대비 두 배의 비율로 강한 궤도 상호작용을 농축시킨다. DC-QAOA는 52%의 정확률과 함께 평균 근사 비율 0.94를 달성한다. IBM Eagle에서 1,000개의 회로 실행을 통해 NISQ 하드웨어상 6큐비트 문제의 해결 가능성이 확인되었다.
밀도 행렬 임베딩 프레임워크 내 양자 선택 구성 상호작용을 위한 기계학습 기반 컴팩트 부분공간 생성
Machine-Learned Compact Subspace Generation for Quantum Selected Configuration Interaction within Density Matrix Embedding Framework
양자 선택 배치 상호작용(QSCI)의 확장인 샘플 기반 양자 대각화(SQD)는 분자 바닥 상태 에너지를 위한 유망한 하이브리드 양자-고전 패러다임이다. QSCI는 변분 최적화를 양자 샘플링으로 대체함으로써 불모의 고원(barren plateau)을 피하고 상관된 파동함수를 직접 재구성한다. 그러나 기존의 배치 복원은 물리적으로 가장 관련 있는 배치를 겨냥하지 않고 주로 대칭성 제약만을 부과하여, 과도하게 큰 부분공간과 비용이 큰 고전적 대각화를 초래하는 경우가 많다. 우리는 제한 볼츠만 머신(RBM)에 기반한 조밀한 부분공간 생성 프로토콜인 QSCI-RBM을 도입하고 이를 밀도 행렬 임베딩 이론(DMET)에 통합한다. RBM은 하드웨어 샘플로부터 지배적인 행렬식의 분포를 학습하여 확률이 높은 배치를 생성한다. 샘플링은 CH$_5$NO에는 IBM Heron R1(\texttt{ibm\_torino}), C$_2$H$_4$에는 R2(\texttt{ibm\_fez}), 더 큰 H$_2$O 벤치마크와 단백질-리간드 시스템에는 R3(\texttt{ibm\_boston})에서 수행되었다. 활성 공간 크기가 증가하는 이들 벤치마크에서 검증한 후, 열 개의 DMET 불순물로 분할된 SARS-CoV-2 주 단백질분해효소(M\textsuperscript{pro})에 결합한 억제제 Carmofur를 시뮬레이션한다. DMET-QSCI-RBM과 DMET-SQD 기준선 모두 네 번의 $\mu$ 반복 이내에 화학 퍼텐셜 자기일관성에 도달한다. 수렴된 화학 퍼텐셜에서 DMET-QSCI-RBM은 대칭성을 보존하는 배치 공간의 평균 $0.22\%$만 사용하면서 DMET-FCI와 $0.05\,\mathrm{mHa}$ 이내로 일치하는 반면, DMET-SQD는 $33.0\%$에서 $0.55\,\mathrm{mHa}$로, 약 153배의 부분공간 감소로 이어진다. 따라서 RBM 보조 확장은 동등하거나 더 나은 정확도에서 훨씬 더 조밀한 하드웨어 유래 행렬식 공간을 제공하며, 실제 하드웨어에서 생물학적 시스템의 확장 가능한 양자 임베딩을 위한 고전적 부담을 줄인다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.