arXiv:2508.14748v2 cs.LG

확산 언어 모델을 활용한 교차 모달리티 제어 분자 생성

Cross-Modality Controlled Molecule Generation with Diffusion Language Model

Yunzhe Zhang, Yifei Wang, Khanh Vinh Nguyen, Pengyu Hong

제출 2025-08-20

저자 비고

arXiv Comments

Revised manuscript with updated references

한국어 초록

분자 데이터의 다양성이 증가함에 따라 모달리티(modality) 전반에 걸친 이종 제약 조건을 유연하게 통합할 수 있는 생성 모델의 필요성이 커지고 있습니다. 그러나 기존 SMILES 기반 확산 모델(diffusion model)은 대개 고정된 조건 모달리티를 위해 설계되었으며, 새로운 제약 조건을 도입하려면 모델을 재학습해야 하는 경우가 많습니다. 이러한 한계를 해결하기 위해, 본 연구에서는 백본(backbone)을 재학습하지 않고도 이종 분자 제약 조건을 지원하도록 사전학습(pre-training)된 확산 모델을 확장하는 모듈형 프레임워크인 CMCM-DLM(Cross-Modality Controlled Molecule Generation with Diffusion Language Model)을 제안합니다. 본 연구는 상호보완적인 두 모달리티인 분자 구조와 화학적 특성을 사용하여 CMCM-DLM을 실증합니다. 구체적으로, 구조 제어 모듈(SCM)은 초기 확산 단계를 유도하여 분자 골격(scaffold)을 확립하고, 이후 특성 제어 모듈(PCM)이 목표 화학적 특성을 향해 생성을 유도합니다. 이러한 단계적 설계를 통해 통합된 생성 프레임워크 내에서 서로 다른 분자 제약 조건을 유연하게 결합할 수 있습니다. 여러 데이터셋을 대상으로 한 실험을 통해 효과적인 교차 모달 제어 가능성과 강력한 적응성을 입증하였으며, 이종 분자 데이터 모델링 및 데이터 기반 신약 개발을 위한 CMCM-DLM의 잠재력을 강조합니다.

원문 초록

The increasing variety of molecular data creates a need for generative models that can flexibly incorporate heterogeneous constraints across modalities. However, existing SMILES-based diffusion models are typically designed for a fixed conditioning modality, and introducing new constraints often requires retraining the model. To address this limitation, we propose Cross-Modality Controlled Molecule Generation with Diffusion Language Model (CMCM-DLM), a modular framework that extends a pre-trained diffusion model to support heterogeneous molecular constraints without retraining the backbone. We demonstrate CMCM-DLM using two complementary modalities: molecular structure and chemical properties. Specifically, a Structure Control Module (SCM) guides early diffusion steps to establish the molecular scaffold, while a Property Control Module (PCM) subsequently steers generation toward target chemical properties. This staged design enables flexible integration of different molecular constraints within a unified generative framework. Experiments on multiple datasets demonstrate effective cross-modal controllability and strong adaptability, highlighting the potential of CMCM-DLM for heterogeneous molecular data modeling and data-driven drug discovery.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2508.14748v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2511.20510v3cs.AI공통 태그 Drug Discovery, molecule generation

FRAGMENTA: 소규모 데이터 환경에서 약물 선도물질 최적화를 위한 에이전트 기반 튜닝을 갖춘 효율적인 엔드투엔드 단편화 기반 생성 모델

FRAGMENTA: Efficient End-to-end Fragmentation-based Generative Model with Agentic Tuning for Drug Lead Optimization in Small Data Regime

극히 제한된 학습(training) 데이터로부터 분자를 생성하는 것은 신약 개발에서 중요한 과제입니다. 기존의 단편 기반(fragment-based) 방법은 이러한 환경에서 원자 기반 접근법보다 더 적합하지만, 일반적으로 단편 선택과 다운스트림 생성을 분리하여 최적화합니다. 또한 데이터가 제한적일 때는 전문가 피드백이 특히 유용하지만, 이러한 피드백을 모델 목표로 변환하는 데는 보통 AI 엔지니어링 전문 지식이 필요합니다. 본 논문에서는 두 가지 구성 요소로 이루어진 소규모 데이터 약물 선도물질 최적화를 위한 엔드투엔드 프레임워크인 FRAGMENTA를 소개합니다: (1) 테이블 형식 보상(reward) 업데이트 메커니즘을 통해 단편화와 생성을 공동 최적화하는 단편 기반 생성기 LVSEF, (2) 대화형 전문가 피드백을 업데이트된 생성 목표로 변환하는 에이전트(agent) 시스템. 3개의 소규모 데이터 데이터셋(11~104개 분자)에 대한 실험에서, LVSEF는 데이터가 가장 적은 환경에서 SOTA(state-of-the-art) 방법들을 능가했고, 더 큰 규모에서는 유사한 성능을 보였으며, 약 16배(${\sim}16\times$) 빠르게 학습되었습니다. 3개의 공개 단백질 타깃에서 반복적인 폐루프(closed-loop) 최적화는 키나아제(kinase)에 대해 원샷 LVSEF 단독 대비 최종 라운드 발굴 수율을 최대 약 16%(${\sim}16%$) 향상시켰으며, 이러한 이득은 피드백이 타깃 화학과 얼마나 잘 일치하는지에 따라 달라졌습니다. 실제 암 신약 개발 배포 환경에서 인간-에이전트 FRAGMENTA는 기준선(baseline) 방법보다 유리한 도킹 점수($< -6$)를 가진 분자를 거의 두 배나 많이 식별했습니다.

arXiv:2607.09277v2cs.LG공통 태그 Drug Discovery, molecule generation

3D 분자 생성을 위한 자기회귀 잠재 확산 모델

Autoregressive latent diffusion for 3D molecule generation

3차원(3D) 분자 생성은 우수한 생성 품질을 달성하는 확산 모델(diffusion model)이 주도해 왔으나, 일반적으로 생성 전에 분자 크기를 별도로 지정하거나 예측해야 합니다. 이는 생성되는 구조의 크기 자체가 설계 문제의 일부가 되는 신약 개발의 핵심인 단편 기반(fragment-based) 분자 생성에 한계로 작용할 수 있습니다. 자기회귀 모델(autoregressive model)은 생성 과정에서 크기를 결정하며 부분 구조 조건화를 자연스럽게 지원하지만, 무조건부 생성과 단편 조건부 생성 간의 균형을 맞추는 것은 여전히 까다로운 과제입니다. 본 논문에서는 통일된 오토인코더(UAE)의 잠재 공간(latent space)에서 분자를 생성하여, 자기회귀 생성의 유연성을 유지하면서 분자 그래프 위상(topology)과 기하학적 구조(geometry)를 공동으로 모델링하는 잠재 자기회귀 확산 프레임워크인 KRONOS를 소개합니다. 나아가 중간 채우기(Fill-in-the-Middle, FIM) 패러다임에서 영감을 받은 혼합 학습(mixed training) 전략을 도입하여, 단일 좌우 순차(left-to-right) 자기회귀 모델이 무조건부 생성과 단편 조건부 생성을 모두 지원할 수 있도록 합니다. QM9 및 GEOM-Drugs에 대한 실험은 강력한 무조건부 생성 성능과 경쟁력 있는 단편 조건부 생성 성능을 입증합니다.

arXiv:2606.12113v1cs.CL공통 태그 Drug Discovery, molecule generation

국소 $n$-gram 메모리를 통한 분자 언어 모델 증강

Augmenting Molecular Language Models with Local $n$-gram Memory

SMILES 문자열을 위한 트랜스포머 기반 언어 모델은 지역성 격차(locality gap) 문제에 직면합니다. 표준 문자 수준 토큰화는 화학적으로 의미 있는 모티프를 분해하여, 모델이 장거리 의존성(long-range dependencies)을 희생하는 대가로 국소 문법을 반복적으로 학습하도록 강제합니다. 표준 토크나이저를 변경하지 않고 이 문제를 해결하기 위해, 본 연구에서는 분자 언어 모델에 조건부 $n$-gram 메모리 모듈을 통합하는 MolGram을 제안합니다. MolGram은 확장 가능한 해시 조회(hash lookup)를 통해 국소 문자열 패턴을 학습된 임베딩으로 매핑하고, 이 국소적 맥락을 은닉 상태(hidden states)에 동적으로 주입합니다. 비조건부 분자 생성, 순방향 반응 예측, 단일 단계 역합성을 포함한 세 가지 작업에 대한 평가 결과, MolGram이 성능을 일관되게 향상시키는 것으로 나타났습니다. 무엇보다 중요한 점은, 분석 결과 MolGram이 파라미터 수가 3배 더 많은 베이스라인(baseline)보다 우수한 성능을 보여주었다는 것입니다. 이는 명시적 국소 패턴 메모리가 매우 효율적인 귀납적 편향(inductive bias)임을 입증합니다.

arXiv:2507.03209v2q-bio.QM공통 태그 Drug Discovery공식 코드 · Papers with Code

리피드 나노입자(LNP) 전입 효율 예측을 위한 머신러닝 벤치마킹 프레임워크

A Machine Learning Benchmarking Framework for Lipid Nanoparticle Transfection Efficiency Prediction

효율적인 리피드 나노입자(LNP) 매개 RNA 전달을 위한 새로운 이온화성 리피드(ionizable lipid)의 발견은 RNA 치료제 개발에서 여전히 주요 병목으로 남아 있다. 최근 발전은 리피드 구조로부터 직접 전입(transfection) 효율을 예측할 수 있는 머신러닝(ML) 모델의 잠재력을 보여주며, 이는 고처리량 가상 스크리닝을 가능하게 하고 후보 물질(lead) 선별을 가속한다. 그러나 LNP 전입 예측을 위한 새로운 모델이 계속 등장함에 따라, 엄격하고 표준화된 벤치마킹의 부재는 상당한 위험을 초래하며, 발견(discovery) 목적에서의 신뢰성에 대한 확신을 약화시킬 수 있다. 여기서 우리는 이온화성 리피드 구조에 기반한 전입 예측 모델을 평가하기 위한 견고한 ML 벤치마킹 프레임워크를 제시한다. 이 프레임워크는 전통적인 모델, 순전파 신경망(feedforward neural network), 그리고 최신(state-of-the-art) 그래프 기반 방법에 이르는 광범위한 ML 아키텍처와 결합된 다양한 분자 표현(molecular representation)을 체계적으로 벤치마킹한다. 또한, 제시된 프레임워크는 모델 일반화(generalization) 평가를 지원하며, 표준 회귀(regression) 지표를 넘어 예측 신뢰성을 평가한다. Xu et al.이 최초로 보고한 HeLa 전입 데이터셋에서 파생된 1,100개의 고유 이온화성 리피드 구조로 구성된 큐레이션 데이터셋을 사용하여, 이 프레임워크 내에서 명시적 분자 부분구조(substructure) 인코딩을 활용하는 모델들이 지속적으로 최고의 예측 정확도를 달성하며, 보다 정교한 새로운 모델 개발을 위한 필수 베이스라인으로 기능해야 함을 보여준다. 반면, AGILE, Chemprop, KPGT를 포함한 일부 현재의 그래프 기반 모델들은 비교적으로 낮은 정확도를 보이는 경향이 있다. 제시된 프레임워크는 표준화되고 투명하며 포괄적인 벤치마킹 자원을 제공하여, 새롭게 등장하는 아키텍처의 의미 있는 비교를 가능하게 하고 리피드 기반 RNA 전달에서의 예측 모델 향후 개발을 위한 강력한 베이스라인을 확립한다.

arXiv:2505.23823v2cs.CL공통 태그 Drug Discovery공식 코드 · Papers with Code

RAGPPI: 약물 발견에서 단백질 상호작용을 위한 RAG 벤치마크

RAGPPI: RAG Benchmark for Protein-Protein Interactions in Drug Discovery

단백질 상호작용(PPIs)의 생물학적 영향을 검색하는 것은 약물 개발에서 타겟 식별(Target ID)에 필수적입니다. 관련된 단백질의 수가 방대하기 때문에 이 과정은 여전히 시간 소모적이고 도전적입니다. 대규모 언어 모델(LLM)과 검색-증강 생성(RAG) 프레임워크는 타겟 식별을 지원해 왔으나, PPI의 생물학적 영향을 식별하기 위한 벤치마크는 현재 존재하지 않습니다. 이러한 격차를 해소하기 위해 우리는 PPI의 잠재적 생물학적 영향에 초점을 맞춘 4,420개의 질문-답변 쌍으로 구성된 사실 기반 질문-답변 벤치마크인 RAGPPI를 소개합니다. 전문가와의 인터뷰를 통해 우리는 QA 유형 및 출처와 같은 벤치마크 데이터셋에 대한 기준을 식별했습니다. 우리는 전문가 주도 데이터 주석을 통해 골드 표준 데이터셋(500개 QA 쌍)을 구축했습니다. 또한, 전문가 라벨링 특성, 평균 팩트-초록 유사도(F1), 저유사도 팩트 수(F2)를 통합한 앙상블 자동 평가 LLM을 개발하여 실버 표준 데이터셋(3,720개 QA 쌍) 구축을 가능하게 했습니다. 우리는 약물 발견 QA 솔루션을 위한 RAG 시스템을 고도화하는 연구 커뮤니티를 지원하는 자원으로서 RAGPPI를 유지하는 데 전념할 것입니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.