Neural representation and generation for RNA secondary structures
원문 초록
Our work is concerned with the generation and targeted design of RNA, a type of genetic macromolecule that can adopt complex structures which influence their cellular activities and functions. The design of large scale and complex biological structures spurs dedicated graph-based deep generative modeling techniques, which represents a key but underappreciated aspect of computational drug discovery. In this work, we investigate the principles behind representing and generating different RNA structural modalities, and propose a flexible framework to jointly embed and generate these molecular structures along with their sequence in a meaningful latent space. Equipped with a deep understanding of RNA molecular structures, our most sophisticated encoding and decoding methods operate on the molecular graph as well as the junction tree hierarchy, integrating strong inductive bias about RNA structural regularity and folding mechanism such that high structural validity, stability and diversity of generated RNAs are achieved. Also, we seek to adequately organize the latent space of RNA molecular embeddings with regard to the interaction with proteins, and targeted optimization is used to navigate in this latent space to search for desired novel RNA molecules.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
GRACE를 활용한 충돌 단면적 예측: 조기 융합을 통한 기하학적 잔차 첨가생성물 조건화
Predicting Collision Cross Sections with GRACE: Geometric Residual Adduct Conditioning via Early-fusion
이온 이동도 질량 분석법에서 도출되는 충돌 단면적(CCS, Collision Cross Section)은 분자 주석에 널리 쓰이는 기술자(descriptor)입니다. 기체 상태 분자 이온의 크기, 형태 및 이온화 상태를 반영하기 때문에 머신러닝 모델로 이를 예측하는 것은 까다롭습니다. 기존 예측 모델의 대다수는 명시적인 3차원 구조를 무시하거나 첨가생성물(adduct) 식별자를 후기 범주형 특징(feature)으로 취급하여, 첨가생성물에 따른 기하학적 영향을 포착하는 데 한계가 있습니다. 본 연구에서는 조기 융합(early-fusion)을 통한 기하학적 잔차 첨가생성물 조건화를 사용하여 사전학습된 분자 기하학 인코더를 적응시키는 3차원 CCS 예측 모델인 GRACE(Geometric Residual Adduct Conditioning via Early-fusion)를 제안합니다. GRACE는 두 가지 귀납적 편향(inductive bias)을 결합합니다. 즉, 첨가생성물을 고려한 물리적 기술자 기준선(baseline) 대비 잔차 목적 함수와, 학습된 첨가생성물 토큰(token) 및 저차원 랭크 어텐션(attention) 어댑터를 통한 인코더 내부의 첨가생성물 조건화입니다. 보간(interpolation), 스캐폴드 일반화, 첨가생성물 기반 일반화를 분리하여 평가할 수 있도록 설계된 무작위(random), 스캐폴드(scaffold), 첨가생성물 민감(adduct-sensitive) 분할을 적용하여 9,000건 이상의 실험적 분자-첨가생성물 CCS 레코드로 정제된 데이터셋에서 모델을 평가했습니다. GRACE는 세 가지 분할 모두에서 평가된 학습 모델 중 가장 우수한 평균 백분율 차이(mean percentage difference)를 달성했습니다(무작위 분할 1.67%, 스캐폴드 분할 2.11%, 첨가생성물 민감 분할 2.36%). 진단 분석 결과, 잔차 학습은 지배적인 질량-CCS 추세를 제거함으로써 학습(training)을 안정화하고, 조기 융합은 후기 융합에 비해 첨가생성물 민감 예측 성능을 개선하는 것으로 나타났습니다. 4개의 독립적인 외부 테스트 세트 전반에서 GRACE는 평가된 다른 모델들보다 일관되게 낮은 오차를 보였습니다. 또한 별도로 남겨둔 보류 평가셋(held-out set)에서 GRACE는 이전에 보고된 네 가지 물리 기반 워크플로와 비교했을 때 가장 낮은 평균 백분율 차이를 기록했습니다. 이러한 결과는 잔차 학습과 인코더 수준의 첨가생성물 조건화가 빠르고 정확한 CCS 예측을 위한 실용적인 귀납적 편향임을 뒷받침합니다.
공간 트랜스포머로 추론 공간에서 AI 에이전트 집합체 제어
Controlling Collectives of AI Agents in Reasoning Space with Spatial Transformers
대규모 언어 모델(LLM)은 로보틱스에서 계획 및 내비게이션을 위한 흥미로운 새로운 패러다임을 제시하지만, 팀 규모가 커질수록 단순한 다로봇 과제에서도 실패한다. 본 논문은 추론 공간 피드백 제어로 대규모 에이전트형 로봇 집합체를 제어하기 위한 확장 가능하고 분산형 다로봇 아키텍처인 COMPASS를 제안한다. 피드백은 각 로봇에서 로컬로 생성되며, 공간 트랜스포머가 함대 전체의 다중 홉(multi-hop) 메시지를 집계하여 학습된 피드백 토큰으로 만든다. 실험 결과, 언어 모델 집합체는 입력 명령의 구조화된 다양성으로 성능 향상을 보이며, 이는 편향을 상쇄할 수 있다. 이 이점은 규모 전반에 걸쳐 유지된다. 중앙집중형 최신 LLM 정책 및 언어만 사용하는 통신 ablation과 비교했을 때, COMPASS의 결합 설계는 명령된 의도를 정확히 수행하는 응집력 있는 flocking formation을 결정적으로 생성함을 확인했다. 추론 피드백은 컴팩트한 학습된 토큰과 결합할 때 가장 잘 작동함을 보인다. ablation 실험은 원시 상태가 언어 채널에 나타나는 수작업 피드백이 응집력을 파괴함을 보여준다. COMPASS는 모호한 의미의 보지 못한 지시에 제로샷으로 일반화하며, 학습 규모의 최대 16배까지의 군집을 지휘하고, 자연어 명령 하에 최대 1024대의 로봇을 비행시킨다.
ACME: 다문화, 다중 체형 사회적 내비게이션 데이터셋
ACME: A Multi-Cultural, Multi-Embodiment Social-Navigation Dataset
공유 공간에서 로봇과 인간이 어떻게 움직이는지 이해하는 것은 효과적인 사회적 로봇 내비게이션 정책을 설계하고 인간 행동을 예측하는 데 필수적이다. 그러나 기존 데이터셋은 문화, 지리, 인간-로봇 상호작용의 차이—적절한 사회적 행동을 크게 형성하는 요인들—를 포착하는 데 필요한 다양성이 부족한 경우가 많다. 이 격차를 해소하기 위해, 우리는 ACME: 사회적 내비게이션을 위한 교차문화적, 다중 체형 데이터셋을 제안한다. 5개국 8개 현장에서 7가지 로봇 체형을 사용한 대규모 데이터 수집 노력을 통해, ACME는 사회적 내비게이션 연구를 발전시키기 위한 대규모이고 다양한 멀티모달 데이터셋으로, 29.35시간의 온보드 로봇 데이터와 43.5시간의 상공 보행자 추적 데이터를 제공한다. 이전 데이터셋과 달리, 로봇 음성을 통한 명시적인 로봇-군중 상호작용이 포함된 복잡한 사회적 시나리오에서 목표 지향적 사회적 내비게이션 행동을 포착하는 데 중점을 둔다. 내비게이션 정책 학습과 보행자 궤적 예측을 용이하게 하기 위해, ACME는 3D 및 2D 장면 특징, 오도메트리(odometry), 상호작용 정보, 사람이 주석을 단 보행자 궤적 레이블을 제공한다. 각 센서 모달리티에 대한 사람이 읽을 수 있는 데이터와 원시 바이너리 데이터를 모두 제공하여 ACME를 사용하기 쉽게 한다. 우리의 정성적 및 정량적 분석은 본 데이터셋이 이전 데이터셋보다 더 도전적인 시나리오와 더 넓은 분포의 보행자 행동을 포착함을 보여준다.
데이터 부족 생물공정 모델링을 위한 생물동역학 지식 사전 활용
Leveraging Biokinetic Knowledge Priors for Data-Scarce Bioprocess Modeling
심층 학습은 신약 개발을 가속화했지만, 생물학적 제조(biomanufacturing)에 미친 영향은 훨씬 더 제한적이었다. 그 이유는 데이터 부족이다. 바이오리액터 실험은 비용이 높고 며칠에서 몇 주가 걸리며, 공개적으로 공유되는 경우가 드물어 각 연구는 소수의 실험만을 갖게 된다. 그러나 해당 도메인 자체는 풍부한 사전 지식을 갖고 있다. 생물동역학 상미분방정식(ODE) 모델은 수십 년간 미생물 성장을 기술해 왔지만, 이러한 지식을 신경망에 주입하는 방법은 체계적으로 연구된 적이 없다. 우리는 ODE 지식을 신경망에 주입하는 방법에 대한 최초의 체계적 연구를 제시하며, 시뮬레이션된 ODE 곡선으로 범용 디코더를 사전학습하는 데이터 수준 사전과 ODE를 디코더 내부에 내장하는 아키텍처 수준 사전을 비교한다. 두 방법 모두 11개 데이터셋과 7종의 미생물에 걸쳐 사전 없는 기준선을 지속적으로 능가한다. 우리의 핵심 발견은 두 방법이 상호 대체 가능하다는 것이다. 시뮬레이션으로 사전학습된 범용 디코더는 실제 데이터로 학습된 완전히 생물학적 구조를 갖춘 디코더와 동등한 성능을 보인다. 따라서 시뮬레이션 사전학습은 생물공정 데이터 부족 환경에서 심층 학습을 위한 간단하고 데이터 효율적인 방법을 제공한다.
분자 특성 예측을 위한 양자 및 고전 토폴로지 정렬 아키텍처 구현
Implementations of Quantum and Classical Topology-Aligned Architectures for Molecular Property Prediction
양자화학에서 흔한 저데이터 및 자원 제약 환경에서 매개변수 효율적 학습은 핵심 목표이다. 본 연구에서는 모델 아키텍처가 분자 결합 그래프를 반영하는 토폴로지 정렬 바이어스를 제안한다. 원자는 고정된 계산 단위 레지스터에 매핑되고, 결합은 공유되는 학습 가능 매개변수를 통해 상호작용하는 쌍을 결정한다. 이 원리는 두 가지 아키텍처로 구현된다: 변분 양자 회로(Iso-QGNN)와 매개변수가 맞춰진 고전 메시지 전달 모델(Iso-CGNN). 두 모델은 QM9 벤치마크에서 HOMO-LUMO 및 쌍극자 모멘트 이진 분류 과제로 벤치마킹된다. 학습 가능 매개변수 64개로, 구현체는 gap 과제에서 검증 AUC가 약 0.88(양자), 0.91(고전)이며, 쌍극자 과제에서는 둘 다 약 0.78에 가깝다. 모델은 학습 분자 수 약 250개 이내에서 점근적 성능의 90%에 도달하며, 학습 내내 그래디언트 노름은 안정적이다. 이 결과는 토폴로지 정렬 바이어스가 QM9 규모에서 매개변수 효율성을 이끄는 핵심 요인임을 시사하며, 양자 머신러닝에서 맞춰진 기준선 벤치마킹에 함의를 갖는다.
SinAE: 교차 도메인 원자계를 위한 단일 아키텍처 플로우 매칭 오토인코더
SinAE: A Single-Architecture Flow-Matching Autoencoder for Cross-Domain Atomic Systems
소분자, 결정체, 단백질은 모두 3차원 공간의 원자로 환원되지만, 생성 파이프라인은 여전히 도메인별로 분절되어 있으며 각각 고유한 그래프, 등변(equivariant), 또는 프레임 기반 아키텍처를 사용한다. 교차 도메인 학습은 도메인별 데이터 부족을 완화할 수 있지만, 3차원 좌표 공간에서의 직접 생성은 세 도메인 모두의 이질적인 구조적 사전지식을 쉽게 다루기 어렵고, 기존 잠재 오토인코더 중 무손실이면서 세 도메인 모두에 걸쳐 아키텍처적으로 일반적인 것은 없다. 우리는 분자, 결정체, 단백질을 위한 단일 아키텍처 플로우 매칭 오토인코더인 SinAE를 제안하며, 이는 바닐라 트랜스포머 인코더와 디코더를 사용하고 등변, 그래프, 또는 도메인 특화 연산자를 포함하지 않는다. 인코더가 세밀한 기하를 포착하도록 요구하는 대신, SinAE는 재구성 부담을 반복적 플로우 매칭 디코더로 옮겨 도메인 전반에 걸쳐 거의 무손실 재구성을 달성하고, 기존 잠재 베이스라인 대비 재구성 오차를 여러 차수에 걸쳐 감소시킨다. 동일한 토큰별 잠재는 표준 Diffusion Transformer 사전 모델을 지원하며, 이는 분자, 결정체, 단백질 생성 벤치마크에서 강력한 성능을 달성한다. 분자-결정체 공동 학습은 두 도메인 모두를 뚜렷이 개선하여, 공유 원자 잠재를 통한 교차 도메인 전이의 직접적 증거를 제공한다. 코드는 https://github.com/BlueWhaleLab/SinAE 에서 이용할 수 있다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.