arXiv:2610.02189v1 cs.LG

스파스 오토인코더 특징 강화를 통한 본질적으로 무질서한 단백질 영역의 생성 모델링

Generative modeling of intrinsically disordered protein regions by reinforcing sparse autoencoder features

Jason X. Liu, Sebastian Ibarraran, Frank Hu, Soojung Yang, Xinyu A. Feng, Abigail Park, Anagha Aneesh, Lacramioara Bintu, Alexander R. Dunn, Grant M. Rotskoff

제출 2026-10-01

한국어 초록

본질적으로 무질서한 단백질 영역(intrinsically disordered protein regions, IDR)은 전사 조절, 신호 전달, 세포 내 국소화(subcellular localization)와 같은 세포 과정에서 핵심적인 역할을 하지만, 이들의 기능적 설계는 여전히 어려운 과제로 남아 있다. 구조 기반 설계 방법은 IDR에 쉽게 적용되지 않으며, 기존의 단백질 언어 모델은 전체 길이의 단백질 서열로 학습되어 접힌(folded) 도메인에 편향된 사전 분포(prior)를 학습하게 된다. 본 연구에서는 AlphaFold 데이터베이스에서 추출한 5,400만 개의 예측 IDR로 구성된 데이터셋인 IDiom-DB로 학습된 자기회귀(autoregressive) 단백질 언어 모델인 IDiom을 제시한다. IDiom은 천연 IDR의 구성(composition), 패턴화(patterning), 모티프(motif), 예측된 무질서도(disorder)를 재현하는 다양한 서열을 생성한다. 기능과 연관된 서열 패턴을 제어하기 위해, 우리는 또한 스파스 오토인코더 특징을 활용한 강화학습(reinforcement learning with sparse autoencoder features, RL-SAE)을 도입한다. 이는 지정된 특징 집합을 활성화하는 서열의 생성에 보상을 주는 사후 학습 방법이다. 8개의 IDR 설계 과제에서, RL-SAE로 생성된 서열은 평균적으로 30개의 목표 특징 중 90%를 활성화하는 반면, 활성화 스티어링(activation steering)은 24%에 그쳤다. 우리는 RL-SAE가 스티어링 및 지도 미세조정에 비해 생성된 IDR의 예측 세포 내 국소화와 전사 활성(transcriptional activity)을 향상시키며, 서로 다른 생물학적 기능과 연관된 특징들을 개별 서열 내에서 결합할 수 있게 함을 보인다. 따라서 IDiom과 RL-SAE는 기능과 연관된 서열 특징에 대한 명시적 제어를 통해 해석 가능하고 조합 가능한 IDR 설계를 가능하게 한다. 더 넓게는, RL-SAE는 해석 가능한 특징이 유용한 설계 목표를 제공하는 다른 단백질 설계 환경으로 확장될 수 있다. 코드는 https://github.com/rotskoff-group/idiom 에서 확인할 수 있다.

원문 초록

Intrinsically disordered protein regions (IDRs) play central roles in cellular processes such as transcriptional regulation, signal transduction, and subcellular localization, yet their functional design remains challenging. Structure-based design methods do not readily apply to IDRs, and existing protein language models are trained on full-length protein sequences, thus learning a prior that is biased towards folded domains. Here, we present IDiom, an autoregressive protein language model trained on IDiom-DB, a dataset of 54 million predicted IDRs curated from the AlphaFold Database. IDiom generates diverse sequences that recapitulate the composition, patterning, motifs, and predicted disorder of natural IDRs. To control function-associated sequence patterns, we also introduce reinforcement learning with sparse autoencoder features (RL-SAE), a post-training method that rewards the generation of sequences that activate specified feature sets. Across eight IDR design tasks, RL-SAE sequences activate, on average, 90% of 30 targeted features, compared to 24% for activation steering. We demonstrate that RL-SAE improves the predicted subcellular localization and transcriptional activity of generated IDRs compared to steering and supervised fine-tuning, and enables features associated with distinct biological functions to be combined within individual sequences. Thus, IDiom and RL-SAE enable interpretable and composable IDR design through explicit control of function-associated sequence features. More broadly, RL-SAE could extend to other protein design settings where interpretable features provide useful design targets. Code is available at https://github.com/rotskoff-group/idiom.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.02189v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.