단백질 언어 모델은 생물학적 서열 생성의 표준 사전(prior)이지만, 이를 명시적인 분포 설계 목표로 유도하는 것은 아직 거의 탐구되지 않았다. 본 연구는 서열이 원하는 아미노산(AA) 조성 프로파일과 일치해야 하면서도 그럴듯한 서열 통계와 다양성을 유지해야 하는 제약 단백질 생성 문제를 다룬다. 동기가 되는 응용은 합성 사료 단백질 설계로, 여기서 사료 단백질의 AA 조성은 그 영양가를 직접적으로 결정한다. 우리는 도메인 내 단백질 데이터셋에 대한 도메인 적응형 미세조정(FT) 뒤에, FT 모델을 고정된 참조(reference)로 두고 강화학습(RL)을 통한 반복적 보상 가중 FT를 수행하는 2단계 파이프라인을 제안한다. 두 가지 AA 조성에 대해 파이프라인을 평가한 결과, FT는 평균 조성을 목표에 가깝게 맞추고, 이후 RL은 FT만으로는 충족할 수 없는 특정 서열 제약을 강제함을 확인했다. 또한 제안한 조성 보상 항의 설계 선택을 두 가지 베이스라인 및 절삭(ablated) 변형과 비교 평가하고, 각 학습 단계의 기여를 분리하며, AA 조성 정렬이 서열 품질 저하 없이 달성됨을 검증했다.
생성 모델은 개별적으로 타당한 샘플을 생성할 수 있지만, 주요 특징(feature)의 분포 측면에서는 목표 집합과 크게 다를 수 있습니다. 예를 들어, 광범위한 약물 유사 화학 공간에서 사전학습(pre-training)된 모델은 알려진 항생제와 같은 관심 치료 클래스의 분자 특징과 다른 분자를 생성할 수 있습니다. 이러한 분포적 오차를 수정하는 것은 어렵습니다. 목표 집합에 대한 직접 파인튜닝(fine-tuning)은 과적합(overfitting)을 유발할 수 있으며, 어떤 특징이 일치하는지 제어하지 못합니다. 이러한 격차를 해소하기 위해 우리는 커널(kernel) 보정 생성 모델(kCGM)을 소개합니다. kCGM은 사전학습된 모델에 가깝게 유지하기 위한 KL 정규화(regularization)와 함께 편향되지 않은 점수 함수 추정기를 사용하여 생성된 특징 분포와 목표 특징 분포 간의 최대 평균 차이(MMD)를 최소화합니다. 174개의 항생제로 구성된 목표 집합에서 직접 파인튜닝은 특징 분포 일치를 위해 화학적 타당성을 희생하는 반면, kCGM은 타당성을 높이면서 목표 특징 일치를 개선합니다. 우리는 단백질 및 DNA 생성 작업에서 kCGM을 추가로 시연하여, 특징 수준의 감독(supervision)만을 사용하여 자기회귀(autoregressive), 연속 공간 확산(continuous-space diffusion), 이산 확산(discrete diffusion) 모델을 적응시킬 수 있음을 보여줍니다. 코드는 https://github.com/smithhenryd/cgm 에서 확인할 수 있습니다.
컴퓨터 효소 설계는 촉매 잔기와 리간드를 지지하는 단백질을 생성하는 것을 필요로 하며, 이는 기저 생성 모델(generative model)에 기하학적 정확도와 구조적 다양성을 모두 요구하는 작업입니다. 현재의 전원자 생성 모델은 구조 예측으로부터 비용이 많이 드는 아키텍처를 물려받아, 높은 학습(training) 비용과 제한된 샘플 다양성을 초래합니다. 우리는 이러한 복잡성의 대부분이 생성 모델에는 불필요하다고 주장하는데, 이는 생성 모델이 풍부한 공진화 신호보다는 희소 기하학적 제약 조건을 조건으로 하기 때문입니다. Emyx는 1억 4000만 매개변수(parameter)를 가진 조건부 플로우 매칭 모델로, 무거운 임베딩(embedding) 스택을 가벼운 조건부 표현과 희소 연결성으로 대체하여 표준 트랜스포머(transformer) 블록 내에 용량을 집중시킵니다. 또한, 우리는 플로우 매칭 보간자의 EDM 노이즈 수준 프레임워크로의 정확한 재매개변화를 유도하여, 재학습 없이 디퓨전 모델(diffusion model)을 위해 설계된 최첨단 샘플링 방법과 플로우 매칭 학습 효율성을 연결합니다. 가장 작은 모델(model)임에도 불구하고, Emyx는 AME 효소 설계 벤치마크(benchmark)에서 Proteína-Complexa와 RFdiffusion3 모두를 상회하며, 전역 폴드 복원 및 촉매 기하학 정확도, 구조적 참신성, 비계(scaffold) 다양성, 기하학적 타당성을 모두 요구하는 엄격한 평가 기준에 따른 성공률 측면에서 더 높은 성능을 보였습니다. 학습은 단 682 GPU 시간이 소요되었으며, 이는 RFdiffusion3보다 약 4배 적은 수준입니다.
De novo 단백질 생성은 치료제 설계, 효소 공학, 합성 생물학 분야에서 변혁적인 잠재력을 가지고 있습니다. 확산 기반 및 흐름 매칭 접근법은 진전을 이루었으나, 일반적으로 단일 해상도로 작동하며 기능적 제약 조건을 통합할 수 있는 메커니즘이 부족합니다. 본 연구에서는 세 가지 혁신을 포함하는 계층적 흐름 매칭 프레임워크인 ProHiFlo를 소개합니다: (1) 전원자(all-atom) 좌표로 정제하기 전에 백본(backbone) 기하학을 모델링하여 정확도를 유지하면서 계산 비용을 절감하는 Coarse-to-fine 생성, (2) 재학습 없이 사전학습된 예측기를 활용하여 생성 과정을 원하는 속성으로 유도하는 기능적 가이던스, (3) 효율적인 다중 스케일 처리를 위한 적응형 SE(3)-등변(equivariant) 아키텍처입니다. 무조건 생성, 모티프 스캐폴딩(motif scaffolding), 기능적 설계에 대한 실험 결과, 4단계 더 적은 샘플링 단계만으로도 최첨단(state-of-the-art) 성능을 달성함을 입증했습니다. 효소 활성 부위 스캐폴딩 작업에서 ProHiFlo는 RFDiffusion의 41.2% 대비 58.9%의 성공률을 기록했습니다.