PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2506.02212v2cs.CL

자연어 처리를 활용한 생명의 신비 규명: 유전체학, 전사체학, 단백질체학에서의 NLP 접근법 리뷰

Leveraging Natural Language Processing to Unravel the Mystery of Life: A Review of NLP Approaches in Genomics, Transcriptomics, and Proteomics

자연어 처리(NLP)는 인간 언어를 위해 개발된 기법을 생물학적 서열 분석에 적용함으로써 언어학을 넘어 다양한 분야를 변혁시켜 왔다. 본 리뷰는 유전체학, 전사체학, 단백질체학에 초점을 맞추어 생물학적 서열 데이터에 대한 NLP 방법론의 적용을 탐구한다. word2vec과 같은 고전적 접근법부터 트랜스포머(transformer)와 하이에나 연산자(hyena operator)를 활용한 고급 모델에 이르기까지, 다양한 NLP 방법이 DNA, RNA, 단백질 서열 및 전체 유전체 분석에 어떻게 적용되고 있는지를 살펴본다. 또한 토큰화 전략과 모델 아키텍처를 검토하여 각각의 강점, 한계, 그리고 다양한 생물학적 과제에 대한 적합성을 평가한다. 나아가 구조 예측, 유전자 발현, 진화 분석 등 생물학적 데이터에 대한 NLP 응용의 최근 발전을 다루며, 대규모 유전체 데이터로부터 유의미한 통찰을 추출하는 데 있어 이러한 방법들의 잠재력을 강조한다. 언어 모델이 계속 발전함에 따라, 이를 생물정보학에 통합하는 것은 생명의 모든 영역에서 생물학적 과정에 대한 이해를 심화시키는 데 있어 막대한 가능성을 지닌다.

arXiv:2606.11868v1cs.LG

MemNovo: 질량분석법 기반 균형 잡힌 de novo 펩타이드 시퀀싱을 위한 스펙트럼 재참조

MemNovo: Look Back at the Spectrum for Balanced De Novo Peptide Sequencing from Mass Spectrometry

탠덤 질량분석법(tandem mass spectrometry)으로부터의 de novo 펩타이드 시퀀싱은 참조 데이터베이스 없이 새로운 펩타이드를 식별할 수 있게 하여 프로테오믹스(proteomics)에서 핵심적인 역할을 한다. 최근 트랜스포머 기반 인코더-디코더 모델이 뛰어난 성능을 달성했지만, 우리는 이들의 추론 역학에서 중요한 병리 현상을 발견한다. 포괄적인 특징 스케일링 실험을 통해, 기존 자기회귀(auto-regressive) 펩타이드 디코더가 생성된 서열 사전확률(generated-sequence priors)에 과도하게 의존하는 반면, 입력 질량 스펙트럼으로부터의 세밀한 물리적 증거를 점진적으로 과소 활용하는 경향이 있음을 보여준다. 이러한 현상은 생성된 펩타이드 서열이 생물학적으로 그럴듯하지만 입력 스펙트럼에 충실하지 않은 차선의 결과를 초래한다. 이를 바로잡기 위해, 우리는 추론 시점에 펩타이드와 스펙트럼 기여를 재균형하는 학습 없는(training-free) 플러그 앤 플레이(plug-and-play) 메커니즘인 MemNovo를 제안한다. MemNovo는 지속적인 스펙트럼 메모리 뱅크를 구축하고 초보수적 잔차 연결(ultra-conservative residual connection)을 통해 검색된 특징을 최종 디코딩 단계에 직접 주입함으로써 정보 병목을 완화한다. 이론적 분석은 이 메커니즘이 디코더 상태와 원시 스펙트럼 간의 상호 정보량(mutual information)을 복원함을 확인한다. Casanovo와 InstaNovo라는 두 대표적 베이스라인을 사용한 Nine Species 벤치마크에서의 광범위한 실험은 MemNovo가 아미노산 정밀도와 펩타이드 정밀도를 모두 일관되게 향상시키며, Casanovo의 경우 펩타이드 정밀도에서 최대 39.1%의 상대적 개선, InstaNovo의 경우 최대 3.9%의 개선을 달성하고 계산 오버헤드는 무시할 수 있는 수준이라는 것을 보여준다.