arXiv:2606.06834v1 cs.CL

다크 레귤롬: 유전체 파운데이션 모델에서 조절과 예측 가능성의 분리

The Dark Regulome: Disentangling Predictability from Regulation in Genomic Foundation Models

Chahat Baranwal, Aadtya Baranwal, Lakshya Nitin Tandon

제출 2026-06-05

한국어 초록

고등급 신경교종은 뉴런과의 기능적 시냅스를 통해 신경 회로에 통합되는데, 이는 어떤 비코딩 요소가 종양 세포 내 시냅스 형성 유전자 발현을 규정하는지에 대한 문제를 제기합니다. 다크 게놈(dark genome) 전반에 기록된 조절 프로그램, 즉 우리가 *다크 레귤롬(dark regulome)*이라 부르는 것은 탐색해야 할 자연스러운 대상이며, 서열 파운데이션 모델(sequence foundation models)은 실리코 변이 유발(in-silico mutagenesis, ISM)을 통해 제로샷(zero-shot) 경로를 제공합니다. 그러나 가능도(likelihood) 기반 스코어링은 국소 서열 예측 가능성과 필연적으로 결합되어 있어, 조절에 대한 해석이 불확실하게 남습니다. 아키텍처가 서로 다른 세 가지 파운데이션 모델(Caduceus-Ph, HyenaDNA, Enformer)과 92개의 신경교종 관련 좌위(loci)에 있는 30,448개의 다크 게놈 요소를 대상으로, 우리는 예측 가능성에 의한 것과 조절에 의한 것을 구분하여 RIS 분산을 분리하는 잔차화(residualization) 및 순열(permutation) 진단법을 소개합니다. 명확한 10kb 근위 조절(proximal-regulatory) 범위는 우리가 적용한 모든 통제에서 유지되지만, 언어 모델(LM)에서 유래한 요소 클래스 계층은 그렇지 않습니다. 6개 특징(feature)을 가진 선형 기준선(baseline)은 AUC $= 0.985$로 Caduceus의 상위 10분위(top-decile) 소속과 일치하는 성능을 보입니다. 교차 아키텍처 분해(cross-architecture decomposition)는 서열 예측 가능성 층(layer)(두 언어 모델이 길고 잘 예측된 전이 요소를 공동으로 순위 매김)을 조절 출력 층(Enformer만이 잔차 cCRE 식별 신호를 유지함)에서 명확하게 분리해내며, 두 상위 100 목록 간의 중복은 문자 그대로 0입니다. 보존(conservation), 뇌 시스 eQTL(brain cis-eQTL), STRING-PPI 교차 검사는 생물학적 결과가 무엇인지 확립해 줍니다. 세 모델 모두에서의 상위 100 요소는 모델당 일치하는 뇌 eQTL에 대해 $3.3\times$ 농축되어 있는 반면($p_\mathrm{emp} < 5\times 10^{-3}$), 그럴듯해 보이는 전이 요소(transposable-element) 조절 층과 현저한 NRXN1+NLGN1 단백질 쌍의 수렴(convergence)은 적절한 순열 테스트가 구성되면 모두 실패합니다. 우리는 이 진단법을 ISM 기반 조절 연구에 사용할 수 있는 일반적인 방법론적 도구로 제공합니다.

원문 초록

High-grade gliomas integrate into neural circuits through functional synapses with neurons, raising the question of which noncoding elements shape synaptogenic gene expression in tumor cells. The regulatory program written across the dark genome, what we call the $\textit{dark regulome}$, is the natural substrate to probe, and sequence foundation models offer a zero-shot route through in-silico mutagenesis (ISM); yet likelihood-based scoring is tautologically coupled to local sequence predictability, leaving the regulatory interpretation underdetermined. Across three architecturally distinct foundation models (Caduceus-Ph, HyenaDNA, Enformer) and 30,448 dark genome elements at 92 glioma-relevant loci, we introduce a residualization-and-permutation diagnostic that separates predictability-driven from regulation-driven RIS variance. A sharp 10kb proximal-regulatory horizon survives every control we apply, but the LM-derived element-class hierarchy does not: a six-feature linear baseline matches Caduceus top-decile membership at AUC $= 0.985$. Cross-architecture decomposition cleanly separates a sequence-predictability layer (the two language models co-rank long well-predicted transposable elements) from a regulatory-output layer (Enformer alone retains residual cCRE-discriminative signal), with literally zero overlap between the two top-100 lists. Conservation, brain cis-eQTL, and STRING-PPI cross-checks then anchor what biology survives: top-100 elements across all three models are $3.3\times$ enriched per model for matching brain eQTLs ($p_\mathrm{emp} < 5\times 10^{-3}$), while a tempting transposable-element regulatory layer and a striking NRXN1+NLGN1 protein-pair convergence both fail proper permutation tests once those tests are constructed. We deliver the diagnostic as a general methodological tool for any ISM-based regulatory study.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.06834v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13722v1cs.CL공통 태그 Language Modeling, Zero-Shot Learning

지식 그래프 기반 멀티태스크 사전학습을 통한 사전학습 언어 모델의 법률 추론 능력 향상

Enhancing Legal Reasoning in Pre-trained Language Models via Knowledge Graph-Guided Multi-Task Pre-training

법률 언어 이해는 반정형 규제 문서에 대한 추론을 요구하지만, 표준 사전학습(pre-training) 목표는 이러한 구조적 역량을 명시적으로 겨냥하지 않습니다. 현재의 법률 언어 모델은 마스크 언어 모델링에만 의존하기 때문에, 법령 텍스트를 단순한 평면 토큰(token) 시퀀스로 취급하고 그 이면에 있는 계층적 제약 조건을 무시합니다. 이러한 격차를 해소하기 위해 본 연구에서는 독일 도로교통법(StVO)을 대상으로 한 멀티태스크 사전학습 방식을 제시합니다. 우리의 접근법은 다음 문장 예측(NSP), 지식 그래프(KG) 기반 클러스터링(CLU), 그리고 지식 그래프 인식 단락 분류(CLS)라는 세 가지 상호보완적인 목표를 결합합니다. 이 접근법은 구조화된 법률 지식을 모델 가중치에 직접 명시적으로 인코딩합니다. 이러한 인코딩을 통해 추론(inference) 시점에 제로샷(zero-shot) 법률 추론이 가능해지며 이산적인 그래프 순회의 필요성을 없앱니다. 우리는 9개의 트랜스포머(Transformer) 기반 인코더와 324회의 실험적 실행을 통해 제안 방식을 평가합니다. 합성 StVO 질의응답에서 본 연구의 모델은 베이스라인 대비 10.3%에서 155.0% 사이의 일관된 상대적 성능 향상을 보여줍니다. 나아가 기존에 확립된 LexGLUE 베이스라인(Chalkidis et al., 2022)과 비교하여 7개 법률 벤치마크 중 4개에서 이전 결과를 개선합니다. 또한 오스트리아 운전 규정에 대해서도 3.4%에서 15.8% 사이의 일관된 제로샷 전이 이득을 달성합니다. 이러한 실험 결과는 우리의 학습(training) 방식이 초기 학습 법률 도메인을 넘어 성공적으로 일반화됨을 나타냅니다.

arXiv:2610.13891v1cs.CV공통 태그 Disentanglement, Benchmarking

눈송이를 넘어서: LiDAR 객체 검출에서 날씨 영향과 교란 메타 요인의 분리

Beyond the Snowflakes: Disentangling Weather Effects from Confounding Meta-Factors in LiDAR Object Detection

라이다(LiDAR, Light Detection and Ranging)는 자율 인지(autonomous perception)에 필수적이지만, 악천후에서 성능이 저하되는 것으로 알려져 있다. 기존 문헌은 눈을 성능을 저하시키는 대기 잡음(atmospheric noise)으로 모델링하지만, WADS-3D 및 CADC 데이터셋(dataset)에 대한 우리의 세밀한 평가는 반직관적인 현상을 드러낸다: 눈의 강도가 증가할수록 검출 정확도가 지속적으로 향상된다. 어블레이션 연구(ablation study)와 메타 정보 분석을 통해, 우리는 내리는 눈이 잡음으로 작용하는 것은 맞지만 그 부정적 영향이 동시에 발생하는 더 지배적인 요인, 즉 객체 포인트 수(object point count)의 상당한 증가에 의해 상쇄된다는 것을 확인하여 이를 설명한다. 우리는 이러한 객체 포인트 수 증가가 기하학적 향상(geometric enhancement)으로 작용한다고 가정하며, 이는 눈 축적이 차량 표면적을 증가시키고 정반사(specular reflectance)에서 난반사(diffuse reflectance)로의 전환을 유발하기 때문이라고 본다. 우리의 연구 결과는 상관된 객체 수준 데이터를 고려하지 않고 넓은 날씨 심각도 구간(weather-severity bin)을 사용하여 인지 시스템을 평가하면 검출기의 견고성(robustness)에 대해 오해를 불러일으키는 결론으로 이어질 수 있음을 보여준다. 우리는 정확한 평가를 위해서는 대기 잡음과 표면 축적 효과를 분리해야 한다고 결론짓고, 이러한 물리적 모델을 검증하기 위한 향후 연구 방향을 제시한다. WADS-3D 데이터셋은 다음에서 확인할 수 있다: https://digitalcommons.mtu.edu/wads-3d/.

arXiv:2610.01389v1cs.AI공통 태그 Zero-Shot Learning, Benchmarking

AiSearch: VLM을 활용한 대화형 멀티모달 검색

AiSearch: Interactive Multi-Modal Search with VLMs

현대의 정보 검색(retrieval) 시스템은 자동화되는 동시에 사용자가 실시간으로 결과를 검색하고 개선할 수 있는 대화형(interactive) 특성을 갖추어야 합니다. 본 논문에서는 이미지 및 비디오에 대한 자연어 검색을 위해 비전-언어 모델(VLM)의 제로샷(zero-shot) 역량을 활용하는 유연한 멀티모달 검색 프레임워크인 AiSearch를 제시합니다. AiSearch는 사용자의 의도에 맞게 결과를 맞춤화하기 위한 사용자 피드백 기반의 대화형 검색 정교화를 지원하며, 여러 VLM 전반에 걸친 시각적 벤치마킹을 지원하여 사용자가 작업에 가장 적합한 모델을 선택할 수 있도록 합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.