GenoTrace: 유전체 파운데이션 모델 증류를 위한 상속 가능한 워터마크
GenoTrace: Inheritable Watermarks for Genome Foundation Model Distillation
유전체 모델이 학습에 사용된 합성 서열의 탐지 가능한 기록을 유지할 수 있을까요? 본 연구에서는 코돈(codon) 인식 기반의 그린리스트(green-list) 워터마킹 확장 기법인 GenoTrace를 통해 증류(distillation) 과정에서의 워터마크 상속을 연구합니다. 두 가지 토큰 수준 요인이 코돈 위치와 유기체 특이적 코돈 사용 빈도를 활용하여 교사(teacher) 모델의 생성 바이어스를 조절합니다. 이렇게 생성된 서열로 더 작은 학생(student) 모델을 학습시키며, 학생 모델의 출력은 활성 워터마크 프로세서 없이도 감사를 받습니다. 3개의 시드를 사용한 GenomeOcean-500M에서 100M으로의 증류 실험에서, 결합 구성은 고정된 임계값에서 평균 감사 점수 17.88과 94.5%의 탐지율을 달성했습니다. 또한 키 인식 토큰 치환 후에도 49.0%의 탐지율을 유지하여 단일 시드 일반 워터마크 비교군의 0%와 대비되었으며, 메커니즘을 표적으로 한 뉴클레오타이드 편집을 결합한 후에도 47.0%의 탐지율을 유지했습니다. 추가 실험을 통해 5개의 유기체 조건부 데이터셋과 최대 40배의 교사-학생 크기 비율 전반에서 상속된 신호가 확인되었습니다. 구성 요소 절제 연구와 전산 서열 품질 분석은 탐지 강도 및 코딩 커버리지에 대한 뚜렷한 작동 지점을 보여줍니다. GenoTrace는 실용적인 토큰 수준 구조를 제공하며, 유전체 구조가 상속된 워터마크 신호를 어떻게 형성하는지에 대한 실증적 설명을 제시합니다. 본 연구 결과는 공유 토크나이저 증류 및 테스트된 편집 절차에 관한 것이며, 캘리브레이션과 생물학적 유용성은 별도의 평가 요건으로 다루어집니다.