PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.14070v1q-bio.GN

Evo 2 프로브를 이용한 메타게놈 데이터의 생물안보 특성 선별

Screening of Biosecurity Features in Metagenomic Data with Evo 2 Probes

Evo 2와 같은 게놈 기초 모델은 풍부한 서열 표현을 학습하지만, 생물안보 선별을 위한 이들의 가치는 대부분 탐구되지 않았다. 본 연구는 기초 모델의 미세조정 없이 고정된 Evo 2 26층 활성화에 최소한의 선형 및 어텐션 프로브를 학습하여, 이러한 표현에서 생물안보 관련 신호가 얼마나 선형적으로 접근 가능한지를 밝힌다. 보류된 메타게놈 테스트 세트 전반에서 프로브는 강한 변별력으로 항균 내성(AMR)을 탐지한다. 선형 프로브는 영역 수준 ROC-AUC 0.888(평균 풀링)에 도달하며, 단일 헤드 어텐션 프로브에서는 0.977까지 상승한다. 프로브는 더 세분화된 AMR 약물 클래스 하위 범주를 구분하고 이를 관련 없는 기능 유전자와 분리하며, 학습된 신호가 일반적인 기능 유전자 상태만으로 설명되지 않음을 추가로 입증한다. 세균 독성(virulence)도 해독 가능하지만 더 약하게(영역 수준 ROC-AUC 0.833) 나타난다. AMR 프로브는 재학습 없이 시뮬레이션된 짧은 리드(short read)에서도 유사한 순위 성능을 유지하며, 어셈블리가 계산적으로 비용이 크거나 신뢰할 수 없는 환경에서 어셈블리 이전 평가를 가능하게 한다. 평균 풀링 기준 읽기 수준 ROC-AUC 0.898을 달성하여, 평균 풀링된 전체 영역 결과와 비슷하다. SynGenome 내에서 AMR 관련 프롬프트 라벨은 Evo 1.5 생성 서열에서 약하게만 복원 가능하며, 이러한 프롬프트 유래 라벨은 생성된 응답 서열의 기능을 확립하지 못한다. 보완적인 희소 오토인코더(sparse autoencoder) 분석은 해석 가능한 내성 관련 특성을 복원하지만, 지도학습 프로브보다 일관성이 낮다. 종합하면, 이 결과들은 경량 임베딩 기반 프로브를 메타게놈 생물감시를 위한 빠르고 저렴한 1차 탐지 계층으로 자리매김하고, 해당 접근법의 강점과 현재 한계를 함께 제시한다. 본 연구는 BlueDot Impact, Apart Research, Cambridge Biosecurity Hub가 주최한 AIxBio Hackathon 2026의 일환으로 수행되었다.

arXiv:2607.05462v1cs.CR

이중 용도 생물학 환경에서의 보정된 거부 및 안전한 유용성 평가

Evaluating calibrated refusal and safe usefulness in dual-use biology settings

AI 에이전트가 생명과학 워크플로우에 통합됨에 따라, 발견을 가속하는 능력이 오용을 가능하게 할 수도 있다. 우리는 생물학적 연구 과제에 대한 위험 식별 및 거부 동작을 위한 벤치마크인 BioSecBench-Refusal을 제시한다. 이 벤치마크는 발표된 문헌에서 적용된 합법적인 분석인 61개의 Routine 과제와, 실제 연구와 유사하지만 생물안보 위험을 은폐하는 가상 시나리오인 46개의 Red-Team 과제를 쌍으로 구성한다. 16개의 모델-하네스 구성에 걸쳐, 거부율은 Routine 과제에서 7%에서 74%, Red-Team 과제에서 1%에서 62% 범위를 보였으며, 많은 구성에서 은폐된 위험과 비교하여 동등하거나 더 높은 비율로 합법적인 Routine 작업을 거부하였다. 거부는 에이전트 추론 이전에 적용된 제공자 API 필터에 의해 가장 빈번하게 촉발되었다. 그러나 추론할 여지가 주어진 모델은 더 많은 실제 위협을 식별할 가능성을 보였다. 우리는 모델 개발자가 에이전트 기반 바이오테크 R&D에 대한 능력과 주의를 보정할 수 있는 도구로서 BioSecBench-Refusal을 공개한다.

arXiv:2606.19899v1cs.CY

AI 에이전트의 생물학적 역량과 위험 측정

Measuring Biological Capabilities and Risks of AI Agents

이 논문은 급격히 대두되는 정책적 과제를 다룹니다: 자율적이거나 협력적으로 다단계 과학적 작업을 수행할 수 있는 AI 과학자, 즉 에이전트형 AI 시스템의 생물학적 역량과 위험에 대한 신뢰할 수 있는 증거를 생성하고 해석하는 방법에 관한 것입니다. 이러한 시스템이 실제 연구 워크플로우에 도입됨에 따라, 의사결정권자들은 그 의미가 종종 암묵적이거나 문서화가 부족한 기본 설계 선택사항에 의존하는 평가 결과를 점점 더 자주 마주하게 됩니다. 우리는 AI 기반 생물학적 위험에 대한 현재의 증거를 종합하고, 이러한 시스템을 평가하기 위한 유망하지만 해석에 민감한 도구로서 생물학적 에이전트 평가를 소개합니다. 우리의 주요 기여는 평가를 정의, 설계, 실행, 채점 및 문서화하는 과정에서의 선택이 결과가 위험에 대해 암시하는 바와 암시하지 않는 바를 실질적으로 어떻게 형성하는지 보여주는, 우리 자신의 평가에서 도출된 실용적이고 경험에 기반한 고려사항들의 집합입니다. 이 분석은 정책 입안자들이 생물학적 평가 결과를 적절한 주의를 기울여 해석하도록 돕고, 공공 및 민간 자금 지원 기관이 AI-생물학 평가 연구에 효과적인 투자를 하도록 유도하며, 새로운 AI 시스템을 평가하는 생물보안 실무자들을 지원하는 것을 목적으로 합니다. 2차 대상 독자로는 최전선 AI 연구소, AI 제공업체, 과학 기관 및 제3자 평가 기관 내에서 에이전트 평가를 설계하거나 수행하는 연구자들이 포함됩니다.