GPU-Accelerated Drug Discovery with Docking on the Summit Supercomputer: Porting, Optimization, and Application to COVID-19 Research
원문 초록
Protein-ligand docking is an in silico tool used to screen potential drug compounds for their ability to bind to a given protein receptor within a drug-discovery campaign. Experimental drug screening is expensive and time consuming, and it is desirable to carry out large scale docking calculations in a high-throughput manner to narrow the experimental search space. Few of the existing computational docking tools were designed with high performance computing in mind. Therefore, optimizations to maximize use of high-performance computational resources available at leadership-class computing facilities enables these facilities to be leveraged for drug discovery. Here we present the porting, optimization, and validation of the AutoDock-GPU program for the Summit supercomputer, and its application to initial compound screening efforts to target proteins of the SARS-CoV-2 virus responsible for the current COVID-19 pandemic.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
URSA: 실용적 역합성 평가를 위한 화학 인식 벤치마크
URSA: Chemistry-Aware Benchmark for Utilitarian Retrosynthesis Assessment
표적 분자에 대한 반응 경로를 찾는 합성 계획은 신약 개발에서 가장 중요하고도 어려운 과제 중 하나이다. 최근 전문화된 딥러닝 역합성 시스템과 범용 대규모 언어 모델이 모두 발전하였으나, 유연하고 화학적으로 해석 가능한 벤치마킹 프로토콜이 없어 객관적인 비교는 여전히 어렵다. 본 연구에서는 URSA(Utilitarian RetroSynthesis Assessment) 평가 프레임워크를 도입한다. 이 프레임워크는 상업적으로 구입 가능한 출발 물질로의 수렴과 같은 형식적 관점뿐 아니라, 전문 화학자가 반응과 경로를 평가하는 방식을 모방한 화학적 타당성 관점에서도 합성 경로를 벤치마킹할 수 있게 한다. 본 연구는 일상적인 약물 설계 업무의 현실적인 과제를 대표하며 합성 경로가 공개되지 않은 새롭고 다양한 표적 분자 집합에서, 합성 계획 과제에 대한 기존의 종단간 역합성 솔루션과 LLM을 포괄적으로 평가한다. LLM은 고수준의 전략적 계획을 지원할 수 있고 OOD 집합에서는 SOTA 성능까지 달성하지만, 추정 실행 비용과 화학적으로 타당한 경로 해결 가능성에 대한 파레토 프런티어는 전적으로 전문화된 역합성 계획기로 구성된다.
LLM 추론의 수치적 불안정성 규명: HEAL을 통한 미션 크리티컬 태스크의 재현 가능한 추론 달성
Demystifying Numerical Instability in LLM Inference: Achieving Reproducible Inference for Mission-Critical Tasks with HEAL
대규모 언어 모델(LLM)이 금융, 의료, 법률과 같은 미션 크리티컬 영역에 배포되면서 출력 재현성은 엄격한 시스템 요구사항이 되었다. 실무자들은 알고리즘적 확률성을 제거하기 위해 탐욕적 디코딩을 사용하지만, 16비트 정밀도를 사용하는 실제 배포 환경에서는 이기종 GPU 간에 치명적인 출력 불일치가 여전히 나타난다. SASS 수준 프로파일링을 통해 이러한 불일치가 근본적으로 커널 경계에서 다운캐스팅 중 발생하는 절단 오차에 의해 유발됨을 밝힌다. 그러나 전역 FP32 파이프라인으로 재현성을 확보하면 과도한 시스템 비용이 발생한다. 16비트 하드웨어 가속기를 우회하면 연산 효율이 떨어지고, KV 캐시를 상향 캐스팅하면 메모리 오버헤드가 두 배가 된다. 이러한 간극을 메우기 위해 FP32 정밀도를 근사하면서 두 가지 표적 메커니즘으로 하드웨어 제약을 해결하는 표적 개입 기법인 하이브리드 오차 완화(Hybrid Error ALleviation, HEAL)를 제안한다. 첫째, 부동소수점 형식이 Q, K, V 텐서에 대해 비트 폭을 충분히 활용하지 못한다는 점에 착안하여, HEAL은 KV 캐시 점유량을 늘리지 않으면서 수치 안정성을 보존하는 INT16 양자화를 적용한다. 둘째, HEAL은 대수적 오차 보상 전략을 통해 고정밀 행렬 곱셈을 합성하며, 이를 전적으로 고처리량 16비트 텐서 코어에서 실행한다. 접근법을 실용적으로 평가하기 위해 미션 크리티컬 작업의 재현성을 겨냥한 벤치마크인 MCR-Bench를 소개한다. HEAL은 다운스트림 작업에서 FP32 기준선과 동일한 수준의 재현성을 달성하면서 성능 오버헤드를 최대 6.0$\times$까지 줄인다.
LiteTopK: 장문맥 희소 어텐션용 통합 Indexer-TopK 커널을 위한 차원의 저주 활용
LiteTopK: Exploiting the Curse of Dimensionality for a Fused Indexer-TopK Kernel in Long-Context Sparse Attention
SinAE: 교차 도메인 원자계를 위한 단일 아키텍처 플로우 매칭 오토인코더
SinAE: A Single-Architecture Flow-Matching Autoencoder for Cross-Domain Atomic Systems
소분자, 결정체, 단백질은 모두 3차원 공간의 원자로 환원되지만, 생성 파이프라인은 여전히 도메인별로 분절되어 있으며 각각 고유한 그래프, 등변(equivariant), 또는 프레임 기반 아키텍처를 사용한다. 교차 도메인 학습은 도메인별 데이터 부족을 완화할 수 있지만, 3차원 좌표 공간에서의 직접 생성은 세 도메인 모두의 이질적인 구조적 사전지식을 쉽게 다루기 어렵고, 기존 잠재 오토인코더 중 무손실이면서 세 도메인 모두에 걸쳐 아키텍처적으로 일반적인 것은 없다. 우리는 분자, 결정체, 단백질을 위한 단일 아키텍처 플로우 매칭 오토인코더인 SinAE를 제안하며, 이는 바닐라 트랜스포머 인코더와 디코더를 사용하고 등변, 그래프, 또는 도메인 특화 연산자를 포함하지 않는다. 인코더가 세밀한 기하를 포착하도록 요구하는 대신, SinAE는 재구성 부담을 반복적 플로우 매칭 디코더로 옮겨 도메인 전반에 걸쳐 거의 무손실 재구성을 달성하고, 기존 잠재 베이스라인 대비 재구성 오차를 여러 차수에 걸쳐 감소시킨다. 동일한 토큰별 잠재는 표준 Diffusion Transformer 사전 모델을 지원하며, 이는 분자, 결정체, 단백질 생성 벤치마크에서 강력한 성능을 달성한다. 분자-결정체 공동 학습은 두 도메인 모두를 뚜렷이 개선하여, 공유 원자 잠재를 통한 교차 도메인 전이의 직접적 증거를 제공한다. 코드는 https://github.com/BlueWhaleLab/SinAE 에서 이용할 수 있다.
정교한 축출 정책이 실패할 때: LLM 접두 문맥 재사용을 위한 캐시 교체 정책의 재고
When Fancy Eviction Fails: Rethinking Cache Replacement For LLM Prefix Reuse
장시간 실행되는 LLM 애플리케이션과 자율 에이전트는 점점 늘어나는 컨텍스트를 반복적으로 전송하므로, 프리픽스 캐싱은 프리필 비용을 줄이는 데 매우 중요하다. 이는 수십 년간의 전통적인 캐시 관리 기법이 에이전트형 및 대화형 LLM 서빙에 그대로 적용되는가라는 근본적인 질문을 제기한다. 우리는 200억 개가 넘는 처리 토큰으로 구성된 실제 서비스 트레이스를 분석하고, 용량이 제한된 HBM 환경과 대규모 메모리 풀 환경에서 14가지 축출 알고리즘을 평가한다. 그 결과, 단순한 LRU(Least Recently Used)가 놀라울 정도로 견고하여 정교한 전통적 정책과 대등한 성능을 보이지만, 벨라디(Belady)의 최적 해와는 여전히 상당한 격차가 남아 있음을 확인한다. 그 이유는 구조적이다. 프리픽스 재사용은 활성 세션의 꾸준한 진행 속도에 의해 좌우되므로, 최근 사용 여부가 축출에 대해 이례적으로 강한 예측 변수가 된다. 그럼에도 프리픽스 캐싱은 최근성이 무시하는 측면에서 전통적 워크로드와 다르며, 특히 단일 턴 요청의 만연, 극단적인 세션 크기 편중, 어텐션 연산이 토큰 깊이에 따라 증가하기 때문에 발생하는 매우 불균일한 미스 비용이 그러하다. 최적과의 격차를 줄이기 위해, 우리는 프리픽스 캐시 관리를 위한 몇 가지 설계 원칙을 제시한다. 즉, 최근성을 기준선으로 유지하면서 일회성 프롬프트를 걸러내기 위한 신속한 강등, 비용이 큰 미스를 우선시하는 연산 인지형 축출, 용량 적응형 축출 단위를 함께 도입하는 것이다. 우리의 트레이스와 시뮬레이터는 공개되어 있다.
SeKV: 장문 컨텍스트 대규모 언어 모델 추론을 위한 계층적 시맨틱 메모리 기반 해상도 적응형 KV 캐시
SeKV: Resolution-Adaptive KV Cache with Hierarchical Semantic Memory for Long-Context LLM Inference
대규모 언어 모델은 점점 더 긴 문맥에서 동작하며, 이때 KV 캐시는 시퀀스 길이에 따라 선형으로 증가하여 디코딩 중 메모리를 지배한다. 토큰 제거는 항목을 영구적으로 버리고, 의미 압축은 프리필 시점에 각 단위의 해상도를 고정하므로 나중에 관련성이 생기는 세부 정보를 복구할 수 없다. 우리는 어떤 압축된 구간을 토큰 해상도로 복원할지를 디코딩 시점에 결정하는 학습된 줌인 메커니즘을 중심으로 구축한 해상도 적응형 KV 캐시인 SeKV를 제안한다. SeKV는 높은 서프라이절 위치에서 문맥을 분할하고, 앵커 토큰과 구간 요약을 GPU에 유지하며, 각 구간의 키와 값의 저랭크 인자를 CPU로 오프로드한다. 경량의 헤드별 라우터가 질의와 관련된 구간을 선택하고, 이 구간들은 학습된 구간별 랭크로 재구성된다. 이 캐시는 손실이 있지만 제거하지 않는다. 모든 구간이 거칠게든 재구성되든 어텐션에 남아 있다. 기반 LLM은 고정된 상태로 유지되며 라우터가 추가하는 파라미터는 0.1% 미만이다. GPU에 상주하는 KV 예산이 10%인 조건에서 5개 백본과 4개 벤치마크 전반에 걸쳐, SeKV는 프리필 시점에 해상도를 고정하는 모든 방법을 능가하며 가장 강력한 의미 기반 베이스라인보다 2.9포인트(상대 5.5%) 향상된다. LongBench와 InfiniteBench에서는 정확 회상 오프로딩 캐시와 대등하고 합성 정확 검색에서는 뒤처지지만, 디코딩 단계당 전송 데이터량은 ShadowKV보다 3배 적고 우리가 프로파일링한 방법 중 총 메모리를 가장 적게 사용한다. 128K 문맥에서 최대 GPU 메모리를 절반으로 줄이고 전체 KV 캐싱 대비 총 메모리를 3분의 1 줄인다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.