NeuMMU: Architectural Support for Efficient Address Translations in Neural Processing Units
원문 초록
To satisfy the compute and memory demands of deep neural networks, neural processing units (NPUs) are widely being utilized for accelerating deep learning algorithms. Similar to how GPUs have evolved from a slave device into a mainstream processor architecture, it is likely that NPUs will become first class citizens in this fast-evolving heterogeneous architecture space. This paper makes a case for enabling address translation in NPUs to decouple the virtual and physical memory address space. Through a careful data-driven application characterization study, we root-cause several limitations of prior GPU-centric address translation schemes and propose a memory management unit (MMU) that is tailored for NPUs. Compared to an oracular MMU design point, our proposal incurs only an average 0.06% performance overhead.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
추론 엔진에서 추론 제어 평면으로: vLLM, llm-d, 그리고 효율적 분산 LLM 서빙의 진화
From Inference Engine to Inference Control Plane: Connecting vLLM, llm-d, and the Evolution of Efficient Distributed LLM Serving
대규모 언어 모델(LLM) 추론은 엔진 단위 최적화 문제에서 재사용 가능한 상태, 단계 배치(phase placement), 이기종 가속기, 네트워킹, 오토스케일링, 신뢰성, 서비스 수준 목표(SLO)를 아우르는 분산 제어 문제로 진화하고 있다. 본 논문은 동료 검수 시스템 연구, 오픈소스 구현, 문서화된 프로덕션 사례 연구를 가로질러 이러한 전환을 연결한다. vLLM과 llm-d를 상보적 계층으로 다룬다. 모델 서빙 엔진은 PagedAttention, continuous batching, 커널, 양자화, 병렬 처리 등의 메커니즘으로 실행을 최적화하는 반면, 추론 제어 평면은 플릿 전체에 걸쳐 어디서, 언제, 어떤 정책 하에 실행이 이루어질지를 최적화할 수 있다. 기여는 새로운 벤치마크가 아니라 종합에 있으며, 보고된 모든 성능 및 배포 결과는 원 출처에 대한 귀속을 유지한다. 종합된 증거는 현대 추론에서 희소 자원이 순수 FLOPs만이 아니라 관리되는 상태, 배치(placement), 네트워크 이동, 신뢰성, 의사결정 품질 쪽으로 이동하고 있음을 시사한다. 우리는 엔드포인트만이 아니라 실행 가능한 실행 계획을 선택하는 Inference Execution Planner를 제안한다. 여기에는 집약(aggregated) 대 비집약(disaggregated) 토폴로지, KV 소스 및 전송 동작, 하드웨어 변형, 라우팅/입장(admission) 정책, 더 느린 스케일링 결정이 포함된다. 또한 출처별 벤치마크 지도(atlas), 병목 이동(bottleneck-migration) 분류체계, 실용적 배포 지침, SLO-goodput 기반 평가 프레임워크, 에이전트(agentic), 멀티모달, 이기종, 복원력(resilient) 추론에 대한 연구 질문을 제공한다.
ParBench: LLM 병렬 코드 번역의 신뢰성 있는 평가를 위한 벤치마크
ParBench: A Benchmark for Reliable Evaluation of LLM Parallel Code Translation
현대의 연산 집약적 소프트웨어는 CUDA, OpenMP, OpenCL, OpenMP target offload를 포함하여 가속기, 프로그래밍 API, 컴파일러 스택, 이식성 계층이 계속 변하는 생태계 전반으로 이전해야 한다. 대규모 언어 모델(LLM)과 자율 코딩 에이전트(agent)가 이러한 이전을 위해 점점 더 제안되고 있지만, 이 분야는 스레드 인덱싱, 동기화, 메모리 관리, 호스트-디바이스 조율, API별 실행 구조를 포함하여 번역을 행동적으로 유효하게 만드는 저수준 병렬 의미론을 보존하는지 측정할 신뢰할 수 있는 방법이 부족하다. 우리는 실행 가능하고 재현 가능한 조건에서 LLM 기반 병렬 API 번역을 평가하기 위한 커널 중심 벤치마크 프레임워크인 ParBench를 제시한다. ParBench는 선언적 벤치마크 명세를 통해 주변 빌드, 실행, 검증 인프라를 고정하고 모델에게 계산 커널만 번역하도록 요구한다. 이는 여러 오픈소스 HPC 스위트를 활용하며 CUDA, OpenMP, OpenCL, OpenMP target offload 간 대표적인 교차 API 번역 방향을 다룬다. 성공이 표면적 형태의 암기가 아닌 견고한 번역을 반영하는지 검증하기 위해 ParBench는 AST 기반, 의도된 동작 보존, 기준선 검증된 소스 증강을 포함한다. 최신 오픈소스 및 독점 LLM에 대한 평가는 방향 비대칭성, 다중 파일 조율, 불완전한 API 적응, 소스 수준 교란에 대한 불균등한 견고성을 포함하여 신뢰할 수 있는 병렬 코드 번역에 지속적인 장벽이 있음을 보여준다. 코드는 https://github.com/Scientific-Computing-Lab/ParBench 에서 이용할 수 있다.
AKG: Automatic Kernel Generation for Neural Processing Units using Polyhedral Transformations
Elastic Deep Learning in Multi-Tenant GPU Clusters
단순할수록 좋을 때: 중세 라틴어 필사본을 위한 번역 파이프라인 평가
When Simpler Is Better: Evaluating Translation Pipelines for Medieval Latin Manuscripts
기계 번역의 눈부신 발전에도 불구하고, 비전 언어 모델(VLM)은 저자원 음역, 고어 어휘, 잡음이 섞인 입력 신호와 같은 핵심 자연어 처리(NLP) 역량을 시험하는 영역인 역사 필사본에서 어려움을 겪는다. 본 연구는 필경사의 약기, 합자, 양피지 훼손으로 인해 깨끗한 텍스트 벤치마크에서는 드러나지 않는 실패 양상이 나타나는 중세 라틴어 필사본을 대상으로, 이미지에서 번역에 이르는 전체 파이프라인을 평가하는 체계적 프레임워크를 제시한다. CATMuS Latin 데이터셋에서의 벤치마킹은 전문화 격차를 보여 준다. 도메인 특화 광학 문자 인식(OCR) 모델은 파라미터 수가 수십~수천 배 적음에도 범용 VLM에 비해 문자 오류율을 최대 4.3$\times$ 낮춘다. 또한 정렬된 필사본 이미지 행, 전사문, 전문가 번역 1,383건으로 구성된 새로운 데이터셋 Interpres-Parallel-Corpus(IPC)를 소개하며, 이는 우리가 아는 한 중세 라틴어 분야 최초이다. 실험은 복잡성 역설을 보여 준다. 특화된 OCR 모델이 VLM에 직접 입력되는 가장 단순한 파이프라인이 모든 다중 구성요소 변형보다 우수하다. 검색 증강 생성(RAG)이나 OCR 후 교정을 추가하면 프롬프트 포화와 오류 전파가 발생하여 전체 번역 품질이 저하된다. 이러한 결과는 새로운 벤치마크와 함께 저자원 역사 환경에서 번역 시스템을 배치하기 위한 실용적 지침을 제공한다.
LiteTopK: 장문맥 희소 어텐션용 통합 Indexer-TopK 커널을 위한 차원의 저주 활용
LiteTopK: Exploiting the Curse of Dimensionality for a Fused Indexer-TopK Kernel in Long-Context Sparse Attention
토론
이 논문과 연결된 포럼 글이 아직 없습니다.