HardwareDx: 데이터센터 장비 수리를 위한 파운데이션 그래프 모델 시스템
HardwareDx: A Foundational Graph Model System for Datacenter Machine Repairs
한국어 초록
AI 인프라의 급속한 확장으로 데이터센터 신뢰성은 클라우드 사업 경제의 핵심이 되었다. 초대규모 AI 클러스터의 하드웨어 장애는 수백만 달러 규모의 학습 작업을 중단시킬 수 있으므로, 개별 장비의 다운타임이 막대한 경제적 손실을 초래할 수 있다. 따라서 장비 다운타임을 최소화하는 것이 그 어느 때보다 중요하다. 이를 해결하기 위해, 자동화된 데이터센터 유지보수에 그래프 파운데이션 모델 접근법을 적용하는 AI 기반 하드웨어 진단 시스템인 Hardware Diagnoser(HardwareDx)를 제시한다. 이 시스템은 하나의 모델로 여러 플랫폼을 진단하고 새로운 하드웨어 제품의 도입을 가속할 수 있게 한다. Google에서 프로덕션 규모로 배포된 HardwareDx는 다양한 컴퓨팅 아키텍처에서 상당한 효율 향상을 가져온다. 실제 환경 평가에서 프로덕션 다운타임을 GPU 플랫폼에서 18.3%, TPU에서 16.1% 줄이는 것으로 나타났다. 또한 하드웨어 배포를 크게 가속하여, 품질 보증(QA) 시간을 GPU에서 28.3%, TPU에서 25.1% 단축한다. 이러한 결과는 HardwareDx가 차세대 AI 플릿의 신뢰성과 비용 효율을 극대화하기 위한 현장 검증된 솔루션임을 보여 준다.
원문 초록
The rapid scale-up of AI infrastructure has made datacenter reliability a cornerstone of the cloud business economy. Since hardware failures in hyper-scale AI clusters can stall multi-million dollar training workloads, the downtime of individual machines can cause outsized economic losses. Minimizing machine downtime, therefore, is more important than ever. To address this, we present Hardware Diagnoser (HardwareDx), an AI-driven hardware diagnosis system that applies a graph foundation model approach to automated datacenter maintenance. It allows a single model to diagnose many platforms and accelerate onboarding of new hardware products. Deployed at production scale at Google, HardwareDx yields substantial efficiency gains across diverse compute architectures. Real-world evaluations demonstrate that it reduces production downtime by 18.3% on GPU platforms and 16.1% on TPUs. Furthermore, it significantly accelerates hardware deployment, cutting quality assurance (QA) time by 28.3% for GPUs and 25.1% for TPUs. These results establish HardwareDx as a field-tested solution for maximizing the reliability and cost efficiency of next generation AI fleets.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.23398v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.