arXiv:2512.10977 cs.DC

Agentic Operator Generation for ML ASICs

제출 2025-12-03

한국어 초록

우리는 새로운 가속기 플랫폼을 위해 기능적으로 올바른 Triton PyTorch ATen 커널을 대규모로 생성하도록 설계된 에이전틱 AI 시스템인 TritorX를 소개합니다. TritorX는 오픈 소스 대규모 언어 모델과 맞춤형 린터, JIT 컴파일, 그리고 PyTorch OpInfo 기반 테스트 하네스를 통합합니다. 이 파이프라인은 실제 메타 훈련 및 추론 가속기(MTIA) 실리콘과 차세대 장치의 하드웨어 시뮬레이션 환경 모두와 호환됩니다. 제한된 고사용 커널 집합에 대한 성능을 우선시하는 이전의 커널 생성 접근 방식과 달리, TritorX는 커버리지를 우선시합니다. 우리의 시스템은 다양한 데이터 유형, 형태 및 인수 패턴을 포함하여 전체 연산자 집합에 걸쳐 정확성과 일반성을 강조합니다. 실험에서 TritorX는 모든 관련 PyTorch OpInfo 테스트(총 20,000개 이상)를 통과하는 481개의 고유한 ATen 연산자에 대한 커널과 래퍼를 성공적으로 생성했습니다. TritorX는 새로운 가속기 플랫폼을 위한 완전한 PyTorch ATen 백엔드의 즉각적인 생성을 위한 길을 열어줍니다.

요약

TritorX는 새로운 머신러닝 가속기 플랫폼을 위해 기능적으로 올바른 Triton PyTorch ATen 커널을 대규모로 생성하는 에이전틱 인공지능 시스템이다. 이 시스템은 오픈 소스 대규모 언어 모델과 사용자 정의 린터, JIT(Just-In-Time) 컴파일, 그리고 PyTorch OpInfo 기반의 테스트 하니스를 통합하여 설계되었다. TritorX의 주요 혁신점은 기존의 커널 생성 접근 방식이 성능 최적화에 집중했던 반면, 커버리지를 우선시하여 다양한 데이터 유형과 구조를 지원하는 데 있다. 이를 통해 TritorX는 전체 연산자 집합에 대한 정확성과 일반성을 보장하며, 481개의 고유한 ATen 연산자에 대한 커널과 래퍼를 성공적으로 생성하였다. TritorX의 파이프라인은 실제 Meta Training and Inference Accelerator (MTIA) 실리콘과 차세대 장치의 하드웨어 시뮬레이션 환경 모두와 호환된다. 이 시스템은 PyTorch OpInfo 테스트를 통해 20,000개 이상의 테스트를 수행하며, 생성된 커널의 정확성을 검증하였다. 이러한 실험 결과는 TritorX가 새로운 가속기 플랫폼을 위한 완전한 PyTorch ATen 백엔드를 생성할 수 있는 가능성을 제시한다. TritorX는 머신러닝 ASIC을 위한 커널 생성의 새로운 패러다임을 제시하며, 다양한 연산자에 대한 지원을 통해 머신러닝 가속기의 발전에 기여할 것으로 기대된다. 향후 연구에서는 TritorX의 성능을 더욱 향상시키고, 다양한 가속기 플랫폼에 대한 지원을 확대할 계획이다. 이 연구는 머신러닝 커널 생성 분야에서의 중요한 기초 자료로 작용할 것이다.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.