PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.06290v1cs.LG

Quantitative Gaussian-Process limits of Tensor Programs

텐서 프로그램(tensor program) 프레임워크를 통해 랜덤 신경망의 무한 너비 가우시안 프로세스(Gaussian process) 극한에 대한 정량적 수렴 이론을 제시하며, 유한 너비 네트워크 실행과 그 가우시안 프로세스 극한 사이의 오차가 너비의 역제곱근 차수임을 Wasserstein 거리 기준으로 명시적으로 규명한다. 이 프레임워크는 구조에 무관하게 적용되어 피드포워드 모델뿐 아니라 순환 신경망 및 트랜스포머(transformer) 계열 아키텍처의 가중치 공유 방식까지 포괄한다.

arXiv:2606.26344v1cs.PL

Axon: 텐서 프로그램을 위한 합성 슈퍼옵티마이저

Axon: A Synthesizing Superoptimizer for Tensor Programs

타일 기반 AI 가속기 프로그램을 위한 합성 슈퍼옵티마이저 Axon은 프로그램 합성(program synthesis)과 무한 텐서 SMT 등가 검증으로 대수 변환·ISA lowering·타일링·연산자 융합을 자동 탐색하고, Amazon Trainium 20개 벤치마크에서 Neuron 컴파일러 대비 개별 연산자 최대 3.7배·다중 연산자 커널 최대 19배, 수동 최적화 NKI 커널 대비 최대 1.35배 속도 향상을 보였다.