PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.25970v2cs.LG

코드 최적화를 위한 강화학습

Reinforcement Learning for Code Optimization

코드 정확성을 위한 강화학습(RL)은 이제 확립되었습니다. 즉, 모델이 프로그램을 생성하게 하고, 숨겨진 테스트 케이스에 대해 실행한 다음, 통과한 솔루션에 보상을 제공하는 방식입니다. 이를 코드 최적화로 확장하는 것은 간단해 보입니다. 보상에 실행 시간만 추가하면 되기 때문입니다. 하지만 실제로는 타이밍이 보상을 주도하기 시작하면 측정 노이즈, 보상 희소성(sparsity), 또는 GRPO 불안정성의 작은 문제들이 신호를 압도하여 RL을 실패하게 만듭니다. 즉, 생성된 솔루션의 속도는 거의 빨라지지 않으며, 더 많은 솔루션이 실패할 수 있습니다. 본 연구에서는 세 단계를 통해 실행 시간을 학습 가능하게 만듭니다. (1) 대규모 최적화 테스트와 보정된 샌드박스를 갖춘 DMC-Optim을 구축하여 코드를 테스트하는 방법, (2) RL 환경에서 정확성과 속도를 결합하고 오프라인 시뮬레이터를 사용하여 가장 유망한 구성을 예측함으로써 속도를 보상으로 변환하는 방법, (3) 더 희소하고 노이즈가 많은 시간 측정 실행 환경에 GRPO와 평가를 적응시켜 모델이 해당 보상으로부터 학습하는 방법입니다. DMC-Optim에서 가장 강력한 최적화 인식 구성은 엄격한 상위 50% pass@1을 Qwen 2.5 7B에서 18.0%에서 31.3%로, CWM 32B에서 30.7%에서 50.4%로 향상시킵니다. 이러한 이득은 상위 30%와 같은 더 엄격한 백분위수에서 더욱 증가하여 순수 정확성 점수를 유지하면서도 CWM 32B의 경우 125%의 상대적 개선을 보입니다. 타이밍 샌드박스의 성능이 저하되었을 때도 강건한 최적화 RL은 평가 기준에 따라 표준 RLVR 대비 100%에서 200%의 개선을 달성합니다. LCB에서 CWM 32B는 표준 RLVR과의 중앙값 샘플 속도 비교에서 최대 83% 승리합니다. 문제당 가장 빠른 인간 정답 제출과 비교했을 때, 복잡도 클래스(complexity-class) 개선율에서 인간 수준의 약 절반에 도달합니다(13% 대 22%).

arXiv:2609.30059v2cs.DC

KernelOPT: GPU 커널 최적화를 위한 디스패치 인식 에이전틱 탐색

KernelOPT: Dispatch-Aware Agentic Search for GPU Kernel Optimization

심층 학습(deep learning) 추론(inference) 및 학습(training) 성능은 GPU 커널(kernel) 효율성에 결정적으로 의존합니다. PyTorch Inductor와 같은 최신 컴파일러는 고수준 모델(model) 코드로부터 GPU 커널을 자동으로 생성하지만, 전문가가 작성한 구현에 비해 큰 격차로 성능이 뒤처지는 경우가 많습니다. 최근 LLM 기반 커널 옵티마이저(optimizer)는 독립 실행형 커널에 대해 이러한 격차를 좁힐 수 있지만, 컴파일된 모델을 블랙박스로 취급하여 컴파일러의 구조적 결정을 고려하지 않거나 모델을 엔드투엔드로 검증하지 않은 채 개별 독립 실행형 커널을 최적화하는 데 그칩니다. 본 논문에서는 컴파일된 모델을 구조화된 아티팩트로 취급하는 멀티 에이전트(agent) 시스템인 KernelOPT를 제시합니다. 이는 벤더 라이브러리 호출(cuBLAS, cuDNN)을 보존하며, 5개의 프로파일링(profiling) 유도 LLM 에이전트를 사용하여 생성된 Triton 서브 커널만을 전적으로 최적화 대상으로 삼습니다. 4단계 게이트 검증(validation) 캐스케이드는 정적 검증, 다중 시드(multi-seed) 정확성 검사, 모델 수준 float64 폴백 검증, 성능 게이팅($γ{=}1.03$)을 적용하여 후보를 필터링하고 재결합된 모델을 엔드투엔드로 검증합니다. 후보가 검증에 실패할 경우 시스템은 컴파일러 기준선(baseline)을 유지합니다. 이 시스템은 PyTorch nn 모듈, 독립 실행형 Triton 커널, Helion 커널을 지원합니다. NVIDIA H200에서 250개의 KernelBench 문제(레벨 1 100개, 레벨 2 100개, 레벨 3 50개)를 대상으로 평가한 결과, KernelOPT는 폴백 사례를 포함한 모든 커널에 걸쳐 torch compile 대비 기하평균 속도 향상 1.40$\times$(L1), 1.15$\times$(L2), 1.07$\times$(L3)를 달성했습니다. 최적화된 경우만의 기하평균(검증 게이트가 컴파일러 기준선을 보존한 사례 제외)은 2.54$\times$(L1: 36/100), 1.84$\times$(L2: 23/100), 1.37$\times$(L3: 11/50)로 상당히 높아, 옵티마이저가 유의미한 레버리지를 확보한 지점을 반영합니다.

arXiv:2607.21677v1cs.SE

전파 천문학에서 지속 가능한 코드 최적화를 위한 SLM 강화

Enhancing SLMs for Sustainable Code Optimization in Radio-Astronomy

최근 대규모 언어 모델(LLM)은 복잡한 코드를 생성하고 최적화할 수 있다. 우리는 대규모 과학 분야, 특히 전파 천문학과 지속 가능성에 초점을 맞춰 LLM을 이용해 코드를 생성하고 최적화하는 방안을 조사한다. LOFAR 망원경은 현재 업그레이드 중이며, 관측하는 하늘 영역을 크게 늘리는 동시에 더 많은 데이터를 더 빠르게 처리한다. 그러나 이로 인해 계산 요구량이 40배 증가할 것으로 예상된다. 따라서 이 업그레이드는 기존 소프트웨어의 엄격한 성능 최적화와 가속기(accelerator)의 광범위한 도입에 결정적으로 의존한다. 코드베이스가 매우 크기 때문에 이는 매우 어려운 과제가 된다. 따라서 우리는 개발자가 코드를 평가하고 최적화하는 것, 하드웨어 가속기로의 이식(porting)을 포함하여 이를 지원하기 위한 AI 기반 접근법을 조사하고 시연한다. LOFAR 커뮤니티는 지속 가능한 해결책에 전념하고 있으며, 에너지 예산을 늘리지 않고 이러한 개선을 달성해야 한다. 따라서 기존 코드를 최적화하거나 가속기로 이식해야 하며, 최적화 과정 자체도 에너지 효율적이어야 한다. LLM은 에너지 소모가 크기 때문에 이는 도전 과제가 된다. 따라서 환경 영향을 제한하기 위해 대신 소형 언어 모델(SLM)을 사용할 것을 제안한다. 본 논문에서는 에이전트 AI(agentic AI)를 활용하여 SLM을 강화하는 방법을 보여준다. 코드 생성 품질과 성능을 향상시키기 위해 SLM을 두 가지 방식으로 확장한다: 첫째, 다중 샘플링(multi-sampling) 생성 전략, 둘째, 컴파일러 피드백(compiler feedback) 통합. 다중 샘플링 SLM이 더 적은 계산 자원으로 더 큰 단일 생성(single-generation) 모델과 동등하거나 이를 능가할 수 있음을, 그리고 컴파일러 출력을 SLM에 다시 피드백하면 테스트한 모든 모델에서 일관된 개선이 이루어짐을 시연한다. 우리의 접근법은 범용적이며, 코드 생성 파이프라인에서 검색-증강 생성(RAG)뿐 아니라 정적 및 동적 분석 도구도 활용할 수 있다.

arXiv:2607.19653v1cs.SE

PerfAgent: 저장소 수준 코드 최적화를 위한 프로파일러 가이드 반복 정제

PerfAgent: Profiler-Guided Iterative Refinement for Repository-Level Code Optimization

대규모 언어 모델(LLM) 에이전트는 SWE-Bench 이슈 해결과 실제 코드베이스에서의 기능 구현을 포함한 정확성 중심의 저장소 수준 작업에서 이제 우수한 성능을 보인다. 그러나 동작을 유지하면서 런타임 성능을 개선해야 하는 저장소 수준 코드 최적화에서는 여전히 어려움을 겪는다. 이 설정에서는 테스트 통과만으로는 충분하지 않으며, 패치는 동작을 유지하고 코드 최적화를 구현하며 전문가 수준의 속도 향상(speedup)에 근접해야 한다. 현재 에이전트는 추상화 계층과 네이티브 확장 뒤에 숨겨진 병목을 놓치거나, 얕은 수준의 속도 향상에서 멈추거나, 코드 패치를 충분히 테스트하지 않아 엣지 케이스를 조용히 깨뜨릴 수 있다. 우리는 PerfAgent를 제안한다. PerfAgent는 프로파일러 기반의 검증기 내 루프(verifier-in-the-loop) 워크플로우로, 기성(off-the-shelf) 코딩 에이전트에게 실제 핫스pot을 찾고, 첫 번째로 통과하는 패치를 넘어 개선하며, 타이밍만이 아니라 프로파일러 증거를 사용해 다음에 무엇을 최적화할지 결정하는 데 필요한 피드백을 제공한다. 두 가지 도전적인 최적화 벤치마크인 GSO와 SWE-fficiency-Lite에서 PerfAgent는 GPT-5.1을 사용한 OpenHands 대비 전문가 수준에 부합하는 패치 비율을 두 배 이상 높였으며, GSO에서는 19.6%에서 39.2%로, SWE-fficiency-Lite에서는 26%에서 74%로 개선했다. 또한 PerfAgent는 훨씬 낮은 비용으로 오라클 best-of-five 기준선을 능가하며, 이는 성능 향상이 추가적인 테스트 시점 샘플링이 아니라 더 나은 피드백에서 비롯됨을 보여준다.