arXiv:2611.23663v1 cs.AR

Lodestone: 데이터센터 하드웨어 특화의 자동화된 의미론적 발견

Lodestone: Automated Semantic Discovery of Datacenter Hardware Specialization

Peizhe Liu, Akanksha Jain, Gerasimos Gerogiannis, Vidushi Dadu, Parthasarathy Ranganathan, Jovan Stojkovic

제출 2026-11-19

한국어 초록

하드웨어 특화는 데이터센터의 효율을 향상시킬 수 있다. 그러나 전용 하드웨어를 정당화할 만한 연산을 식별하는 일은 어렵다. 기존 접근법은 핫 함수, 명령어 패턴, 또는 데이터센터 세금과 같은 오버헤드를 분석한다. 이들은 전체 비용이 애플리케이션과 라이브러리에 걸쳐 분산되어 있는 세밀한 연산을 놓칠 수 있으며, 특히 서로 다른 코드 조각이 동일한 근본 연산을 가리고 있을 때 그러하다. 우리는 서로 무관해 보이는 코드 영역이 종종 동일한 연산을 수행하며, 이것이 의미론적 추론을 요구하는 특화 기회를 만든다는 점을 관찰한다. 에이전트형 AI의 부상은 이를 자동화할 수 있게 한다. 그러나 기존의 AI 에이전트는 대규모 데이터센터 소프트웨어를 효율적이고 안정적으로 분석할 수 없다. 이 기회를 활용하기 위해 우리는 실행된 코드가 무엇을 계산하는지 추론함으로써 하드웨어 특화 기회를 자동으로 발견하는 에이전트형 프레임워크 Lodestone을 제시한다. 첫째, Lodestone은 여러 워크로드의 실행 트레이스에서 핫 제어 흐름 영역을 추출하고, 이를 에이전트가 대규모 워크로드를 다룰 수 있도록 하는 간결한 분석 패키지로 구성한다. 둘째, 에이전트는 각 영역이 무엇을 계산하는지 기술하고, 동일한 연산을 수행하는 영역을 연산 패밀리로 병합하며, 그 의미론적 정확성을 반복적으로 검사한다. 셋째, 발견된 패밀리를 검증하기 위해 Lodestone은 기록된 실행에서 얻은 참조 입력과 출력 집합에 대해 패밀리 내 모든 코드 조각을 실행한다. 마지막으로, 선택된 패밀리에 대해 Lodestone은 ISA 확장, 코어 근접 유닛, 분리형 가속기 등의 하드웨어를 제안하며, 어떤 제안을 추가로 개발할지는 인간 전문가가 결정한다. 우리는 여섯 개의 데이터센터 워크로드 범주에 걸친 20개 워크로드에서 Lodestone을 평가한다. 발견된 30개 패밀리를 사이클 정확 시뮬레이터에서 시뮬레이션하고 RTL로 구현한다. 이러한 최적화는 워크로드를 평균 12.6%, 최대 80.2% 가속한다.

원문 초록

Hardware specialization can improve datacenter efficiency. Unfortunately, identifying computations that justify dedicated hardware is difficult. Existing approaches analyze hot functions, instruction patterns, or overheads such as datacenter tax. They can miss fine-grained computations whose aggregate cost is spread across applications and libraries, especially when different pieces of code obscure the same underlying computation. We observe that seemingly unrelated code regions often perform the same computations, creating specialization opportunities that require semantic reasoning. The rise of agentic AI makes it possible to automate this. However, conventional AI agents cannot efficiently and reliably analyze large scale datacenter software. To unlock this opportunity, we present Lodestone, an agentic framework that automatically discovers hardware specialization opportunities by reasoning about what the executed code computes. First, Lodestone extracts hot control-flow regions from execution traces across workloads and organizes them into compact analysis packages that make large workloads tractable for agents. Second, agents describe what each region computes, merge those that perform the same computation into computational families, and check their semantic correctness in a loop. Third, to verify the discovered family, Lodestone runs every piece of code in a family against a set of reference inputs and outputs on recorded executions. Finally, for selected families, Lodestone proposes hardware, e.g., ISA extensions, near-core units, or detached accelerators, and human experts decide which proposals to develop further. We evaluate Lodestone on 20 workloads across six datacenter workload categories. We simulate 30 discovered families in a cycle-accurate simulator and implement them in RTL. These optimizations speed up the workloads by 12.6% on average and by up to 80.2%.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.23663v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.