arXiv:2611.23324v1 stat.ML

AI 모델 선택을 위한 품질-자원 트레이드오프의 미분 이론: 다중 자원 프런티어와 그 미니맥스 가격

A Differential Theory of Quality-Resource Trade-offs for AI Model Selection: The Multiresource Frontier and Its Minimax Price

Dmitry Ignatov

제출 2026-11-19

한국어 초록

서로 다른 자원 예산에 걸쳐 AI 모델을 비교하면 오차를 지연 시간, 파라미터 수, 학습 연산량, 에너지와 연결하는 품질-자원 프런티어가 얻어진다. 오프셋 멱법칙은 이러한 프런티어를 요약하지만, 적합된 파라미터는 가격에 독립적인 기하 구조도, 트레이드오프가 여러 자원 채널로 확장되는 방식도 드러내지 못한다. 본 논문은 이러한 구조를 명시적으로 드러내는 미분 이론을 전개하여 두 가지 공백을 모두 해소한다. 각 프런티어는 유효 활성 자원 채널 수 $N_{\mathrm{eff}} = s^2/\kappa$(기울기의 제곱을 곡률로 나눈 값)를 잔여 로그 오차 깊이 $\Delta S = \ln(\varepsilon/\varepsilon_{\infty})$와 연결하는, 가격에 독립적인 평면 곡선 표현을 갖는다. 이 표현은 본질적인 형태를 자원 축의 척도 및 원점과 분리한다. 완전 단조성과 가분성은 미분 부등식과 프런티어 경계를 도출한다. $N$개의 자원 각각이 하나의 활성 채널을 기여할 때, 이 이론은 전달 단위에서 매개변수가 없는 운영 규칙 $N_{\mathrm{eff}} = 1$을 제시하고, 정확한 최악 후회 $\ln(N+1)$ nat를 갖는 미니맥스 자원 가격 $\lambda^{\star}_i = \alpha_i/(N+1)$을 유도한다. 이 결과는 임의로 정한 교환 비율 없이 측정된 프런티어를 해석하고 자원 비용을 비교할 수 있게 한다. 이 이론은 117개의 발표된 프런티어에서 평가되었으며, 측정된 품질과 비용으로부터 가격을 도출하고 후보를 순위화하며 지지되는 선택과 미니맥스 후회를 보고하는 오픈소스 패키지 nn-rank로 구현되었다: https://github.com/ABrain-One/nn-rank

원문 초록

Comparing AI models across resource budgets yields quality-resource frontiers relating error to latency, parameter count, training compute, and energy. Offset power laws summarize such frontiers, but their fitted parameters reveal neither the price-independent geometry nor the manner in which trade-offs extend across several resource channels. This paper addresses both gaps by developing a differential theory in which this structure is made explicit. Each frontier admits a price-independent plane-curve representation relating the effective number of active resource channels, $N_{\mathrm{eff}} = s^2/\kappa$ (squared slope over curvature), to the remaining log-error depth, $\Delta S = \ln(\varepsilon/\varepsilon_{\infty})$. This representation separates intrinsic shape from the scale and origin of the resource axis. Complete monotonicity and divisibility yield differential inequalities and frontier bounds. When each of $N$ resources contributes one active channel, the theory gives the parameter-free operating rule $N_{\mathrm{eff}} = 1$ in delivered units and derives minimax resource prices $\lambda^{\star}_i = \alpha_i/(N+1)$ with an exact worst-case regret of $\ln(N+1)$ nats. The results make it possible to interpret measured frontiers and compare resource costs without hand-chosen exchange rates. The theory is evaluated on 117 published frontiers and implemented in the open-source package nn-rank, which derives prices from measured quality and cost, ranks candidates, and reports supported choices and minimax regret: https://github.com/ABrain-One/nn-rank

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.23324v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.