토큰은 어디로 가는가: 에이전트 코딩에서의 열, 엔트로피, 오류
Where the Tokens Go: Heat, Entropy and Error in Agentic Coding
한국어 초록
코딩 에이전트는 토큰 단위로 과금되지만, 소프트웨어 공학은 토큰이 실제로 무엇을 사 주는지에 대해 아무것도 말해 주지 않는다. 여기서는 소프트웨어 열역학 이론을 소개한다. 이 이론은 고전 열역학과 확률 열역학에서 유비를 끌어와 확장하고, 이를 현대의 에이전트 코딩에 적용한다. 에이전트가 생성하는 토큰을 비용으로 세고 그 비용을 일과 열로 나눈다. 테스트 스위트는 모든 코딩 변경을 판정하는 소프트웨어 맥스웰의 악마로 작용한다. 단일 분자를 당겨 펼친 뒤 다시 접히게 하는 실험의 유사 실험으로 이론을 검증하는데, 에이전트가 저장소에 변경을 가하고(코딩) 그것을 되돌리는(언코딩) 과정을 여러 번 반복하며 모든 모델 호출의 토큰을 센다. 이 사이클은 요청된 편집을 시작 지점으로 되돌리며, 각 방향은 저장된 기준 트리에서 시작한다. 반복 사이클에 걸친 비용의 분산은 소프트웨어 온도를 정의하며, 이는 모델의 샘플링 온도와 함께 상승하였다. 성공한 실행의 토큰 약 80%는 요청된 변경을 제자리에 둔 채로 남기는 모델 호출에서 생성되며, 이 토큰을 열이라 부른다. Jarzynski 등식에 대한 유비로 추정한 변경의 자유 에너지는 성공한 코딩 실행 평균 비용의 14~22%이다. 코딩은 언코딩보다 1.1~1.5배의 비용이 든다. 이 악마는 불완전하여, 테스트 스위트의 판정은 환경에 따라 달라지며 깨진 변경을 받아들이는 스위트는 토큰 측면의 비용을 초래한다. 제안한 이론의 실용적 함의는 열역학의 관점에서 코딩 에이전트를 분석하고 최적화하는 새로운 도구가 될 수 있다는 점이다.
원문 초록
Coding agents are billed by the token, yet software engineering says nothing about what a token actually buys. Here we introduce a theory of software thermodynamics. The theory draws analogues from classical and stochastic thermodynamics, extends them, and applies them to modern agentic coding. We count the tokens an agent generates as its cost and divide that cost into work and heat. The test suite acts as a software Maxwell's daemon that judges every coding change. We test the theory with an analogue of the experiments in which a single molecule is pulled open and let fold again: an agent makes a change to a repository (coding) and then undoes it (uncoding), many times over, and we count the tokens of every model call. The cycle returns the requested edits to where they began, with each direction started from a stored reference tree, and the spread of its cost over repeated cycles defines a software temperature, which rose with the sampling temperature of the model. About 80 per cent of the tokens of a successful run are generated in model calls that leave the requested change where it was, and we call these tokens heat. The free energy of a change, which we estimate by analogy with the equality of Jarzynski, is 14 to 22 per cent of the mean cost of a successful coding run. Coding costs 1.1 to 1.5 times as much as uncoding. The daemon is imperfect: the verdict of a test suite varies with its environment, and a suite that accepts a broken change has a cost in tokens. The practical implication of the proposed theory could be new tools for analysing and optimising coding agents through the lens of thermodynamics.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.23375v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.