미분 가능한 Atari VCS: 설명 가능 AI를 위한 복잡하고 완전히 알려진 ground truth
A Differentiable Atari VCS:A Complex, Fully Known Ground Truth for Explainable AI
한국어 초록
설명에는 ground truth가 필요하다. 시스템에 대한 설명을 검증하려면 그 내부 동작을 알아야 하는데, 이것이 바로 설명 가능 AI(XAI)가 가장 필요한 곳에서 결여되어 있다. 연구할 수 있는 시스템은 두 부류로 나뉜다. 의사결정나무, 규칙 목록, 희소 선형 모델 같은 단순하고 절차적인 것들은 메커니즘이 알려져 있지만 trivial해서, 이들을 설명하는 것은 아무것도 검증하지 않는다. 딥 네트워크나 실세계 과제 같은 진정으로 복잡한 것들은 XAI가 필요하지만 ground-truth 내부 동작이 없어, 설명이 그럴듯하고 자신감 있게 틀릴 수 있으며 이를 판별할 방법이 없다. 우리는 진정으로 복잡하고 완전히 명세되어—설계상 검사 가능하고—그래디언트 방법이 적용되도록 완전히 미분 가능한 연구 대상으로 이 이분법을 제거한다. Atari 2600 Video Computer System(VCS)—실제 컴퓨터 아키텍처이자 딥 강화학습의 요람—을 Julia(jutari)와 JAX(jaxtari)로 각각 독립적인 end-to-end 미분 가능 에뮬레이터 두 개로 재구현했으며, 각각 xitari에 대해 비트 단위로 검증했다. 둘 다 지원되는 64개 Arcade Learning Environment(ALE) 게임 전체에서 xitari를 재현한다: RAM 64/64 바이트 동일, 화면 64/64 픽셀 동일. 카트리지 ROM을 가중치 텐서로, RAM을 soft tape로, 제어 흐름을 게이트로 취급하여, 유한 온도에서 순전파 시 미분 가능(soft) 실행이 원본(hard) 실행과 비트 단위로 동일함을 증명하고, 비트 논리에는 그래디언트가 없는 곳에서 대리 그래디언트(surrogate gradient)를 노출한다. JAX 포트는 GPU 경로도 연다: 배치 미분 가능 롤아웃이 상용 GPU 하나에서 수백만 환경(environment) 스텝/초에 달한다. 이 시스템은 29달력일 동안 약 137시간의 실 작업으로 구축되었으며, 상당 부분은 코딩 에이전트가 자율적으로 작성했다. 본 논문은 기반을 구축·검증하며, 이론적으로 그리고 정성적 그래디언트 연구를 통해 이 위에서 그래디언트 기반 XAI가 실현 가능함을 보인다. 두 포트의 전체 코드는 MIT 라이선스로 https://github.com/akmaier/UnderstandingVCS 에서 이용 가능하다.
원문 초록
Explanation requires ground truth: to verify an account of a system we must know its inner functioning-just what is missing where explainable AI (XAI) is most needed. Systems we can study fall into two camps. Simple, procedural one-decision trees, rule lists, sparse linear models-have a known but trivial mechanism, so explaining them tests nothing; genuinely complex ones-deep networks, real-world tasks-need XAI but have no ground-truth inner functioning, so an explanation can be plausible, confident, and wrong with no way to tell. We remove this dichotomy with a study object both genuinely complex and fully specified-inspectable by construction-and, so gradient methods apply, fully differentiable. We reimplement the Atari 2600 Video Computer System (VCS)-a real computer architecture, and the cradle of deep reinforcement learning-as two independent end-to-end differentiable emulators in Julia (jutari) and JAX (jaxtari), each validated bit-for-bit against xitari. Both reproduce xitari on all 64 supported Arcade Learning Environment (ALE) games: 64/64 byte-identical RAM and 64/64 pixel-identical screens. Treating the cartridge ROM as a weight tensor, RAM as a soft tape, and control flow as gates, we prove the differentiable (soft) execution equals the original (hard) one bit-for-bit in the forward pass at any finite temperature, while exposing surrogate gradients where the bit logic has none. The JAX port also opens a GPU path: batched differentiable rollouts reach millions of environment-steps/s on one commodity GPU. The system was built in roughly 137 active hours over 29 calendar days, much of it written autonomously by coding agents. This paper builds and validates the foundation, showing-theoretically and in a qualitative gradient study-that gradient-based XAI on it is feasible. Both ports' full code is available under the MIT license at https://github.com/akmaier/UnderstandingVCS.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.22447v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
콜모고로프-아놀드 네트워크의 샘플 효율성
Sample-Efficiency of Kolmogorov-Arnold Networks
심층 강화학습은 기존 제어 방식에 비해 상당한 성능 향상을 달성했습니다. 그러나 실제 응용 분야에서 학습을 진행할 때 핵심적인 과제는 비용이 많이 드는 샘플을 획득하는 것입니다. 콜모고로프-아놀드 네트워크(Kolmogorov-Arnold Networks)는 최근 제안된 구조로, 다층 퍼셉트론(Multi-Layer-Perceptron) 구조와 비교했을 때 현저히 높은 매개변수 효율성과 해석 가능성을 바탕으로 제어 문제에서의 물리적 관계를 효과적으로 학습할 수 있습니다. 본 연구에서는 파인만(Feynman) 데이터셋과 Gymnasium RL 벤치마크를 포함하는 계산 실험을 통해 샘플 효율성을 체계적으로 연구합니다. 실험 결과, 콜모고로프-아놀드 구조를 사용하면 40% 더 적은 샘플로도 유사한 성능을 달성할 수 있으며, 학습 과정에서 최대 50%의 상대적 성능 향상이 나타남을 보여줍니다. 관찰된 이득은 다양한 수준의 보상 노이즈에도 강건합니다. 이러한 결과는 보다 샘플 효율적인 강화학습을 위한 콜모고로프-아놀드 구조의 잠재력을 강조합니다. 코드: https://github.com/DerKevinRiehl/neurips26_kan_training
CityDeploy-Bench: 다중 송신기 네트워크 배치를 위한 물리 기반 공간 집합 계획 벤치마킹
CityDeploy-Bench: Benchmarking Physics-Grounded Spatial Set Planning for Multi-Transmitter Network Deployment
도시 규모의 무선 배치 자동화는 복잡한 도심 전파 환경과 네트워크 전역의 간섭 속에서 여전히 어려운 과제로 남아 있다. 본 논문에서는 다중 송신기 배치 문제를 통합된 광선 추적(ray-tracing) 검증기 하에서 물리 기반 공간 집합 계획(physics-grounded spatial set planning) 문제로 재구성한 벤치마크인 CityDeploy-Bench를 소개한다. 이 벤치마크는 유틸리티(utility) 표현과 계획 다이내믹스를 분리함으로써, 다양한 플래너(planner)에 대해 직접적인 스칼라 보상, 관계형 모델, 그리고 고차 상호작용 구조 간의 통제된 비교를 가능하게 한다. 실험 결과, 물리적 결합(coupling)이 커질수록 계획 행동에서 명확한 전환이 나타난다. 배치 품질은 학습된 유틸리티가 송신기 간의 집합적 상호작용을 포착하는지에 점점 더 의존하게 되며, 반면 더 강력한 탐색만으로는 누락된 관계형 구조를 보완할 수 없다. 이는 다중 송신기 배치가 독립적인 공간적 의사결정들의 집합이 아니라, 물리적으로 상호작용하는 집합에 대한 조정(coordination) 문제임을 보여준다. 우리는 의사결정 학습(decision learning)과 물리 기반 무선 네트워크 설계를 연결하는 연구를 위한 재현 가능한 테스트베드로서 CityDeploy-Data와 벤치마크 프레임워크를 공개한다.
5G 및 차세대 네트워크에서의 에너지 절감: 양자 강화학습 접근법
Energy Saving in 5G and Beyond Networks: A Quantum Reinforcement Learning Approach
에너지 절감은 5G 및 차세대(Beyond 5G) 네트워크에서 중요한 과제가 되었습니다. 연결된 기기의 급격한 증가는 전반적인 네트워크 에너지 수요를 증가시켜 운영 비용을 감당하기 어려운 수준으로 끌어올렸습니다. 기지국(BS)은 무선 접속망(RAN) 전체 에너지의 약 60-70%를 소비하며 에너지 사용량의 가장 큰 비중을 차지합니다. 따라서 이 문제를 해결하기 위해 본 논문에서는 사용자 단말(UE)의 동적 동작을 고려하면서 기지국의 에너지 사용량을 최적화합니다. 심층 강화학습(DRL)은 사용자 밀도가 낮을 때 기지국 전원을 자동으로 켜고 끄거나, 전송 전력을 조절하여 에너지 효율과 서비스 품질(QoS)의 균형을 맞추는 등 효과적인 에너지 절감 정책을 결정하기 위한 자연스러운 후보입니다. 그러나 과중한 학습(training) 부담과 밀집된 5G 환경에서 상태 및 행동 공간의 기하급수적인 증가는 탐험(exploration)을 점점 더 어렵게 만듭니다. 이러한 한계를 극복하기 위해, 본 논문에서는 매개변수화된 양자 회로를 통해 중첩과 얽힘을 포함한 양자 원리를 활용하여 기존 심층 신경망에 의존하는 DRL보다 훨씬 빠른 수렴(convergence)을 가능하게 하는 새로운 양자 강화학습(QRL) 알고리즘을 소개합니다. 광범위한 시뮬레이션을 통해 제안된 QRL이 단말의 이동성이 매우 높고 기지국 안테나와의 연결이 빈번하게 전환되는 상황에서도 QoS를 유지하면서 에너지 소비를 대폭 줄일 수 있음을 입증합니다. 또한, QRL은 수렴 속도와 학습 복잡도 측면 모두에서 DRL 및 Q-러닝(Q-Learning)을 일관되게 능가합니다.
다중 신뢰도 정책 그래디언트를 통한 데이터 부족 강화학습 안정화
Multi-Fidelity Policy Gradients Stabilize Data-Scarce Reinforcement Learning
온-정책(on-policy) 강화학습(RL)을 위한 정책 그래디언트(policy gradient) 방법은 비용이 많이 들고 희소한 목표 도메인(target-domain) 데이터가 잡음이 많은 그래디언트 추정치를 낳을 때 불안정해질 수 있다. 본 연구는 제한적인 고신뢰도(high-fidelity, HF) 목표 도메인 데이터를, 단순화된 시뮬레이터 등에서 얻을 수 있는 풍부하고 저렴하지만 편향된 저신뢰도(low-fidelity, LF) 데이터로 보완함으로써 이 문제를 해결한다. 대부분의 기존 방법은 LF 데이터에 기반한 편향된 목적함수를 직접 최적화한다. 이와 달리, 최근 제안된 다중 신뢰도 정책 그래디언트(multi-fidelity policy gradient, MFPG) 프레임워크는 LF 데이터를 오직 분산을 줄이고 HF 데이터 효율을 높이는 제어 변량(control variate)을 구성하는 데에만 사용하며, 정책 그래디언트 추정량에 편향을 주지 않는다. 그러나 기존에 발표된 MFPG 연구는 소규모 시뮬레이션 과제에서의 REINFORCE로 한정되어 있다. 본 연구는 GPU 병렬 시뮬레이션 및 실제 물리 로봇에서 동작하는 현대적인 액터-크리틱(actor-critic) 학습을 위해 MFPG를 확장한다. 분석과 실험 결과, 근접 정책 최적화(proximal policy optimization, PPO)에 단순하게 확장을 적용하면 신뢰도 간 상관관계(cross-fidelity correlation)를 잃거나 분산이 증가할 수 있음을 보인다. 본 연구가 제안하는 MFPG-PPO는 샘플링, 어드밴티지(advantage) 추정, 제어 변량 구성을 재설계하여 신뢰도 간 상관관계를 유지하고, 추정량의 불확실성을 모니터링하여 분산 증가를 방지함으로써 이러한 실패를 해결한다. 또한 고정된 샘플링 예산을 고신뢰도 및 저신뢰도 데이터 소스에 분배하는 예산 인지(budget-aware) MFPG-PPO를 도입한다. LF에서 HF로의 전이 난이도와 HF 데이터 예산이 다양한 모의 로봇 보행(locomotion) 과제 전반에서, MFPG-PPO는 거의 모든 설정에서 HF 데이터만으로 학습한 PPO보다 성능이 우수하며, 가장 어려운 과제에서 가장 작은 HF 예산으로도 16배 더 많은 HF 데이터로 학습한 PPO의 성능과 꾸준히 대등한 결과를 보인다. 반면, LF 데이터를 사용하는 대부분의 기준선(baseline) 방법은 LF에서 HF로의 직접적인 전이가 성공하는 경우에만 좋은 성능을 보인다. MFPG-PPO는 업데이트당 단 4개의 실제 로봇 에피소드만 사용하고 인간 시연(human demonstration) 없이도 실제 Franka 로봇 암에서 안정적인 학습을 가능하게 한다.
WebUIProof: UI-에이전트 실행 하네스를 활용한 WebUI 코드 생성기 벤치마킹
WebUIProof: Benchmarking WebUI Code Generators with UI-Agent Execution Harness
WebUI 코드 생성을 대규모로 평가하는 것은 어렵습니다. 생성 결과물이 컴파일되고 그럴듯해 보일 수 있지만 사용자 상호작용에서는 실패할 수 있으며, 기존 벤치마크는 주로 기능적 정확성을 놓치는 정적 검사(빌드 성공, 스크린샷)와 자유 형식 프롬프트에 크게 의존합니다. 본 논문에서는 일반 WebUI(예: 대시보드, 게임, 대화형 도구)와 3D 대화형 시뮬레이션(예: 입자/은하계 시스템, 물리 역학)의 두 가지 작업군에 걸쳐 WebUI 생성을 위한 구조화된 명세와 조밀하고 실행 가능한 상호작용 테스트를 제공하는 실행 지향적 벤치마크인 WebUIProof를 소개합니다. WebUIProof는 반복적인 계획-행동-관찰(plan-act-observe) 루프를 사용해 헤드리스 브라우저에서 실행 가능한 상호작용 테스트를 구동하는 UI-에이전트(UI-agent) 하네스를 포함합니다. 이는 DOM 요소를 찾고, 행동을 수행하며, 그 결과로 나타나는 UI/DOM 변화를 관찰하고, 지정된 단언문(assertions)을 확인합니다. 8개의 상용 대규모 언어 모델(LLM)에 대해 평가를 진행한 결과, 페이지가 성공적으로 렌더링되더라도 상호작용 기반 요구사항에서 빈번한 실패가 발생함을 관찰했으며, 특히 3D 시뮬레이션 인터페이스에서 이러한 현상이 두드러졌습니다. 마지막으로, UI-에이전트 하네스가 결과 수준의 학습(training) 신호를 제공할 수 있음을 보여줍니다. 실행 가능한 상호작용 테스트에서 파생된 강화학습(RL) 보상으로 소형 모델(예: Qwen2.5 14B 및 MIMO 7B)을 학습시키면 빌드 실패를 줄이면서 기능적 완성도를 향상시킬 수 있습니다.
동형 이점 연산자: 완전동형암호 제약 조건에서의 강화학습 안정화
Homomorphic Advantage Operator: Stabilizing Reinforcement Learning Under Fully Homomorphic Encryption Constraints
기밀 데이터를 다루는 지능형 시스템에서 프라이버시 보존 머신러닝을 클라우드에 배포하는 것은 상당한 과제를 안겨줍니다. 완전동형암호(FHE)는 안전한 연산을 제공하여 클라우드 연산의 데이터 기밀성을 보존하는 매력적인 설루션을 제시합니다. 그러나 강화학습(RL)에 FHE를 적용하려면 비선형 연산을 다항식 근사로 대체해야 하는데, 이는 벨만 드리프트(Bellman drift)로 알려진 고유한 재귀적 오류 현상으로 인해 치명적인 발산을 초래합니다. 본 논문에서는 FHE 기반 심층 강화학습에서 다항식 근사의 발산을 방지하도록 설계된 안정화 프레임워크인 동형 이점 연산자(Homomorphic Advantage Operator, HAO)를 소개합니다. HAO는 이점(advantage) 기반 가치 추정의 영평균 중심화 투영을 시간차(TD) 타깃에 직접 적용합니다. 이 선형 투영은 벨만 드리프트를 유발하는 균일한 상태 가치 기준선(baseline)을 소멸시켜, 추가적인 비선형 곱셈 깊이를 전혀 요구하지 않고 비용이 많이 드는 암호문 부트스트래핑을 피하면서도 상태별 행동 순위를 유지합니다. 제안된 HAO 프레임워크는 표 형태의 마르코프 결정 과정(MDP), 실제 CKKS 암호화 연산을 사용하는 암호화된 CartPole 환경, 조밀한 연속형 특성을 지닌 20개 노드의 물류 라우팅 벤치마크를 포함하는 3단계 실험 방법론을 통해 평가되었습니다. 결과에 따르면 제안된 HAO는 네트워크 사전 활성화 값을 안전한 다항식 근사 도메인 내로 엄격하게 제한합니다. 제안된 HAO 강화학습 에이전트는 사용된 모든 무작위 시드에서 0%의 경계 이탈을 달성한 반면, 정규화(L2 가중치 감쇠 및 그래디언트 클리핑)만을 적용했을 때는 5개 시드 중 3개에서 경계를 벗어났고 안정화되지 않은 기준선 모델은 83.8%의 에피소드에서 경계를 이탈했습니다. 마지막으로, HAO 에이전트는 표 형태 도메인에서 최적 정책 정확도를 18.0%포인트 향상시키며, 클리핑된 그래디언트에 DP-SGD 스타일의 가우시안 노이즈가 추가되었을 때도 안정성을 유지합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.