유능한 GUI 에이전트를 학습시키려면 환경은 얼마나 완전해야 하는가?
How Complete Must an Environment Be to Train a Capable GUI Agent?
한국어 초록
그래픽 사용자 인터페이스(GUI) 에이전트는 실행 가능한 GUI 환경에서 널리 학습된다. 비용을 낮추고 환경을 일괄 구축하며 수작업을 줄이기 위해, 각 연구는 구축 방식의 선택을 통해 환경의 일부를 포기한다. 우리는 이러한 선택을 세 가지 차원으로 기술한다. 보상 범위는 검증기가 보상하는 목표 도달 궤적이고, 데이터 범위는 과제가 읽거나 쓰는 것 이외에 에이전트가 접하는 애플리케이션 데이터이며, 기능 범위는 과제가 사용하는 것 이외의 애플리케이션 기능이다. 기존 연구는 각 차원을 공학적 근거로 설정하지만 그것이 학습에 미치는 영향은 측정하지 않는다. 유능한 에이전트를 학습시키려면 환경이 얼마나, 어떤 차원에서 완전해야 하는가? MobileGym에서 우리는 각 차원을 개별적으로 조정하고 Qwen3-VL-4B-Instruct를 학습시킨 뒤 모든 정책을 원래의 완전한 환경에서 평가한다. 단 하나의 참조 경로만 보상하는 검증기는 성공률을 10.53포인트 낮추며, 불필요한 레코드를 제거해도 성공률이 낮아진다. 반면 불필요한 기능을 가지치기하면 성공률이 51.61%에서 56.13%로 오르며, 이는 전적으로 환경이 변경되지 않은 과제에서 나타난다. 이 이득은 각 에피소드에 동일한 가중치를 줄 때 뒤집히고, 가지치기된 과제의 에피소드만 균형을 맞추면 사라진다. 가지치기가 없으면 해당 과제에서의 길이 가중치가 긴 우회 성공을 강화하여 다른 과제의 기술을 약화시킨다. 이러한 결과에 따라 우리는 보상 및 데이터 범위는 완전하게 유지하고 불필요한 기능은 가지치기하는 MobileGym-Lite를 구축한다. 이는 더 낮은 구축 비용으로 완전한 환경에서 Full보다 우수한 성능(성공률 55.48% 대 51.61%)을 보인다.
원문 초록
Graphical user interface (GUI) agents are widely trained in executable GUI environments. To lower cost, build environments in batches, and reduce manual effort, each work trades away part of the environment through its construction choices. We describe these choices along three dimensions: reward coverage, the goal-reaching trajectories the verifier rewards; data coverage, the application data the agent is exposed to beyond what the task reads or writes; and feature coverage, the application features beyond what the task uses. Existing works set each dimension on engineering grounds, but they do not measure its effect on training. How complete must an environment be to train a capable agent, and along which dimensions? In MobileGym, we adjust each dimension separately, train Qwen3-VL-4B-Instruct, and evaluate every policy in the original full environment. A verifier that rewards only one reference path lowers success by 10.53 points, and removing unneeded records also lowers success. Pruning unneeded features instead raises success from 51.61% to 56.13%, entirely on tasks whose environments it left unchanged. The gain reverses when each episode is weighted equally and vanishes when only episodes on the pruned tasks are balanced. Without pruning, length weighting there reinforces long detour successes that erode skills on other tasks. Following these findings, we build MobileGym-Lite, which keeps reward and data coverage complete and prunes unneeded features. It outperforms Full in the full environment (55.48% versus 51.61% success) with lower construction cost.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.23946v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.