지각에서 상상으로: 월드 모델을 위한 실행 가능한 메모리
Perception into Imagination: Executable Memory for World Models
한국어 초록
물리적 에이전트는 이전에 보거나 만진 것을 더 이상 보거나 접촉할 수 없을 때에도 활용해야 한다. 에이전트의 행동에 따라 기억한 사실이 의미하는 바가 달라진다. 상상으로 미래를 예측할 때 신경망의 잠재 동역학과 함께 명시적인 지각 상태를 전개하는 월드 모델 프레임워크, 실행 가능한 지각 메모리(EPM)를 소개한다. 계속 변화하는 지각 판독값은 보상 예측, 가치 추정, 정책 학습에 쓰인다. 보상 입력을 이를 만든 전이와 정렬하고, 기록된 행동의 개루프 롤아웃으로 보상 헤드를 지도한다. Memory Maze $13\times13$에서 EPM은 상호작용 100만 회 시점의 누적 보상 30.37을 달성했다. 같은 지각 전처리 모듈에서 변화하는 판독값을 정책 및 가치 추정에만 쓰면 23.37이었다. 차이는 7.00[3.80, 10.21]이었다. 전체 방법은 $9\times9$ 미로와 MiniWorld에서도 제어 성능을 높였다. 기억은 있으나 시야 밖인 도착 지점에 대한 탐침에서는 두 시각 구현 모두 보상을 더 잘 예상했다. 집중력 과제, 촉각 복구, 실제 촉각 프레임은 기억한 사실이 상상 속 롤아웃을 통한 정책 학습, 움직임에 따른 결정, 감각 정보 보존에서 서로 보완적인 역할을 함을 보여 준다. EPM은 지속되는 지각 정보를 물리 AI용 월드 모델이 예측하는 결과와 학습 신호에 연결한다.
원문 초록
Physical agents must use what they previously saw or touched after visibility or contact is lost. Their actions change the implications of these remembered facts. We introduce executable perceptual memory (EPM), a world-model framework that advances explicit perceptual state alongside neural latent dynamics during imagination. Its evolving read-out informs reward prediction, value estimation and policy learning. We align reward inputs with the transitions that produced them and supervise the reward head on open-loop rollouts of recorded actions. On Memory Maze $13\times13$, EPM reaches 30.37 return at 1M interactions, compared with 23.37 when the same evolving read-out informs only policy and value on a common perceptual front end: a gain of 7.00 [3.80, 10.21]. The complete method also improves control on $9\times9$ and in MiniWorld. Probes of remembered, out-of-view arrivals show stronger reward anticipation in both visual implementations. Concentration, tactile recovery and real tactile frames demonstrate complementary roles of remembered facts in imagined-policy training, motion-dependent decisions and sensory-content retention. EPM connects persistent perception to the predicted consequences and learning signals of a world model for Physical AI.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.22294v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.