체화 SLM에서의 기하학 조건화: 0.8B 하이브리드 모델의 학습 제어와 견고성 진단
Geometry Conditioning in an Embodied SLM: Training Controls and Robustness Diagnostics in a 0.8B Hybrid Model
한국어 초록
조작(manipulation)에 맞춘 0.8B 하이브리드 언어 모델에서 학습 가능 파라미터 6.2M개를 두고, 물리 상태 입력이 모델에 어떤 영향을 미치는지 연구한다. 세 가지 LIBERO-Spatial 태스크에서 여섯 가지 조건을 학습하고, 세 개의 시드와 540개의 홀드아웃 롤아웃으로 평가한다. 순환 감쇠 게이트를 기하학적 증분에 조건화하면 성공률 28.9%인 반면, 학습 중 해당 증분을 셔플하면 36.7%, 명시적 객체/목표 기하학 없이는 24.4%이다. 두 기하학 정책 모두 평가 시 올바른 입력을 받는다. 동일한 증분을 쓰는 토큰 어댑터는 27.8%이며, 시드별 차이는 크고 결론을 내리기 어렵다. 토큰-클럭(token-clock) 조건화는 11.1%로, 수렴하지 못한 시드가 하나 포함된다. 별도 견고성 테스트에서 상태만 사용하는 상대 좌표 정책은 프레임 재라벨링(frame relabeling)에서 10회 중 7회 성공을 유지하는 반면, 시험한 네 가지 시각 정책은 객체를 5 cm 이동한 뒤 모두 최대 20회 중 3회 이하로 떨어진다. 이 결과는 본 설정에서는 학습 시점 기하학 정렬의 뚜렷한 이점이 없음을 보여 주며, 좌표 불변성과 물리적 배치 일반화 사이의 간극을 드러낸다. 에피소드 기록, 시드 수준 분석, 그림 생성 코드가 논문과 함께 제공된다.
원문 초록
We study how physical-state inputs affect a 0.8B hybrid language model adapted for manipulation with 6.2M trainable parameters. Six conditions are trained on three LIBERO-Spatial tasks and evaluated over three seeds and 540 held-out rollouts. Conditioning recurrent decay gates on geometric increments yields 28.9% success, compared with 36.7% when those increments are shuffled during training and 24.4% without explicit object/goal geometry. Both geometry policies receive correct inputs at evaluation. A token adapter using the same increments scores 27.8%; differences vary across seeds and remain inconclusive. Token-clock conditioning scores 11.1%, including one seed that fails to converge. In separate robustness tests, a state-only relative-coordinate policy retains 7/10 success under frame relabeling, whereas all four tested visual policies fall to at most 3/20 after a 5 cm object displacement. These results show no reliable advantage from training-time geometric alignment under this recipe and illustrate the gap between coordinate invariance and physical-layout generalization. Episode records, seed-level analyses, and figure-generation code accompany the paper.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2609.09213v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.