Screw Attention: 트랜스포머 내부의 강체 대수학
Screw Attention: Rigid-Body Algebra Inside a Transformer
학습 기반 조작 정책(learned manipulation policy)은 강체 역학(rigid-body mechanics)이 닫힌 형식(closed form)으로 제공하는 공간적 관계를 데이터로부터 다시 학습하므로, 기하학적 변화에 취약해집니다. 본 논문에서는 두 강체 간의 관계를 그래프 에지 대신 공간 변환(spatial transform)으로 다루는 트랜스포머 층인 Screw Attention을 제안합니다. 각 토큰 쌍은 상대적 포즈(pose)를 지니며, 로봇 관절의 경우 관절 스크루(joint screw)도 함께 포함합니다. 메시지는 이러한 관계를 따라 수신자의 좌표계(frame)로 변환되어 전달되는 반면, 어텐션 스코어는 좌표계 불변(frame-invariant) 수치만을 참조합니다. 설계상 메시지는 모든 토큰에서 독립적인 좌표계 변환에 대해 동변(equivariant)성을 가지며, 단일 층만으로도 강체 역학의 속도 재귀(velocity recursion)를 표현할 수 있습니다. 물체 포즈만으로 학습된 16k 파라미터 정책은 LIBERO-Spatial에서 97.3%의 성공률을 달성하여, 동일한 크기의 그래프, 트랜스포머, 플랫(flat) 네트워크뿐만 아니라 27배 더 많은 파라미터를 가진 플랫 네트워크보다 뛰어난 성능을 보였습니다. 절제 연구(ablation study)에 따르면 이러한 성능 향상은 올바른 관계를 전달하는 데서 기인하며, 다른 방식으로는 제공되지 않는 좌표계 간 관계를 요구하는 작업일수록 이러한 구조의 효과가 가장 두드러졌습니다. 이러한 동변성 덕분에 좌표계 규약이 변경될 때 다른 모든 학습 기반 네트워크가 실패하는 상황에서도 정책이 로봇 기술 방식에 강건하게 유지됩니다. 나아가 이 정책은 해석적 제어기(analytic controller) 못지않게 포즈 노이즈와 캘리브레이션 오차를 견뎌냅니다. 해석적 제어기에 게이트 잔차(gated residual) 형태로 적용했을 때, 접촉이 많은 삽입 작업의 성능 또한 향상되었습니다. 코드와 학습된 정책은 공개될 예정입니다.