RAOA: 프로그래머블 무선 전파를 활용한 교차 연산자 신경망 연산
RAOA: Alternating-Operator Neural Computation with Programmable Radio Propagation
프로그래머블 무선 전파(programmable radio propagation)가 단순한 통신 채널이나 일회성 아날로그 변환을 넘어 연산 깊이(computational depth) 역할을 수행할 수 있을까? 본 논문에서는 지속적인 잠재 상태(latent state) 상에서 에너지 기반 문제 업데이트와 혼합 업데이트를 교차 수행하는 순환형 컴퓨팅 아키텍처인 무선 교차 연산자 안사츠(Radio Alternating Operator Ansatz, RAOA)를 제안한다. 각 혼합 단계 이후 문제 필드를 재계산함으로써, 여러 층에 걸쳐 동일한 학습된 제어 파라미터를 재사용하더라도 반복적인 패스가 합성적(compositional) 특성을 갖도록 만든다. 우리는 정확한 이산 최적화, 제약 조건이 있는 프로그래머블 전파 시뮬레이션, 사전학습 모델 적응(adaptation)을 통해 이 아이디어를 평가한다. 이산 목적 함수에서 반복 실행은 학습된 제어 파라미터 수를 늘리지 않고도 해의 품질을 향상시킬 수 있으며, 동일한 정식화로 고차 상호작용을 직접 처리할 수 있다. 나아가 수동형 위상 전용(phase-only) 자유 공간 모델을 통해, 구현 오차에도 불구하고 유용한 다운스트림 동작을 유지하면서 필요한 연산자를 프로그래머블 전파로 근사할 수 있음을 보인다. 0으로 초기화된 잔차 어댑터(residual adapter)로 삽입될 때, RAOA는 세 가지 모델 패밀리에 걸쳐 매칭된 얕은 MLP와 유사한 WikiText 성능으로 사전학습 언어 모델을 적응시키는 반면, 추론 태스크 전이는 모델에 따라 차이를 보인다. 종합적으로, 이러한 결과는 교차 연산자 연산, 프로그래머블 무선 전파, 신경망 적응을 단일 순환 프레임워크 내에서 연결한다. 단, RF 구현에 관한 증거는 하드웨어 실증이 아닌 시뮬레이션에 기반한다.