1차 앰비소닉스(FOA) 신호는 정확한 O(3) 대칭성을 나타낸다. FOA 신호를 회전하거나 반사하면 음원 자체는 유지되면서 음원의 도달 방향(direction of arrival)만 바뀐다. FOA의 이러한 공간 대칭성을 활용해 음향 이벤트 검출 및 위치 추정(SELD) 시스템의 효율과 견고성을 높이려 한 기존 시도들은 회전 기반 증강으로 대칭성의 근사만 학습했거나, 등변성을 통합하기 위해 계산 비용이 큰 방법에 의존했다. 또한 선행 연구는 SO(3) 등변성에만 집중해 SELD 과제에 O(3) 등변성을 도입할 잠재력을 불분명하게 남겼다. 이러한 한계를 해결하기 위해 EquiSELD를 개발했다. 이 등변 어텐션 네트워크는 1차 앰비소닉스를 O(3)-불변 스칼라와 등변 intensity 벡터의 쌍(pair) 스트림으로 처리하고, Multi-ACCDOA readout을 통해 불변 활동(activity) 크기와 등변 DOA를 산출한다. O(3)와 SO(3) 등변성의 영향을 비교하기 위해 SO(3)만 사용하는 짝 맞춘(matched) 변형을 설계했다. EquiSELD는 측정된 RIR(룸 임펄스 응답)을 사용한 시뮬레이션 장면과 실제 음향 장면 녹음 모두에서, 훨씬 적은 학습 비용으로 기존 등변 네트워크를 능가한다. EquiSELD는 또한 시뮬레이션된 실제 음향 장면에서 유사한 규모의 비등변 SELD 네트워크 성능을 넘어서며, 실제 음향 장면에서는 경쟁력 있는 성능을 달성한다.
풍부한 음악 구조의 내부 표현은 기계 보조 음악 공동 작곡과 같은 음악 이해 작업에 필수적이지만, 기호 음악 표현을 위한 자기지도 학습(SSL) 접근법은 여전히 충분히 탐구되지 않았으며, 특히 음악 구조의 계층적 다중 척도(multi-scale) 특성을 인코딩하는 방법은 더욱 그렇다. 우리는 피치(pitch) 및 시간 이동(time-shift) 동변성(equivariance) 목표를 LeJEPA와 Swin Transformer V2 인코더와 결합한 MIDI-RAE-JEPA를 제안하여, 피아노 롤(piano roll) 이미지로 인코딩된 기호 음악의 이러한 계층적 표현을 학습한다. 시간 이동 동변성 목표는 모델이 시간적 음악 관계를 내면화하도록 유도한다. 인코더는 마스크된 임베딩 예측기(MEP)를 포함한 순수 자기지도 목표로만 학습되며, SIGReg를 통해 붕괴(collapse)를 방지한다. 고정(frozen)된 인코더 임베딩 위에서 학습된 별도의 디코더는 재구성 F1 0.995를 달성하며, 해당 임베딩을 조건으로 하는 flow matching 생성 모델은 조건 발췌(conditioning excerpt)의 음역(pitch register)과 리듬 밀도(rhythmic density)를 밀접하게 재현하는 생성 결과를 만들어 내는 반면, 불일치하는 조건(conditioning)은 관련 없지만 음악적으로 그럴듯한(plausible) 출력을 낳는다. 학습된 표현은 하위 감정 분류 작업에서 Haar scattering transform 기준선을 능가하며, 임베딩 거리는 피치 및 시간 이동 크기에 따라 단조 증가하여 가측 가능한 동변성을 확인한다. 이러한 결과는 동변성 기반 SSL 목표가 충분한 세밀 수준(fine-level) 인코더 용량과 결합될 때, 기호 음악의 의미적으로 풍부하고 생성에 유용한 표현을 향한 실행 가능한 경로를 제공함을 시사한다.
기하학적 인과 모델(GCM)은 공간·네트워크·분자 데이터와 같이 독립 동일 분포(i.i.d.)를 따르지 않는 구조화된 데이터에서 인과 추론을 수행하기 위해, 데이터 생성 과정의 대칭성을 군론(group theory)으로 형식화한 통합 프레임워크다. 에르고딕 이론으로 인과 식별을 보장하고 기하학적 심층 학습과 베이즈 추론을 결합한 추정 방법을 제시하며, DNA 대칭성을 만족하는 GCM을 구성해 유전적 변이 효과를 추정하는 데 적용했다.
이면체 군(dihedral group)의 반사 변환을 UNet, ViT, DiT 아키텍처의 중간 은닉 상태에 통제된 내부 개입으로 적용하여, 기하학적으로 일관된 변환은 특징(feature) 안정성을 향상시키는 반면 비일관된 변환은 예측 가능한 공간적 정합 실패를 유발함을 SCS, AMS, Drift 등의 활성화 수준 진단 지표와 FID, CLIP 점수를 통해 실증하였다. Stable Diffusion 2.1 U-Net 실험을 중심으로 ViT 및 DiT 분석을 함께 제시하며, 공간적으로 구조화된 비전 및 확산 모델에서 안정적인 은닉 상태 개입을 위한 핵심 원칙으로 기하학적 일관성을 확립한다.
확산 모델이 이미지 합성에 혁신을 가져왔음에도 불구하고, 실세계 역문제(inverse problem)에의 적용은 대규모 데이터셋의 필요성과 엄격한 물리적 제약을 부과하는 어려움으로 인해 종종 제한된다. 본 연구에서는 광범위한 사전학습 없이 비적정(ill-posed) 이미징 태스크를 해결하도록 설계된 프레임워크인 SE-UNet(Singular Equivariant UNet)을 제안한다. 생성을 기하학적 등변성($D_4$ 군) 및 특이값 게이팅(singular value gating)에 의해 제약된 최적화 문제로 취급함으로써, SE-UNet은 해 공간을 효과적으로 표준화한다. 이러한 강력한 귀납적 편향(inductive bias)이 CIFAR-10에서 최첨단 제로샷 인페인팅 결과(80% 픽셀 누락)를 가능하게 함을 입증한다. 본 방법은 Deep Image Prior (DIP) 기반선 대비 PSNR에서 4 dB 이상을 능가하며, 신호 다양체(signal manifold)로 빠르게 수렴하는 특유의 "singular snap" 수렴 특성을 보인다. SE-UNet은 이론적 사전(prior)과 실용적 배포를 연결하는 ReALM-GEN 목표에 부합하는, 제약 생성을 위한 데이터 효율적 경로를 제공한다.
비전 트랜스포머는 시각 인식을 위한 지배적인 아키텍처가 되었다. 그러나 표준 모델은 많은 비전 도메인에서 나타나는 평면 대칭성을 명시적으로 인코딩하지 않는다. 우리는 $\mathrm{O}(2)$의 임의의 이산 부분군에 대해 등변(equivariant)인 비전 트랜스포머 모델군을 제안하며, 이는 기존의 flipping- 및 $D_4$-등변 트랜스포머 아키텍처를 일반화하는 통합 프레임워크를 제공한다. 우리의 구성은 핵심 트랜스포머 구성 요소의 등변 대응물을 만들어내며, 결과 층에 대한 표현력 보장을 함께 제공한다. 특히, $H \le G$일 때마다 $G$-등변 ViT의 클래스가 $H$-등변 ViT의 클래스에 자연스럽게 임베딩됨을 보인다. 또한 단일 헤드(single-head) 설정에서, 해당 등변 self-attention 층이 일반 self-attention으로 표현 가능한 모든 $G$-등변 self-attention map을 실현함을 증명한다. 더 나아가 육각형 패치 기반의 $D_6$-등변 모델을 구성하여, 아키텍처를 6중 회전 대칭과 호환되게 한다. PatternNet 항공 영상 데이터셋에서 $D_4$ 및 $D_6$의 부분군 전반에 걸쳐 인위적으로 데이터 부족(data-scarce) 체제 하에서 결과 모델을 평가한다. 실험에서는 두 가지 등변 어텐션 메커니즘을 비교하고, 비선형성에 사용되는 동차 공간(homogeneous-space) 구성 선택이 성능에 미치는 영향을 분석한다. 매개변수 예산이 일치하는 조건에서의 예비 결과는 등변성이 인식 정확도를 향상시킬 수 있음을 나타내며, 이산 대칭군이 트랜스포머 기반 시각 인식 모델을 어떻게 형성하는지에 대한 추가 연구를 촉진한다.
변분 추론(variational inference)으로 학습하는 베이지안 신경망(BNN)에서 데이터 증강이 등변성(equivariance)을 어떻게 유도하는지 이론적으로 분석하고, 지수족 변분 분포에서 정확한 등변성 조건과 등변성 오차 상한을 도출한다. orbit expansion 등 세 가지 대칭화 기법을 제안해 증강 효과를 강화했으며, 수치 실험에서 orbit expansion이 등변성과 분류 성능 모두에서 기준선을 능가함을 보였다.
그룹 대칭성을 가진 잠재 월드 모델(latent world model)의 신뢰 수평선(trust horizon)을 분할 등각 보정(split-conformal calibration)으로 통계적으로 보수적인 인증서로 만들고, 정확한 등변성(equivariance)을 통해 하나의 보정 구역에서 전체 군 궤도(group orbit)로 전파하는 방법을 제안한다. 50회 감사에서 위반이 전혀 발생하지 않았으며, 궤도 전파 잔차 중앙값 1.1%, 인증-측정 수평선 비율 중앙값 0.67의 비공허(non-vacuous) 인증서를 달성하였다.
Adam과 같은 좌표별 옵티마이저가 신경망 매개변수 공간의 대칭성·등변성을 반영하지 못하는 문제를 해결하기 위해, 각 가중치 블록의 대칭군에 등변인 갱신을 설계하는 대칭 호환 원칙을 제안하고 임베딩, LM head, SwiGLU MLP, MoE router용 층별 옵티마이저 스택을 유도한다. Qwen3·Gemma3·OLMoE·gpt-oss 스타일 dense·sparse MoE(전문가 혼합) 언어 모델 사전학습에서 AdamW 대비 최종 검증 손실 개선, sparse MoE의 전문가 부하 불균형 완화, router 안정성 및 전반적 학습 안정성 향상이 일관되게 확인된다.
로렌츠 등변 제트 태거가 내부적으로 무엇을 학습하는지, L-GATr, L-GATr-slim, LLoCa-T를 포함한 다섯 개 모델에 대해 등변성 테스트, 선형 프로브(linear probe), grade 소거를 통해 조사하였다. 선형 프로브는 등변 모델이 기준계에 의존하는 의사빠르기(pseudorapidity)를 0으로 억압하면서 제트 질량과 N-subjettiness를 강하게 인코딩함을 보여준다. L-GATr에 대한 grade 소거는 top 쿼크 태깅에서 이벌렉터(bivector) 채널은 무시할 만한 반면, 벡터형 채널은 지배적이지만 시드(seed)에 따라 달라짐을 밝히며, 이는 네트워크가 여러 표현 경로를 활용하고 있음과 일치한다. 이러한 결과는 등변 태거에서 어떤 물리적 특징과 대수적 grade 구조가 판별 정보를 담는지 특성화하며, 향후 이러한 모델의 개발에 기여할 수 있다.
변형 가능한 객체의 충돌을 시뮬레이션하는 것은 고체 역학(solid mechanics)과 다물체 상호작용(multi-body interactions)의 복잡성으로 인해 근본적이면서도 어려운 과제이다. 기존의 데이터 기반 방법들은 물리적 대칭성에 대한 등변성(equivariance) 부재, 충돌 처리의 미흡함, 그리고 제한된 확장성 문제를 흔히 겪는다. 본 논문에서는 변형 가능한 객체와 그 충돌을 위한 최초의 종단간 등변 신경 필드(neural fields) 시뮬레이터인 EqCollide를 소개한다. 우리는 객체의 형상과 속도를 잠재 제어점(control points)으로 매핑하는 등변 인코더를 제안한다. 이어지는 그래프 신경망(GNN) 기반 신경 상미분방정식(Neural Ordinary Differential Equation)은 충돌 인식 메시지 패싱(collision-aware message passing)을 통해 제어점 간 상호작용을 모델링한다. 속도 필드를 재구성하기 위해, 제어점 특징에 조건부로 설정된 신경 필드를 질의함으로써 연속적이고 해상도 독립적인 모션 예측을 가능하게 한다. 2D 및 3D 시나리오에 대한 실험 결과, EqCollide는 다양한 객체 구성에서 정확하고 안정적이며 확장 가능한 시뮬레이션을 달성함을 보인다. 최고 성능 기준선(baseline) 모델과 비교하더라도 롤아웃 MSE를 24.34%에서 57.62%까지 낮추는 성과를 거두었다. 또한 EqCollide는 더 많은 충돌 객체와 확장된 시간적 지평선으로 일반화할 수 있으며, 군 작용(group action)으로 변환된 입력에 대해서도 강건성을 유지한다. 코드는 https://github.com/AI4Science-WestlakeU/EqCollide 에서 확인할 수 있다.
대칭성(equivariant)을 가진 잠재 세계 모델의 예측 가능한 수평선을 보증하는 계산 가능한 인증서를 제안하며, 이는 리아푸노프 스펙트럼을 기반으로 오차를 층화하여 모델의 신뢰성을 정량화합니다. 실험 결과 대칭성 네트워크가 기존 방법보다 우수한 성능을 보이고, 제안된 방법이 사전학습된 모델의 보정 범위를 학습 없이 검증할 수 있음을 입증했습니다.