최신 딥러닝 방법은 지진 탐지를 개선했지만, 가장 널리 쓰이는 접근법은 대체로 대규모 레이블 파형 데이터셋을 이용한 지도 학습에 의존한다. 이러한 데이터셋을 구축하는 일은 시간이 많이 들고, 기존 카탈로그, 탐지 파이프라인, 사람의 검토에서 비롯된 편향을 유발하여 데이터셋 간 일반화와 과소 대표된 사건에 대한 민감도를 제한할 수 있다. 본 논문은 사건/잡음 레이블 없이 원시 파형으로부터 직접 학습할 수 있는 비지도 지진 사건 탐지 방법인 RECOVAR를 제시한다. 이 방법은 합성곱 오토인코더의 앙상블을 사용하며, 교차 공분산 기반 지표를 통해 압축된 잠재 표현의 시간적 정렬을 측정함으로써 사건을 탐지한다. 결과는 RECOVAR가 공개 벤치마크 데이터셋에서 지도 학습 탐지기의 성능에 도달할 수 있고, 데이터셋 간 시나리오에서도 견고하며, 사건을 포함한 창이 학습 스트림의 $1\%$ 미만인 불균형 연속 파형 데이터에서도 효과적임을 시사한다. 또한 이 방법은 다중 관측소 환경에서 정밀도를 높이는 필터로 작용하여 지도 학습 파이프라인을 보완할 수 있다. 탐지 원리가 도메인 특화 가정을 두지 않으므로, 이 접근법은 지진학을 넘어 신호 탐지 문제로 확장될 수 있다.
확산 오토인코더(DA)는 확산 과정과 함께 표현을 포착하기 위해 입력에 의존하는 잠재 변수를 사용하는 확산 모델의 변형이다. 이 잠재 변수는 일반적으로 다운스트림 분류, 제어 가능한 생성, 보간과 같은 작업에 사용된다. 그러나 잠재 변수는 비조건부 생성에도 영향을 미치며, 그 성능은 이 변수를 어떻게 모델링하고 학습하는지, 그리고 잡음 제거 과정에서 어떻게 사용하는지에 크게 좌우된다. 본 연구에서는 DA와 개선된 확산 모델의 특정 부류, 즉 순방향(잡음 추가) 과정을 학습하는 모델 사이의 연관성을 제시하여, DA가 생성 모델로서 아직 실현되지 않은 잠재력을 지니고 있음을 주장한다. 우리는 잠재 변수의 선택과 조건화 방법 같은 특정 설계 결정을 채택하면 이러한 생성 잠재력을 실현하는 데 도움이 됨을 보이기 위해, $z$를 갖는 확산 모델(DMZ)이라는 DA의 변형을 개발한다. 광범위한 실험과 절제 연구를 통해 DMZ가 더 적은 반복 횟수로 수렴하고, 더 적은 잡음 제거 단계로 고품질 샘플을 생성하며, 분류와 도메인 전이 같은 다운스트림 작업에 효과적인 잠재 표현을 학습함을 보인다.
현대 AI를 둘러싼 흥분의 상당 부분은 기존 시스템을 확장하면 더 나은 성능으로 이어진다는 관찰에서 비롯된다. 그러나 더 나은 성능이 반드시 더 나은 내부 표현을 의미하는가? 표현 낙관론자는 그래야 한다고 가정하지만, 이 입장 논문은 그러한 견해에 이의를 제기한다. 우리는 단일 이미지를 생성하는 단순한 과제에서, 개방형 탐색 과정을 통해 진화시킨 신경망과 통상적인 확률적 경사 하강법(SGD)으로 학습한 신경망을 비교한다. 이 최소한의 설정은 고유한 이점을 제공한다. 각 은닉 뉴런의 전체 기능적 동작을 이미지로 쉽게 시각화할 수 있어, 네트워크의 출력 동작이 뉴런 단위로 내부에서 어떻게 구성되는지 드러나기 때문이다. 결과는 놀랍다. 두 네트워크가 동일한 출력 동작을 생성함에도 내부 표현은 극적으로 다르다. SGD로 학습된 네트워크는 우리가 파편화된 얽힘 표현(FER)이라 부르는 일종의 비조직화를 보인다. 흥미롭게도 진화된 네트워크는 대체로 FER이 없으며, 통합된 분해 표현(UFR)에 근접하기까지 한다. 대규모 모델에서 FER은 일반화, 창의성, (지속적) 학습과 같은 핵심 모델 능력을 저하시키고 있을 수 있다. 따라서 FER을 이해하고 완화하는 것이 표현 학습의 미래에 중요할 수 있다.
최근 교차 스펙트럼 이미지 패치 매칭에서 특징 관계 학습이 폭넓은 주목을 받고 있다. 그러나 기존 연구는 이미지 패치 간의 다양한 특징 관계를 포착하는 데 집중하고, 개별 이미지 패치의 충분한 내재적 특징 표현은 간과한다. 이러한 한계를 해결하기 위해, 개별 이미지 패치의 내재적 특징과 이미지 패치 간의 특징 관계를 동시에 충분히 발굴하는 데 초점을 맞춘 혁신적인 관계 표현 학습을 제안한다. 이를 바탕으로 관계 표현 학습 네트워크(RRL-Net)를 구축한다. 구체적으로, 개별 내재적 특징을 효과적으로 특성화하기 위해 오토인코더를 새롭게 구성하고, 심층 수준의 특징 관계를 추출하기 위해 특징 상호작용 학습(FIL) 모듈을 도입한다. 한편 개별 내재적 특징을 더욱 충분히 발굴하기 위해, 개별 이미지 패치의 전역 특징 추출을 강화하고 전역 특징 내의 지역 의존성을 포착하는 경량 다차원 전역-지역 어텐션(MGLA) 모듈을 구성한다. MGLA 모듈을 결합하여 특징 추출 네트워크를 추가로 탐구하고, 어텐션 기반 경량 특징 추출(ALFE) 네트워크를 구축한다. 또한 파라미터 수와 추론 시간의 증가를 피하면서 네트워크 최적화를 크게 촉진할 수 있는 다중 손실 사후 가지치기(MLPP) 최적화 전략을 제안한다. 폭넓은 실험을 통해 RRL-Net이 여러 공개 데이터셋에서 최첨단(SOTA) 성능을 달성함을 입증한다. 코드는 https://github.com/YuChuang1205/RRL-Net 에서 확인할 수 있다.
우리는 교사 네트워크의 잠재 특징에 대한 마스킹 예측을 통해 포인트 클라우드 표현을 학습하는 자기 지도 방법인 point2vec을 제시한다. data2vec을 기반으로 하여, 이 접근법을 포인트 클라우드에 적용할 때의 한계를 조사한다. 마스킹된 패치와 연관된 위치 정보가 학생 네트워크에 전체 객체 형태를 드러내어, 강한 마스킹 하에서도 학습 과제를 약화시킨다는 점이다. point2vec은 보이는 패치만 학생 인코더에 전달하고 마스킹된 패치의 표현을 예측하는 얕은 디코더를 도입하여 이 문제를 해결한다. 교사는 완전한 포인트 클라우드를 처리하여 맥락화된 학습 목표를 제공한다. 이러한 목표는 교사의 셀프 어텐션을 통해 전역 맥락을 포착하여 개별 패치의 국소 기하를 넘어선 지도를 제공한다. 이 설계는 마스킹된 패치의 위치를 학생에게 숨기고 사전 학습 중 계산 비용을 줄인다. 어블레이션 결과, 디코더만으로는 개선의 일부만 얻어지며 위치 정보를 숨기는 것이 핵심임을 보인다. ShapeNet에서 사전 학습한 후, point2vec은 ModelNet40과 ScanObjectNN의 형상 분류 및 ModelNet40의 퓨샷 분류에서 평가된 자기 지도 기준 모델들을 능가하며, ShapeNetPart의 부분 분할에서는 경쟁력 있는 결과를 달성한다.