PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2510.13210v2cs.LG

볼츠만 머신 학습에서 이징 및 QUBO 변수 인코딩의 성능 평가

Performance Evaluation of Ising and QUBO Variable Encodings in Boltzmann Machine Learning

본 연구에서는 각 비교 내에서 샘플러, 옵티마이저(optimizer), 학습률 설계를 고정한 통제된 프로토콜 하에 볼츠만 머신 학습(Boltzmann machine learning)을 위한 이징(Ising, {-1, +1}) 및 QUBO({0, 1}) 인코딩을 비교합니다. 피셔 정보 행렬(Fisher Information Matrix, FIM)이 충분통계량의 공분산과 같다는 항등식을 활용하여, 모델 샘플로부터 도출된 경험적 모멘트를 시각화하고 표현에 따른 체계적인 차이를 밝혀냅니다. QUBO는 1차 및 2차 통계량 간에 더 큰 교차항(cross term)을 유발하여 FIM에서 더 많은 작은 고윳값 방향을 생성하고 스펙트럼 엔트로피를 낮춥니다. 이러한 불량 조건(ill-conditioning)은 확률적 경사하강법(SGD) 환경에서 수렴이 더 느려지는 원인을 설명합니다. 대조적으로, FIM 메트릭으로 업데이트 크기를 재조정하는 전체 FIM 자연 경사하강법(NGD)은 인코딩 전반에 걸쳐 유사한 수렴을 달성하는 반면, 대각 FIM 근사는 표현에 따른 차이를 다시 야기할 수 있습니다. 실질적으로 SGD 기반 학습의 경우 이징 인코딩이 더 등방성(isotropic)에 가까운 곡률과 더 빠른 수렴을 제공하며, QUBO의 경우 중심화/스케일링 또는 NGD 스타일의 사전조건화(preconditioning)가 곡률의 병리적 특성을 완화합니다. 이러한 결과는 표현 방식이 볼츠만 머신의 정보 기하학 및 유한 시간 학습 역학을 어떻게 형성하는지 명확히 보여주며, 변수 인코딩 및 전처리를 위한 실질적인 가이드라인을 제공합니다.

arXiv:2607.12417v1cs.LG

PolarBM: 극좌표 및 로그-극좌표에서 오디오 신호를 모델링하기 위한 복소 볼츠만 기계

PolarBM: Complex-valued Boltzmann Machine for Modeling Audio Signals in Polar and Log-polar Coordinates

오디오 신호 스펙트럼과 같이 방대한 데이터는 자연스럽게 복소수로 표현되지만, 기존 머신러닝 방법은 실수 변수용으로 설계된 프레임워크를 사용하여 복소 도메인 문제를 단순화하는 경우가 많다. 이러한 단순화는 계산상 이점을 제공하지만, 진폭과 위상 사이의 고유한 관계에 관한 구조적 정보를 버린다. 본 논문에서는 극좌표(즉, 진폭-위상 표현)에서 복소 변수를 자연스럽게 다룰 수 있는 새로운 볼츠만 기계(BM), PolarBM을 제안한다. PolarBM은 위상이 진폭에 명시적으로 의존하는 복소 변수에 대한 확률 밀도 함수를 정의하여, 복소 신호의 물리적으로 중요한 관계를 포착한다. 또한 인간의 청각 인지에 맞게 오디오 신호를 처리하기 위해, 진폭을 로그 스케일로 모델링하는 LogPolarBM을 제안한다. 이 확장은 유연한 조건부 확률 밀도 함수, 즉 거듭제곱 가중 비중심 복소 가우시안(power-weighted noncentral complex Gaussian, PW-NCCG) 분포를 만들어내며, 그 주변 진폭 분포는 Rice, Nakagami, 비중심 카이(noncentral chi) 분포를 특수 경우로 포함한다. 실용적 응용을 위해 제안 모델의 제한형 변형인 PolarRBM과 LogPolarRBM도 소개한다. 실험 결과, 진폭과 위상 간 의존성을 명시적으로 모델링함으로써 제안 RBM이 심층 신경망을 포함한 기존 모델들보다 우수한 모델링 정확도를 달성함을 보여준다. 실험이 오디오 신호에 초점을 맞추었지만, 제안 BM의 유용성은 오디오 응용에 한정되지 않으며, 무선 통신과 양자 역학 등 복소 데이터를 다루는 과학·공학의 다양한 분야로 확장될 잠재력이 있다.