We study landscapes for complex-parameterized networks. Our approach is motivated with an information-theoretic manifold perspective of the parameter and via classical optimization guarantees although of complex geometric variety such as through Dolbeault asymptotics. The descent path admits a K\"ahler information metric under a cross-entropy via the Wirtinger Hessian on the log-likelihood potential. We descend according to a differentiated loss scaled by the inverse metric, so the descent path remains in the holomorphic tangent bundle. We emphasize information manifolds which profane theoretical guarantees via ill-curvature-conditioned, or lack thereof, landscapes. We focus on Calabi-Yau metrics specifically in a non-compact setting with a global potential, so defined geometrically rather than invoking the topological requirements of the Calabi conjecture. In non-compact settings, we can write the metric determinant with respect to a background in terms of a function, pluriharmonic or real. Using Yau's Liouville theorem, we get a small eigenvalue blow-up effect under nontrivial background interaction, geometric invariance of the endomorphism constant, and almost low rank assumptions. In an empirical setting, a Ricci-flat metric will not form, but large eigenvalues can be a local condition and hold empirically on open sets even in generalized K\"ahler cases due to lower bounds on the Ricci potential. Moreover, it has been discovered that negative curvature subverts the loss landscape, specifically sectional curvature, so we expand on this and draw interconnections to negative-definite Ricci curvature. Our arguments primarily exist via geometric modality, although we establish roots in deep learning theory such as through asymptotics at initialization and connections through failure modes of neural network guarantees under vanishing and negative Ricci curvature.
우리는 사후 분포 근사가 특정한 하위(downstream) 의사결정 문제를 보존하도록 요구할 때 발생하는 결과를 조사한다. 목표 사후 분포 $P$와 손실은 행동(action)에 대한 리그렛(regret) 기하 구조를 결정하고, 기준선 근사 $Q_0$는 행동 변화를 유도하는 데 필요한 전방(forward) Kullback-Leibler 정보량을 결정하며, 제한된 근사 가족 $\mathcal{Q}$는 그러한 변화 중 어떤 것이 가능한지를 결정한다. 베이즈 행동(Bayes-action) 섬유(fiber)에 대해 KL 발산을 수축시키면, 의사결정 적절성(decision adequacy)과 의사결정 실패(decision failure)까지의 정확한 거리를, 결정 경계의 양쪽에 도달하는 최소 정보량의 사후 분포 변형(deformation)과 함께 얻을 수 있다. 정규(regular) 유한 차원 문제에서 목표 및 기준선 구성은 2차(quadratic) 국소 극한을 가지며, 이는 목표 리그렛 헤시안 $G$와 기준선 정보 메트릭 $J_I$이다. 이들의 일반화 고유값 문제(generalized eigenproblem) $Gv = γJ_Iv$는 단위 정보 비용당 리그렛 결과에 따라 국소 의사결정 방향들을 정렬하며, 허용 오차(tolerance)에 의존하는 유효 차원(effective dimension)을 유도한다. 제한된 근사 가족의 경우, 탄젠트 이미지(tangent image)는 의사결정 범위(decision coverage)와 정보 효율성(information efficiency)을 구분한다: 어떤 가족은 중요한 의사결정 방향을 놓칠 수 있고, 또는 도달 가능한 방향을 과도한 피셔(Fisher) 비용으로만 실현할 수도 있다. 이 프레임워크는 사후 분포 근사 가족을 비교하고 설계하기 위한 의사결정 상대적(decision-relative) 기준을 제공한다.
확률 시스템의 런타임 모니터링은 명시적인 타당성 가정 하에서 반복 검정의 오경보를 제어하면서 공칭 분포 완화와 체제 이탈(regime departure)을 구분해야 합니다. 본 논문은 유계 최초 통과 모니터링 아키텍처에서 상대 엔트로피 소산, 정보기하학, 순차적 추론(sequential inference)을 연결합니다. 가역적 포커-플랑크(Fokker--Planck) 역학의 경우, 불변 밀도에 대한 상대 엔트로피는 비증가합니다. 외생적 강제력 하에서 그 도함수는 공칭 소산과 정보 공간 강제력 항으로 분해됩니다. 런타임 층은 가우시안 윈도우 대리자, 공칭 상대 공분산 수축, 좌표 일관적 상대 정밀도 진단, 혼합 거듭제곱 마틴게일 프로세스로 집계된 무작위화된 등형 순위(randomized conformal ranks)를 사용합니다. 해석적 오른슈타인-울렌벡(Ornstein--Uhlenbeck) 검증을 통해 양의 공칭 쿨백-라이블러(Kullback--Leibler) 증분 0, 3.31 x 10^-6 미만의 강제력 항등식 잔차, 수치적 반올림 수준의 좌표 불변성 오차를 확인했습니다. NSL-KDD에서 모니터는 내부 공칭 스트림에서 0/100의 경보를 기록했으나 공식 테스트-정상 스트림에서는 63/100의 경보를 기록했습니다. 변화 후 탐지율은 기학습 공격 유형에 대해 99.0%, 테스트 전용 공격 유형에 대해 98.53%였으며 중앙값 지연은 1윈도우였습니다. UNSW-NB15에서는 내부 귀무 경보가 0/100인 반면 공식 테스트-정상 경보는 90/100으로 증가했습니다. 변화 후 탐지율은 81.33%였으며 변화 전 경보는 18.67%였습니다. 이러한 평가에서 보정 전달(calibration transport)이 주요 배포 제약 조건으로 드러났습니다. 본 연구에서는 보편적인 벤치마크 우수성, 인과 추론 또는 물리적 일 해석을 주장하지 않습니다.
통계적 다양체(statistical manifold) 위에서 가우시안 너비(Gaussian-width) 복잡도를 두 함수형 쌍을 통해 연구한다: Fisher 계량(Fisher metric)에 의해 유도되는 원시(primal) Fisher 너비 $w_G(T) = w(G^{1/2}T)$, 그리고 역 Fisher 계량(inverse Fisher metric)에 의해 유도되는 역-Fisher 너비 $w_{G^{-1}}(T) = w(G^{-1/2}T)$. 두 너비는 상보적인 통계적 역할을 한다. 학습 측면에서 Fisher 너비는 Fisher 정보에 의해 유도된 기하에서 국소 매개변수 변동의 크기를 측정한다. Fisher-정규 손실(Fisher-regular losses)에 대해, 충분히 작은 Fisher 볼(Fisher balls) 위에서 척도 \(w_G(H_r)/\sqrt n\)이 달성됨을 증명한다. 복원 측면에서 역-Fisher 너비는 역 Fisher 정보에 의해 공분산이 결정되는 이방성 가우시안 측정의 효과를 포착한다. 희소 복원(sparse recovery)의 경우, 결과 기하는 희소성뿐만 아니라 Fisher 스펙트럼에서 활성 좌표(active coordinates)의 위치에도 의존한다. 우리는 해당 통계 차원(statistical dimension)에 대한 양측 추정(two-sided estimate)을 얻으며, 지지(support) 민감 복원 추정과 서로 다른 곡률 프로파일(curvature profiles)을 가진 지지들의 자연스러운 순서(ordering)를 함께 제시한다. 마지막으로, 원시 Fisher 너비와 역-Fisher 너비 사이의 날카로운 관계를 확립한다. 임의의 공통 컴팩트 좌표 집합 $T$에 대해, 다음을 만족한다: \[ w_G(T)w_{G^{-1}}(T)\geq w(T)^2. \] 따라서 Fisher 이방성(anisotropy)은 한 기하에서 다른 기하로 복잡도를 전달할 수 있지만, 유클리드 척도(Euclidean scale)에 상대적으로 두 너비를 모두 줄일 수는 없다.
과매개변수화된 머신러닝 시스템이 진정한 지능을 보이는지 아니면 단순한 통계적 패턴 매칭인지를 판별하기 위해, 이 연구는 학습 시스템을 무한 차원 올리츠 파이버 번들(Orlicz fiber bundle)로 모델링하는 통계적으로 유의미한 기하학(SMG, Statistically Meaningful Geometry) 프레임워크를 제안한다. SMG는 분포 외(OOD) 자극 하에서 축적된 능동적 비인과 긴장이 임계치($T_{\text{crit}} = \pi^2 / K_{\text{max}}$)에 도달하면 게이지 대칭 붕괴(GSB)가 발생하며, 이때 구조적 G-엔트로피의 이산적 $+1.0$ 도약이 관측됨을 수학적으로 증명하고, 이를 통해 진정한 과학적 발견과 환각(hallucination)을 구별하는 반증 가능한 지능 인증 기준을 제시한다.
과매개변수화된 대규모 트랜스포머에서 기존 균일 수렴 경계와 경험적 위험 최소화가 붕괴되어 환각과 치명적 망각이 유발되는 문제를 해결하기 위해, 결정론적 모델을 무한 차원 Orlicz 통계 다양체로 끌어올리는 정보 기하학적 프레임워크인 통계적으로 의미 있는 기하학(SMG, Statistically Meaningful Geometry)을 제안한다. Ehresmann 연결 1-형식을 통해 통계적으로 무의미한 수직 게이지 방향(SID)을 필터링하고 학습 궤적을 유효한 수평 분포(SVDχ)로 제한함으로써, 분포 외 예측 분산의 기하학적 상한을 수학적으로 증명하고 치명적 망각의 완전한 비점근적 제거를 달성한다.
q-상태 Potts 마르코프 랜덤 필드(MRF) 기반의 정보 기하학적 프레임워크인 CuBAS는 레이블된 데이터셋을 통계 다양체로 모델링하고, Fisher 정보의 1차·2차 비율로 추정한 국소 곡률을 활용해 지도 분류에서 정보량이 높은 샘플을 적응적으로 선택한다. 결정 경계 주변의 고곡률 영역과 균질한 저곡률 영역을 모두 포함하는 방식으로 훈련 부분집합을 구성하며, 60개 이상의 벤치마크 데이터셋에서 랜덤 샘플링 및 불확실성 기반 베이스라인 대비 통계적으로 유의미한 분류 정확도 향상을 달성한다.
그래프 기반 내러티브 추출은 사건 간 전환을 점수화하는 일관성 함수에 의존하지만, 현재 사용되는 일관성 메트릭은 운용적으로 정의되어 있으며 정보이론적 기반이 부재하다. 우리는 복합 메트릭 $C=\sqrt{A\cdot T}$를 연구한다. 여기서 $A$는 문서 임베딩의 각도 유사도이고, $T=1-d_{\mathrm{JS}}$는 소프트 멤버십의 젠슨-섀넌 거리로부터 도출된 주제 근접도이며, 기하평균 결합자에 대한 공리적 특성화와 함께 이 메트릭에 정보기하학적 해석을 부여한다. 곱 다양체 $\mathbb{S}^{d-1}\times\Delta^{K-1}$ 위에서 음의 로그 일관성은 각도 비용과 주제 비용으로 가산적으로 분해된다. 단체 위에서 젠슨-섀넌 거리에 의해 유도된 리만 메트릭 텐서는 피셔 정보 행렬에 비례하므로, 주제 성분은 첸초프 정리가 특정하는 피셔-라오 메트릭과 국소적으로 일관된다. 결합자의 보완 가능성 스펙트럼 내에서, 기하평균은 네 가지 자연스러운 공리(경계/거부권 조건, 대칭성, 로그 가산성, 정규화)와 일관되는 유일한 결합자이며, 이 구성은 적절한 곱 메트릭 $d_\times$에 대한 동기를 제공한다. 네 개의 코퍼스, 세 가지 임베딩 계열, 세 가지 주제 모델에 대한 실험은 이 프레임워크와 일치한다: 피셔 항등식이 성립하고($R\ge0.99$), 기하평균은 $d_\times$를 긴밀하게 추적하며($\rho=0.999$), 다운스트림 LLM-as-judge 검사에서 어떤 대안적 결합자나 단일 채널 기준선에도 지배되지 않는다. 스펙트럼 전체를 훑으면, 추출된 스토리라인과 무작위 스토리라인 간의 병목 일관성 격차는 다섯 개 코퍼스에 걸쳐 기하평균에서 최대화되는 대칭 성분과 변위 항으로 분리되며, 교차 모달 이미지-내러티브 사례 연구에서도 이 효과가 재현된다. 이러한 결과는 복합 일관성 메트릭을 정당화하고, 기하평균이 자연스러운 선택이 되는 경우를 명확히 한다.
정보 기하학(information geometry)을 지도 차원 축소(supervised dimensionality reduction)에 적용한 SQFA(Supervised Quadratic Feature Analysis)를 제안하며, 가우시안 가정 하에서 클래스 조건부 분포 간 Fisher-Rao 거리를 최대화하는 선형 특징을 학습한다. 여러 실제 데이터셋에서 SQFA는 LDA 등 기존 방법과 경쟁력 있는 분류 성능을 보이며, Hellinger 거리를 최대화하는 변형인 SQFA-H가 최고 정확도를 달성한다.
소비자급 8GB VRAM 엣지 환경의 대화형 에이전트 장기 기억 한계를 해결하기 위해 CoreMem은 정보 기하학 기반 엣지-클라우드 아키텍처로, 리만 검색(Riemannian retrieval)과 피셔 유도 이산 토큰 증류(FDTD)를 통해 허브니스(hubness)와 구문 파편화를 완화합니다. LOCOMO·LongMemEval-S에서 오픈 도메인(+4.51%p)과 시간적 추론(+4.17%p) 정확도를 크게 높이면서 8GB VRAM 예산 내에서 동작합니다.
텍스트는 얼마나 많은 의미를 담고 있는가? 섀넌 이론(Shannon's theory)은 기호에 대한 불확실성을 측정하며 의미에는 의도적으로 무관한 반면, BERTScore와 같은 쌍별(pairwise) 메트릭은 하나의 텍스트를 특성화하기보다는 두 텍스트를 비교한다. 우리는 텍스트의 문장 임베딩(sentence embeddings) 구조에서 의미적 내용을 측정하는 기하학적 프레임워크를 개발한다. 이 프레임워크는 세 부분으로 구성된다. 첫째, 고정된 임베딩과 기준선(baseline) 내에서, 여섯 가지 자연스러운 공리가 스케일까지 스칼라 측도를 유일하게 결정하며, 이를 프레임 조건부 유일성 정리(frame-conditional uniqueness theorem)라고 한다. 결과적으로 나온 스칼라는 경험적으로 너무 거친(coarse) 것으로 나타나, 더 풍부한 표현이 필요하게 되었다. 둘째, 우리는 일반적 담론으로부터의 변위인 참신성(novelty), 뚜렷한 아이디어의 다양성인 폭(breadth), 그리고 이들 간의 연결성인 통합(integration)을 포착하는 3좌표 의미 프로필(semantic profile)을 제안한다. 여기에 클러스터링 임계값 $τ$에 의해 해상도가 고정되는 이산적인 최소 단위(의미 양자, semantic quantum)를 포함한다. 셋째, 우리는 부정 정리(no-go theorem)를 증명한다: 프로필의 스칼라 요약은 의역(paraphrase) 및 연결(concatenation) 하에서의 해석적 안정성, 텍스트 규모 간의 서수적 강건성(ordinal robustness), 그리고 표현 간 비교 가능성을 동시에 만족할 수 없다. 우리는 이 상충 관계 트라이앵글(trade-off triangle)의 각기 다른 꼭짓점을 차지하는 두 가지 실용적인 스칼라인 $S_{\mathrm{minmax}}$와 $S_{\mathrm{rank}}$를 제시한다. 23개의 합성 카테고리, 5개의 Project Gutenberg 소설, 3개의 임베딩 모델에 걸친 검증(validation)이 이 상충 관계를 확인했다. 추천되는 순위 정규화(rank-normalized) 구성은 점 추정(point estimates)으로서 28개의 서수 검사 중 25개를 통과했으며(Benjamini-Hochberg 보정 후 28개 중 21개), 유니그램 엔트로피(unigram entropy) 및 BERTScore 기반 참신성 신호를 포함한 7개의 기준선(baseline)을 능가했다. 별도의 변분(variational) 결과는 폭 좌표를 행렬식 점 과정(determinantal point process)의 로그-행렬식(log-determinant)과 연결하며(507개의 Gutenberg 장에 걸쳐 Spearman $ρ= 0.985$), 폭에 대한 최적화 이론적 기초를 제공한다.