유한형 전치 상관 확률 행렬에 대한 4차 모멘트 강 보편성
Fourth-Moment Strong Universality for Finite-Type Transpose-Correlated Random Matrices
한국어 초록
독립적인 순서 없는 쌍 벡터 원자로부터 조립된 비에르미트 확률 행렬의 유한 모임에 대해, 정확한 4차 모멘트 임계값에서 강 보편성 정리를 증명한다. 하나의 원자 내에서 행렬 색과 두 끝점 방향은 임의의 공동 실수 공분산을 가질 수 있으며, 순서형 타입 쌍에 걸친 반전 일관성과 동일 타입 블록에서의 끝점 교환 가능성에 종속된다; 분포는 또한 유한 개수의 끝점 타입에 의존할 수 있다. 행렬들은 타입 투영과 공동으로 강하게 수렴하는 임의의 결정론적 튜플에 부가될 수 있다. 모든 고정 행렬 증폭과 고정 비가환 \(*\)-다항식에 대해, 결과 튜플은 명시적인 공분산 일치 자유 가우시안 family로 강하게 수렴한다. 교차 타입 블록은 마스킹된 순환 변수로 기술되며, 동일 타입 블록은 독립적인 끝점 대칭 및 끝점 반대칭 반원 섹터로 분할된다. 대각선 밖에서는 유한 방사형 4차 모멘트만 가정하며, 대각선 위에서는 유한 2차 모멘트면 충분하다. 수렴의 방식은 결합에 따라 달라진다: 하나의 무한 배열의 모서리들은 공통 사건에서 거의 확실하게 수렴하는 반면, 고정 분포를 갖는 비중첩 삼각 배열은 각 고정 검정에 대해 확률적으로 수렴한다. 응용으로, 별도 가중 literal-전치 항을 포함하여 유한 분리 가능 연속 좌/우 프로파일에 대한 정확한 4차 모멘트 강 극한을 얻는다. 중첩 거의 확실 formulation에 대해, 4차 모멘트 임계값은 Wigner 부분모임에서 이미 sharp하다; 이 임계값에서 �임의의 새로운 행은 우리의 확률 수렴 결론의 결합 불변 거의 확실 승격을 허용하지 않는다.
원문 초록
We prove a strong-universality theorem at the exact fourth-moment threshold for finite families of non-Hermitian random matrices assembled from independent unordered-pair vector atoms. Within one atom, the matrix colors and the two endpoint orientations may have arbitrary joint real covariance, subject to reversal consistency across ordered type pairs and endpoint exchangeability in same-type blocks; the law may also depend on finitely many endpoint types. The matrices may be adjoined to an arbitrary deterministic tuple that converges jointly strongly with the type projections. For every fixed matrix amplification and fixed noncommutative \(*\)-polynomial, the resulting tuple converges strongly to an explicit covariance-matched free Gaussian family. Cross-type blocks are described by masked circular variables, whereas same-type blocks split into independent endpoint-symmetric and endpoint-antisymmetric semicircular sectors. Only a finite radial fourth moment is assumed off the diagonal, and a finite second moment suffices on the diagonal. The mode of convergence depends on the coupling: corners of one infinite array converge almost surely on a common event, while fixed-law nonnested triangular arrays converge in probability for each fixed test. As an application, we obtain exact-fourth-moment strong limits for finite-separable continuous left/right profiles, including separately weighted literal-transpose terms. For the nested almost-sure formulation, the fourth-moment threshold is sharp already on the Wigner subfamily; at this threshold arbitrary fresh rows admit no coupling-invariant almost-sure upgrade of our in-probability conclusion.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2609.27971v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
기하학적 다이슨 브라운 운동과 비정사각 가우시안 행렬곱의 자유 로그정규 극한
Geometric Dyson Brownian Motions and the Free Log-Normal Limit for a Non-Square Gaussian Matrix Product
우리는 독립적인 실수 가우시안 행렬들의 비정사각 곱에 대한 제곱 특이값 스펙트럼을 연구하며, 이는 초기화 시 심층 선형 신경망의 특징 공분산 스펙트럼과 동등하다. 비례 깊이-폭 극한에서 이전에 얻어진 고정-$m$ 공분산 확산으로부터 출발하여, 동등한 행렬 실현을 기록하고, 그 아핀 불변성을 기술하며, 고유값들이 만족하는 상호작용 확산을 유도한다. 이어서 가속된 스펙트럼 시계 $τ=mt$에서 $m\to\infty$로 보내는 두 번째 극한을 취하며, 이는 이 순차적 구성에서 $dm/n\to\barτ$ 관계에 해당한다. 경험적 스펙트럼 측도 경로가 결정론적 평균장 극한으로 수렴함을 확립하고, 그 $T$-변환에 대한 닫힌 Burgers 방정식을 유도한다. 비례 깊이-폭 극한과 함께, 이러한 결과는 심층 비정사각 가우시안 곱에서부터 그 특징 공분산 스펙트럼의 자유 로그정규 극한에 이르는 엄밀한 순차적 경로를 제공하며, 보다 일반적인 초기 법칙에 대해서는 변환이 자유 곱 합성곱 형태를 산출한다. 나아가 자유 로그정규 법칙의 지지를 분석하고, 수치 평가를 위한 고정점 반복과 작은 시간에서의 형식적 Marchenko--Pastur 근사를 제시하며, 극한 스펙트럼을 사용하여 토이 랜덤 특징 모델에서의 위험을 예측한다.
Proxy OPD: On-Policy Distillation with Transferable Relative Proxy Update for Large Language Models
LISA: 효율적 긴 컨텍스트 추론을 위한 Linear-Indexed Sparse Attention
LISA: Linear-Indexed Sparse Attention for Efficient Long-Context Reasoning
토큰이 아닌 턴 주입하기: 자기 수정을 위해 LLM 추론을 리디렉션할 위치 학습
Inject a Turn, Not a Token: Learning Where to Redirect LLM Reasoning for Self-Correction
대규모 언어 모델(LLM)은 자신의 추론 과정에서 발생한 오류를 안정적으로 식별하고 수정하는 데 어려움을 겪는다. 수정이나 피드백을 생성하도록 LLM을 미세조정하는 기존의 학습 기반 접근법과 달리, 우리는 실패한 롤아웃에서 어디에 개입할지를 학습하고 이를 어떻게 리디렉션할지를 결정한다. 개입 위치를 선택하기 위해, 우리는 최종 답안의 정답 여부만을 이용해 고정된 인코더 위에 130K개의 매개변수를 가진 MLP 헤드를 학습시킨다. 리디렉션의 경우, 고정된 생성 예산 하에서 테스트한 인라인 주입(inline injection)은 추론을 안정적으로 리디렉션하지 못하는 반면, 동일한 지시문을 새로운 사용자 턴(user turn)으로 제시하면 모델의 진행 방향이 바뀐다는 것을 발견했다. 그 결과로 만들어진 수정 프레임워크인 UPTURN(User-Prompt TURN injection at a learned position)은 LLM의 미세조정을 전혀 요구하지 않는다: 선택된 접두 문맥(prefix)을 유지하고, 지시문을 새로운 사용자 턴으로 주입한 뒤, 나머지 부분을 재생성한다. 네 가지 추론 모델과 여섯 가지 수학 벤치마크 전반에서, UPTURN은 32회 롤아웃 기준선(baseline) 대비 모든 설정에서 평균 정확도를 향상시킨다. 동일한 수정 예산 하에서 자기 수정(self-correction) 및 리플렉션 토큰(reflection-token) 주입 기준선을 능가하며, 재학습 없이도 다른 추론 모델과 GPQA-Diamond로 전이되고, GRPO 및 자기 수정 기법과도 상호보완적이다.
Geometric Signatures of Reasoning: A Spectral Perspective on Task Hardness
사고 모델을 위한 온-정책 자기 지식 증류의 재고찰
Rethinking On-Policy Self-Distillation for Thinking Models
토론
이 논문과 연결된 포럼 글이 아직 없습니다.