arXiv:2405.14051

A Uniform Concentration Inequality for Kernel-Based Two-Sample Statistics

Yijin Ni, Xiaoming Huo

제출 2024-05-22

원문 초록

In many contemporary statistical and machine learning methods, one needs to optimize an objective function that depends on the discrepancy between two probability distributions. The discrepancy can be referred to as a metric for distributions. Widely adopted examples of such a metric include Energy Distance (ED), distance Covariance (dCov), Maximum Mean Discrepancy (MMD), and the Hilbert-Schmidt Independence Criterion (HSIC). We show that these metrics can be unified under a general framework of kernel-based two-sample statistics. This paper establishes a novel uniform concentration inequality for the aforementioned kernel-based statistics. Our results provide upper bounds for estimation errors in the associated optimization problems, thereby offering both finite-sample and asymptotic performance guarantees. As illustrative applications, we demonstrate how these bounds facilitate the derivation of error bounds for procedures such as distance covariance-based dimension reduction, distance covariance-based independent component analysis, MMD-based fairness-constrained inference, MMD-based generative model search, and MMD-based generative adversarial networks.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.23083v1cs.CL공통 태그 Dimensionality Reduction, Fairness

성별 포용적 재작성을 위한 LoRA 및 반서사 생성을 위한 활성화 조향

LoRA for Gender-Inclusive Rewriting and Activation Steering for Counter-Narrative Generation

성별 포용적 언어 생성은 의미와 문맥적 일관성을 유지하면서 편향된 텍스트를 포용적 대안으로 변환하는 것을 목표로 한다. 본 논문은 LT-EDI 2026 공유 과제를 위한 IHLC 시스템을 제시하며, 성별 포용적 재작성과 반서사 생성을 모두 다룬다. 성별 포용적 재작성을 위해 매개변수 효율적인 Low-Rank Adaptation(LoRA) 미세조정을 사용하여 공식 점수 80.00%를 달성했다. 우리의 주요 기여는 반서사 생성을 위한 연산 효율적인 추론 시점 표현 공학(representation engineering) 접근법이다. 대조적 은닉 상태(hidden-state) 활성화로부터 주성분 분석(PCA)을 사용해 주요 조향 방향을 도출하고, 추론 중 Gemma-3-4B-it의 중간 표현에 이를 주입하여 모델 가중치를 수정하지 않고도 포용적 응답을 향한 행동 조향을 가능하게 한다. 제약 프롬프팅(constrained prompting)과 결합하면 이 접근법은 정중하고 문맥에 적절한 반서사를 생성하며, 공식 점수 78.12%를 달성한다. 또한 조향 행동에 대한 수동 분석을 제시하며, 의미 표류(semantic drift), 잔존 바이어스 누출, 층 민감도, 과도 조향(over-steering), 텍스트 퇴화(text degeneration) 등 주요 실패 모드를 식별한다. 우리의 결과는 제어 가능하고 사회적으로 정렬된 언어 생성을 위한 매개변수 업데이트의 경량 대안으로서 활성화 조향(activation steering)의 실용적 잠재력과 현재 한계를 모두 강조한다.

arXiv:2607.11429v1cs.LG공통 태그 Dimensionality Reduction, Generative Adversarial Network

공간적으로 일관된 다중 사용자 TR 38.901 채널 생성을 위한 물리 인식 조건부 SetGAN

Physics-Aware Conditional SetGAN for Spatially Consistent Multi-User TR 38.901 Channel Generation

Sionna와 같은 TR 38.901 기반 채널 모델은 신뢰할 수 있지만, 다수의 다중 사용자 채널 실현을 생성하는 데 여전히 높은 비용이 소요된다. 본 논문은 실용적인 질문을 제기한다: 학습된 생성 모델이 사용자 기하 구조에 의해 부과된 공간적 상관관계를 잃지 않으면서 Sionna보다 빠르게 다중 사용자 TR 38.901 채널을 생성할 수 있는가? 이 질문에 답하기 위해, 우리는 Sionna 참조 데이터로 학습된 물리 인식 기하 조건부 SetGAN을 제안한다. 본 방법은 대규모 수신 전력을 정규화된 소규모 페이딩으로부터 분리하고, 주성분 분석(principal component analysis)으로 후자를 압축하며, 기하 의존적 상관관계를 보존하면서 잠재 공간에서 조건부 채널 분포를 학습한다. UMa/NLoS 벤치마크에서 본 모델은 수신 전력 분포를 참조값에 근접하게 유지하여 약 0.41 dB의 Wasserstein 거리를 달성하고, 거리 대비 중앙값 곡선에서 평균 편차 0.03 미만으로 공간 일관성 프로파일을 재현한다. 또한 고정 위치 CPU 대 CPU 벤치마크에서 일치된 사용자 위치 조건 하에 Sionna 대비 경과 생성 시간을 3.45배, CPU 총 비용을 6.15배 절감한다. 이러한 결과는 학습된 생성 모델이 다중 사용자 시스템 평가에 필요한 공간 일관성을 훼손하지 않으면서 TR 38.901 채널 생성을 크게 가속할 수 있음을 보여준다.

arXiv:2609.38840v3cs.LG공통 태그 Dimensionality Reduction

scTrilemma: 단일 세포 표현 학습에서 정체성, 불변성, 충실도의 균형 잡기

scTrilemma: Balancing Identity, Invariance, and Fidelity in Single-Cell Representation Learning

단일 세포 RNA 시퀀싱(single-cell RNA-seq) 표현 학습은 근본적으로 레이블이 없습니다(label-free). 즉, 세포 정체성(cell identity), 상태(state), 맥락(context)이 고정된 학습(training) 목표가 아니므로, 무엇이 신호(signal)이고 방해 요인(nuisance)인지는 분석 목적에 따라 달라집니다. 따라서 단일 표현은 생물학적 정체성과 상태를 보존하고, 방해 요인이 되는 맥락에 강건해야 하며, 유전자 발현 분석에 필요한 유전자 수준의 변이를 유지해야 합니다. 본 연구에서는 이 세 가지 요구 사항을 '표현 트릴레마(representation trilemma)'라고 부릅니다. 이 문제를 해결하기 위해, 모든 발현 기반 변이를 하나의 임베딩(embedding)으로 강제 통과시키는 대신 임베딩, 디코더, 사전 분포(prior)로 라우팅하는 잠재 병목 VAE인 scTrilemma를 소개합니다. scTrilemma는 단일 재구성 목표 아래에서 대상 어노테이션이나 보조 표현 손실 없이, 발현량에 따라 유전자 토큰을 게이팅하고, 세포 표현을 디코더로 라우팅하며, 레이블이 지정되지 않은 유사 벌크(pseudo-bulk) 맥락에 따라 사전 분포를 조건화합니다. 연속적인 CZ CELLxGENE Census 릴리스에 대한 릴리스 기반 제로샷(zero-shot) 평가에서, scTrilemma는 세 가지 요구 사항을 동시에 모두 선도하며 여러 질병 환경 전반에 걸쳐 생물학적 상태, 차등 발현(differential-expression) 및 경로(pathway) 구조를 보존합니다. 잠재 변수 개입(latent intervention) 실험은 다른 요구 사항에 거의 영향을 주지 않고 맥락을 제거할 수 있음을 추가로 보여주며, 정체성과 충실도 간의 관계만이 상충 관계(tension)로 남음을 입증합니다. 코드는 https://github.com/yunhak0/scTrilemma 에서 공개적으로 이용 가능합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.