PyTorchKR Papers

최신 논문

총 21편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2608.30254v2cs.LG

벡터 값 선형 회귀에서 가중치 부여 데이터 선택의 정확한 복원 임계값

Exact Recovery Thresholds for Weighted Data Selection in Vector-Valued Linear Regression

본 논문에서는 Hanneke, Moran, Shlimovich, Yehudayoff의 COLT 2025 미해결 문제인 "회귀 태스크를 위한 데이터 선택"의 질문 4 중 임계값 부분을 해결합니다. 우리는 $x\in\mathbb{R}^d$ 및 $y\in\mathbb{R}^m$에 대해 제곱 손실(loss) $\ell_{(x,y)}(W)=\lVert Wx-y\rVert_2^2$을 갖는 벡터 값 선형 회귀를 연구합니다. 학습기는 최소 프로베니우스 노름(Frobenius-norm) 경험적 위험 최소화기를 반환합니다. 우리는 모든 유한 데이터셋(dataset)에서 전체 데이터 손실을 복원하기 위한 가중치 부여 예제의 최소 예산이 정확히 $n^{\star}(d,m)=(m+1)d$임을 증명합니다. 또한 임계값에 근접한 예산에서의 가중치 부여 선택 프로파일 $F_{\mathrm{weighted}}(d,m,n)$을 규명하여 $F_{\mathrm{weighted}}(d,m,(m+1)d-1)=1+1/(dm^2)$임을 보입니다. 우리는 모든 $m$에 대해 이미 알려진 생성 예산(spanning-budget) 값인 $F_{\mathrm{weighted}}(d,m,d)=d+1$과 $n<d$일 때 $F_{\mathrm{weighted}}(d,m,n)=\infty$임을 재현합니다. 미해결된 가장 작은 중간 셀인 $(d,m)=(2,2)$에 대해 $F_{\mathrm{weighted}}(2,2,3)\in[13/8,15/8]$ 및 $F_{\mathrm{weighted}}(2,2,4)\in[5/4,3/2]$임을 증명합니다. 추측된 정확한 값인 $13/8$과 $5/4$를 최대 7개의 원자를 갖는 원 위의 유한 모멘트 문제로 귀결시키고 이에 대한 구조적 증거를 제시합니다. 상한은 고정 기저 원뿔 압축 보조정리(fixed-basis conic compression lemma), 극대 인증(maximal certificate)에 대한 행렬식-면 강성 정리(determinant--facet rigidity theorem), 그리고 평균이 0인 가중치 부여 점 시스템에 대한 샤프 희소화 보조정리(sharp sparsification lemma)를 사용합니다. 이러한 도구들은 그 자체로도 독립적인 관심을 가질 수 있습니다. 또한 우리는 $2d$개의 점으로 이루어진 어떤 가중치 부여 선택도 최적 손실을 복원하지 못하는 $d=m=2$인 명시적인 6개 점 정수 데이터셋을 제시합니다. 따라서 스칼라에서 충분했던 예산 $2d$는 벡터 값 출력으로 확장되지 않습니다. $m\ge2$에 대한 우리의 새로운 회귀 프로파일 결과는 $m=1$에 대한 스칼라 이론을 확장합니다.

arXiv:2609.27241v1stat.ML

멤버십 쿼리를 활용한 능동 학습의 샘플 복잡도에 관하여

On the Sample Complexity of Active Learning with Membership Queries

본 연구는 능동 학습(active learning)의 근본적인 질문, 즉 임의의 쿼리를 합성할 수 있는 능력이 얼마나 강력한가라는 문제를 다시 살펴본다. 학습자가 주어진 레이블 없는 풀(pool)에서만 쿼리를 선택하는 풀 기반 능동 학습과 비교할 때, 쿼리 능력에서의 이처럼 사소해 보이는 변화가 통계적 학습의 난이도를 극적으로 바꿀 수 있음을 발견하였다. 특히 풀 기반 설정에서는 본질적으로 학습이 느려 샘플 수에 대해 다항식 수준의 오차 감소만을 달성하는 일부 가설 클래스(hypothesis class)가, 합성된 쿼리가 허용되면 지수적으로 학습 가능해진다. 이러한 두드러진 격차는 멤버십 쿼리 합성(membership query synthesis)이 근본적으로 다른 학습 방식을 유도하며, 이는 기존 능동 학습 이론으로는 충분히 설명되지 않아 그 복잡도를 규명하기 위한 새로운 분석 도구가 필요함을 시사한다. 이러한 현상에 착안하여, 본 연구는 몇 가지 충분 조건을 개발하고 흥미로운 예시들을 제시하며, 어떤 가설 클래스가 합성된 쿼리를 통해 효율적인 학습을 허용하는지 이해하기 위한 추측적 관점을 제안한다.

arXiv:2609.28459v1cs.LG

트랜스덕티브 학습을 위한 더욱 엄밀한 경계와 그 응용

Even Sharper Bounds for Transductive Learning and Its Applications

복원 없는 균등 샘플링 하에서의 트랜스덕티브 학습(transductive learning)을 위한 국소화 복잡도 기법인 Sharper Transductive Local Complexity(STLC)를 제안한다. 이 구성은 테스트-학습 경험적 과정(test--train empirical process)의 상한(supremum)에 대한 Bernstein 유형의 집중 부등식(concentration inequality)에서 출발한다. 이 부등식의 증명에는 스왑 워크(swap walk)에 대한 수정된 log-Sobolev 부등식과 두 매개변수 엔트로피 폐쇄(two-parameter entropy closure)가 사용된다. 이어서 대리 국소화 범함수(surrogate localization functional)를 이용한 필링(peeling) 논증을 적용하면, 기존 트랜스덕티브 결과에 존재하던 추가적인 로그 신뢰도 인자 없이도, 고전적인 귀납적 국소 Rademacher 복잡도 경계와 동일한 고정점 항 및 신뢰도 항을 갖는 초과 위험(excess-risk) 경계를 얻을 수 있다. VC 차원이 $\dVC$인 이진 클래스에 대한 실현 가능(realizable) 학습에서, 학습 크기가 $m$, 테스트 크기가 $u$이며 $u\ge m\ge\dVC$일 때, STLC는 $\cO\{\dVC\log(me/\dVC)/m\}$을 도출한다. 이는 표준적인 귀납적 수렴률과 일치하며, $m\ge9$일 때 $\dVC/m$ 차수의 트랜스덕티브 미니맥스 하한과 로그 인자 이내로 일치한다. 트랜스덕티브 커널(kernel) 학습에 대해서는, STLC가 기존 국소 복잡도 경계에 나타나던 곱셈 형태의 불균형 인자 없이 스펙트럼 적응형(spectrum-adaptive) 초과 위험 경계를 제공한다.

arXiv:2407.11473v2cs.LG

양자 최대 엔트로피 추론 및 해밀토니안 학습

Quantum Maximum Entropy Inference and Hamiltonian Learning

최대 엔트로피 추론과 그래픽 모델(graphical model) 학습은 학습 이론과 최적화에서 핵심적인 과제이다. 본 연구는 generalized iterative scaling(GIS)과 경사하강법(GD)을 포함해 이러한 문제용 알고리즘을 양자 영역으로 확장한다. 양자 반복 스케일링(quantum iterative scaling, QIS)으로 알려진 이 일반화 자체는 직관적이지만, 핵심 난관은 양자 문제 인스턴스의 비가환(non-commutative) 특성에 있으며, 이로 인해 수렴 속도 분석이 고전 경우보다 훨씬 어려워진다. 우리의 주요 기술적 기여는 수렴 속도에 대한 엄밀한 분석에 있으며, 이 알고리즘들의 각 반복에 대해 야코비안 행렬의 스펙트럴 반경(spectral radius)에 대한 하한과 상한을 모두 확립하는 것을 포함한다. 또한 QIS와 GD의 성능을 높이기 위해 준뉴턴(quasi-Newton) 방법을 탐구한다. 구체적으로 QIS에는 Anderson mixing을, GD에는 L-BFGS 방법을 각각 사용할 것을 제안한다. 이러한 준뉴턴 기법은 뚜렷한 효율 향상을 보이며, 성능이 수자릿수(order of magnitude)만큼 개선된다. 응용 측면에서, 우리 알고리즘은 해밀토니안 학습 알고리즘을 설계하기 위한 실현 가능한 접근법을 제공한다.

arXiv:2607.07513v2cs.LG

데이터 증강 그래프 정규화를 통한 준지도 학습의 빠른 수렴률

Fast Rates for Semi-Supervised Learning via Data-Augmentation Graph Regularization

자기지도 학습(self-supervised learning)은 전체 레이블의 일부만으로 지도 학습 수준의 정확도를 달성하지만, 이를 뒷받침하는 레이블 샘플 효율성에 대한 이론적 설명은 부족했다. 본 연구에서 이를 제공한다. 데이터 증강은 비레이블 데이터에 유사도 그래프(similarity graph)를 형성하며, 따라서 해당 그래프에서의 하위(downstream) 학습은 그래프 라플라시안 정규화(graph-Laplacian-regularized) 학습이다. Johnson and Zhang (JMLR 2007)의 leave-one-out 안정성(leave-one-out stability) 기법을 증강 그래프에 적용하여, 한계 기반 분석(정확한 커널, 일반화 가능한 특징)의 비현실적 가정 없이, 지도 학습의 $O(1/\sqrt{n_L})$ 대신 레이블 수 $n_L$에 대해 $O(1/n_L)$의 빠른 transductive 수렴률을 증명한다. 이 경계는 증강 품질을 명시적으로 드러낸다. 기대 오차는 최대 $C/n_L + R_{\mathrm{DA}}(y)$이며, 여기서 데이터 증강 정렬 오류 $R_{\mathrm{DA}}(y)$는 레이블 경계를 가로지르는 증강의 graph-cut mass에 비례하므로, 좋은 증강을 사용하면 적은 레이블로 충분하다. 분석은 표준 목적 함수의 projector, negative-sample, orthogonality 오버헤드를 제거한 간소화된 손실을 사용하지만, Zhai et al.이 연구한 증강-커널 고유공간(augmentation-kernel eigenspace)에서 무한 데이터 한계(infinite-data limit)에 있는 top-$K$ 이상적 특징(ideal features)을 여전히 복원한다. 이 경계는 증강 품질을 통해 정확도-레이블 수 곡선에 대한 기제적 설명을 제공하며, 상수가 알려진 통제 모델(controlled model)에서 이를 검증한다.

arXiv:2607.10751v1cs.LG

라동 정리를 통한 부분 개념 클래스의 VC 차원

The VC dimension of partial concept classes via Radon's theorem

Alon, Hanneke, Holzman, Moran(FOCS 2021)을 따라, 우리는 부분 개념 클래스(PCC)를 부분 함수 $f: V\to\{0,1,\ast\}$의 집합족으로 정의한다. 이는 동등하게 각 개념이 기반 집합을 흑색($f^{-1}(1)$), 회색($f^{-1}(\ast)$), 백색($f^{-1}(0)$) 부분으로 분할하는 것을 의미한다. PCC의 VC 차원은 값 $\ast$가 취해지지 않는 집합들을 분쇄(shattering)함으로써 정의된다. 우리는 실수 바나흐 공간(Banach space)에서 마진 $\delta>0$을 가진 두 가지 기하학적 PCC를 연구한다: 확장된 반공간(expanded half-spaces)은 회색 부분이 반공간에 인접한 너비 최소 $\delta$인 띠이며, 확장된 공(expanded balls)은 회색 부분이 단위 반지름 공 주위의 너비 $\delta$인 환형(annulus)이다. 우리의 주요 결과는 $L_p(\mu)$, $1\le p<\infty$에서 확장된 공의 PCC에 대한 VC 차원의 차원 독립적 상한이며, 여기에는 비유클리드적이고 알고리즘적으로 특히 중요한 $\ell^d_1$ 경우가 포함된다. 이 상한들은 마진과 반지름에 의존하지만, 주변 차원이나 기저 측도 공간에는 의존하지 않는다. 이는 유클리드 공간, 즉 $\ell^d_2$에서 확장된 공의 PCC를 연구한 Bourneuf, Charbit, Thomassé(FOCS 2025)의 연구를 확장한 것이다. 또한 마진 매개변수 $\delta$ 측면에서 상한과 일치하는 VC 차원의 하한도 증명한다. 마지막으로, 기존 유클리드 결과를 확장하여 $L_p$ 공간에서 조밀 이웃 보조정리(Dense Neighborhood Lemma)를 유도한다. 우리의 방법은 비자명한 라데마허(Rademacher) 타입의 공간으로의 사상을 통한 거리의 선형화(linearization)와, 균형 잡힌 부호 합 추정 또는 무차원 라동 정리(no-dimensional Radon theorem)의 활용에 의존한다. 이 논증은 해당 분야 비전문가를 위해 명확하게 설명된 함수 해석학(functional analysis)의 아이디어에 기반한다.

arXiv:2607.06382v1stat.ML

합성적 학습을 위한 함수 공간 이분법: 신경 탄젠트 커널의 지수적 준최적성

A Function-Space Dichotomy for Compositional Learning: Exponential Sub-Optimality of the Neural Tangent Kernel

신경망이 합성적 구조(compositional structure) 과제에서 신경 탄젠트 커널(NTK)보다 우수하다는 경험적 관찰을 정량화하기 위해, 단위 원에서 타깃의 푸리에 복잡도(Fourier complexity)와 구조적 복잡도(architectural complexity)의 이분법을 통해 NTK 추정량이 미니맥스 하한보다 지수적으로 열등함을 이론적으로 증명했다. 깊이-L 반복 톱니파(iterated sawtooth)의 경우 NTK 회귀는 Ω(4^L) 샘플이 필요한 반면 최적 하한은 L의 다항식에 불과하며, 이 격차는 커널의 매끄러움 편향(smoothness bias)과 타깃의 합성적 구조 간의 함수 공간적 불일치에서 비롯됨을 수치 실험으로 확인했다.

arXiv:2603.11784v2cs.LG

리플레이를 통한 언어 생성: 모델 붕괴에 대한 학습 이론적 관점

Language Generation with Replay: A Learning-Theoretic View of Model Collapse

모델 붕괴(model collapse)를 학습 이론의 관점에서 분석하기 위해, 생성기의 과거 출력을 예시 스트림에 재주입하는 리플레이(replay) 적대자를 도입한 언어 생성 프레임워크를 제안한다. 리플레이는 균일 생성(uniform generation)에는 무해하지만 비균일 생성 및 한계에서의 생성(generation in the limit)에서는 증명 가능한 성능 저하를 야기하며, 이는 데이터 정제·워터마킹·출력 필터링 같은 실무 휴리스틱의 이론적 근거와 한계를 동시에 설명한다.

arXiv:2303.08777v3stat.ML

분포 무관 편차 경계와 교차 검증 위험 추정을 통한 모델 선택 학습에서 도메인 지식의 역할

Distribution-free Deviation Bounds and The Role of Domain Knowledge in Learning via Model Selection with Cross-validation Risk Estimation

교차 검증(cross-validation) 기반 모델 선택을 통한 학습의 이론적 특성을 분포 무관(distribution-free) 프레임워크로 분석하고, 전체 학습 파이프라인에 대한 VC 차원 기반 편차 경계(deviation bounds)를 유계·비유계 손실 함수 모두에 대해 수립한다. 도메인 지식을 부분 순서 구조로 인코딩한 Learning Spaces 개념을 도입하여, 목표에 잘 맞는 후보 모델 집합과 효율적인 탐색 알고리즘을 결합하면 모델 선택 학습이 LASSO·릿지 회귀 등 표준 방법을 크게 능가할 수 있음을 고차원 선형 회귀 실험으로 검증한다.

arXiv:2604.04535v2cs.LG

동치 쿼리로부터의 학습, 재고찰

Learning from Equivalence Queries, Revisited

생성 모델과 추천 시스템 같은 현대 기계학습 시스템은 배포, 사용자 상호작용, 주기적 모델 업데이트의 순환을 통해 발전하는 경우가 많다. 이는 고정된 예측 과제 시퀀스에 대한 손실 또는 후회 최소화에 초점을 맞추는 표준 지도학습 프레임워크와 다르다. 이러한 설정에 착안하여, 우리는 Angluin(1988)이 도입한 동치 쿼리로부터의 학습이라는 고전적 모델을 재고찰한다. 이 모델에서 학습자는 반복적으로 가설을 제안하고, 배포된 가설이 부적절할 경우 반례를 받는다. 그러나 완전 적대적 반례 생성 하에서는 모델이 지나치게 비관적일 수 있다. 또한 대부분의 선행 연구는 학습자가 반례의 올바른 레이블도 관찰하는 완전 정보(full-information) 설정을 가정하는데, 이는 항상 자연스러운 가정이 아니다. 우리는 환경을 덜 적대적인 반례 생성기의 광범위한 부류로 제한함으로써 이러한 문제를 해결하며, 이를 대칭적(symmetric) 생성기라 부른다. 비형식적으로, 이러한 생성기는 가설과 타깃 사이의 대칭 차집합만을 기반으로 반례를 선택한다. 이 부류는 무작위 반례(Angluin and Dohrn, 2017; Bhatia, 2021; Chase, Freitag, and Reyzin, 2024)와 같은 자연스러운 메커니즘뿐 아니라, 주어진 복잡도 척도에 따라 가장 단순한 반례를 반환하는 생성기도 포괄한다. 이 프레임워크 내에서 완전 정보 피드백과 밴딧(bandit) 피드백 양쪽 설정 하에 동치 쿼리로부터의 학습을 연구한다. 두 설정 모두에서 학습 라운드 수에 대한 타이트한 경계를 도출하고, 향후 연구 방향을 제시한다. 우리의 분석은 대칭적 적대자에 대한 게임 이론적 관점과 적응적 가중치 기법, 그리고 미니맥스(minimax) 논증을 결합한다.

arXiv:2512.23816v2cs.LG

프라이빗 및 강건한 정렬을 위한 개선된 경계

Improved Bounds for Private and Robust Alignment

언어 모델의 프라이빗(private) 및 강건한(robust) 정렬(alignment)을 이론적으로 분석해, 프라이버시 제약과 적대적 손상이 있는 선호 레이블 환경에서 오프라인·온라인 설정 모두의 최적성 격차(suboptimality gap) 상한을 확립한다. 프라이버시 단독 설정에서는 MLE 방식 log loss가 근-최적(near-optimal) 수렴률을 달성함을 보이고, 결합 설정에서는 기존 오프라인 알고리즘이 더 강한 보장을 제공함을 입증하며, 프라이빗·강건 온라인 정렬에 대한 최초 결과를 제시한다.

arXiv:2602.05704v2cs.LG

다중-인덱스 모델에서 통계적 쿼리를 넘어선 SGD의 한계

Limitations of SGD for Multi-Index Models Beyond Statistical Queries

그래디언트 방법, 특히 확률적 경사하강법(SGD)의 한계를 이해하는 것은 학습 이론의 핵심 과제이다. 이를 위해 일반적으로 사용되는 도구가 통계적 쿼리(SQ) 프레임워크로, 데이터와의 노이즈가 있는 상호작용에 기반한 알고리즘의 성능 한계를 연구한다. 그러나 SQ 프레임워크와 SGD 간의 공식적인 연결은 취약한 것으로 알려져 있다. 기존 결과들은 일반적으로 표준 SGD의 노이즈를 반영하지 않는 적대적이거나 특수하게 구조화된 그래디언트 노이즈에 의존하며, (본 논문에서 지적하듯이) 때로는 잘못된 예측으로 이어질 수 있다. 더욱이, 어려운 문제에 대한 많은 SGD 분석은 SGD 궤적을 구면으로 제한하거나 매우 작은 학습률을 사용하는 등 비자명한 알고리즘 수정에 의존한다. 이러한 단점을 해결하기 위해, 우리는 단일-인덱스 및 다중-인덱스 모델(즉, 목표 함수가 입력의 저차원 투영에 의존하는 경우)에 대해 표준 바닐라 SGD의 한계를 연구하는 새로운 비-SQ 프레임워크를 개발한다. 우리의 결과는 (잠재적으로 깊은) 신경망을 포함한 광범위한 설정 및 아키텍처에 적용된다.

arXiv:2601.02193v2cs.LG

단조 적대적 손상을 통한 학습

Learning with Monotone Adversarial Corruptions

단조 적대적 손상(monotone adversarial corruption) 모델에서 적대자가 정답 레이블을 유지한 채 데이터에 점을 추가해도, 이진 분류의 알려진 최적 학습 알고리즘(OIG, 다수결 투표 등)은 깨끗한 분포의 테스트 점에서 차선의 기대 오차를 강제로 당할 수 있음을 보여 데이터 교환가능성(exchangeability)에 대한 과의존을 드러낸다. 반면 균일 수렴(uniform convergence) 기반의 경험적 위험 최소화(ERM)는 손상 점 개수와 무관하게 O(d log(n/d)/n) 수준의 오차 보장을 유지한다.

arXiv:2606.23295v1cs.LG

통계적 학습에서 최소 위험의 비점근적 추정

Non-asymptotic estimates of the minimal risk in statistical learning

통계적 학습(statistical learning)의 경험적 위험 원칙(ERP)에서 두 종류 오류 확률에 대한 농축 부등식(concentration inequalities)을 증명해, 최소 경험적 위험을 기준으로 최소 위험(minimal risk)의 비점근적(non-asymptotic) 상·하한을 높은 신뢰도로 제시한다. 경험적 위험 함수의 유계(boundedness) 조건을 가우시안 또는 지수 적분 가능(integrability) 조건으로 완화했으며, 하한 신뢰도는 학습 파라미터 수와 입력 차원과 무관해 학습기의 비효율을 빠르게 검증할 수 있고, 상한은 표본 크기 n이 위험 함수 관련 Orlicz 메트릭 d_{ψ_1}에서 파라미터 집합 Θ의 box dimension보다 충분히 클 때 높다.

arXiv:2601.19756v2cs.LG

Random Hierarchy Models의 증명 가능한 학습과 계층적 Shallow-to-Deep Chaining

Provable Learning of Random Hierarchy Models and Hierarchical Shallow-to-Deep Chaining

Random Hierarchy Models(RHM)에서 그래디언트 기반 층별 학습으로 다층 합성곱 네트워크가 계층적 구조를 효율적으로 학습할 수 있음을 완화된 조건 하에서 증명한다. 중간 층이 레이블로부터 깨끗한 신호를 받고 관련 특징이 약하게 식별 가능(weakly identifiable)하면, 각 층을 개별 학습하는 shallow-to-deep chaining만으로 목표 함수를 계층적으로 학습하기에 충분하다는 일반 원리에 기반한다.

arXiv:2606.18306v1cs.LG

필셔 너비: 통계적 다양체에서의 복잡도에 대한 기하학적 척도

Fisher Width: A Geometric Measure of Complexity on Statistical Manifolds

유클리드 가우시안 너비(Gaussian width)는 통계 모델의 피셔 정보 메트릭(Fisher information metric) 기하를 반영하지 못하므로, 국소 메트릭 텐서 $G(\theta)^{1/2}$로 방향을 재가중하는 필셔 너비(Fisher width)를 제안해 통계적 다양체에서의 복잡도를 측정한다. Fisher-Lipschitz 가설 클래스에 대한 일반화 바운드를 증명하고 경험적 Fisher 기반 추정량을 MNIST의 logistic·softmax·ridge 모델에서 검증한다.

arXiv:2606.18236v1cs.LG

부호 랭크, 지수, 리스트 재현성: 연결과 분리

Sign-Rank, Index, and List Replicability: Connections and Separations

학습 이론에서 이진 개념 클래스(concept class)의 부호 랭크(sign rank)는 점과 반공간(halfspace)으로 표현할 수 있는 최소 차원을 포착한다. 엄청난 관심에도 불구하고 부호 랭크에 대한 하한(lower bound)을 구하는 것은 악명 높게 어렵다. 이 문제에 대한 두 가지 최근 접근법은 분석하기 더 쉬운 측도를 통해 부호 랭크의 하한을 확립한다: $\mathbb{Z}_2$-지수($\mathbb{Z}_2$-index)와 리스트 재현성 수(list replicability number)이다. 우리는 이 측도들의 순서를 밝히며, $\mathbb{Z}_2$-지수가 리스트 재현성 수의 선형 함수에 의해 상한(upper bound)된다는 것을 보인다. 주요 결과로서, 부호 랭크와 $\mathbb{Z}_2$-지수 사이의 강한 분리(separation)를 얻어 Frick, Hosseini, Vasileuski의 질문을 해결한다. 이는 두 하한 측도 중 더 강한 측도인 리스트 재현성에 대한 철저한 연구를 동기화한다. 우리는 높이(height)와 최소 스타 수(minimum star number)라는 두 가지 조합론적 측도에 의해 리스트 재현성 수의 상한을 확립한다. 또한 근본적인 합성(composition) 결과를 증명하여, 두 개념 클래스의 곱(product)의 리스트 재현성 수가 두 클래스 각각의 리스트 재현성 수의 합에 의해 상한된다는 것을 보인다.

arXiv:2606.12720v1math.PR

엔트로피의 근사 텐서화를 통한 의존성 하에서의 McDiarmid 부등식에 관하여

On McDiarmid's Inequality under Dependence via Approximate Tensorization of Entropy

엔트로피의 근사 텐서화(Approximate Tensorization of Entropy)를 통해 의존성이 있는 환경에서 McDiarmid 부등식을 도출하고, 이를 비등방 가우시안 벡터 및 강한 로그-오목 측도에 적용하여 집중 부등식을 확장했습니다. 이를 바탕으로 약한 의존성 하에서 Dvoretzky-Kiefer-Wolfowitz 유형의 부등식에 대한 수렴 속도를 기존 $n^{-1/3}$에서 $1/\sqrt{n}$으로 개선했습니다.

arXiv:2606.13576v1cs.LG

시뮬레이터를 활용한 학습: 계산적으로 제한된 세계에서의 후회 없음

Learning with Simulators: No Regret in a Computationally Bounded World

데이터 분포를 근사하는 시뮬레이터에 접근할 수 있는 시뮬레이션 가능한 프로세스(simulatable processes) 프레임워크를 도입하여 강하게 의존적인 데이터에서도 VC 차원(VC dimension)에 기반한 학습 보장을 회복한다. 또한 시간 제한 콜모고로프 복잡도에 의해 후회(regret)가 제어되는 단일 알고리즘을 통해 다항식 시간 내에 샘플링 가능한 모든 프로세스에서 학습이 가능함을 보여준다.

arXiv:2606.12441v1cs.CY

생성주의(Generativism): 생성 인공지능 시대를 위한 학습 이론을 향하여

Generativism: Toward a Learning Theory for the Age of Generative Artificial Intelligence

행동주의, 인지주의, 구성주의, 연결주의라는 네 가지 주요 학습 이론은 생성형 인공지능(AI)이 교육 환경에 확산됨에 따라 상당한 개념적 한계를 드러내고 있다. 이러한 프레임워크들은 지식을 생성하고, 종합하며, 추론할 수 있는 AI 시스템이 등장하기 이전에 형성되었다. 본 논문은 각 학습 이론을 비판적으로 검토하고, 생성형 AI의 어포던스(affordances)가 도전하는 전제들을 규명한다. 분산 인지, 확장된 마음, 인간-AI 협업, AI 리터러시, 인지 오프로딩, 메타인지에 관한 연구를 바탕으로, 본 논문은 생성형 AI 시대를 위한 학습 이론으로서 생성주의(Generativism)를 제안한다. 생성주의는 학습이 인간 학습자와 AI 시스템 간의 반복적인 지식 공동 구성을 통해 점점 더 이루어진다고 주장한다. 제안된 프레임워크는 네 가지 원칙, 즉 인식론적 파트너십(epistemic partnership), 분산 에이전시(distributed agency), 생성적 리터러시(generative literacy), 적응적 메타인지(adaptive metacognition)를 중심으로 구성된다. 이 프레임워크는 생성형 AI가 인지에 핵심적인 역할을 담당하는 맥락에서 교수 설계, 학습, 평가, 전문성 개발을 재고하기 위한 토대를 제공한다.