PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.02410v1cs.LG

적응형 커버리지와 집중 샘플링을 통한 효율적인 신경장 학습

Efficient Neural Field Learning via Adaptive Coverage and Focused Sampling

암시적 신경 표현(Implicit Neural Representations, INR)은 고차원 연속 필드(continuous field)를 모델링하기 위한 유연한 프레임워크를 제공하지만, 공간적 이질성을 무시하는 균일한 서브샘플링으로 인해 학습 효율이 떨어지는 경우가 많습니다. 기존의 적응형 샘플링 방법들은 높은 오차를 보이는 샘플에 우선순위를 두어 이 문제를 부분적으로 해결하지만, 일반적으로 포인트 수준에서 작동하므로 국소적 영역에서의 중복 샘플링과 도메인의 불충분한 커버리지를 초래하곤 합니다. 본 논문에서는 커버리지와 중요도를 분리함으로써 학습 효율을 향상시키는 구조화된 샘플링 프레임워크인 ACES(Adaptive Coverage-aware Efficient Sampling)를 제안합니다. ACES는 도메인 커버리지를 보장하고 중복성을 줄이기 위해 적응형 공간 분할을 구성하며, 학습 중 정보량이 많은 영역의 우선순위를 정하기 위해 영역 수준의 중요도 가중치를 적용합니다. 본 연구에서는 적응형 분할이 영역 내 균질성을 증가시켜 그래디언트 분산을 줄이고, 영역 수준 가중치 적용 시 제어된 바이어스가 표준 비편향 추정량 대비 최적화 효율을 향상시킬 수 있음을 이론적 분석을 통해 보여줍니다. 과학적 필드 학습 태스크에 대한 실험 결과, ACES는 균일 샘플링 및 포인트 단위 적응형 샘플링 베이스라인보다 더 빠른 수렴과 더 낮은 오차를 달성하며, 국소적 복잡성이 높은 필드에서 가장 큰 성능 향상을 보이는 것으로 나타났습니다.

arXiv:2607.03145v1cs.LG

CuBAS: 지도 분류를 위한 정보 기하학적 곡률 기반 적응형 샘플링

CuBAS: Information Geometric Curvature-Based Adaptive Sampling for Supervised Classification

q-상태 Potts 마르코프 랜덤 필드(MRF) 기반의 정보 기하학적 프레임워크인 CuBAS는 레이블된 데이터셋을 통계 다양체로 모델링하고, Fisher 정보의 1차·2차 비율로 추정한 국소 곡률을 활용해 지도 분류에서 정보량이 높은 샘플을 적응적으로 선택한다. 결정 경계 주변의 고곡률 영역과 균질한 저곡률 영역을 모두 포함하는 방식으로 훈련 부분집합을 구성하며, 60개 이상의 벤치마크 데이터셋에서 랜덤 샘플링 및 불확실성 기반 베이스라인 대비 통계적으로 유의미한 분류 정확도 향상을 달성한다.

arXiv:2606.11347v2stat.ML

순위 매기기 및 선택을 위한 어닐링 엔트로피 할당

Annealed Entropic Allocation for Ranking and Selection

우리는 정적 예산 할당의 어닐링된 가중 soft-min 공식화에 기반한 적응형 샘플링 정책인 어닐링 엔트로피 할당을 제안한다. maximin 대편차율(large-deviation rate) 목적함수를 soft-min 가중치를 통해 도전자(challenger)별 쌍별 점수를 혼합하는 가중 log-sum-exp 대리(surrogate)로 대체하여, 여러 도전자가 거의 활성 상태일 때 경직된 전환(hard switching)을 피한다. 선행 지수를 넘어서는 꼬리 동작을 포착하기 위해, 이 대리함수는 정교화된 쌍별 꼬리 젉근에서 유도된 saddlepoint 전계수를 포함한다. 이러한 보정항은 아지지수적(subexponential)이므로, 예산에 따라 어닐링 온도를 낮추면 동일한 1차 목표 할당이 보존된다. 정적 문제에 대해 hard minimum에 대한 균등 수렴, 활성 도전자에 대한 soft-min 가중치의 집중, 고정 가중치 하에서 유도된 목표-할당 사상의 연속성을 증명한다. 실험 결과, 제안 방법은 일관되게 경쟁력 있는 성능을 보인다: saddlepoint 없는 ablation은 대칭 Gaussian 및 exponential slippage 설정에서 가장 좋은 성능을 보이며, saddlepoint 가중화는 이질적 또는 비대칭 경우에 도움이 될 수 있다.

arXiv:2606.12869v1cs.CV

밀도 균등화 매핑을 통한 공유 살리언시 기반 작업 인식 샘플링 학습

Learning Task-Aware Sampling with Shared Saliency through Density-Equalizing Mappings

이미지 및 표면 기반 학습 작업에서 합성곱 특징은 일반적으로 전체 영역에 걸쳐 균일하게 샘플링된 수용 필드(receptive fields)를 사용하여 추출됩니다. 그러나 실제로 정보가 있는 구조가 균일하게 분포하는 경우는 드물며, 종종 국소 영역에 집중되어 있습니다. 이러한 현상은 병리학적 변화가 공간적으로 국한되는 의료 영상에서 특히 흔합니다. 결과적으로 균일 합성곱은 정보성 영역과 비정보성 영역에 동일한 계산 비용을 할당하게 되어, 비효율적인 특징 추출과 모델 용량의 비최적 활용을 초래합니다. 이 문제를 해결하기 위해, 데이터의 공간적 중요성에 따라 계산적 어텐션을 동적으로 재분배하는 작업 적응형 샘플링 프레임워크를 제안합니다. 구체적으로, 학습된 밀도 함수를 통해 합성곱을 안내하는 밀도 균등화 매핑을 활용하는 밀도 균등화 합성곱 신경망(DECNN)을 소개합니다. 밀도 함수는 서로 다른 영역의 상대적 중요성을 인코딩하며, 정보성 영역은 확대하고 관련성이 낮은 영역은 압축하는 변환을 유도합니다. 그 결과, 합성곱 수용 필드가 영역 위에 비균일하게 재분배되어 작업 관련 영역에서 더 조밀한 샘플링이 가능해집니다. 이러한 중요성 기반 변환을 합성곱과 결합함으로써, DECNN은 계산 자원을 정보성 구조에 집중시키는 적응형 특징 추출을 수행합니다. 이는 모델 용량을 더 효율적으로 사용하게 하여, 해석 가능한 살리언시 맵(saliency map)을 생성하는 동시에 가볍고도 표현력이 뛰어난 아키텍처를 제공합니다. 이미지 분류 및 두개안면 표면 분석에 대한 실험을 통해 DECNN은 더 적은 매개변수로 경쟁력 있거나 우수한 성능을 달성하고, 작업 관련 영역을 정확히 식별하며, 복잡한 기하학적 변형 하에서도 강건함을 입증했습니다.