PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.13498v2cs.LG

강화학습을 위한 인수분해 스펙트럴 표현

Factorized Spectral Representations for Reinforcement Learning

상호작용 데이터로부터 세계의 간결한 모델을 학습하는 것은 샘플 효율적인 심층 강화학습의 핵심이다. 스펙트럴 표현 방법은 전이 커널을 행렬 관점으로 바라보고, 한쪽에는 상태-행동 쌍을, 다른 쪽에는 다음 상태를 두며, 자기지도 대조 목표를 통해 저랭크 인수분해를 학습함으로써 연속 제어에서의 표현 학습을 위한 주도적 패러다임이 되었다. 우리는 이 관점을 한 단계 더 나아간다. 전이 커널은 상태, 행동, 다음 상태에 걸친 자연스러운 3-모드 텐서이며, CP 분해는 모드마다 하나의 특징 맵을 제공한다. 우리는 노이즈 대조 목표로 이 분해를 적합시키는 FaStR을 제안하며, 이는 상태, 행동, 다음 상태에 대한 별도의 인코더를 생성하고 이들이 함께 단일 스펙트럴 표현을 구성한다. 인수분해 형태는 더 작은 가설 클래스를 만들며, 표현 학습에 필요한 샘플 크기는 상태 차원과 행동 차원 중 더 작은 값에 비례하는 계수만큼 줄어든다. 실험적으로 FaStR은 역학이 인수분해 구조와 일치하는 고차원 이동(locomotion) 과제에서 가장 큰 이득을 보이며, 학습된 상태 인코더는 액추에이터 변화(actuator shift)에 걸쳐 그대로 전이되고 오직 행동 인코더만 재학습된다.

arXiv:2610.11000v1cs.LG

강수의 저순위 텐서 구조와 인공위성-참조 관측 결합에의 응용

Low-rank tensor structure of precipitation and its application to satellite-reference merging

강수의 간헐적이고 가변적인 특성은 광범위한 영역에 걸친 정확한 추정을 어렵게 만들지만, 시공간적 구조는 저순위 표현(low-rank representation)이 가능함을 시사합니다. 본 연구는 미국 본토(CONUS)의 일별 강수를 시공간 텐서(tensor)로 표현하고 CANDECOMP/PARAFAC 분해를 적용하여, 고유한 공간 및 시간 모드를 보존하는 것이 독립적인 일별 필드나 펼쳐진 시공간 행렬을 분해하는 것보다 더 정확한 재구성을 산출함을 보입니다. 이러한 발견을 바탕으로, 본 연구는 공유된 저순위 공간 및 시간 인자를 통해 인공위성 강수량과 희소한 참조 관측치를 통합하는 텐서 기반 프레임워크인 TMerge를 제안합니다. TMerge는 미국 본토에 대한 기후예측센터(CPC) 참조 관측치를 사용하여 IMERG Final Run 제품을 보정하는 데 적용되었습니다. 2019-2022년 동안 TMerge는 상관관계를 0.53에서 0.85로 증가시켰으며, 평균제곱근오차(RMSE)와 평균절대오차(MAE)를 각각 48.2%와 29.3% 감소시켰습니다. TMerge는 계절, 강수 강도 영역, 지역 전반에 걸쳐 선형 바이어스(bias) 보정, 분위수 매핑(quantile mapping), 신경망보다 일관되게 우수한 성능을 보였습니다. 개선 효과는 공간적으로 일관되었으며, IMERG 오차가 가장 컸던 해안 지역에서 가장 두드러졌습니다. 이러한 결과는 저순위 텐서 구조가 강수의 지배적인 시공간 변동성을 간결하게 근사하며, 광범위한 영역에 걸쳐 참조 관측이 제한된 상황에서 인공위성 추정치를 개선하기 위한 실용적인 메커니즘을 제공함을 입증합니다.

arXiv:2606.21427v1cs.LG

희소 텐서 완성을 위한 이중 어텐션 합성곱 전문가 네트워크

Dual-Attention Convolution Experts for Sparse Tensor Completion

텐서 분해(TF)는 고차원 희소 데이터 완성 과제에 널리 활용되어 왔다. 상당한 진전에도 불구하고, 신경망 기반 TF 방법들은 복잡한 모드 간 상호작용을 포착하는 데 어려움을 겪으며, (극단적인) 데이터 희소성에 취약한 상태로 남아 있다. 이러한 문제를 해결하기 위해, 우리는 그룹 수준 대조 학습을 결합한 이중 어텐션 합성곱 전문가 네트워크(DCGC)라는 새로운 신경망 기반 텐서 분해 방법을 제안한다. 첫 번째 문제에 대해, DCGC는 다중 채널 합성곱 네트워크를 통해 잠재 요인의 다양한 비선형 정렬 패턴을 생성하고, 게이팅된 이중 어텐션 메커니즘을 활용하여 모델이 더 중요한 출력 채널(즉, 합성곱 전문가)과 정렬된 특징에 집중하도록 유도한다. 또한, DCGC는 동일한 피드백 수준의 긍정 샘플을 집계하면서 서로 다른 수준의 부정 샘플을 분리하는 그룹 수준 대조 학습 전략을 도입한다. 이 전략은 고품질의 자기 지도 신호를 주입하여 데이터 희소성을 완화한다. 다섯 개의 데이터셋에서 수행된 광범위한 실험을 통해, DCGC가 교통 및 추천 애플리케이션에 대한 희소 텐서 완성에서 최신 기법들을 능가함을 입증한다. 논문의 실험 결과를 재현하기 위한 코드는 https://github.com/ku1z/DCGC 에서 확인할 수 있다.

arXiv:2606.17267v1stat.ME

국제 무역 흐름에의 응용을 위한 베이지안 포아송-랜덤화 감마 텐서 인수분해

Bayesian Poisson-Randomized Gamma Tensor Factorization with Application to International Trade Flows

우리는 과도한 0, 긴 오른쪽 꼬리, 그리고 슬라이스별 산포를 가진 희소 반연속 텐서 데이터를 연구합니다. 이러한 특징은 국제 무역과 같은 화폐 가치의 다방향 데이터에서 자연스럽게 발생하며, 여기서 대부분의 수출국-수입국-제품-연도 셀은 0이지만 양의 값은 연속적이고 변동성이 매우 큽니다. 이러한 데이터를 모델링하기 위해, 우리는 잠재 포아송 비율 텐서에 저계수 CP 구조를 배치하고 모드 내 슬라이스에 따라 달라질 수 있는 비율 파라미터를 사용하여 양의 결과에 대한 조건부 감마 모델과 결합하는 베이지안 계층적 텐서 인수분해 모델을 제안합니다. 따라서 이 모델은 공유된 저계수 잠재 구조를 통해 모든 텐서 차원에 걸쳐 정보를 공유하면서 양의 관측치의 발생과 크기를 분리합니다. 대규모 배열로 사후 추론을 확장하기 위해, 우리는 효율적인 좌표 상승 업데이트와 부분적으로 축소된 증강 데이터 샘플러를 결합하는 하이브리드 변분-몬테카를로 알고리즘을 개발합니다. 약 6천만 개의 무역 흐름에 적용했을 때, 이 방법은 제품 및 시간 차원을 공동으로 모델링하지 않는 중력형 또는 쌍별 네트워크 분석에서는 회복하기 어려운 수출국, 수입국, 제품 및 연도에 걸친 다방향 의존성을 드러냅니다.