PyTorchKR Papers

최신 논문

총 15편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.24969v2cs.LG

Frequency Domain Reservoir Computing

While the quadratic sequence-length bottleneck of transformers has fueled a resurgence in recurrent models, effectively capturing complex dynamics requires architectures that balance efficient training with highly expressive latent states. Echo State Networks (ESNs) offer a compelling approach by utilizing fixed recurrent weights to circumvent backpropagation through time, enabling a closed-form training solution. However, achieving the expressivity needed for complex tasks demands large reservoirs, exposing an $\mathcal{O}(N^2)$ state-update bottleneck that prevents ESNs from matching the scale of contemporary recurrent models. To address this limitation, we introduce Frequency Domain Reservoir Computing (FRESCO), an ESN architecture operating entirely in the frequency domain while avoiding domain-shift overheads to achieve $\mathcal{O}(N)$ complexity for dense, non-linear updates via structured circulant recurrence. By employing a novel dimensional zero-padding input embedding, a packed frequency-domain readout, and a natively applied frequency-domain non-linearity, FRESCO drastically reduces computational costs and energy consumption of training and inference. Furthermore, FRESCO achieves competitive predictive performance on memory benchmarks, sequential classification, and multivariate long-horizon forecasting, offering a scalable and energy-efficient path forward for dense recurrent architectures.

arXiv:2402.02399v3cs.LG공식 코드 · Papers with Code

FreDF: 주파수 영역에서의 예측 학습

FreDF: Learning to Forecast in the Frequency Domain

시계열 모델링은 과거 데이터와 미래 시퀀스 모두에 존재하는 자기상관(autocorrelation)으로 인해 고유한 어려움을 야기합니다. 현재 연구는 주로 과거 데이터 내의 자기상관을 다루는 반면, 미래 레이블 간의 상관관계는 간과되는 경우가 많습니다. 구체적으로, 최신 예측 모델은 주로 직접 예측(Direct Forecast, DF) 패러다임을 따르며, 다단계 예측을 독립적으로 생성하고 시간에 따른 레이블 자기상관을 무시합니다. 본 연구에서는 레이블 자기상관이 존재할 때 DF의 학습 목표에 바이어스가 발생함을 증명합니다. 이러한 문제를 해결하기 위해, 우리는 주파수 영역에서 예측하는 법을 학습하여 레이블 자기상관을 완화하고 추정 바이어스를 줄이는 FreDF(Frequency-enhanced Direct Forecast)를 제안합니다. 실험 결과에 따르면 FreDF는 기존의 최신 SOTA(state-of-the-art) 방법들을 크게 능가하며 다양한 예측 모델과 호환됩니다. 코드는 https://github.com/Master-PLC/FreDF 에서 확인할 수 있습니다.

arXiv:2511.10806v1eess.IV

어텐션에서 주파수로: 향상된 이미지 디블러링을 위한 Vision Transformer와 FFT-ReLU 통합

From Attention to Frequency: Integration of Vision Transformer and FFT-ReLU for Enhanced Image Deblurring

이미지 디블러링은 컴퓨터 비전(CV)에서 중요하며, 움직임이나 카메라 흔들림으로 인한 흐릿한 이미지로부터 선명한 이미지를 복원하는 것을 목표로 한다. CNN과 Vision Transformer(ViT) 같은 심층 학습 접근법이 이 분야를 발전시켜 왔지만, 복잡하거나 고해상도 블러와 계산 요구량에서 종종 어려움을 겪는다. 우리는 Vision Transformer를 주파수 영역 FFT-ReLU 모듈과 통합하는 새로운 이중 영역 아키텍처를 제안하며, 공간 어텐션 모델링과 주파수 희소성을 명시적으로 연결한다. 이 구조에서 ViT 백본은 지역 및 전역 의존성을 포착하고, FFT-ReLU 구성요소는 주파수 영역 희소성을 강제하여 블러 관련 아티팩트를 억제하고 세밀한 디테일을 보존한다. 벤치마크 데이터셋에 대한 광범위한 실험은 이 아키텍처가 최신(state-of-the-art) 모델 대비 우수한 PSNR, SSIM 및 지각 품질을 달성함을 보여준다. 정량적 지표, 정성적 비교, 인간 선호도 평가 모두 그 효과를 확인하며, 실세계 이미지 복원을 위한 실용적이고 일반화 가능한 패러다임을 확립한다.

arXiv:2607.11071v1cs.CV

DDR-Net: 단일 이미지 디헤이징을 위한 헤이즈 인식 이중 도메인 정제 네트워크

DDR-Net: Haze-Aware Dual-Domain Refinement for Single-Image Dehazing

단일 이미지 디헤이징(single-image dehazing)은 헤이즈로 열화된 이미지에서 선명한 장면을 복원하는 것을 목표로 한다. 대기 산란(atmospheric scattering)과 실세계 헤이즈 분포의 복잡성으로 인해 여전히 어려운 문제로 남아 있다. 최근의 엔드-투-엔드 네트워크들이 유망한 성능을 달성했음에도 불구하고, 두 가지 문제가 여전히 그 효과를 제한한다: 병목 단계에서의 불충분한 특징(feature) 정제와 인코더-디코더 구조에서의 취약한 지역 구조 표현이다. 이에 우리는 단일 이미지 디헤이징을 위한 헤이즈 인식 이중 도메인 정제 네트워크(DDR-Net)를 제안한다. 우리의 방법은 세 가지 모듈로 구성된다: 헤이즈 사전 추출기(HPE, Haze Prior Extractor)는 다운샘플링된 헤이즈 이미지에 직접 연산하여 다중 스케일의 헤이즈 인식 사전 정보를 제공하고, 세부 향상 블록(DE Blocks, Detail-Enhanced Blocks)은 핵심 특징 추출 단위로서 다중 스케일 구조 정보를 포착하고 그래디언트(gradient) 인식 합성곱을 통해 에지 및 텍스처 복원을 강화하며, 공간-주파수 병목 정제(SFBR, Spatial-Frequency Bottleneck Refinement)는 병목 지점에서 공간 및 주파수 정보를 공동으로 활용하여 병목 특징을 정제한다. DDR-Net은 헤이즈 제거를 위한 보다 효과적인 특징 표현 및 재구성을 달성한다. 실세계 벤치마크에 대한 광범위한 실험을 통해 우리의 방법이 기존 디헤이징 기법들을 능가함을 입증한다. 또한 합성 데이터셋에서도 경쟁력 있는 성능을 달성한다.

arXiv:2607.10427v1cs.CV

BOCCHI: MSDCT-UNet을 활용한 국소 모션 블러 검출을 위한 더욱 현실적이고 도전적인 벤치마크

BOCCHI: A More Realistic and Challenging Benchmark for Local Motion Blur Detection with MSDCT-UNet

국소 모션 블러 검출은 블러 영역의 픽셀 수준 위치 파악을 필요로 한다. 기존 벤치마크들은 모델이 전이에 실패하는 그래디언트 단축키에 의존하도록 허용한다. 우리는 BOCCHI(Blurred Objects Captured across Cameras with Human-annotated Imagery)를 소개한다. 이는 선명한 영역이 블러 그래디언트 분포와 겹쳐 이러한 단축키를 무력화하는 실제 촬영 벤치마크이며, 주파수 인식 인코더-디코더인 MSDCT-UNet(Multi-Scale Discrete Cosine Transform UNet)을 제안한다. MSDCT-UNet은 DCT 어텐션과 FiLM을 통해 다중 스케일 DCT 사전 정보를 주입한다. MSDCT-UNet은 BOCCHI의 도메인 내 mIoU 및 경계 위치 파악에서 1위를 기록하며, BOCCHI로 학습된 모델은 단 633개의 학습 이미지만으로 교차 데이터셋 전이에서 다른 모든 학습 소스를 능가한다.

arXiv:2607.08475v1cs.LG

주파수 도메인 다중 모달리티 교통 모델링

Frequency-Domain Multi-Modality Transportation Modeling

교통 흐름과 대중교통 등 다중 모달리티 교통 데이터의 예측에서 모달리티별 스펙트럼 특성 차이와 주파수 간 불균등 상호작용 문제를 해결하기 위해, 주파수 도메인에서 적응적 스펙트럼 정제(MFF)와 선택적 교차 모달리티 시너지(FSI)를 수행하는 경량 프레임워크 FreMo를 제안한다. FreMo는 기존 시계열 백본에 플러그앤플레이 방식으로 통합 가능하며, 실세계 데이터셋 실험에서 최신 기준 모델들을 일관되게 능가하는 성능을 보였다.

arXiv:2607.04170v1cs.LG

FedFFT: 스펙트럼 섭동 필터링을 통한 연합 SAM의 클라이언트 드리프트 해소

FedFFT: Taming Client Drift in Federated SAM via Spectral Perturbation Filtering

연합 학습에서 SAM 섭동의 클라이언트 간 불일치가 저주파 스펙트럼에 집중되어 있음을 주파수 도메인 분석으로 최초 규명하고, 이를 바탕으로 추가 통신 없이 저주파 성분을 필터링하는 경량 플러그 앤 플레이 방법인 FedFFT를 제안하였다. 다양한 벤치마크와 백본에서 특히 심각한 non-IID 환경 하에 기존 SAM 기반 연합 학습 방법들을 일관되게 능가함을 실험적으로 입증하였다.

arXiv:2510.17917v2cs.LG

Not Every Time and Frequency Need to Be Forgotten in Diffusion Unlearning

Data unlearning aims to remove the influence of specific training samples from a trained model. In fine-tuning methods, data unlearning relies primarily on loss maximization over forget samples, which often leads to quality degradation or incomplete forgetting. Existing methods perform unlearning uniformly across diffusion stages, ignoring diffusion dynamics from noise to data. Our systematic study of diffusion phases shows that forgetting in diffusion models is uneven across time and frequency, with theoretical justification of distributive distortion and forgetting-utility trade-off. By selectively forgetting time and frequency in diffusion models, we achieve both higher unlearning success rates and improved generation quality across diverse settings, including both conditional and unconditional scenarios. We also introduce an improved SSCD metric that measures dissimilarity using a normalized perturbation distance. Together, we provide practical insights for understanding and improving data unlearning in diffusion models.

arXiv:2606.26719v1cs.CV

스펙트럼 등화를 통한 전 스펙트럼 학습 불가 예제

Full spectrum Unlearnable Examples via Spectral Equalization

기존 학습 불가 예제(UE)가 저역통과 필터 적용 시 무력화되는 치명적 취약점을 발견하고, 이를 해결하기 위해 무작위 스펙트럼 마스킹(RSM)과 교차 대역 가이던스(CBG)를 결합한 FUSE 프레임워크를 제안한다. FUSE는 전 주파수 대역에 걸쳐 perturbation 효과를 균등하게 분산시켜 스펙트럼 필터링 환경에서도 강건한 데이터 보호 성능을 달성한다.

arXiv:2606.23825v1cs.CV

공간에서 주파수로: 소형 객체 검출을 위한 효율적인 주파수 기반 특징 표현 학습기

From Spatial to Spectral: An Efficient, Frequency-Guided Feature Representation Learner for Small Object Detection

효율적인 소형 객체 검출(small object detection)은 작은 타겟의 고유한 특징 희소성에 의해 병목 현상이 발생하며, 이는 중요한 고주파 세부 정보를 무차별적으로 버리는 공간 도메인 검출기의 연산으로 인해 더욱 악화된다. 공간 도메인 내에서 이러한 취약한 단서를 복원하는 것은 매우 어려운 것으로 알려져 있는데, 이는 종종 배경 노이즈를 의도치 않게 증폭시키는 계산 비용이 높은 아키텍처 업스케일링을 필요로 하기 때문이다. 이 격차를 해소하기 위해, 우리는 공간에서 주파수로의 특징 처리 패러다임 전환을 제안하며, 다음과 같은 새로운 요소를 포함한 통합적 솔루션을 소개한다: (1) CNN 및 트랜스포머(Transformer) 기반 아키텍처를 포함한 다양한 검출기 아키텍처에 범용적으로 적용 가능한 주파수 기반 특징 표현 프레임워크(Frequency-Guided Feature Representation framework)로, 공간 전용 특징 추출의 강력한 대안을 제공한다; (2) Wavelet-Difference Gate(WDG), Log-Gabor Enhancer(LGE), Frequency-Driven Head(FDHead)의 세 가지 경량 플러그앤플레이 모듈로 구현되는 통합된 분해-향상-재구성(Decompose–Enhance–Reconstruct, DER) 연산자로, 백본, 넥, 헤드에 주파수 인식 변조를 체계적으로 주입한다. 이 메커니즘은 특징 모델링을 해상도 축소로부터 분리하여, 매개변수(parameter) 중복을 크게 줄이면서 정확한 위치 파악을 가능하게 하는 변별력 있는 고주파 성분을 포착한다; (3) 다중 도메인 벤치마크(VisDrone2019, UAVDT, TinyPerson, DOTAv1)에 대한 광범위한 검증(validation)을 통해 일관된 성능 향상을 입증한다. 특히, 제안된 DERNet 시리즈는 동일한 규모에서 YOLOv11 모델을 능가하면서 매개변수의 1/6만을 필요로 하며, 이는 엄격한 주파수 진단 및 오류 분해 분석에 의해 뒷받침된다.

arXiv:2508.17142v3eess.SY

저차 시스템의 주파수 응답 동정: 유한 샘플 분석

Frequency Response Identification of Low-Order Systems: Finite-Sample Analysis

반복적인 노이즈가 포함된 주파수 영역 측정값으로부터 Loewner 행렬의 핵노름 정규화와 세미데피니트 프로그램(semidefinite program) 기반 안정성 제약을 결합한 저차 시스템 주파수 응답 추정기를 제안하고, 샘플링된 주파수에서의 유한 샘플 오차 상계를 유리 보간(rational interpolation)으로 전 주파수로 확장한다. 이 상계는 반복 실험 횟수, 주파수 점 수, 시스템 차수, 노이즈 수준에 대한 의존성을 특성화하며, SISO 및 MIMO 수치 실험에서 저차 촉진 효과와 예측된 스케일링 법칙을 검증한다.

arXiv:2606.22075v1cs.LG

비선형 동역학 시스템 모델링을 위한 주파수 영역 Neural ODE

Frequency-Domain Neural ODEs for Modeling Non-Linear Dynamical Systems

Neural Ordinary Differential Equations (NODE)와 같은 표준 연속 깊이 모델은 이산 시간 단계 대신 연속 벡터 필드를 학습함으로써 물리 시스템 모델링에 상당한 이점을 제공한다. 그러나 복잡한 동역학 시스템에 적용할 때 표준 NODE는 고도로 비선형인 동역학을 다루는 데 자주 어려움을 겪는다. 본 논문은 Fast Fourier Transform (FFT)을 사용하여 연속 시간 동역학을 주파수 영역으로 투영하는 아키텍처인 Frequency-domain Neural ODE (FNODE)를 조사한다. 주파수 영역에서 동작함으로써, 해당 모델은 동역학 시스템에 대한 더 나은 일반화를 제공한다. 이 아키텍처는 Lotka-Volterra 모델, 강제 Duffing 진동자, Van der Pol 진동자, Lorenz 시스템이라는 네 가지 서로 다른 동역학 시스템에 대해, 구체적으로 Gated Recurrent Unit (GRU)와 Long Short-Term Memory (LSTM) 같은 이산 모델 및 Augmented Neural ODE (ANODE)를 포함한 다른 연속 깊이 변형과 비교하여 실증적으로 평가된다. 일반화와 견고성을 엄밀히 평가하기 위해, 커리큘럼 학습과 앙상블 학습을 사용하여 서로 다른 앙상블 모델들에 걸쳐 신뢰 구간을 추정함으로써 모델의 수렴을 평가한다. 실증 결과는 FNODE 아키텍처가 뛰어난 수렴 안정성을 보이면서 더 나은 일반화를 달성함을 보여준다.

arXiv:2606.17540v1cs.CV

TaFD: Threat-Aware Frequency Decoupling for Adversarial Robustness against Heterogeneous Attacks

다중 위협 강건성은 심층 학습(deep learning)에서 여전히 근본적인 과제로 남아 있습니다. 결합 적대적 학습(JAT)이 널리 채택되었지만, 특히 $\ell_p$-제한 공격과 의미론적 공격 사이의 이질적 위협 하에서 네거티브 전이(negative transfer) 문제를 겪습니다. 1차 그래디언트(gradient) 분석을 통해 이를 그래디언트 비호환성으로 공식화하고, 분리된 최적화의 필요성을 이론적으로 확립합니다. 또한 이러한 충돌하는 위협들이 주파수 영역에서 분리 가능한 스펙트럼 특성을 나타냄을 밝혀냅니다. 이 관찰에 착안하여, 우리는 JAT를 주파수 영역 분할 정복(divide-and-conquer) 패러다임으로 재구성하는 2단계 방어 프레임워크인 위협 인지 주파수 분리(TaFD)를 제안합니다. TaFD는 먼저 공격 스펙트럼 프로토타입의 비지도 군집화를 통해 잠재적 위협 도메인을 발견하고, 추론(inference) 시간 위협 도메인 식별을 위해 경량 분류기를 학습(training)합니다. 이 예측에 조건화되어, TaFD는 위협 도메인 특정 스펙트럼 마스크를 학습하고 각 샘플을 해당 전문가로 라우팅하는 주파수 조건부 합성곱(Frequency-Conditional Convolution)을 사용하여, 구조적 매개변수(parameter) 분리를 강제하고 최적화 충돌을 완화합니다. 우리는 세 가지 대표적인 이미지 분류(classification) 벤치마크(CIFAR-10, CIFAR-100, Tiny-ImageNet)와 두 가지 대표적인 아키텍처(합성곱(convolution) ResNet 및 하이브리드 트랜스포머(transformer) MobileViT)에서 TaFD를 검증합니다. 광범위한 결과는 TaFD가 기존 JAT 및 주파수 영역 기준선(baseline)보다 이질적 공격에 대해 더 균형 잡힌 강건성을 달성함을 보여주며, 최상의 기준선보다 평균 강건 정확도를 약 11% 향상시키면서도 최고 수준의 깨끗한 정확도(clean accuracy)를 유지합니다.

arXiv:2606.17403v1cs.CV

재난 평가를 위한 공간 및 주파수 관점의 통합: 이점과 한계

Bridging Spatial And Frequency Views For Disaster Assessment: Benefits And Limitations

위성 이미지를 통한 건물 피해의 신속한 평가는 효과적인 재난 대응 및 복구에 필수적입니다. 대부분의 심층 학습(deep learning) 방법은 공간 영역(spatial-domain) 특징에 의존하지만, 주파수 영역(frequency-domain) 표현은 잔해 패턴 및 붕괴 유발 질감과 같은 보완적인 구조적 단서를 포착할 수 있습니다. 본 연구는 xView2 (xBD) 데이터셋의 재난 후 이미지를 사용하여 다중 클래스 건물 피해 분류(classification)를 위해 공간 영역, 주파수 영역, 및 이중 영역(dual-domain) 심층 학습 접근 방식의 통제된 비교를 제시합니다. 공정성을 보장하기 위해 모든 모델은 EfficientNet-B0 백본을 기반으로 구축되었으며, 입력 표현 및 융합 전략만 다른 동일한 설정 하에서 학습되었습니다. 성능은 정확도, 매크로 F1 점수(macro F1-score), 클래스별 메트릭, 및 혼동 행렬을 사용하여 평가됩니다. 결과에 따르면 이중 영역 모델은 단일 영역 접근 방식보다 측정 가능한 개선을 제공합니다. 이중 공간 구성은 가장 높은 테스트 정확도(0.4688)와 가장 낮은 손실(loss)을 달성한 반면, 공간 전용 모델은 가장 좋은 매크로 F1 점수(0.4254)를 달성하여 더 균형 잡힌 클래스 성능을 나타냅니다. 대조적으로, 주파수 전용 모델은 성능이 가장 낮고 과적합(overfitting)을 보여, 제한된 일반화를 시사합니다. 이러한 개선에도 불구하고, 모든 모델은 클래스 불균형과 세밀한 시각적 모호성으로 인해 미세한 피해 수준, 특히 Minor 클래스를 감지하는 데 어려움을 겪습니다. 이중 영역 접근 방식이 심각한 피해 감지를 개선하지만, 여전히 문제는 남아 있습니다. 이러한 발견은 하이브리드 표현의 이점과 한계를 강조하며, 데이터 균형 조정, 고급 융합, 및 정규화(regularization)에 대한 향후 연구를 동기부여합니다.

arXiv:2606.12051v1cs.CV

MFEN: 가시광-적외선 보행자 재식별을 위한 다중 주파수 전문가 네트워크

MFEN:Multi-Frequency Expert Network for Visible-Infrared Person Re-ID

가시광-적외선 보행자 재식별(VI-ReID)은 가시광 이미지와 적외선 이미지 간의 큰 모달리티 불일치로 인해 어려운 과제입니다. 우리는 이 불일치가 광파장 및 광원 유형의 차이를 포함한 서로 다른 조명 조건과 크게 관련되어 있다고 주장합니다. 최근 주파수 기반 VI-ReID 접근 방식이 주목할 만한 성과를 거두고 있는데, 이는 주파수 정보가 무관한 조명 및 색상을 배제하면서 신원 관련 윤곽선과 세부 정보를 더 잘 추출할 수 있기 때문입니다. 그러나 기존 방법들은 서로 다른 주파수 대역을 구별하지 않거나 하나의 대역에만 집중하여 다양한 조명 조건에서 불충분합니다. 포괄적인 주파수 도메인 학습을 수행하기 위해, 우리는 전문가 혼합(MoE) 설계를 통해 다중 주파수 변조를 가능하게 하고 서로 다른 대역을 적응적으로 결합하는 다중 주파수 전문가 네트워크(MFEN)를 제안합니다. 나아가 MFEN을 더 효과적으로 학습시키기 위해 랜덤 주파수 증강(RFA)과 주파수 보조 최적화(FAO)를 도입합니다. 세 모듈은 상호 보완적이며, 강인한 표현 학습을 위한 핵심 주파수 도메인 세부 정보를 공동으로 포착합니다. 세 가지 VI-ReID 데이터셋에 대한 광범위한 실험을 통해 우리 접근 방식의 효과를 입증합니다.