PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2509.25998v4cs.CV

VRWKV-Editor: 트랜스포머 기반 비디오 편집에서 이차 복잡도 줄이기

VRWKV-Editor: Reducing quadratic complexity in transformer-based video editing

최근 비디오 편집 분야의 발전에 따라, 공간적 및 시간적 의존성 모두에 초점을 맞춘 심층 학습(deep learning) 모델이 주요 방식으로 부상했습니다. 그러나 이러한 모델들은 전통적인 어텐션(attention) 메커니즘의 이차 연산 복잡도(quadratic computational complexity)로 인해 어려움을 겪으며, 이로 인해 장시간 및 고해상도 비디오에 적용하기 어렵습니다. 이러한 한계는 실시간 비디오 처리와 같은 실제 환경에서의 적용 가능성을 제한합니다. 본 과제를 해결하기 위해, 비디오 기반 확산 모델(diffusion model)에 선형 시공간 통합 모듈을 통합한 새로운 비디오 편집 모델인 VRWKV-Editor를 제안하여 이러한 시스템의 시간 및 공간 복잡도를 모두 줄이는 방법을 도입합니다. VRWKV-Editor는 RWKV 트랜스포머의 양방향 가중 키-값 순환 메커니즘을 활용하여 시간적 일관성을 보존하면서도 전역 의존성을 포착하며, 품질을 저하시키지 않고 선형 복잡도를 달성합니다. 광범위한 실험을 통해 제안된 방법이 프레임 일관성 및 텍스트 정렬에서 경쟁력 있는 성능을 유지하면서도, 최신 확산 기반 비디오 편집 방법에 비해 최대 3.7배의 속도 향상과 60% 낮은 메모리 사용량을 달성함을 입증합니다. 나아가 시퀀스 길이가 서로 다른 비디오에 대해 수행한 비교 분석을 통해, 비디오 길이가 길어질수록 본 연구의 접근 방식과 셀프 어텐션(self-attention) 아키텍처 간의 편집 속도 격차가 더욱 두드러짐을 확인합니다.

arXiv:2607.21467v1cs.CV

CLUIE: 수중 이미지 향상을 위한 군집 인식 순환 전파와 국소 구조 보상

CLUIE: Clustering-Aware Recurrent Propagation with Local Structural Compensation for Underwater Image Enhancement

수중 이미지 향상은 파장에 따른 빛 흡수, 산란, 역산란으로 인해 여전히 어려운 과제이며, 이들은 함께 색 왜곡, 대비 저하, 디테일 손실을 야기한다. 이러한 열화는 장면 깊이와 촬영 조건에 따라 달라지므로, 동일 이미지 내 서로 다른 영역은 종종 이질적인 열화 패턴을 보이며 따라서 영역 적응형 복원이 필요하다. 비전 RWKV 모델은 장거리 의존성 모델링을 위한 효율적인 선형 복잡도 해법을 제공하지만, 사전 정의된 스캔 순서는 콘텐츠와 무관하여 공간적으로 비균일한 복원 요구에 순환 상태 전파를 적응시키지 못한다. 이 한계를 해결하기 위해, 우리는 고정된 순환 전파 경로를 콘텐츠 적응형 토큰 궤적으로 재구성하는 군집 인식 RWKV 프레임워크인 CRWKV를 제안한다. 구체적으로, 의미적 특징 유사도에 따라 토큰을 그룹화하고 클러스터 간 문맥 관계로부터 동적 순회 순서를 도출하는 Clustering-aware Semantic Dynamic Reordering(CSDR)을 도입한다. 이 설계는 WKV 상태가 고정된 공간적 또는 스펙트럼 순서가 아닌 의미적으로 상관된 영역을 따라 누적되도록 한다. 동적 재정렬이 원래 공간 이웃의 국소 연속성을 방해할 수 있으므로, depth-wise 합성곱을 통해 국소 구조 응답을 추출하고 이웃 인식 의사-암응답(pseudo-dark response) 맵을 사용하여 전파 강도를 적응적으로 변조하는 Dark-response Modulated Local Propagation(DMLP)을 추가로 제안한다. 이를 통해 콘텐츠 적응형 장거리 모델링을 유지하면서 순환 집계 이전에 국소 구조 단서가 보상된다. 여러 수중 이미지 향상 벤치마크에 대한 광범위한 실험은 CRWKV가 최첨단(state-of-the-art) 정량적 성능과 우수한 시각적 품질을 달성함을 보여준다.

arXiv:2503.22223v2cs.LG

DREMnet: 준공중 과도 전자기 신호를 위한 해석 가능한 노이즈 제거 프레임워크

DREMnet: An Interpretable Denoising Framework for Semi-Airborne Transient Electromagnetic Signal

준공중 과도 전자기법(SATEM)은 대규모 및 접근하기 어려운 지역에 대한 신속한 탐사를 수행할 수 있다. 그러나 획득된 신호는 종종 복잡한 노이즈에 오염되어, 후속 역산(inversion) 해석의 정확도를 저해할 수 있다. 기존 노이즈 제거 기법은 주로 매개변수 선택 전략에 의존하며, 이는 노이즈가 많은 환경에서 현장 데이터를 처리하기에 불충분하다. 심층 학습의 등장과 함께 다양한 신경망이 SATEM 신호 노이즈 제거에 활용되어 왔다. 그러나 기존 심층 학습 방법은 일반적으로 단일 매핑 학습 접근법을 사용하여 신호와 노이즈를 효과적으로 분리하는 데 어려움을 겪는다. 이러한 방법들은 부분적인 정보만 포착하며 해석 가능성이 부족하다. 이러한 한계를 극복하기 위해, 우리는 데이터를 콘텐츠(content) 및 컨텍스트(context) 요인으로 분리(disentangle)하여 복잡한 조건에서 강건하고 해석 가능한 노이즈 제거를 가능하게 하는 해석 가능한 분리 표현 학습(decoupled representation learning) 프레임워크인 DREMnet을 제안한다. CNN 및 트랜스포머 아키텍처의 한계를 해결하기 위해, 데이터 처리에 RWKV 아키텍처를 활용하고 단방향 WKV가 양방향 신호 모델링을 수행할 수 있도록 하는 Contextual-WKV 메커니즘을 도입한다. 우리가 제안한 Covering Embedding 기법은 stacked 임베딩을 통해 합성곱 신경망의 강한 국소 인식 능력을 유지한다. 테스트 데이터셋에 대한 실험 결과는 DREMnet 방법이 기존 기법들을 능가하며, 처리된 현장 데이터가 이론적 신호를 더 정확하게 반영하여 지하 전기 구조의 식별을 개선함을 보여준다.

arXiv:2607.00902v1cs.CV

MG-RWKV: 시간적 위조 구간 탐지를 위한 다중 세분화 컨텍스트 인식 RWKV

MG-RWKV: Multi-Grained Context-Aware RWKV for Temporal Forgery Localization

RWKV의 데이터 의존적 상태 진화를 활용해 O(T) 선형 복잡도로 시간적 위조 구간 탐지(TFL)를 수행하는 MG-RWKV 프레임워크를 제안하며, 양방향 RWKV 아키텍처, 다중 세분화 전문가 혼합(MG-MoE), 교차 세분화 일관성(CGC) 모듈을 통해 전역 컨텍스트 압축과 지역적 위조 경계 인식을 동시에 달성한다. Lav-DF, TVIL, Psynd 데이터셋 실험에서 기존 CNN 및 Transformer 기반 방법 대비 낮은 계산 비용으로 최고 성능을 달성했다.