CAFE+FNO: 곱셈적 특징 구성을 통한 푸리에 커널 생성
CAFE+FNO: Fourier Kernel Generation via Multiplicative Feature Composition
한국어 초록
푸리에 신경 연산자(FNO)는 푸리에 공간 커널 매개변수화를 통해 편미분 방정식(PDE)의 해 연산자를 학습하지만, 주파수 절단(frequency truncation)으로 인해 고주파 변동의 학습이 제한될 수 있습니다. AM-FNO와 SirenFNO는 공유 네트워크를 사용하여 스펙트럼 좌표로부터 모든 그리드 모드에 대한 커널을 생성하므로, 좌표 인코딩 및 생성기 설계가 중요해집니다. 암시적 신경 표현(INR)에 관한 최근 연구에서는 후속 MLP가 주파수 상호작용을 암시적으로 형성하도록 의존하기보다, 명시적인 특징 구성을 통해 이를 구축하는 방식을 제안했습니다. 이러한 접근법을 바탕으로, 본 논문에서는 푸리에 커널 생성에 Content-Aware Frequency Encoding+(CAFE+)를 통합한 CAFE+FNO를 제안합니다. CAFE+는 병렬 아핀 브랜치와 아다마르 곱(Hadamard product)을 통해 푸리에-체비쇼프(Fourier--Chebyshev) 특징을 결합하여 두 특징군 내부 및 상호 간의 상호작용을 형성합니다. 커널 MLP는 정규화된 각 스펙트럼 좌표의 결과 표현을 복소 채널 혼합 행렬에 매핑합니다. 각 층은 저장된 모든 모드에 걸쳐 생성기를 공유하므로, 고정된 아키텍처에서 학습 가능한 매개변수 수가 모드 수와 무관해집니다. 다섯 가지 PDE 벤치마크에서 CAFE+FNO를 기존 FNO 변형들과 비교하고 기저 구성, 곱셈적 구성, 대역폭 학습 가능성에 대한 소거 연구(ablation study)를 수행합니다. 코드 및 실험 설정은 https://github.com/fabsk101/CAFEPlusFNO.git 에서 확인할 수 있습니다.
원문 초록
The Fourier Neural Operator (FNO) learns solution operators of partial differential equations (PDEs) through Fourier-space kernel parameterization, but frequency truncation can limit the learning of high-frequency variations. AM-FNO and SirenFNO generate kernels for all grid modes from spectral coordinates using shared networks, making coordinate encoding and generator design important. Recent work on implicit neural representations (INRs) has proposed constructing frequency interactions through explicit feature composition rather than relying on subsequent MLPs to form them implicitly. Building on this approach, we propose CAFE+FNO, which incorporates Content-Aware Frequency Encoding+ (CAFE+) into Fourier kernel generation. CAFE+ combines Fourier--Chebyshev features through parallel affine branches and a Hadamard product, forming interactions within and across the two feature families. A kernel MLP maps the resulting representation of each normalized spectral coordinate to a complex channel-mixing matrix. Each layer shares its generator across all stored modes, making the number of trainable parameters independent of the number of modes for a fixed architecture. We compare CAFE+FNO with existing FNO variants on five PDE benchmarks and conduct ablation studies on basis configuration, multiplicative composition, and bandwidth learnability. Code and experimental configurations are available at https://github.com/fabsk101/CAFEPlusFNO.git.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.