비전 트랜스포머(Vision Transformers)는 채널 혼합(channel mixing)을 위해 대부분의 파라미터를 다층 퍼셉트론(MLP)에 할당하는 반면, 토큰 간 상호작용은 보통 이차 복잡도의 다중 헤드 자기 어텐션(MHSA)에 의존한다. 선형 어텐션(linear attention)은 시퀀스 복잡도를 O(N)으로 줄이지만, 소프트맥스 트랜스포머와 동일한 고정 활성화 MLP와 결합된 채로 남아 있다. Kolmogorov-Arnold Networks(KAN)는 대신 간(edge) 위에 학습 가능한 단변량(univariate) 맵을 두지만, 기존 비전 KAN은 MHSA를 유지하거나 어텐션을 아예 생략한다. 본 논문은 chunkwise Gated Linear Attention(GLA)과 2층 KAN feed-forward를 결합한 등방(isotropic) ViT 인코더인 LKAT(Linear Kolmogorov-Arnold Transformer)를 제안하고, 방사 기저(radial-basis) 그리드 맵을 위한 I/O 인지형 융합 RBF-KAN 커널을 제공한다. 공통 DeiT 스타일 레시피 하에서 LKAT를 ViT, ViT-5, MLP-Mixer와 비교한다. LKAT-B는 ImageNet-100에서 ViT-B/16, ViT-5-B, Mixer-B/16을 능가한다. Tiny/Small/Base LKAT 변형은 CIFAR-10/100에서 일관되게 스케일링되며, ImageNet-100 사전학습(pre-training)은 CIFAR 미세조정(fine-tuning)으로 전이된다. 결과는 게이트 선형 어텐션과 KAN 기반 방사 기저 함수가 중간 규모(mid-scale) 시각 표현 학습에서 상보적인 귀납적 편향(inductive bias)으로 작용함을 뒷받침한다.
의료 이미지 분할은 컴퓨터 보조 진단에서 기본적인 과제이지만, 해부학적 구조의 복잡성과 영상 방식(modality) 간 변동성으로 인해 여전히 어려운 과제로 남아 있다. 본 논문에서는 합성곱 연산과 새로운 효율적 KAN(EffiKAN) 블록을 시너지적으로 통합하는 적응형 Kolmogorov-Arnold 네트워크(KAN)인 AdaKAN을 제안한다. EffiKAN 블록은 효율적 어텐션 메커니즘과 적응형 KAN(AdaptKAN) 모듈로 구성된다. 이 모듈은 이중 분기 설계를 특징으로 한다. 한 분기는 전역적으로 매끄럽고 안정적인 함수 근사를 위해 Bernstein 다항식 활성화를 사용하는 KAN 층을 사용하고, 다른 분기는 투영 연산과 적응형 스케일링을 통해 채널별 정제를 수행한다. AdaKAN은 U자형 아키텍처를 채택하여 장거리 의존성과 세밀한 국소 특징을 모두 효과적으로 포착하며, 기존 합성곱 및 트랜스포머 기반 분할 모델의 한계를 극복한다. 스킵 연결은 인코딩 중 공간적 세부 정보를 보존하고 디코딩 중 정확한 재구성을 촉진하기 위해 사용된다. 다양한 의료 영상 데이터셋에서 수행한 광범위한 실험은 AdaKAN이 분할 정확도에서 최신 최고(state-of-the-art) 성능을 달성함을 보여준다.
다중 클래스 분류는 다양한 영역에서 기본적인 문제이다. 높은 클래스 간 유사성, 클래스 불균형 데이터셋, 데이터 분포의 변동성으로 인해 여전히 어려운 과제이다. XGBoost와 같은 규칙 기반 분류기는 구조화된 특성에서 더 강한 성능을 달성하는 경우가 많지만, 변수 간의 매끄러운 함수적 관계를 포착하는 데는 한계가 있다. 마찬가지로 신경망 모델은 복잡한 비선형 상호작용을 표현할 수 있지만 과적합과 일반화 문제에 자주 취약하다. 이러한 한계를 해결하기 위해, 우리는 Kolmogorov-Arnold Networks(KAN)를 이용한 함수적 학습과 XGBoost를 통한 규칙 기반 학습을 통합하여 견고한 다중 클래스 분류를 수행하는 누출 없는 스택 앙상블 프레임워크 LFS-FRAME을 제안한다. 제안된 프레임워크는 엄격한 out-of-fold 스택킹 전략을 사용하여 편향되지 않은 메타 특성을 구성하고, 학습과 검증 데이터 간의 완전한 격리를 보장함으로써 성능 누출을 방지한다. 이질적인 기본 학습기의 확률적 출력 위에서 학습함으로써, 메타 분류기는 복잡한 데이터에 존재하는 전역적 함수 패턴과 날카로운 결정 경계를 모두 효과적으로 활용한다. 다중 클래스 데이터셋에 대한 실험 평가에서 LFS-FRAME은 성능 지표를 개선했으며, 전체 정확도는 주요 패밀리 식별에서 89.85%, 하위 패밀리 식별에서 81.74%로, 강력한 단일 모델 베이스라인 대비 향상되었다. 이러한 결과는 신뢰할 수 있고 일반화 가능한 다중 클래스 분류를 위해 누출 없는 함수적 및 규칙 기반 스택킹의 효과를 보여준다.
본 연구는 구조화된 표 형식 데이터 분류 작업에서 Kolmogorov-Arnold Networks(KAN)와 Multi-Layer Perceptrons(MLP) 간의 실증적 벤치마크 비교를 제시한다. 함수 근사 아키텍처의 대안으로 KAN에 대한 관심이 커지고 있다는 점에 영감을 받아, 이진, 다중 클래스, 다중 레이블, 순서형 문제에 걸친 12개의 공개 데이터셋에서 즉시(out-of-the-box) 성능을 평가했다. 두 모델 모두 표준화된 전처리, 아키텍처, 고정 하이퍼파라미터 설정 하에서 학습했으며, 성능은 테스트 정확도와 F1-Score, 대응 가설 검정, 효과 크기 분석으로 평가했다. 결과는 KAN이 이진 및 다중 클래스 영역에서 통계적으로 MLP보다 우수한 성능을 보이며, 모든 데이터셋에서 유의미한 전체적 우위를 달성함을 보여준다. 그러나 관찰된 중간 효과 크기(d = -0.46)는 중요한 비용-편익 고려를 제기한다. KAN은 적응형 스플라인 기반 매핑을 통해 우수한 일반화를 제공하지만, 이 우위는 MLP 기준선 대비 매개변수 및 계산 복잡도가 상당히 더 높다는 대가를 수반한다. 이러한 결과는 KAN이 높은 정밀도가 요구되는 응용에 선호되는 선택이며, MLP는 자원이 제한된 환경에서 견고하고 효율적인 옵션으로 남아 있음을 시사한다. 향후 연구는 이러한 아키텍처 선택 기준을 더욱 정교화하기 위해 추가 데이터 모달리티로 이 분석을 확장해야 한다.
Discovering the memory or nonlocal kernel governing an integro-differential equation (IDE) from sparse and noisy observations is an ill-posed inverse problem. Existing identification methods often rely on problem-specific analytical derivations, specialized observation requirements, or restrictive assumptions about the kernel, limiting their applicability across different classes of IDEs. In this work, we propose a differentiable-solver-based framework for discovering memory and nonlocal kernels directly from spatiotemporal observations. Within the solver, the unknown kernel is represented using a constrained Kolmogorov--Arnold Network (KAN) parameterization, with the physical constraints imposed through two different approaches: a Bernstein-polynomial-based Monotone--Convex KAN (MC-KAN), whose coefficient constraints enforce positivity, monotonic decrease, and convexity by construction, and a Chebyshev-based KAN (Cheb-KAN), in which the same properties are encouraged through soft penalty terms. After training, symbolic regression is applied to the learned kernels to obtain interpretable closed-form representations. We evaluate both methods on benchmarks spanning a one-dimensional Volterra equation, a one-dimensional viscoelastic wave partial integro-differential equation, and a two-dimensional nonlocal reaction-diffusion equation with an anisotropic coupled kernel. For the 1D problems, both methods recover the correct kernel functional form and achieve comparable solution-reconstruction accuracy. In contrast, for the sparse and noisy 2D nonlocal problem, the hard-constrained MC-KAN consistently achieves lower kernel reconstruction errors than the soft-constrained Cheb-KAN. Our results demonstrate that enforcing physically motivated shape constraints by construction provides greater robustness than soft penalties for multidimensional kernel discovery from sparse and noisy observations.
절지형 로봇과 생체역학 모델을 포함한 많은 실제 시스템에서 회전은 관절 공간에서 정의되며, 제한된 범위를 가진 오일러 각도로 자연스럽게 매개변수화된다. 그러나 오일러 각도의 불연속성과 특이점이 학습을 불안정하게 만들기 때문에 오일러 각도 회귀는 여전히 어려운 과제로 남아 있다. 본 연구에서는 오일러 각도 회귀를 재검토하고, 그 효과가 회전 표현, 회귀 아키텍처, 도메인 제약 간의 상호작용에 결정적으로 의존한다는 것을 보인다. 우리는 범위 인식 오일러 모델링과 콜모고로프-아놀드 네트워크(KAN)를 결합한 새로운 프레임워크를 제안한다. KAN은 고정된 노드 단위 활성화 함수를 에지 위의 학습 가능한 단변수 함수로 대체한다. 또한 제한된 오일러 범위가 회귀 함수에서 근사 가산 구조를 유도하며, 이는 KAN의 가산적 함수 형태에 유리하다는 이론적 분석을 제공하고 이를 실험적으로 확인한다. 제어된 회전 회귀, 객체 자세 추정, 로봇 및 인간 역기구학에 대한 광범위한 실험에서 정확도, 수렴, 효율성 측면에서 일관된 성능 향상이 나타난다. 코드는 공개될 예정이다.
V.L. Rvachev의 R-함수를 Kolmogorov-Arnold Network(KAN) 프레임워크에 통합한 하이브리드 신경망 구조 GRS-KAN을 제안하며, KAN 브랜치가 매끄러운 비선형 구조를 학습하는 동안 R-함수가 기하학적·논리적 제약을 해석적으로 인코딩한다. 불연속점을 포함한 회귀 벤치마크에서 표준 KAN 대비 테스트 RMSE를 최대 67%까지 감소시키며 해석 가능성도 향상시켰다.
유체역학 서로게이트 모델링에서 아음속·천음속 에어포일 표면 압력 분포 예측을 위해 Kolmogorov Arnold 네트워크(KAN)를 MLP·그래프 신경망(GNN)과 비교 평가한다. KAN은 마하수와 받음각에 대한 내삽이 가능하고 복잡도가 낮아 학습이 빠르지만, GNN이 최고 성능을, MLP가 그에 근접한 성능을 보였으며 KAN은 학습 불안정성과 하이퍼파라미터 의존성으로 인해 성능이 미미하게 낮았다.
뇌전도(EEG) 분석은 여전히 간질 진단 및 발작 탐지의 임상적 금표준이다. 심층 학습(DL)이 자동화된 EEG 해석을 크게 발전시켰지만, 통제된 실험 환경에서 일상적인 임상 배포로의 전환은 근본적인 아키텍처 결함으로 인해 심각한 병목을 겪고 있다. 표준 DL 모델은 임상적 해석 가능성이 부족한 불투명한 블랙박스로 작동하며, 균형 잡힌 대량의 주석 데이터를 요구하고, 자원이 제한된 웨어러블 또는 이식형 신경조절 장치와 호환되지 않는 높은 계산 비용을 수반한다. 본 논문은 이러한 지배적인 한계에 대한 포괄적인 검토를 제시하고, EEG 기반 발작 탐지를 위한 새로운 패러다임으로 Kolmogorov-Arnold Networks(KAN)를 탐구한다. 전통적인 뉴런의 고정된 활성화 함수를 네트워크 연결을 따라 유연하고 학습 가능한 함수로 대체함으로써, KAN은 예측 정확도와 수학적 투명성 사이의 핵심 격차를 메운다. 우리는 KAN 아키텍처가 탁월한 매개변수 효율성, 의사의 신뢰를 위한 내재적 해석 가능성, 데이터 부족 상황에서의 견고한 성능을 제공함으로써 전통적인 DL 기반 모델의 단점을 어떻게 해결하는지 체계적으로 분석한다. 궁극적으로, 본 리뷰는 KAN을 단순한 점진적 알고리즘 업데이트가 아니라, 차세대의 환자 맞춤형이며 철저히 투명한 임상 EEG 모니터링 시스템을 실현하는 데 필요한 근본적인 패러다임 전환으로 확립한다.