PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.10867v1cs.LG

분류 성능의 지표로서 라이프-유사 네트워크 오토마타 규칙의 형태 불규칙성

Shape irregularity of Life-Like Network Automaton rules as an indicator of classification performance

복잡 네트워크(Complex Network, CN) 분류는 스케일 불변(scale-invariant)이면서도 계산적으로 효율적인 고수준의 구조적 특성화를 필요로 합니다. 라이프-유사 네트워크 오토마타(Life-Like Network Automata, LLNA) 기반 방법은 사전에 제공된 특징 없이도 창발적 시간 패턴을 활용하여 네트워크 기술자(descriptor)를 추출하는 흥미로운 방식을 제공하지만, 그 효과는 오토마타 전이 규칙의 선택이라는 높은 비용의 조합 최적화 문제로 인해 병목 현상을 겪습니다. 기존 연구들은 대규모 응용에 실현 불가능한 전수 탐색(exhaustive search)에 의존하는 반면, 본 연구는 규칙 공간이 LLNA 전이 함수와 톱니 형태의 유사성을 정량화하는 '들쭉날쭉함(jaggedness)'이라는 특성으로 근본적으로 구조화되어 있음을 밝힙니다. 우리는 이 지표가 혼돈성(chaoticity)과 민감도(sensitivity)에 대한 이론적 대리 지표로 작용함을 입증하며, 이러한 특성은 네트워크 범주 간의 식별력 있는 동적 동작을 생성하는 데 필수적입니다. 나아가, 우리는 들쭉날쭉함을 활용하여 규칙 선택을 유도하는 휴리스틱 탐색 전략을 도입합니다. 실험 결과에 따르면 본 접근법은 전수 탐색 방식에 비해 계산 오버헤드를 90% 줄이면서도 전역 최적값 대비 5% 이내의 분류 정확도를 달성합니다. 우리의 발견은 패턴 인식을 위한 오토마타 기반 방법을 최적화하는 새롭고 효율적인 프레임워크를 제공합니다.

arXiv:2605.05780v2cs.AI

폰 노이만 네트워크

Von Neumann Networks

20세기 중반, 수학자이자 박식가인 존 폰 노이만(John von Neumann)은 인간 뇌의 단순한 모델로서 셀 배열 기반의 계산 시스템을 고안했습니다. 이 시스템에서 각 셀은 유한한 역할 또는 상태 집합 중 하나를 가지며, 그는 이를 확산 과정(diffusion process)으로 모델링할 수 있을 것으로 예측했습니다. 본 연구에서는 이러한 시스템을 현대의 심층 학습(deep learning) 환경에서 발전시킬 경우, 학습 가능한 특화된 역할을 가진 인공 뉴런의 구축이 가능함을 보여줍니다. 저자들은 이 뉴런을 폰 노이만 뉴런(Von Neumann neuron)이라 부르며, 이러한 뉴런들로 구성된 신경망(neural network)은 해당 셀 배열상에서 입력 및 출력의 구조와 위치에만 아키텍처가 의존하는 자가 설계형(self-engineered) 구조를 이룹니다. 또한 이러한 폰 노이만 네트워크(Von Neumann Networks, VNN)의 수학적 프레임워크를 정립하여, 이들이 신경 연산자(neural operator)의 확장과 확산 특성을 지닌 셀 토폴로지상에서의 합성곱(convolution)을 통한 그린 함수(Green's function) 학습에 기반하고 있음을 밝힙니다. 아울러 이러한 VNN이 계산적으로 보편적인(computationally universal) 더 일반적인 계산 체계인 셀룰러 머신(Cellular Machines)의 일부임을 증명합니다. 초기 실험 결과에 따르면 VNN 기반 다층 퍼셉트론(MLP)은 기본 작업에서 기존의 심층 학습 대응 모델보다 우수한 성능을 보이면서도 더 매개변수(parameter) 효율적이며, 새로운 유형의 작업을 학습할 수 있음을 보여줍니다. 여기에는 모든 현대 컴퓨터에 공통적인 폰 노이만 (하드웨어) 아키텍처를 셀로 확장하여 해결 및 구축하는 능력이 포함되며, 이는 탐색 가능한 새로운 기회를 시사합니다.

arXiv:2607.12403v1cs.NE

성장 신경 세포 자동기의 자기 유지에 있어 구조화된 변동과 정보 역학

Structured Fluctuations and the Information Dynamics of Self-Maintenance in Growing Neural Cellular Automata

성장 신경 세포 자동기(GNCA)는 견고한 자기 유지와 자기 복구가 가능하지만, 이러한 능력을 뒷받침하는 내부 역학 메커니즘은 아직 잘 이해되지 않았다. 본 연구에서는 학습된 GNCA 모델에서 내부 변동—은닉 채널 상태의 시간적 미세 변동성—의 역할을 조사하며, 이러한 변동성이 단순히 잔존 확률적 노이즈에 불과하다는 가정에 이의를 제기한다. 업데이트 비율 스윕, 공간 상관 측정, 집합적 상태 궤적의 차원 축소, 국소 손상 실험, 전달 엔트로피 벡터장 추정, 부분 정보 분해에 이르는 체계적 분석을 통해, 내부 변동이 공간적으로 구조화되어 있고, 끌리는 집합적 상태와 동적으로 결합되며, 손상 복구에 기여하는 분산된 소규모 크기 업데이트와 연관됨을 보인다. 손상은 잠재 상태 공간에서 전역적 편차를 유발한 뒤 점진적 재수렴으로 이어지며, 세포 대다수를 포함하는 허용 반경 밖에서 기준선 변동 역학과 연관된 분산된 소규모 크기 업데이트를 억제하면 복구가 크게 저해된다. 전달 엔트로피 분석은 공간적으로 분화된 복구 반응을 규명한다: 손상 부근에서는 교정적 내향 흐름이, 더 먼 거리에서는 외향 교란 전파가 공존한다. 부분 정보 분해는 또한 복구 과정에서 시너지 지배적 휴지 계산에서 중복성 증가 조율로의 체제 전환을 시사한다. 이러한 결과는 GNCA의 자기 복구가 고차원 비선형 집합 역학에서 발생하며, 내부 변동이 정보 흐름, 조율, 끌리는 순환 상태로의 복귀를 지원하는 기능적 구성 요소로 작용함을 나타낸다.

arXiv:2606.23587v1cs.LG

올바른 활성화 함수로 신경망이 Game of Life 역학을 훨씬 쉽게 학습한다: Polynomial Kolmogorov-Arnold Networks

It's Much Easier for Neural Networks to learn Game of Life Dynamics with the Right Activation Function: Polynomial Kolmogorov-Arnold Networks

Conway의 Game of Life를 ReLU 기반 최소 신경망은 안정적으로 학습하기 어렵다는 문제에, Kolmogorov-Arnold Network에서 영감을 받은 2차 다항 활성화 함수 PolyKAN이 신경 가중치 학습 여부와 무관하게 Life 역학을 일관되게 학습함을 보인다. 과제 구조에 맞는 활성화 함수 선택이 규모 의존적 탐색보다 학습 효율을 크게 높일 수 있음을 입증하며, 셀룰러 오토마타를 과학·물리 기반 심층학습 및 해석 가능한 머신러닝 연구의 단순 테스트 도메인으로 제안한다.

arXiv:2606.11676v1cs.CE

산불 확산을 위한 신경망 매개변수화 세포 오토마타

Neural-Parameterized Cellular Automata for Wildfire Spread

전통적인 산불 모델은 경직되고 저차원인 매개변수와 정적인 연료 지도에 의존하여 빈번하게 화재 확산을 과소 예측합니다. 이러한 약점을 해결하기 위해, 우리는 JAX로 구현된 하이브리드 딥러닝 매개변수화 확률적 세포 오토마타(CA) 프레임워크를 소개합니다. 우리의 접근 방식은 화재 확산 확률, 바람 정렬, 경사 영향을 제어하는 공간적으로 변하는 매개변수를 동적으로 생성하기 위해 다중 스케일 합성곱 신경망(CNN)을 사용합니다. 이 하이브리드 설계는 기본이 되는 3상태 세포 오토마타의 물리적 해석 가능성을 보존하면서 복잡하고 비선형적인 환경 상호작용을 포착합니다. JAX 구현은 하드웨어 가속과 그래디언트 기반 매개변수 보정을 가능하게 합니다. 미국 서부의 6개 대규모 산불에 대해 평가한 결과, 모델은 관측된 외곽선에 점진적으로 적합되는 10일 데이터 동화 기간 이후 72시간 예측 기간 동안 IoU > 0.6을 유지했습니다. 결과적으로 도출된 예측은 해당 관측치에 이미 내재된 진압 체제 하에서의 화재 성장에 대한 조건부 투영입니다.