PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2605.21324v2q-bio.NC

자극 대칭성이 표현 유사도 분석을 혼동시킬 수 있다

Stimulus symmetries can confound representational similarity analyses

표현 유사도 행렬(RSM)은 신경 부호(neural code)에 대해 무엇을 알려줄 수 있을까요? 이러한 요약 통계량의 인기가 높아짐에 따라, 그 특성에 대한 보다 완전한 규명의 필요성 또한 커지고 있습니다. 본 연구에서는 네트워크 입력의 대칭성이 RSM 기반 분석을 혼동시킬 수 있음을 보입니다. 자극 대칭성은 많은 표현들을 기능적으로 동등하게 만들지만, 이러한 서로 다른 구성들은 서로 다른 RSM으로 이어질 수 있습니다. 이렇게 서로 다른 RSM은 얽힘이 풀린(disentangled) 부호부터 최대로 혼합된(maximally-mixed) 부호에 이르기까지, 정성적으로 서로 다른 표현 기하학을 반영합니다. 우리는 확률적 경사하강법(stochastic gradient descent)이나 에너지 정규화(energetic regularization)가 희소하고 표류하는(drifting) 부호를 생성할 수 있으며, 이는 결과적으로 표류하는 RSM으로 이어진다는 점을 보여줍니다. 나아가, 대칭성이 잠재되어 있는 이미지 데이터를 인코딩하도록 학습된 네트워크에서도 이러한 현상이 나타남을 입증합니다. 본 연구 결과는 기능적으로 동등한 표현들이 단순한 회전으로 연관되지 않을 때, 비선형 신경 부호를 비교하는 데 내재된 어려움을 잘 보여줍니다.

arXiv:2503.21796v3cs.NE

메타-표상 예측 코딩: 신경과학에 기반한 자기지도 학습

Meta-Representational Predictive Coding: Neuroscience-Informed Self-Supervised Learning

자기지도 학습(self-supervised learning)은 기계 지능과 계산 신경과학 분야에서 중요한 패러다임이 되었다. 그럼에도 불구하고 자기지도 학습(SSL) 관련 현재 연구는 생물학적으로 그럴듯하지 않은 신용 할당(credit assignment), 즉 오류의 역전파,와 순전파 추론(feedforward inference), 즉 순차적이고 비병렬적인 정보 흐름에 의존한다. 예측 코딩(predictive coding, PC)은 역전파 특유의 한계를 피할 수 있는 생물학적으로 그럴듯한 수단을 제공한다. 그러나 비지도 PC는 원시 입력에 대한 생성 모델을 학습해야 하며, 이는 고차원 입력을 예측하는 것을 수반한다. 반면 지도 PC는 입력과 목표 레이블 간의 매핑을 학습하므로 인간 주석이 필요하고 지도 학습의 단점을 갖는다. 본 연구에서는 PC와 능동 지각(active perception)에 기반한 신경과학 기반 SSL 모델인 메타-표상 예측 코딩(meta-representational predictive coding, MPC)을 제안한다. MPC는 병렬 스트림에 걸친 데이터 표상의 예측을 학습함으로써 감각 입력에 대한 생성 모델의 필요성을 우회하여, 인코더만 사용하는 학습-추론 방식을 만든다.

arXiv:2606.27783v1q-bio.NC

CANNs: 연속 attractor 신경망 연구를 위한 툴킷

CANNs: A Toolkit for Research on Continuous Attractor Neural Networks

연속 어트랙터 신경망(CANN) 연구의 파편화 문제를 해결하기 위해, BrainPy/JAX 기반 Python 라이브러리(canns), Rust 가속 백엔드(canns-lib), 실험 신경 기록 분석 파이프라인(ASA)으로 구성된 통합 오픈소스 툴킷을 제시한다. 이 툴킷은 해마 place cell, grid cell, head-direction cell 모델링부터 실제 기록 데이터의 위상적(topological) 어트랙터 구조 탐지까지 전체 CANN 연구 워크플로를 표준화된 API 하에 지원한다.

arXiv:2602.08275v3q-bio.NC

언어학과 인간 뇌: 계산 신경과학의 관점

Linguistics and Human Brain: A Perspective of Computational Neuroscience

언어-뇌 관계를 밝히기 위한 언어학과 신경과학 간 방법론적 격차를 계산 신경과학 관점에서 종합 검토하며, 주요 언어학 틀, 신경 활동 측정, 언어 모델, 신경 코딩, 모델-뇌 정렬(model-brain alignment) 방법을 정리한다. 대규모 언어 모델(LLM) 기반의 교차 양식 상호작용, 뇌 간 결합, 계층적 연산 등 최근 진전과 함께 구조-기능 대응 한계, 평가 지표의 협소함 등 현재 한계 및 향후 연구 방향을 제시한다.

arXiv:2606.23874v1q-bio.NC

Identifying structural design principles shaping the computational abilities of recurrent neural networks

순환 신경망(RNN)의 연결 구조가 부울(Boolean) 함수 학습 능력에 미치는 영향을 대규모 학습·평가로 규명했으며, 아키텍처마다 계산 용량 차이가 크고 대부분의 네트워크는 성능이 낮다는 점을 확인했다. 국소 2·3-사이클(local 2- and 3-cycles)과 생물학적 영감의 희소 연결 인터뉴런(interneuron) 추가가 계산 능력을 크게 높이며, 소수의 구조 통계로 성능을 예측할 수 있어 연결성과 계산력을 잇는 설계 원칙으로 국소 사이클을 제시한다.