arXiv:2606.20569v1 cs.AI

공적응 신경 인터페이스에서 사용자 적응의 식별 가능성

On the Identifiability of User Adaptation in Co-Adaptive Neural Interfaces

Philip Waggoner

제출 2026-04-24

한국어 초록

우리는 공적응 인간-기계 시스템에서 식별 가능성을 분석한다. 폐루프(closed-loop) 인코더 추정치는 사용자 적응을 유일하게 식별하지 못하며, 대신 공동 시스템의 특성을 반영함을 보인다. 행동 적응 해석에 대한 함의를 논의하고, 식별을 위한 조건을 제안한다.

원문 초록

We analyze identifiability in co-adaptive human-machine systems. We show that closed-loop encoder estimates do not uniquely identify user adaptation, but instead reflect properties of the joint system. We discuss implications for interpreting behavioral adaptation and propose conditions for identification.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.20569v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13520v1cs.AI공통 태그 Causal Inference, identifiability

인과적 추상화에서의 인과 효과 식별 가능성: 기준들의 엄격한 계층 구조

Causal Effect Identifiability in Causal Abstractions: A Strict Hierarchy of Criteria

관측 데이터로부터 인과 효과(causal effect)를 식별하는 작업은 일반적으로 완전히 명시된 인과 그래프를 필요로 하지만, 이러한 가정은 복잡하거나 고차원인 환경에서는 비현실적인 경우가 많습니다. 인과적 추상화(causal abstraction)는 부분적인 인과 정보만을 유지하여 호환 가능한 인과 그래프들의 동치류를 정의함으로써 이러한 한계를 해결합니다. 본 논문에서는 개별 인과 다이어그램 수준이 아니라 이러한 그래프 집합 수준에서 인과 효과 식별 가능성(identifiability)을 직접 연구합니다. 우리는 이 설정에서 식별 가능성에 대한 여러 개념을 공식화하고, 이들의 관계와 차이점을 명확히 하는 계층 구조로 정리합니다. 특히, 인과 효과가 호환 가능한 모든 그래프 전반에 걸쳐 균일하게 성립하는 단일 인과적 유도를 허용하지 않고도 그래프 집합에 대해 식별될 수 있음을 규명합니다. 이러한 결과는 기존 문헌의 공백을 드러내고 모호성을 해소하는 데 기여합니다.

arXiv:2607.14081v2cs.LG공통 태그 Causal Inference, EEG

최적 수송을 통한 선형 독립 성분 분석

Linear Independent Component Analysis via Optimal Transport

선형 독립 성분 분석(ICA)은 선형 혼합 신호로부터 결합 독립적인 소스 신호들을 복원합니다. 이를 달성하기 위해 고전적인 ICA 알고리즘은 정보 이론을 통해 독립성과 연결되는 네겐트로피(negentropy)로 측정된 비가우스성(non-Gaussianity)을 최대화하고자 시도합니다. 정확한 네겐트로피 최적화는 다루기 힘들기 때문에(intractable), 4차 큐뮬런트나 모수적 로그 우도와 같은 대리 대조 함수(proxy contrast function)에 의존합니다. 우리는 그 대신 표준 가우스 분포까지의 제곱 $L_2$-바서슈타인 거리(squared $L_2$-Wasserstein distance)를 ICA 대조 함수로 사용할 것을 제안합니다. 우리는 표준 정규 분포와 데이터의 선형 투영 사이의 바서슈타인 거리가 투영이 독립 성분을 복원할 때 최대화되며, 소스에 대한 정규성 조건 하에서 이 최댓값이 명시적인 마진을 통해 모든 실제 혼합 신호와 분리됨을 보입니다. 또한 결과로 도출되는 추정량의 유리한 특성들을 밝혀냅니다. 매끄러운 밀도를 갖는 소스의 경우 닫힌 형태의 분산을 가지며 $\sqrt{N}$-일치성(consistent) 및 점근적 정규성을 보이는 반면, 원자(atom)를 갖는 소스의 경우 대조 함수가 참 방향에서 꺾임(kink)을 형성하여 1로 수렴하는 확률로 추정량이 정확해집니다. 제안하는 OT-ICA 알고리즘은 그래디언트 기반 최적화를 통해 이러한 투영을 찾습니다. 시뮬레이션 데이터에 대한 실증적 평가는 OT-ICA가 대리 기반 방법들보다 우수한 성능을 보이며, 잠재 변수의 다양한 분포 혼합에 대해 비가우스성을 측정할 때 $W_2^2$ 대조 함수가 대리 대조 함수보다 더 강건한 신호를 제공함을 보여줍니다. 선형 인과 얽힘 풀기(linear causal disentanglement)와 EEG 인공물 제거에 대한 적용 및 부록에 상세히 기술된 추가 적용 사례들은 OT-ICA가 분포 가정 없이도 응용 ICA 작업에 사용될 수 있음을 입증합니다.

arXiv:2609.27593v2cs.LG공통 태그 Causal Inference

삭제가 아닌 은닉: 네트워크가 얽힌 특징을 억제하는 방식

Hidden not Deleted: How Networks Suppress Entangled Features

신경망이 어떤 특징을 더 이상 보고하지 않을 때, 그 특징을 잊은 것인가 아니면 단지 숨긴 것인가? 공유 표현은 이 질문에 대한 답을 복잡하게 만든다. 한 특징의 방향을 제거하면 다른 특징도 손상될 수 있기 때문이다. 우리는 입력을 압축하고 복원하는 소규모 오토인코더에서 이 문제를 연구하며, 이를 통해 개별 특징의 기여를 직접 추적할 수 있다. 표현을 고정한 상태에서 단일 편향을 복원하면 출력의 활성화 임계값 뒤에 숨겨진 신호가 드러나면서 대상 검출이 부분적으로 회복된다. 대상이 없는 입력에 대한 테스트는 이러한 회복을 단순히 출력을 증가시키는 개입과 구별한다. 표현이 변할 수 있도록 허용하면 동일한 편향 개입은 효과가 떨어진다. 우리는 대상 자체의 출력에 대한 손실이 없더라도 다른 출력만 학습시키면 대상의 기여가 약해질 수 있음을 발견하였다. 조건부 이론적 분석은 유지되는 예측과의 간섭이 어떻게 이러한 압력을 만드는지를 설명한다. 그러나 더 유연한 예측기는 여전히 잔여 대상 정보를 검출한다. 이러한 결과는 회복이 특징 기하와 어떤 파라미터가 학습되는지에 따라 달라짐을 보여주며, 침묵하는 출력만으로는 망각의 충분한 증거가 되지 못하는 이유를 설명한다.

arXiv:2607.09645v2stat.ML공통 태그 Causal Inference

방향 비순환 그래프 위의 심층 가우시안 과정

Deep Gaussian Processes on Directed Acyclic Graphs

많은 실제 과정은 방향 비순환 그래프(DAG)를 따르는 함수들의 합성으로 표현할 수 있다. 인과 모델링에서 이는 기저 메커니즘에, 공학에서는 다중 충실도 수준에, 유전자 조절 네트워크에서는 전사 인자에 해당한다. 이러한 함수들은 DAG 전반에서 잡음이 있고 이질적으로 샘플링된 측정값으로 부분적으로만 관측되므로, 재구성, 불확실성 전파, 추론에 상당한 어려움을 야기한다. 이러한 어려움을 해결하기 위해 함수에 대한 사전분포를 두어 자연스럽게 DAG 위의 심층 가우시안 과정에 도달한다. 우리는 이들의 사전분포 붕괴 거동과, 그래프 위상 및 중간 관측이 정보 보존에 미치는 영향을 이론적으로 연구한다. 입력 간 구별이 보존되는 깊이의 점근적 빈도에 대한 거의 확실한 하한을 얻고, 이것이 성립하는 폭넓은 커널 클래스를 규명하며, 입력 연결의 역할에 관한 \citep{dunlop2018}의 관찰을 증명한다. 또한 그래프 의존성을 유지하고 합성적 불확실성을 보존하며 충돌자(collider)의 설명 소거(explaining-away) 거동을 포착하는 구조적 변분 근사를 제시한다. 마지막으로 대규모 및 DAG 오지정 상황에서 이론과 방법론을 경험적으로 검증한다. 이어서 잠재 충돌자 DAG, 단백질 신호 전달 네트워크, 다중 충실도 \mbox{heavy-ion} 충돌 에뮬레이션 과제를 모델링하여, 최고 수준의 성능을 달성하는 동시에 저충실도 기여를 복원하고 시뮬레이터 계층에 대한 해석 가능성을 제공한다.

arXiv:2610.01002v2cs.AI공통 태그 Causal Inference

유추는 인공의식에 대해 무엇을 말해줄 수 있는가?

What Can Analogy Tell Us About Artificial Consciousness?

누가 또는 무엇이 의식을 가지고 있는가? 주관적 경험은 1인칭 관점에서만 직접 접근할 수 있기 때문에, 다른 개체의 의식에 대한 판단은 부분적으로 유추(analogy)에 의존한다. 역사적으로 이러한 추론은 인간이 아닌 동물에 집중되어 왔으나, 인공지능(AI)의 발전으로 의식을 가진 AI의 가능성이 제기되었다. 본 논문에서는 이러한 증거적 유추를 평가하기 위한 인과적 프레임워크를 개발한다. 핵심적인 구분은 의식 생성에 관여할 가능성이 높은 요인들의 유사성과 하류(downstream) 행동 또는 인지적 효과에서의 유사성 사이의 차이다. 제안하는 프레임워크는 알려지지 않은 원인, 무력화 요인(disabling differences), 의식에 이르는 대안적 경로를 고려하면서 인과적 관련성에 따라 원천-목표(source-target) 유사성에 가중치를 부여한다. 생물학적 시스템에 적용했을 때, 이는 인간과의 인과적 거리가 멀어질수록 유추적 지지가 전반적으로 약화되는 이유를 설명한다. 현대 AI에 적용했을 때, 이는 관련 인과적 대응 관계가 여전히 명확히 확립되지 않았기 때문에 행동적 유사성만으로는 의식에 대한 제한적인 증거만을 제공함을 시사한다. 또한 이 프레임워크는 어떤 증거가 인공의식에 대한 주장을 강화할 수 있는지를 명확히 밝힌다.

arXiv:2607.10456v2stat.ML공통 태그 Causal Inference

확장 가능한 인과 발견을 위한 배경 지식 통합

Integrating Background Knowledge for Scalable Causal Discovery

전문가 배경 지식은 인과 발견(causal discovery)의 실제 응용에서 종종 활용 가능하다. 실제 인과 그래프에 대한 이러한 제약 조건은 인과 효과의 식별 가능성과 학습된 구조의 정확도 측면에서 인과 발견에 도움이 될 뿐만 아니라, 후보 인과 그래프의 탐색 공간을 줄이는 데에도 기여한다. 인과 발견은 변수의 수가 많아질수록 계산 비용이 크게 증가할 수 있으므로, 인과 발견 과정에서 배경 지식을 효과적으로 활용하는 것이 중요하다. 그러나 현재 대부분의 방법들은 학습된 그래프를 정제하기 위해 인과 발견 이후의 후처리 단계에서만 배경 지식을 활용한다. 본 연구에서는 인과 발견 과정에서 배경 지식을 활용하는 프레임워크를 개발하며, 특히 전체 그래프의 일부만을 복원하는 확장 가능한 인과 발견 방법에 초점을 맞춘다. 우리는 여러 알고리즘에 대해 이 프레임워크를 구현하고, 배경 지식 활용이 계산 요구량을 줄이고 학습된 구조의 품질을 향상시킬 수 있음을 실험적으로 보인다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.