PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.13529v2cs.LG

확장 가능한 신경-기호 모델을 통한 생성적 해석 가능성

Generative Interpretability via Scalable Neuro-Symbolic Models

대규모 언어 모델(LLM)의 활용이 챗봇에서 현실에 비가역적인 결과를 초래하는 행동으로 출력이 이어지는 에이전트(agent) 시스템으로 전환됨에 따라, AI 해석 가능성 연구의 기존 패러다임인 사후 해석 가능성(post-hoc interpretability)은 안전하고 신뢰할 수 있는 모델 배포에 구조적으로 부적합합니다. 이는 사후에 행동을 설명할 수는 있지만, 출력을 확정하기 전에 추론 계산을 감사하거나 개입할 수는 없기 때문입니다. 따라서 우리는 모델의 추론 과정이 본질적으로 인간이 이해할 수 있고 인과적 개입이 가능한 의미 있는 체크포인트를 네이티브로 노출하는 아키텍처 특성인 \emph{생성적 해석 가능성}(generative interpretability)으로의 전환을 주장합니다. 우리는 다른 해석 가능성 연구 패러다임과의 비교를 통해 생성적 해석 가능성의 장점을 제시하고, 구체적인 구현체로서 신경-기호 모델(Neuro-Symbolic Models)을 제안합니다.