PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2512.06205v3cs.AI

그라운딩 주장을 감사하기 위한 프레임워크

A framework for auditing grounding claims

기호 그라운딩(symbol grounding) 문제는 '고양이(cat)'와 같은 토큰(token)이 어떻게 실제 고양이에 관한 것일 수 있는지를 묻는다. 본 논문에서는 명시된 의미론적 표준에 비추어 그라운딩 주장을 감사(audit)하기 위한 프레임워크를 제안한다. 감사는 측정값과 증거를 보고하며, 전반적인 판정은 명시적인 수용 기준에 따라 조건부로 이루어진다. 감사의 프로파일은 시스템이 메커니즘을 어떻게 획득했는지, 그 메커니즘이 성능에 어떻게 기여하는지, 왜 유지되었는지에 대한 증거와 함께 정확도, 강건성(robustness), 구성을 평가한다. 간단한 그리드월드(toy gridworld) 실험에서 에이전트(agent)는 개별 기호는 정확하게 해석하지만, 배제되었던 조합에는 실패한다. 명시된 규칙에 따라 해석을 구성한다면 성공할 수 있다. 이러한 비교는 관찰된 실패 내에서 구성 규칙으로부터의 이탈을 식별한다. 본 감사와 사전학습된 단어 벡터에 대한 파일럿 연구 모두 지정된 메커니즘이 현재 성능에 기여한다는 증거를 제시한다. 다만 그러한 기여가 해당 메커니즘의 유지를 설명하는지는 여전히 검증되지 않은 상태로 남는다. 이 프레임워크는 그라운딩 주장에 대한 증거를 평가할 뿐이며, 의미가 어떻게 창발하는지를 설명하는 것은 여전히 후보 설명 모델의 몫으로 남는다.

arXiv:2606.21195v1cs.CL

세계에 고정하는 것을 넘어: 참조 프로필과 LLM 그라운딩의 수치적 구조

Beyond Hooking Onto the World: Referential Profiles and the Numerical Structure of LLM Grounding

본 논문은 최근 벡터 그라운딩(vector grounding) 설명을 바탕으로 대규모 언어 모델(LLM)의 그라운딩 문제를 재검토한다. 나는 고전적 기호 그라운딩(symbol grounding)에서 벡터 그라운딩으로의 전환을 수용하지만, 현재 논쟁이 두 가지 측면에서 여전히 불완전하다고 주장한다. 첫째, 지시(reference)는 종종 지나치게 얇게 다루어지며, 고립된 표현과 대상 사이의 고정된 연결인 것처럼 취급된다. 대신 나는 지시가 프로필 기반(profile-based), 문맥 민감(context-sensitive), 담화 수준(discourse-level), 정서적으로 형성(affectively shaped), 규범에 의해 통제(norm-governed)된다고 주장한다. 인간의 경우에서도 지시는 동일한 사적 표상(private representations)이 아니라 사용, 수정, 구분, 추론(inference), 연속의 패턴을 통해 공공적으로 안정화된다. 둘째, 벡터 그라운딩은 수치적 실현(numerical realization)에 대한 설명을 필요로 한다. LLM은 인간의 지각, 기억, 의도, 체화(embodiment), 이해를 통해 지시를 획득하지 않는다. 오히려 최적화(optimization)를 통해 인간의 세계 지향적(world-directed) 실천의 언어적 흔적을 매개변수화(parameterize)한다. 유한한 벡터 시스템에서 참조 프로필(referential profiles)은 분산되어야 하고, 중첩(superposed)될 수 있으며, 문맥 민감적 계산을 통해 복원된다. 가중치, 활성화(activations), 어텐션(attention)이 매개하는 은닉 상태, 소프트맥스(softmax)로 학습된 대조, 내적(inner-product) 정렬(alignments)은 상속된 언어적 관계가 안정적이고 인과적으로 활성화되는 수학적 지점이다. 메커니즘적 해석가능성(mechanistic interpretability) 연구 결과—개체 유사(entity-like) 특징, 지식 뉴런(knowledge neurons), 정서 관련 활성화 방향 등—는 이 관점에 대한 간접적 지지를 제공한다. 이는 LLM이 인간의 지시를 갖추고 있음을 보여주지 않는다. 대신 더 제한된 논제를 뒷받침한다: LLM은 파생적(derivative), 언어 매개(language-mediated), 프로필 기반, 수치적으로 구조화된 형태의 지시를 가질 수 있다.