그라운딩 주장을 감사하기 위한 프레임워크
A framework for auditing grounding claims
기호 그라운딩(symbol grounding) 문제는 '고양이(cat)'와 같은 토큰(token)이 어떻게 실제 고양이에 관한 것일 수 있는지를 묻는다. 본 논문에서는 명시된 의미론적 표준에 비추어 그라운딩 주장을 감사(audit)하기 위한 프레임워크를 제안한다. 감사는 측정값과 증거를 보고하며, 전반적인 판정은 명시적인 수용 기준에 따라 조건부로 이루어진다. 감사의 프로파일은 시스템이 메커니즘을 어떻게 획득했는지, 그 메커니즘이 성능에 어떻게 기여하는지, 왜 유지되었는지에 대한 증거와 함께 정확도, 강건성(robustness), 구성을 평가한다. 간단한 그리드월드(toy gridworld) 실험에서 에이전트(agent)는 개별 기호는 정확하게 해석하지만, 배제되었던 조합에는 실패한다. 명시된 규칙에 따라 해석을 구성한다면 성공할 수 있다. 이러한 비교는 관찰된 실패 내에서 구성 규칙으로부터의 이탈을 식별한다. 본 감사와 사전학습된 단어 벡터에 대한 파일럿 연구 모두 지정된 메커니즘이 현재 성능에 기여한다는 증거를 제시한다. 다만 그러한 기여가 해당 메커니즘의 유지를 설명하는지는 여전히 검증되지 않은 상태로 남는다. 이 프레임워크는 그라운딩 주장에 대한 증거를 평가할 뿐이며, 의미가 어떻게 창발하는지를 설명하는 것은 여전히 후보 설명 모델의 몫으로 남는다.