에이전트가 결정하기 전에: LLM 기반 시스템에서의 인식적 행동
Before Agents Decide: Epistemic Action in LLM-Based Systems
어려운 결정을 내리기 전, 사람들은 종종 상황을 더 잘 이해하기 위해 행동합니다. 다른 면을 보기 위해 물건을 돌려보거나, 대안들을 나란히 배치해보거나, 하나의 조건을 바꾼 뒤 어떤 일이 일어나는지 관찰하기도 합니다. 이러한 행동들은 작업을 완료하지는 못할 수 있지만, 다음 선택에 필요한 근거를 개선합니다. 대규모 언어 모델(LLM) 기반 에이전트는 검색과 탐색을 수행할 수 있지만, 에이전트 설계에서는 그보다 앞선 질문인 '현재 가용한 근거가 결정을 내릴 준비가 되었는가?'에 대한 관심이 상대적으로 부족합니다. 때로는 필요한 근거가 누락되어 있기도 합니다. 또 다른 경우에는 근거가 존재하더라도 그 형태가 중요한 점을 가리고 있거나, 이를 판단하는 데 필요한 비교가 아직 마련되지 않았을 수 있습니다. 인지과학에서는 이후의 선택을 위한 기반을 개선하는 행동을 인식적 행동(epistemic action)이라고 부릅니다. 본 논문에서는 이 개념을 LLM 기반 에이전트에 도입하고 세 가지 방식을 구분합니다: 누락된 근거 획득, 가용한 근거 변환, 그리고 유의미한 반응을 이끌어내기 위한 시스템 프로빙(probing). 우리는 이러한 행동을 가능하게 하고 감사(audit)할 수 있게 만드는 인터페이스, 도구, 환경을 '인식적 스캐폴딩(epistemic scaffolding)'이라는 용어로 지칭합니다. 본 논문에서는 에이전트 설계가 의사결정 준비가 된 근거가 어떻게 생성되는지를 반드시 다루어야 한다고 주장합니다.