인지 자원이 제한된 상황에서 사람들은 순차적 경험으로부터 어떻게 추상적이고 재사용 가능한 지식을 구축하는가? 이 질문에 답하기 위해, 우리는 rate-distortion 이론과 프로그램 귀납(program induction)의 최근 발전을 통합하여, 사전 지식이 어떤 미래 구조를 저렴하게 인코딩하고 발견하기 쉽게 만드는지를 형성하는 방식을 기술한다. 우리는 이를 과제 내(within-task) 및 과제 간(across-task)으로 구분된 국소·전역 라이브러리를 갖춘 계층적 Adaptor Grammar(HAG)로 형식화하며, 메모리와 계산에 대한 제약이 이를 공동으로 규율한다. 시뮬레이션에서 HAG는 고정 문법이나 얕은 청킹(chunking) 방법보다 더 나은 rate-distortion 트레이드오프와 더 강한 일반화(generalization)를 달성한다. 온라인 선율 순서 학습 실험에서, 참가자들의 회상 오류는 체계적인 단순화를 반영했고, 추론된 프로그램 경계에서 반응 시간이 증가했다. 시행별(trial-by-trial) 적합 분석은 계층적 라이브러리가 회상과 표본 외(out-of-sample) 연속 선택 모두에서 개인차를 가장 잘 설명했으며, 모든 대안 모델을 능가했다는 것을 추가로 보여주었다. 이러한 발견은 구조화된 학습을, 경험의 순서가 학습자가 구축하는 미래 추상화를 형성하는, 제한된 프로그램 귀납으로 규정한다.
인지는 고차원 감각 스트림을 신속하게 익숙한 부분으로 분해하고 그 관계를 규명합니다. 구조가 왜 등장하며, 이것이 학습, 일반화, 예측을 어떻게 가능하게 하는가? 지각과 지능의 이 핵심 측면에는 어떤 계산 원리가 내재하는가? 감각 스트림은 단순화하면 1차원 시퀀스입니다. 이러한 시퀀스를 학습할 때, 우리는 이를 자연스럽게 부분으로 분할하는데, 이를 청킹(chunking)이라고 합니다. 첫 번째 프로젝트에서 저는 연속 반응 시간 과제에서 청킹에 영향을 미치는 요인을 조사했으며, 인간이 속도와 정확성의 균형을 맞추면서 내재된 청크에 적응함을 보여주었습니다. 이를 바탕으로 저는 청크를 학습하고 시퀀스를 청크 단위로 파싱하는 모델을 개발했습니다. 규범적으로, 저는 청킹을 반복되는 패턴과 중첩된 계층 구조를 발견하여 효율적인 시퀀스 인수분해를 가능하게 하는 합리적인 전략으로 제안했습니다. 학습된 청크는 전이, 구성, 정신적 시뮬레이션을 위한 재사용 가능한 기본 요소(primitives)로 작용하여, 모델이 알려진 것으로부터 새로운 것을 구성할 수 있게 합니다. 저는 이 모델이 단일 및 다차원 시퀀스에서 계층 구조를 학습하는 능력을 입증하고, 비지도 패턴 발견에 있어 그 유용성을 강조했습니다. 두 번째 부분은 구체적인 시퀀스에서 추상적인 시퀀스로 나아갑니다. 저는 추상적 모티프를 분류하고 시퀀스 기억에서의 역할을 조사했습니다. 행동적 증거는 인간이 압축과 전이를 위해 패턴 중복성을 활용함을 시사합니다. 저는 청크와 추상 변수를 모두 학습하여 불변의 기호 패턴을 발견하는 비모수 계층적 변수 모델을 제안했습니다. 저는 이 모델이 인간 학습과 유사함을 보여주고 대규모 언어 모델(LLM)과 비교했습니다. 종합적으로, 이 논문은 청킹과 추상화라는 단순한 계산 원리가 단순에서 복잡으로, 구체에서 추상으로 이어지는 계층적으로 조직화된 시퀀스에서 구조화된 지식 습득을 가능하게 함을 시사합니다.