새로운 연상주의: 심층 학습의 교훈
The New Associationism: Lessons from Deep Learning
현대 AI의 성공은 인간이 어떻게 학습하는지에 대해 무엇을 알려줄 수 있는가? 본 논문은 인간 학습의 모델로서 AI를 진지하게 받아들이면, 겸손하지만 진정한 연상주의를 뒷받침한다고 주장한다. 핵심 발견은 지도 학습(supervised learning)—평가적 피드백에 의해 이끌리는 학습—이 대규모 언어 모델부터 게임 플레이 에이전트에 이르기까지 현대 AI 시스템의 놀랍도록 넓은 범위의 기반을 이루며, 주로 관련 피드백 신호를 생성하는 데 필요한 작업량에서 차이가 난다는 것이다. 이는 영역에 걸쳐 작동하는 균일하고 점진적이며 오류 주도적인 학습 메커니즘이라는 연상주의적 이상을 입증하며, 연상주의적 메커니즘이 인간의 인지 능력을 설명하기에 너무 제한적이라는 한때 영향력 있던 주장을 약화시킨다. 동시에, 심층 학습의 성공은 고전적 연상주의자들이 상상했던 것을 훨씬 넘어서는 계산 아키텍처에 의존하며, 지도 학습은 학습에 대한 완전한 설명이라기보다 이러한 아키텍처 내에서 하나의 구성 요소로 작동한다.