에브리웨어 러닝: 점별 제약조건을 갖는 인공지능
Everywhere Learning: Artificial Intelligence with Pointwise Constraints
에브리웨어 러닝(Everywhere learning)은 인공지능(AI) 시스템이 데이터 분포 전반에서 확률 1로 손실(loss) 제약조건을 만족하도록 학습(training)되는 새로운 패러다임이다. 이는 평균 손실을 최소화하도록 AI 시스템을 학습시키는 표준 패러다임과 대조된다. 본 연구에서는 경험적(empirical) 에브리웨어 러닝 문제와 통계적(statistical) 에브리웨어 러닝 문제의 해 사이의 근접성을 확립하는 일반화(generalization) 분석을 뒷받침하기 위해 근사 쌍대 이론(approximate duality theory)을 개발한다. 연구 결과는 쌍대 변수(dual variable)가 손실 제약조건을 만족하기 더 어려운 지점을 향해 데이터 분포의 가중치를 재조정하며, 일반화는 데이터 분포의 질량 집중과 제약조건을 만족하기 더 어려운 지점에서의 질량 집중 사이의 불일치에 의해 제어됨을 보여준다. 나아가 제약 완화에 대한 희소 L1 페널티를 통해 일반화를 제어할 수 있음을 보인다. 마지막으로 언어 모델(language model) 태스크를 위한 에이전트 기반 분류(agentic classification) 실험을 통해 에브리웨어 러닝의 장점을 입증한다.