PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2510.14331v3cs.LG

LLM Priors for ERM over Programs

사전학습된 대규모 언어 모델(LLM)을 후보 프로그램 제안 분포로 활용하고 검증 집합 오차로 최적 프로그램을 선택하는 LLM-PV를 제안하여, 열거 탐색의 지수적 계산 비용과 경사도 기반 학습의 표본 비효율성을 동시에 해소한다. 패리티, 패턴 매칭, 소수 판별 등 알고리즘 과제에서 LLM-PV는 소수의 레이블 예시만으로 정확한 규칙을 복원하고 훈련 시퀀스 길이를 크게 초과하여 일반화하는 반면, SGD 기반 트랜스포머와 문맥 내 학습(ICL) 등 기존 방법들은 훈련 데이터에는 적합하나 길이 일반화에 실패한다.