PASTA: 대규모 언어 모델의 지식 업데이트를 위한 패러프레이징 및 자기학습 접근법
PASTA: A Paraphrasing And Self-Training Approach for Knowledge Updating in LLMs
사전학습된 대규모 언어 모델(LLM)에서의 지식 업데이트는 여전히 중요한 과제로 남아 있다. 지속적 학습(continual training)은 지식 업데이트를 위한 잠재적 방법을 제공하지만, 여전히 상당한 기술적 어려움을 수반한다. 더불어, LLM은 뉴스 기사와 같은 특정 사실 정보에 관한 질문에 정확하게 답하는 데 어려움을 겪는 경우가 많은데, 이는 연구 커뮤니티에서 널리 인식된 능력의 한계이다. 본 논문은 뉴스 기사의 상세한 사실 정보를 새로운 지식으로 LLM에 통합하기 위한 단순하면서도 강력한 프레임워크인 PASTA를 제안하며, 해당 지식에 관한 질문에 정확하게 답하는 특화 모델 구축을 주요 목표로 한다. 본 프레임워크는 데이터 증강, 질의응답 생성, 그리고 지식 덮어쓰기와 환각(hallucination) 억제를 동시에 가능하게 하는 새로운 자기학습 DPO 프로세스를 결합한다. 학습 파라미터와 데이터 구성에 대한 체계적인 분석을 통해 효과적인 지식 업데이트에 관한 인사이트를 제공한다. 기반 모델의 지식 컷오프 이후 게재된 웹 기사를 대상으로 한 실험적 평가에서, PASTA는 일반 언어 능력을 유지하면서 정확도를 0.02에서 0.82로 현저히 향상시켜, 도메인 특화 LLM 구축에 있어 그 효과성을 입증하였다.