arXiv:2605.13050 cs.CL

Context Training with Active Information Seeking

제출 2026-05-13

한국어 초록

기존의 대부분의 대규모 언어 모델(LLM)은 배포 후 적응시키는 데 비용이 많이 들며, 특히 작업에 새로 생성된 정보나 특정 도메인 지식이 필요한 경우 더욱 그렇습니다. 최근 연구는 컨텍스트를 조작하고 최적화함으로써, LLM을 가중치를 업데이트하지 않고도 다운스트림 작업에 맞게 조정할 수 있음을 보여주었습니다. 그러나 기존 방법의 대부분은 여전히 폐쇄형 루프에 머물러 있으며, 모델의 내재 지식에만 의존합니다. 본 논문에서는 이러한 컨텍스트 옵티마이저에 능동적 정보 탐색을 위한 위키피디아 검색 및 브라우저 도구를 결합합니다. 우리는 표준 순차적 컨텍스트 최적화 파이프라인에 이러한 도구를 단순히 추가하는 것만으로는 오히려 기준선보다 성능이 저하될 수 있음을 보입니다. 그러나 여러 후보 컨텍스트를 유지하고 가지치기하는 검색 기반 학습 절차와 결합하면, 능동적 정보 탐색은 일관되고 상당한 성능 향상을 제공합니다. 우리는 이러한 개선을 저자원 번역(Flores+), 의료 시나리오(HealthBench), 그리고 추론 중심 작업(LiveCodeBench 및 Humanity's Last Exam)을 포함한 다양한 도메인 전반에서 입증합니다. 더 나아가, 본 방법은 데이터 효율적이며, 서로 다른 하이퍼파라미터에 대해 견고하고, 다양한 모델에 잘 일반화되는 효과적인 텍스트 컨텍스트를 생성할 수 있음을 확인했습니다.

요약

배포 후에도 빠르게 변화하는 과제나 새로운 도메인 지식을 다뤄야 하는 상황에서, 대규모 언어 모델(Large Language Models, LLMs)을 다시 학습시키는 방식은 비용과 시간이 크게 듭니다. 이러한 한계를 넘어서는 대안으로, 최근에는 모델의 가중치를 고정한 채 컨텍스트만 최적화하는 접근이 주목받고 있으며, 이 연구는 그 흐름을 한 단계 확장해 컨텍스트 최적화 과정에 능동적 정보 탐색(active information seeking)을 결합합니다. 핵심 발상은 컨텍스트를 단순한 프롬프트가 아니라 작업 수행에 필요한 지식과 지시가 축적되는 외부 작업 메모리로 보고, 모델이 부족한 정보를 스스로 찾아 채워 넣도록 만드는 데 있습니다. 이를 위해 저자들은 위키피디아 검색과 브라우저 도구를 도입했지만, 단순히 도구를 붙이는 것만으로는 성능이 향상되지 않고 오히려 기존 순차적 최적화보다 저하될 수 있음을 먼저 보입니다. 이러한 결과는 외부 정보가 많아질수록 잡음과 불필요한 길이가 함께 늘어나 컨텍스트 품질을 해칠 수 있음을 시사합니다. 이에 대한 해결책으로 제시된 것이 검색 기반 훈련(search-based training)이며, 이는 여러 후보 컨텍스트를 동시에 유지하고 평가하면서 불필요한 분기를 가지치기(pruning)하는 방식으로 동작합니다. 다시 말해, 필요한 정보를 찾는 과정과 그 정보를 어떤 형태로 남길지 결정하는 과정을 분리하지 않고, 탐색과 정제를 하나의 학습 절차로 묶어 안정적인 성능 향상을 이끕니다. 이때 후보 컨텍스트의 생성, 편집, 병합, 분기, 커밋과 같은 절차는 마치 버전 관리(version control)를 수행하듯 체계적으로 운영되어, 단일 경로에 의존하는 기존 방식보다 훨씬 유연하게 정보 탐색을 수행할 수 있게 합니다. 또한 검색, 임베딩 기반 탐색, 언어 모델을 활용한 재순위화가 함께 쓰이면서, 외부에서 가져온 정보를 그대로 주입하는 것이 아니라 작업과의 관련성을 다시 판단해 선별하는 구조가 마련됩니다. 실험은 저자원 번역(low-resource translation)인 Flores+, 건강 관련 시나리오를 다루는 HealthBench, 추론과 코드 생성 역량을 요구하는 LiveCodeBench, 그리고 고난도 종합 추론 과제인 Humanity's Last Exam 등 서로 다른 성격의 벤치마크에서 수행되었으며, 이를 통해 방법의 범용성을 검증합니다. 그 결과 능동적 정보 탐색이 적절한 훈련 절차와 결합될 때 일관되고 유의미한 성능 향상을 보였고, 적은 데이터만으로도 효과적인 컨텍스트를 만들 수 있는 데이터 효율성도 확인되었습니다. 특히 이 방식으로 생성된 텍스트 중심의 컨텍스트는 하이퍼파라미터 변화에 비교적 강건하고, 서로 다른 모델에도 잘 일반화된다는 점에서 실용적 의미가 큽니다. 결국 이 연구는 컨텍스트 최적화를 단순한 문장 수정이 아니라, 외부 지식을 적극적으로 खोज하고 선별하며 축적하는 탐색 문제로 재정의함으로써, 배포 이후의 모델 적응을 보다 현실적이고 확장 가능한 방향으로 이끕니다.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.