dblab.postech.ac.kr

이 이메일 도메인이 관측된 논문 2건

arXiv:2608.30468v2cs.CL

Hi-Q: 멀티홉 질의응답을 위한 계층적 증거 기반 쿼리 정제

Hi-Q: Hierarchical Evidence-guided Query Refinement for Multi-Hop Question Answering

멀티홉 질의응답(Question Answering, QA)의 핵심적인 병목점은 질문이 표현되는 세분성(granularity)과 말뭉치(corpus) 증거를 검색할 수 있는 세분성이 서로 다른 경우가 많다는 점이다. 기존 방법들은 말뭉치에 고정된 그래프 구조를 부여하거나, 쿼리를 반복적으로 재구성하거나, 쿼리에 대해 생성된 프로그램을 실행함으로써 이러한 불일치를 해결하려 하지만, 이러한 전략들은 쿼리 단위가 이미 증거에 의해 뒷받침되는 시점과 정제되어야 하는 시점을 명시적으로 결정하지 못한다. 본 연구에서는 이 병목점을 검색 가능한 세분성 발견(retrievable granularity discovery) 문제로 정의하고, 계층적 쿼리 정제를 위한 증거 조건부 프레임워크인 Hi-Q를 소개한다. 각 쿼리 노드(node)에서 해결 연산자(resolution operator)는 검색된 증거가 현재 쿼리 단위를 뒷받침하는지 테스트하며, 해결된 노드는 종료되는 반면 미해결 노드는 의존성을 보존하는 이항 연산자에 의해 확장되고 의미론적 커버리지 검증기(semantic coverage verifier)를 통해 검증된다. 따라서 Hi-Q는 고정된 분해 템플릿이나 사전에 구축된 그래프 대신 말뭉치의 뒷받침 신호에 의해 위상이 결정되는 쿼리 트리를 성장시킨다. 저자들은 세 가지 멀티홉 QA 벤치마크에서, 주로 소규모의 주석 풀 내부가 아닌 오픈 도메인 방해 요소들 사이에서 의존적 증거를 찾아야 하는 전체 말뭉치 검색(full-corpus retrieval) 환경을 바탕으로 Hi-Q를 평가한다. 이 설정에서 Hi-Q는 말뭉치 전반의 그래프 구축 없이 세 벤치마크 평균 52.3 EM 및 64.0 F1을 달성하여, 동일한 평균에서 반복 검색 기준선(baseline)인 IRCoT를 15.1 EM / 18.2 F1 차이로 앞서고 MuSiQue-full에서는 그래프 기반 검색-증강 생성(RAG) 기준선인 PropRAG를 11.5 EM / 12.0 F1 차이로 앞선다. 이전 연구에서 사용된 제한된 지지/방해 요소 설정에서도 Hi-Q는 평균 57.9 EM 및 69.3 F1으로 최고 정확도를 달성하며, PropRAG를 5.6 EM / 3.9 F1, IRCoT를 13.7 EM / 15.8 F1 차이로 앞선다. 프로젝트 페이지는 https://hi-q-project.github.io/ 에서 확인할 수 있다.

arXiv:2610.00906v1cs.AI

ActiveSaddler: 에이전트 하네스 최적화를 위한 자동 커리큘럼 학습

ActiveSaddler: Automated Curriculum Learning for Agent Harness Optimization

자동화된 하네스 최적화(harness optimization)는 실행 피드백을 바탕으로 프롬프트, 도구 인터페이스, 제어 로직을 반복적으로 업데이트함으로써 대규모 언어 모델(LLM) 에이전트를 크게 향상시킬 수 있습니다. 그러나 기존 방법들은 하네스가 업데이트되는 방식을 최적화하는 데 주로 집중하며, 이러한 업데이트를 이끄는 피드백을 생성하는 학습 시나리오를 대체로 고정해 둡니다. 하네스가 진화함에 따라 추가 최적화에 가장 유용한 시나리오도 변할 수 있으며, 이는 학습 커리큘럼 자체가 하네스와 함께 적응해야 함을 시사합니다. 본 논문에서는 하네스 최적화에서 결여되었던 이러한 차원을 자동 커리큘럼 학습(automated curriculum learning) 문제로 정식화하고 ActiveSaddler를 소개합니다. ActiveSaddler는 진화하는 커리큘럼을 동적으로 인스턴스화되는 최적화 대상을 갖춘 비정상 밴딧(non-stationary bandit)으로 모델링합니다. 이 방법은 반복되는 실패를 재사용 가능한 실패 패턴 암(arm)으로 추상화하고, 각 패턴을 추가로 목표 삼았을 때 얻을 수 있는 잠재적 학습 진행도를 추정하며, 알려진 약점을 다시 탐색하는 것과 새로운 약점을 찾기 위해 미확인 시나리오를 탐색하는 것 사이의 균형을 적응적으로 맞춥니다. 최적화 결과는 발견된 실패 패턴 집합과 그 우선순위를 지속적으로 업데이트하여 커리큘럼이 하네스와 함께 공동 진화할 수 있도록 합니다. GAIA2 및 Terminal-Bench 2.0에 대한 실험 결과, ActiveSaddler는 지속적으로 더 강력한 하네스를 발견하여 최적화 전에 고정된 시나리오 순서를 사용하는 동일한 하네스 옵티마이저 대비 테스트 Pass@1을 각각 4.4%p 및 7.5%p 향상시키는 것으로 나타났습니다. 추가 절제 연구(ablation study)는 이러한 향상이 최적화 대상을 동적으로 구성하고, 진화하는 유용성을 추정하며, 지속적인 최적화와 새로운 실패 발견 간의 균형을 맞추는 데 기인함을 보여줍니다. 종합적으로 이러한 결과는 자동 커리큘럼 학습이 하네스 최적화를 위한 핵심적인 새로운 최적화 차원임을 입증합니다.