RAGU: 소형 도메인 적응 LLM을 활용한 다단계 GraphRAG 엔진
RAGU: A Multi-Step GraphRAG Engine with a Compact Domain-Adapted LLM
그래프 검색-증강 생성(GraphRAG)은 구조화된 지식으로 대규모 언어 모델(LLM)을 강화하지만, 기존 시스템은 단일 추출 패스로 지식 그래프를 구축하여 노이즈가 많은 엔티티와 취약한 검색 결과를 생성한다. 오픈소스 모듈형 GraphRAG 엔진인 RAGU는 추출과 통합을 분리함으로써 이 문제를 해결한다. 엔티티와 관계는 2단계 타입 기반 추출, DBSCAN 기반 중복 제거, LLM 요약, Leiden 커뮤니티 탐지를 거친다. 핵심 통찰은 소형 추출기의 타당성을 뒷받침한다. 파이프라인 내 LLM이 필요로 하는 기술—이해, 추출, 문맥 기반 추론—은 언어 능력에 해당하며, 이는 사실적 세계 지식과 달리 모델 크기에 따라 약하게만 향상된다. 이에 따라 우리는 언어 능력에 최적화된 7B 모델인 Meno-Lite-0.1을 학습시켰으며, 이 모델은 지식 그래프 구축에서 Qwen2.5-32B를 능가하고(상대적 조화 평균 +12.5%), 영어 GraphRAG 태스크에서 동등한 성능을 보인다. GraphRAG-Bench(Medical)에서 RAGU는 모든 팩토이드 수준에서 가장 완전한 컨텍스트를 검색하며(증거 재현율 최대 0.84 대 ≤0.76), 합성 태스크에서 HippoRAG2를 앞선다. 멀티홉 팩토이드 QA에서 HippoRAG2가 보이는 외견상 이점은 대체로 답변 형식의 차이에 기인한 것임이 밝혀진다. RAGU는 `pip install graph_ragu`로 설치 가능하며 단일 GPU에서 실행되고 MIT 라이선스로 공개된다. 소스 코드는 https://github.com/RaguTeam/RAGU에서 공개적으로 이용 가능하며, Meno-Lite-0.1 모델은 https://huggingface.co/bond005/meno-lite-0.1에서 다운로드할 수 있다.