PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.11683v1cs.CL

RAGU: 소형 도메인 적응 LLM을 활용한 다단계 GraphRAG 엔진

RAGU: A Multi-Step GraphRAG Engine with a Compact Domain-Adapted LLM

그래프 검색-증강 생성(GraphRAG)은 구조화된 지식으로 대규모 언어 모델(LLM)을 강화하지만, 기존 시스템은 단일 추출 패스로 지식 그래프를 구축하여 노이즈가 많은 엔티티와 취약한 검색 결과를 생성한다. 오픈소스 모듈형 GraphRAG 엔진인 RAGU는 추출과 통합을 분리함으로써 이 문제를 해결한다. 엔티티와 관계는 2단계 타입 기반 추출, DBSCAN 기반 중복 제거, LLM 요약, Leiden 커뮤니티 탐지를 거친다. 핵심 통찰은 소형 추출기의 타당성을 뒷받침한다. 파이프라인 내 LLM이 필요로 하는 기술—이해, 추출, 문맥 기반 추론—은 언어 능력에 해당하며, 이는 사실적 세계 지식과 달리 모델 크기에 따라 약하게만 향상된다. 이에 따라 우리는 언어 능력에 최적화된 7B 모델인 Meno-Lite-0.1을 학습시켰으며, 이 모델은 지식 그래프 구축에서 Qwen2.5-32B를 능가하고(상대적 조화 평균 +12.5%), 영어 GraphRAG 태스크에서 동등한 성능을 보인다. GraphRAG-Bench(Medical)에서 RAGU는 모든 팩토이드 수준에서 가장 완전한 컨텍스트를 검색하며(증거 재현율 최대 0.84 대 ≤0.76), 합성 태스크에서 HippoRAG2를 앞선다. 멀티홉 팩토이드 QA에서 HippoRAG2가 보이는 외견상 이점은 대체로 답변 형식의 차이에 기인한 것임이 밝혀진다. RAGU는 `pip install graph_ragu`로 설치 가능하며 단일 GPU에서 실행되고 MIT 라이선스로 공개된다. 소스 코드는 https://github.com/RaguTeam/RAGU에서 공개적으로 이용 가능하며, Meno-Lite-0.1 모델은 https://huggingface.co/bond005/meno-lite-0.1에서 다운로드할 수 있다.

arXiv:2204.04888v2cs.DL

과학기술 학술 컨퍼런스의 지식 그래프 및 정확한 프로필 구축

Knowledge Graph and Accurate Portrait Construction of Scientific and Technological Academic Conferences

대규모 학술 컨퍼런스 데이터에서 연구자들이 핵심 정보를 효율적으로 획득하기 어렵다는 문제를 해결하기 위해, 개체명 인식(NER), 의미론적 텍스트 유사도, 트렌드 예측, 그래프 저장, 시각화 등의 핵심 기술을 활용한 지식 그래프(knowledge graph) 및 정확한 프로필(portrait) 구축 방법론을 종합적으로 검토한다. BiLSTM-CRF, BERT, Sentence-BERT, Informer 등 딥러닝 기반 접근법들이 컨퍼런스 지식 서비스 구축을 어떻게 지원하는지 체계적으로 정리한다.