검색된 컨텍스트는 길고 잡음이 많으며 중복되는 경우가 많아, 답변 생성에 앞서 질의 인식 압축이 필요하다. 네이티브 어텐션은 컨텍스트 선택을 위한 신호를 제공하지만, 헤드마다 동작이 이질적이어서 이를 문장 유용도 점수로 직접 집계하기가 복잡하다. 본 논문은 층과 헤드에 걸친 부호 있는 선형 리드아웃을 통해 이러한 신호를 결합하도록 학습하는 문장 수준 압축기 Sentinel을 제안한다. 기존 QA 근거 주석을 사용하여 리드아웃만 학습하며, 백본은 고정된 상태로 유지되고 문장 점수 산정에는 자기회귀 생성이 필요하지 않다. 12개의 LongBench 과제 전반에서, 0.5B 백본을 사용하는 Sentinel은 2,000 토큰 예산 조건에서 Qwen2.5-7B-Instruct, Llama-3.1-8B-Instruct, DeepSeek V4.1 Flash의 세 리더 각각에 대해 여러 과제에서 전체 컨텍스트(Full Context)보다 우수한 성능을 보인다. 영어 전용 QA 지도만 사용했음에도 동일한 리드아웃이 과제별 재학습 없이 중국어 과제로 전이된다. 길이별 계층화 프로파일링에서도 LLMLingua-2 및 CPC보다 압축 지연 시간과 GPU 메모리 사용량이 더 낮음을 확인했다.
전통적인 유사도 기반 스키마 매칭 방법은 상식 및 도메인 특화 지식이 부족하여 복잡한 도메인 특화 매핑에서 의미적 모호성과 충돌을 해결하지 못한다. 한편 배경지식이 충분하지 않은 대규모 언어 모델(LLM)은 환각을 일으키는 경향이 있어 스키마 매칭을 더욱 복잡하게 만든다. 이러한 한계를 극복하기 위해 우리는 스키마 매칭을 위한 지식 그래프 기반 검색 증강 생성인 KG-RAG4SM을 제안한다. 이 방법은 LLM 기반, 벡터 기반, 그래프 순회 기반, 하이브리드 기법을 포함한 새로운 검색 메커니즘과 고급 재순위화 기법을 통합하여, 대규모 외부 지식 그래프에서 가장 관련성 높은 부분 그래프를 추출한다. 우리의 접근법은 재학습 없이도 우수한 결과를 달성하였으며, MIMIC 데이터셋에서 LLM 기반 최신 기술(SOTA) 방법(예: Jellyfish-8B) 대비 정밀도 39.79%, F1 점수 30.56%의 향상을, Synthea 데이터셋에서 사전 학습 언어 모델(PLM) 기반 SOTA 방법(예: SMAT) 대비 정밀도 69.20%, F1 점수 21.99%의 향상을 보였다. 또한 KG-RAG4SM은 상식 지식 그래프부터 도메인 특화 지식 그래프에 이르기까지 효과적으로 확장되며, 명령어 튜닝 지식 배제 구성요소는 지식 그래프 맥락의 관련성이 최적이 아닌 경우에도 종단 간 스키마 매칭 과제에서 진실한 성능을 보장한다. 실제 시나리오에 대한 실증 분석과 사례 연구는 스키마 매칭에서 LLM의 환각 문제가 우리의 해법으로 잘 완화됨을 보여준다.