PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

arXiv:2501.08686v2cs.DB공식 코드 · Papers with Code

스키마 매칭을 위한 지식 그래프 기반 검색 증강 생성

Knowledge Graph-based Retrieval-Augmented Generation for Schema Matching

전통적인 유사도 기반 스키마 매칭 방법은 상식 및 도메인 특화 지식이 부족하여 복잡한 도메인 특화 매핑에서 의미적 모호성과 충돌을 해결하지 못한다. 한편 배경지식이 충분하지 않은 대규모 언어 모델(LLM)은 환각을 일으키는 경향이 있어 스키마 매칭을 더욱 복잡하게 만든다. 이러한 한계를 극복하기 위해 우리는 스키마 매칭을 위한 지식 그래프 기반 검색 증강 생성인 KG-RAG4SM을 제안한다. 이 방법은 LLM 기반, 벡터 기반, 그래프 순회 기반, 하이브리드 기법을 포함한 새로운 검색 메커니즘과 고급 재순위화 기법을 통합하여, 대규모 외부 지식 그래프에서 가장 관련성 높은 부분 그래프를 추출한다. 우리의 접근법은 재학습 없이도 우수한 결과를 달성하였으며, MIMIC 데이터셋에서 LLM 기반 최신 기술(SOTA) 방법(예: Jellyfish-8B) 대비 정밀도 39.79%, F1 점수 30.56%의 향상을, Synthea 데이터셋에서 사전 학습 언어 모델(PLM) 기반 SOTA 방법(예: SMAT) 대비 정밀도 69.20%, F1 점수 21.99%의 향상을 보였다. 또한 KG-RAG4SM은 상식 지식 그래프부터 도메인 특화 지식 그래프에 이르기까지 효과적으로 확장되며, 명령어 튜닝 지식 배제 구성요소는 지식 그래프 맥락의 관련성이 최적이 아닌 경우에도 종단 간 스키마 매칭 과제에서 진실한 성능을 보장한다. 실제 시나리오에 대한 실증 분석과 사례 연구는 스키마 매칭에서 LLM의 환각 문제가 우리의 해법으로 잘 완화됨을 보여준다.

arXiv:2503.00714v2cs.DB공식 코드 · Papers with Code

추측적 애드혹 질의 (Speculative Ad-hoc Querying)

Speculative Ad-hoc Querying

대규모 언어 모델(LLM)에는 상당한 노력과 투자가 들어가지만, 에이전트 시스템은 시간의 상당 부분을 도구를 기다리는 데 소비할 수 있다. 본 논문은 소규모 보조 LLM이 주 LLM이 추론하는 동안 데이터베이스를 추측적으로 준비함으로써 이러한 대기 시간을 줄이는 방법을 탐구한다. 어려운 점은 보조 모델이 주 모델이 행동을 취하기 전에 그 행동을 예측해야 한다는 것이다. 우리의 핵심 통찰은 데이터베이스 시스템이 추측 모듈에 구조적 이점을 제공한다는 것이다. 즉, 추측 모듈이 정확한 다음 질의를 예측할 필요가 없고, 대신 다수의 그럴듯한 질의가 공유하는 작업을 준비할 수 있다. 질의의 형태를 예측하면 사전 컴파일이 가능하고, 데이터 접근을 예측하면 캐시를 예열할 수 있으며, 더 넓은 데이터 요구 사항을 예측하면 후속 질의가 정제할 수 있는 상위 집합 결과를 미리 계산할 수 있다. 우리는 이러한 이점을 분석용 SQL 워크로드에 활용하는 시스템 Wonder를 제시한다. Wonder는 재사용 가능한 상위 집합 질의를 구성하고, 그 구성 요소를 구체화하며, 후속 질의를 그 결과 임시 테이블에 대해 재작성한다. 스케줄러는 포그라운드 질의를 우선시하면서 추론 구간을 추측적 준비에 활용한다. 동일한 엔진은 SQL을 작성하는 사람도 지원하여, 불완전한 질의로 추측을 유도하고 입력하는 동안 중간 결과를 표시한다. 에이전트 워크플로의 재현 기반 평가에서 Wonder는 SQL 실행 시간을 최대 31.8%, 주 에이전트 추론과 활성 SQL 시간을 합한 시간을 최대 22.6% 줄였으며, 전체 데이터셋에서 기록된 주 에이전트 및 예측 API 비용은 약 6% 높고 읽기 I/O는 10% 더 많았다. 별도의 24명 참가자 연구에서는 두 분석 과제 모두에서 질의 지연 시간이 유의하게 낮았고 한 과제에서 답을 얻는 시간이 개선되었으며, 참가자의 87.5%가 생산성이 향상되었다고 응답했다.

arXiv:2502.11741v4cs.DB공식 코드 · Papers with Code

SQL-o1: 자기 보상 휴리스틱 탐색을 통한 자동 Text-to-SQL 프로그램 합성

SQL-o1: Automatic Text-to-SQL Program Synthesis via Self-Reward Heuristic Search

효율적인 사람과 데이터베이스 간 상호작용은 소프트웨어 공학의 핵심 문제이다. Text-to-SQL(Text2SQL)은 자연어 질문을 실행 가능한 SQL 질의로 매핑하여 자동 SQL 합성과 신뢰할 수 있는 상호작용을 가능하게 함으로써 이 문제를 다룬다. 대규모 언어 모델(LLM)이 크게 발전했음에도, 현재의 접근법은 오픈소스 LLM으로의 낮은 전이성, 복잡한 질의의 논리 및 함수 오류에 대한 제한된 강건성, 구조적 탐색의 비효율성 문제를 겪는다. 우리는 모델의 추론 능력을 향상시키기 위해 에이전트 기반 아키텍처 위에 구축된 자기 보상 기반 휴리스틱 탐색 프레임워크 SQL-o1을 소개한다. SQL-o1은 구조적인 다단계 탐색에 몬테카를로 트리 탐색(MCTS)을 활용하고, 정확도를 희생하지 않고 추론을 가속하는 동적 가지치기 전략을 도입한다. Spider와 BIRD 벤치마크에서 SQL-o1은 복잡한 BIRD 데이터셋에서 실행 정확도를 10.8포인트 향상시켜 GPT-4 기반 모델까지 능가한다. 또한 강한 퓨샷 일반화 성능과 오픈소스 LLM 간의 견고한 모델 간 전이성을 보인다. 코드는 https://github.com/ShuaiLyu0110/SQL-o1 에서 공개되어 있다.

arXiv:2502.00285v3cs.LG공식 코드 · Papers with Code

TSMini: 단순하면서도 매우 효과적인 궤적 유사도 학습 모델

TSMini: A Simple Yet Highly Effective Trajectory Similarity Learning Model

궤적 유사도는 다양한 시공간 데이터 마이닝 응용의 기반이 된다. 최근 연구들은 기존의 궤적 유사도 척도를 근사하기 위해 심층 학습 모델을 제안하며, 학습이 끝난 후의 빠른 추론 시간을 활용한다. 효율적인 추론은 이미 보고되었지만, 궤적 세분성(granularity) 모델링의 어려움과 학습 데이터에 담긴 유사도 신호를 활용하는 데 따른 어려움으로 인해 유사도 근사 정확도 측면에서는 여전히 과제가 남아 있다. 이러한 격차를 메우기 위해, 우리는 서브뷰(sub-view) 모델링 메커니즘과 k 최근접 이웃(k nearest neighbor) 기반 손실을 갖춘 매우 효과적인 궤적 유사도 모델인 TSMini를 제안한다. 전자는 다중 세분성의 궤적 패턴을 학습할 수 있게 하고, 후자는 TSMini가 궤적 간의 절대적인 유사도 값뿐만 아니라 상대적인 유사도 순위까지 학습하도록 이끈다. 이러한 혁신이 함께 작용하여 매우 정확한 궤적 유사도 근사를 가능하게 한다. 실험 결과, TSMini는 널리 사용되는 궤적 유사도 척도를 학습할 때 최신 모델들보다 평균 15% 더 우수한 성능을 보인다.

arXiv:2201.04868v3cs.HC공식 코드 · Papers with Code

흥미로움을 넘어서: 시각적 데이터 분석을 위한 의미·맥락 인식 자연어 쿼리 추천

Beyond Interestingness: Semantic and Context-Aware Natural Language Query Recommendations for Visual Data Analysis

최근 대규모 언어 모델(LLM)의 발전으로 자연어 인터페이스(NLI)가 데이터 탐험에 널리 접근 가능해졌지만, 광범위한 분석 목표를 가진 분석가들은 특히 낯선 다중 테이블 관계형 데이터베이스에서 이를 효과적인 단계별 쿼리로 분해하는 데 여전히 어려움을 겪는다. 고수준 분석 의제를 생성하는 대신, 관계형 데이터베이스 탐험을 위한 분석적 보조 구조로 작동하는 의미·맥락 인식 다음 단계 쿼리 추천으로 NLI를 보강하는 방법을 조사한다. 본 접근법은 의미적 관련성, 데이터 흥미로움, 맥락 일관성을 공동으로 통합하여 탐험을 일관되고 주제 중심적인 분석 및 잠재적으로 통찰력 있는 부분집합으로 이끄는 방식으로 흥미로움만을 사용하는 방법을 넘어선다. NL2SQL 벤치마킹, LLM 강화 설명 검증, 흥미로움만 사용하는 기준선 및 LLM 기반 프롬프팅 기준선에 대한 에이전틱 비교, 12명 참가자 사용자 연구로 QRec-NLI를 평가한다. 에이전틱 비교에서 QRec-NLI는 두 기준선 모두보다 주제적으로 더 관련성 있고 국소적으로 더 일관된 쿼리 시퀀스를 생성한다. 흥미로움만 사용하는 기준선과의 사용자 연구에서, 통찰 생성 지원 및 의사결정 지원에 대해 더 높은 평가를 받는다.