arXiv:2609.20842v1 cs.CL

COAL-SQL: Text-to-SQL 사후 학습을 위한 커버리지 기반 증강 및 실패 주도 학습

COAL-SQL: Coverage-Guided Augmentation and Failure-Driven Learning for Text-to-SQL Post-Training

Qifeng Cai, Xuanguang Pan, Hao Liang, Chang Xu, Wentao Zhang

제출 2026-09-21

한국어 초록

Text-to-SQL은 자연어 질의를 실행 가능한 SQL 쿼리로 변환하지만, 오픈소스 대규모 언어 모델(LLM)은 복잡한 실세계 SQL 생성을 위해 여전히 과제별 사후 학습이 필요하다. 효과적인 사후 학습에는 목표 과제가 요구하는 역량을 포괄하는 학습 데이터와 모델이 이를 습득하게 하는 학습 전략이 모두 필요하다. 기존 데이터셋은 유용한 지도를 제공하지만 SQL 구조를 불완전하게만 다루며, 증강 방법은 일반적으로 구조적 공백을 식별하지 않은 채 데이터만 확장한다. 게다가 지도 미세조정(SFT) 또는 강화학습(RL)만으로는 학습 중 드러나는 약점을 동적으로 해결할 수 없다. 우리는 커버리지 기반 증강(CGA)과 실패 주도 학습(FDL)을 결합한 통합 프레임워크 COAL-SQL을 제안한다. CGA는 탐욕적 선택을 통해 원본 데이터셋에 없는 SQL 구조를 식별하고 보완 예제를 구성하여 구조적 커버리지를 높인다. FDL은 GRPO를 주 최적화 목표로 유지하면서 풀리지 않은 예제에 대해 목표화된 지도를 제공한다. 스텝 수준에서는 누적된 실패에 대해 강한 LLM이 생성한 검증된 추론 trace에 지도 미세조정을 적용한다. 에포크 수준에서는 누적된 실패를 바탕으로 구조적으로 관련된 예제를 검색해 목표화된 연습을 만들고, 모델이 해당 SQL 역량을 습득하도록 돕는다. 서로 다른 사후 학습 예제 12,600개만으로 COAL-SQL은 BIRD development set에서 64.9% 실행 정확도를 달성하며, 유사한 규모로 학습된 baseline을 능가한다. 코드는 https://github.com/TechNomad-ds/COAL-SQL 에서 제공한다.

원문 초록

Text-to-SQL translates natural-language questions into executable SQL queries, but open-source large language models still require task-specific post-training for complex, real-world SQL generation. Effective post-training requires both training data that cover the capabilities demanded by the target task and a learning strategy that enables the model to acquire them. Existing datasets provide valuable supervision but incompletely cover SQL structures, while augmentation methods typically expand data without identifying structural gaps. Moreover, supervised fine-tuning (SFT) or reinforcement learning (RL) alone cannot dynamically address weaknesses exposed during training. We propose COAL-SQL, a unified framework combining Coverage-Guided Augmentation (CGA) and Failure-Driven Learning (FDL). CGA uses greedy selection to identify SQL structures missing from the original dataset and constructs complementary examples, improving structural coverage. FDL retains GRPO as the main optimization objective while supplying targeted supervision for unsolved examples. At the step level, it applies SFT to verified reasoning traces generated by a strong LLM for accumulated failures. At the epoch level, it retrieves structurally related examples based on accumulated failures to create targeted practice, helping the model acquire the corresponding SQL capabilities. With only 12,600 distinct post-training examples, COAL-SQL achieves 64.9% execution accuracy on the BIRD development set and outperforms baselines trained at comparable scale. The code is available at https://github.com/TechNomad-ds/COAL-SQL.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.20842v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.