QMSum에서 효율적인 질의 중심 회의 요약을 위한 검색된 스팬 학습
Retrieved-Span Training for Efficient Query-Focused Meeting Summarization on QMSum
QMSum은 채점기(scorer)를 제공하지 않아 질의 중심 회의 요약 결과를 비교하기 어렵게 만듭니다. 본 연구에서는 단일 구현 환경에서 15개 시스템을 재채점하거나 생성합니다. 공통 추론 포트를 통해 공개된 406M Fusion-in-Decoder 전문 모델은 제한된 긴 입력에서 2,000단어의 검색된 스팬(retrieved span)으로 전환될 때 6.30 ROUGE-1의 손실을 보입니다. 이러한 스팬 체제에서 모델을 미세조정하면 해당 손실이 회복됩니다. 테스트 셋에서 이 모델은 36.33 ROUGE-1을 기록하여 본 연구의 1.2B 시스템의 35.41과 비교되며, 그 차이에 대한 회의 군집 95% 신뢰구간은 [-0.27, +2.22]로 나타나 QMSum상에서 통계적으로 유의미하게 구분되지 않습니다. 더 작은 시스템은 전체 파라미터를 약 3분의 1만 사용하며 최대 추론 메모리는 절반 미만으로 사용합니다. 고정된 1.2B 베이스 내에서는 스팬 체제 미세조정으로 5.29 [+4.02, +6.56]가 향상되는 한편, 트랜스크립트 앞부분 4,500단어를 검색된 2,000단어로 대체하면 테스트에서 1.55, 검증에서 0.29가 추가됩니다. 별도로 단일 간결한 프롬프트 및 참조 중복 채점기 환경에서 공개된 406M 전문 모델은 5개의 독점 호스팅 모델보다 ROUGE-1 기준으로 최소 6.2 이상 앞서지만, 출력 길이와 인간 평가 또는 사실성 평가의 부재로 인해 이러한 순위 매기기에는 한계가 있습니다. 본 결론은 QMSum 및 자동 평가 지표에 국한됩니다.