PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.27032v1cs.CL

LexLattice: 문서 계층 구조 상의 신경 세포 오토마타를 활용한 다국어 추출적 요약

LexLattice: Multilingual Extractive Summarization via Neural Cellular Automata on Document Hierarchies

법률 텍스트 요약에서는 충실성(faithfulness)이 핵심적인 문제이며, 이로 인해 원문까지 추적 가능한 문장을 그대로 선택하는 추출적 접근법이 주목받고 있다. 이러한 방법은 일반적으로 문단이나 기타 구조 단위를 개별적으로 순위화하는데, 문서의 멀리 떨어진 부분들에 분산되어 있거나 그 부분들 사이에서 중요도를 공유하는 근거를 통합하는 데에는 거의 주의를 기울이지 않는다. 본 논문에서는 법률 조항의 계층 구조를 2차원 의미 격자(semantic lattice)로 구체화하고, 선택 단계 이전에 마스킹된 2D 신경 세포 오토마타(neural cellular automata)를 통해 이 격자 위에서 정보를 통합하는 추출적 요약기 LexLattice를 소개한다. LexLattice는 EUR-Lex-Sum의 24개 전체 언어에서 다국어 및 교차 언어 설정 모두에서 최고 수준(state-of-the-art)의 ROUGE 성능을 달성하며, 수십억 개의 매개변수를 가진 인스트럭션 튜닝 기반 베이스라인을 능가한다. 이는 모든 학습 가능한 용량을 고정된(frozen) 다국어 인코더 위의 180만 매개변수 통합기(consolidator)에 집중했음에도 나타난 결과이다. 고자원 언어만으로 학습한 통합기는 학습에 사용되지 않은 언어로도 거의 손실 없이(유지율 0.99) 전이되며, 이는 모델이 표면 형태가 아니라 언어에 구애받지 않는 의미 기하(semantic geometry)에서 작동함을 시사한다. 본 연구의 결과는 문서 구조 위에서의 명시적 통합이 다국어 법률 요약에서 규모 확장에 대한 간결하고 추적 가능한 대안임을 보여준다.