arXiv:2305.14224

mmT5: Modular Multilingual Pre-Training Solves Source Language Hallucinations

Jonas Pfeiffer, Francesco Piccinno, Massimo Nicosia, Xinyi Wang, Machel Reid, Sebastian Ruder

제출 2023-05-23

원문 초록

Multilingual sequence-to-sequence models perform poorly with increased language coverage and fail to consistently generate text in the correct target language in few-shot settings. To address these challenges, we propose mmT5, a modular multilingual sequence-to-sequence model. mmT5 utilizes language-specific modules during pre-training, which disentangle language-specific information from language-agnostic information. We identify representation drift during fine-tuning as a key limitation of modular generative models and develop strategies that enable effective zero-shot transfer. Our model outperforms mT5 at the same parameter sizes by a large margin on representative natural language understanding and generation tasks in 40+ languages. Compared to mT5, mmT5 raises the rate of generating text in the correct language under zero-shot settings from 7% to 99%, thereby greatly alleviating the source language hallucination problem.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.09338v1cs.CL공통 태그 Hallucination, Natural Language Understanding

엔드투엔드 생성 TOD에서의 비일관성 탐지를 향하여

Towards Detecting Inconsistencies in End-to-end Generated TODs

생성형 AI는 대화 시스템의 핵심 기술을 근본적으로 변화시키며, 컴포넌트 기반 방식에서 엔드투엔드 방식으로의 전환을 이끌고 있다. 그러나 대규모 언어 모델(LLM)은 여전히 비일관성을 생성할 수 있으며, 이는 특히 작업 지향 대화(TOD)에서 심각한 문제가 된다. TOD에서는 시스템 응답이 도메인 지식 베이스(예: 도시 내 식당 정보)의 정보를 엄격히 준수해야 하기 때문이다. 단 하나의 환각(예: 존재하지 않는 식당을 추천하는 것)도 심각한 작업 실패로 이어질 수 있다. 우리는 TOD를 제약 만족 문제(CSP)로 개념화하여 비일관성을 자동으로 탐지하는 방법을 연구한다. 이 접근법에서 변수는 대화 도메인을 참조하는 대화 세그먼트를 나타내고, 변수 간의 제약 조건은 턴 일관성 및 도메인 지식 준수와 같은 대화 속성을 포착한다. 우리는 대상 대화에서 변수를 먼저 식별한 후 CSP 솔버를 적용하여 유효한 해를 찾는 파이프라인을 제안한다. 대상 대화와 유효한 변수 할당을 비교함으로써 비일관성을 탐지하고 대화 일관성을 보장하기 위한 최소한의 변경 사항을 제안할 수 있다. 우리는 비일관성 탐지에서 CSP 기반 접근법의 높은 정확도를 입증하고, 연구 결과에 대한 상세한 분석을 제공한다.

arXiv:2607.04523v1cs.CL공통 태그 Hallucination, Natural Language Understanding

언어 통계로부터 핵심 개념적 구분을 학습하는 것의 실패와 성공

Failures and Successes to Learn a Core Conceptual Distinction from the Statistics of Language

"호랑이는 줄무늬가 있다"와 "자동차에는 라디오가 있다"와 같은 일반적 진술은 대체로 사실인 정보를 전달한다. 그러나 첫 번째 진술은 원칙적으로 참인 반면, 두 번째 진술은 통계적으로만 참이다. 사람들은 이 원칙적 참과 통계적 참의 구분에 매우 민감하다. 어떤 것이 범주 구성원이기 때문에 참인 경우와 단순한 통계적 규칙성 때문에 참인 경우를 구별하는 이 능력은 인간 개념 체계의 일반적 속성이며, 그 자체로는 학습될 수 없다는 주장이 있어 왔다. 본 연구에서는 원칙적 속성과 통계적 속성 간의 구분이 언어 자체로부터 학습될 수 있는지를 탐구한다. 만약 그렇다면, 언어 경험이 핵심 개념적 구분을 부트스트랩할 수 있으며 언어로부터 직접 정교한 인과 모델을 학습하는 것이 가능하다는 가능성이 제기된다. 우리는 언어 모델들이 모두 통계적 유병률(prevalence)에 민감하지만, 유병률을 통제한 상태에서 원칙적-통계적 구분을 표상하는 데 어려움을 겪는다는 것을 발견했다. GPT-4에 이르러서야 비로소 이 구분에 성공한다.

arXiv:2607.05479v2cs.CR공통 태그 Hallucination

생성형 AI 워크플로우에서의 특권과 기밀성

Privilege and confidentiality in generative AI workflows

생성형 AI(GenAI) 시스템은 클라이언트 데이터를 세 가지 방식으로 저장하고 처리한다: 학습과 기억화를 통해 모델의 파라미터에, 실시간 세션 중 컨텍스트 윈도우에, 그리고 검색-증강 생성(RAG)을 위한 지식 데이터베이스에. 각 방식은 기밀성과 법적 직업상 특권에 대해 서로 다르고 종종 반직관적인 위험을 초래하며, 각각 특정한 거버넌스 대응을 요구한다. 특권과 생성형 AI를 다룬 최초의 영국 및 미국 판결인 UK and Munir v Secretary of State for the Home Department와 United States v Heppner, 이 판결들이 해석되어야 할 기존의 특권 판례들, 그리고 최근의 컴퓨터 과학 연구를 바탕으로, 우리는 실무자들이 이해할 수 있는 방식으로 데이터 저장 및 처리의 세 가지 방식을 설명하고 각각의 법적 결과를 분석한다. 이어서 우리는 이 분석을 잉글랜드 및 웨일스의 사무변호사를 규율하는 규제 체계와 통상적인 직업상 과실의 일반 원칙 내에 위치시키며, 효과적인 정보 거버넌스의 기준(그리고 그에 따라 과실 및 위법 행위를 판단하는 벤치마크)이 변화하고 있다고 주장한다. 우리는 주로 SRA 규제를 받는 실무자들을 대상으로 서술하지만, 데이터 거버넌스 분석은 특권 또는 직업상 비밀의 보호가 증명 가능한 기밀성에 달려 있는 모든 법적 관할권으로 확장될 수 있도록 구성하였다. 이 논문의 궁극적인 목적은 법률 서비스 전문가들이 GenAI 시스템에서의 주요 데이터 유출 위험을 이해하도록 돕고, 이를 통해 클라이언트 데이터 및 기타 민감한 자료에 대한 GenAI의 보다 책임 있는 배포를 촉진하는 것이다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.