NeKo: Toward Post Recognition Generative Correction Large Language Models with Task-Oriented Experts
원문 초록
Construction of a general-purpose post-recognition error corrector poses a crucial question: how can we most effectively train a model on a large mixture of domain datasets? The answer would lie in learning dataset-specific features and digesting their knowledge in a single model. Previous methods achieve this by having separate correction language models, resulting in a significant increase in parameters. In this work, we present Mixture-of-Experts as a solution, highlighting that MoEs are much more than a scalability tool. We propose a Multi-Task Correction MoE, where we train the experts to become an ``expert'' of speech-to-text, language-to-text and vision-to-text datasets by learning to route each dataset's tokens to its mapped expert. Experiments on the Open ASR Leaderboard show that we explore a new state-of-the-art performance by achieving an average relative $5.0$% WER reduction and substantial improvements in BLEU scores for speech and translation tasks. On zero-shot evaluation, NeKo outperforms GPT-3.5 and Claude-Opus with $15.5$% to $27.6$% relative WER reduction in the Hyporadise benchmark. NeKo performs competitively on grammar and post-OCR correction as a multi-task model.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
MoFE-Time: Mixture of Frequency Domain Experts for Time-Series Forecasting Models
Orchestrator-Agent Trust: A Modular Agentic AI Visual Classification System with Trust-Aware Orchestration and RAG-Based Reasoning
A Survey on Prompt Tuning
Growing Transformers: Modular Composition and Layer-wise Expansion on a Frozen Substrate
희소 레이어는 루프형 언어 모델의 스케일링에 핵심적이다
Sparse Layers are Critical to Scaling Looped Language Models
루프형 언어 모델은 트랜스포머 레이어 집합을 깊이 방향으로 반복하여 메모리 비용을 줄이고 루프 경계에서 자연스러운 조기 종료 지점을 제공한다. 그러나 루프형 모델은 고유한 레이어를 갖는 표준 트랜스포머만큼 유리하게 스케일링되지 않는다. 우리는 루프 유무에 따라 표준 트랜스포머와 전문가 혼합(MoE) 트랜스포머를 비교하여 두 가지 주요 결과를 얻는다. 첫째, 밀집 루프형 모델은 그렇지 않은 반면 Looped-MoE 모델은 표준 기준 모델보다 더 잘 스케일링됨을 확인한다. 우리는 이를 루프 간 라우팅 발산에서 비롯된 것으로 추적한다. Looped-MoE 모델에서는 동일한 공유 레이어를 통과할 때마다 서로 다른 전문가가 활성화되어, 추가 매개변수 없이 표현력을 회복한다. 둘째, 루프형 모델은 표준 모델보다 조기 종료에서 더 나은 연산-품질 절충을 가진다. 각 루프가 최종 출력을 생성하는 동일한 레이어로 끝나므로 루프 경계는 더 우수한 종료 지점이며, 이는 이 지점에서 출력이 더 일찍 수렴한다는 사실로 확인된다. 요약하면, 우리는 루프형 모델을 스케일링하기 위한 명확한 방향을 제시한다. 조기 종료를 갖춘 Looped-MoE 모델은 대규모에서 표준 트랜스포머를 능가할 수 있을 뿐 아니라, 품질 저하를 최소화하면서 상당한 메모리 및 추론 절감도 가능하게 한다.
대규모 비전-언어 모델에서의 인지 전문가 혼합
Mixture of Cognitive Experts in Large Vision-Language Models
대규모 시각-언어 모델(LVLM)은 시각 입력과 텍스트 입력 모두에 대한 강력한 추론 능력을 필요로 한다. 최근 연구는 인지적 요소, 특히 다양한 표현과 메타인지가 더 나은 성능과 상관관계가 있음을 시사한다. 필요한 지각 기능의 상당수는 이미 도메인 특화 컴퓨터 비전 모델이 제공하고 있으며, 이러한 모델은 객체 탐지, 위치 특정, 상태 추론, 공간 배치 복원, 텍스트 판독을 수행하는 지각 하위 시스템으로 활용될 수 있다. 핵심 과제는 이러한 다중 인코더 전문가들을 신뢰할 수 있고 해석 가능하며 일관된 표현으로 통합하여 검증 가능성을 높이고 환각을 줄이는 것이다. 이는 시각-언어 질문이 서로 다른 인지 수준에 걸쳐 있음에도 대부분의 LVLM 파이프라인이 질의의 요구와 무관하게 동일한 지각-추론 경로를 적용하기 때문에 어렵다. 본 논문은 Bloom에서 착안한 분류 체계를 계층적 추론 프로토콜로 사용하는 증거 기반 멀티모달 추론 프레임워크를 제안한다. 2단계 인지 언어화 과정은 먼저 전문가 출력을 짧고 원자적인 증거 진술로 분해하여 문자적 증거 요약(Literal Evidence Summary)을 생성하고, 이어서 Bloom 언어화(Bloom Verbalization)를 통해 이 항목들을 단계적 추론 흔적으로 변환한다. 경량 추론 흔적 모듈(Reasoning Trace Module)은 이 흔적을 정량적으로 분석하여 증거 사용과 추론 진행을 명시적으로 드러낸다. 실험 결과 지각과 추론 모두에서 향상이 나타났으며, 진단 결과 질의에 따라 서로 다른 인지 진입 수준과 증거 사용 궤적이 유도됨을 확인하였다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.