본 논문에서는 희소하고 구체적인(articulated) 사용자 설명(rationale)을 확장 가능한 추천 신호로 변환하는 산업용 프레임워크인 SARA를 제시했습니다. SARA의 데이터 엔진은 설문 응답을 SARA-HQ로 정제하여, 지도 미세조정(SFT) 및 품질 개선 DPO(Quality-Refining DPO)를 통해 SARA-7B를 정렬(alignment)하기 위한 명시적 선호도 지도(supervision)를 제공합니다. 이러한 정렬을 통해 설명 생성 범위를 설문으로 다루어진 $86{,}564$명의 작성자에서 전체 $10$M 작성자 공간으로 확장합니다. SARA-Ranker는 생성된 긍정적 및 부정적 설명을 사용자-작성자 상호작용 모델링과 부정적 피드백 이력 모델링을 위한 피처로 변환하여 구체적인 이유를 프로덕션 랭킹과 연결합니다. 확인되지 않은 작성자에 대한 평가(evaluation) 결과, SARA-7B는 평가 대상 범용 MLLM보다 더 구체적이고 관련성 높으며 그라운딩된(grounded) 설명을 생성함을 입증했습니다. 멀티모달 피처를 갖춘 강력한 산업용 랭킹 기준선(baseline) 위에서 진행된 개별 온라인 A/B 테스트 결과, 긍정적 설명 통합은 시청 시간을 $0.99\%$ 증가시킨 반면, 부정적 설명 통합은 싫어요(Hate) 피드백을 $8.16\%$ 감소시켰습니다. 매일 진행되는 갱신(daily refresh)과 $30$일 이상의 프로덕션 배포는 이 접근 방식의 운영 실현 가능성을 더욱 잘 보여줍니다. 이러한 결과는 구체적인 설명이 행동 및 콘텐츠 신호에 유용한 보완책임을 입증하며, 희소한 인간의 설명을 산업용 추천을 개선하는 선호도 정보로 스케일링(scaling)하는 데 있어 MLLM의 실용적인 역할을 보여줍니다.
로컬 에이전트는 모델 실행과 작업 이력을 위해 메모리가 필요하다. 우리는 겹치는 할당을 조율하는 MLX 런타임 JustFit을 제시한다. KVExec는 제한된 워크스페이스에서 4비트 KV를 실행하고 체크포인트하며, PhaseSwap은 단계 의존적 구성 요소를 로드하고, StateTrans는 실행 모드 간 이력을 보존한다. 24 GiB M4 Pro MacBook에서 Qwen3.8-27B MXFP4로 JustFit은 두 요청에 걸쳐 327,680개의 유지 위치에 도달하며, 이는 평가된 기준선의 단일 요청 기록 30,720 위치의 10.67배이다. 한 요청은 중앙값 5.986 tokens/s로 전체 262,144 위치의 네이티브 윈도우를 완료한다. 각 shape는 세 개의 새 프로세스에서 요청당 16,384 출력을 완료한다. B1은 cold build 1회와 접두 문맥 확장 2회를 사용하고, B2는 순서대로 된 접두 문맥 확장 3회를 사용한다(Section 4). 이미지 인코딩은 활성 196,608 입력 텍스트 요청을 유지한 채 진행할 수 있다. 통제된 반복 32K+6K 워크로드는 15,626 MiB에서 중앙값 18.284 tokens/s에 도달한다. 별도의 AIME 2026 평가에서는 29/30점을 기록한다. 실행과 상태 수명을 조율하면 개인 하드웨어에서 더 긴 이력을 다루는 것이 가능해진다.
자동 리뷰 시스템은 생성하는 리뷰의 품질을 기준으로 점점 더 평가받고 있다. 그러나 리뷰는 그에 따라 조치를 취했을 때 논문에서 측정 가능한 개선으로 이어질 때에만 유용하다. 본 논문은 자율 AI 과학자와 AI 리뷰어를 결합한 폐루프(closed-loop) 시스템인 AppliedScientist를 제안하고, 다양한 연구 하위 분야에서 거절된 논문을 반복적으로 수정하여 이를 평가한다. 인간 저자가 이전 초안을 바탕으로 작성하는 방식을 반영하기 위해, AI 과학자는 수정 과정에서 이전 버전에 접근할 수 있다. 그러나 이전 판단으로 인한 바이어스를 피하기 위해 각 리뷰는 독립적으로 생성되며, 리뷰어는 이전 피드백이나 점수에 대한 기억을 갖지 않는다. 세 가지 수정 설정을 비교한다: 원래 venue 리뷰로 초기화한 경우, AI 생성 리뷰로 초기화한 경우, 매 라운드 동일한 고정 프롬프트를 사용하는 자율적 자기 수정. 리뷰어가 수정을 안내하면서 동시에 평가하기 때문에, Stanford Reviewer를 독립 평가자로 사용하여 인간이 초기화한 수정본도 평가한다. 리뷰어가 안내한 수정은 고정 프롬프트 자기 수정보다 지속적으로 더 많이 개선되며, Stanford Reviewer 또한 후속 수정본에 더 높은 점수를 부여한다. AppliedScientist는 실행 관련 약점 150건 중 128건(85.3%)을 해소하지만, 아이디어 관련 약점 18건 중 2건(11.1%)만 해소하여, 반복적 수정은 실험과 구현 개선에는 효과적이지만 참신성이나 중요성에 대한 우려는 거의 바꾸지 못함을 시사한다.
본 연구는 Reddit의 r/ChangeMyView에서 진행되었다가 중단된 현장 실험(field experiment)에서 공개된 데이터셋을 분석한다. 이 개입은 정체불명의 외부 연구자들이 수행하였으며 윤리적 반발로 중단되었고, AI 생성 계정을 공개하지 않은 채 사용자들을 실시간 토론에 끌어들이는 것을 포함했다. 공개 폭로 이후 Reddit은 중재자들이 AI 생성 댓글 아카이브를 공개하도록 허용하였으며, 이를 통해 공개 없이 대규모 언어 모델(LLM)이 정체성이 풍부한 숙의(deliberative) 포럼에서 어떻게 작동했는지 살펴볼 수 있는 드문 기회가 생겼다. 우리는 이 코퍼스에 대해 구조화된 내용 분석을 수행하며, 정체성 수행(identity performance), 권위 시그널링(authority signaling), 정렬(alignment) 전략, 인지적 휴리스틱(cognitive heuristics)의 활성화를 평가한다. 정체성 표적화 또는 채택은 댓글의 3분의 2 이상에서 나타나며, 정렬 움직임과 권위 주장은 거의 모든 댓글에서, 인지 바이어스 유발—특히 확증 바이어스(confirmation bias), 대표성(representativeness), 가용성(availability)—은 대다수에서 나타난다. 이러한 패턴은 체계적으로 공동 발생하며, 진정한 숙의 참여보다는 설득 효율을 위해 조율된 수사적 구조를 이룬다. CMV 인간 작성 반론과 비교할 때, 에이전트들은 모든 차원에서 전형적인 분포를 뒤집었다: 더 조밀한 권위 사용, 더 적대적인 정렬, 경험적 그라운딩(experiential grounding)보다 외부 인용에 대한 더 큰 의존. 이러한 환경에서 진정한 것과 합성적인 인식적 지위(epistemic standing) 사이의 구분은 점점 더 불투명해진다—공개 의무(disclosure mandates)만으로는 해결할 수 없는 비대칭이다. 결과는 AI 시스템의 존재 여부뿐 아니라 신뢰성(credibility)을 어떻게 구조화하는지 평가할 수 있는 감사(auditing) 프레임워크를 향해 가리킨다.
다자간 대화에서 옴니모달 대규모 언어 모델(OLM)을 평가하려면 사전 세그먼트된 입력에 대한 답변 정확성만으로는 부족하다. 우리는 SocialOmni를 제안한다. 이는 오프라인 진단 벤치마크로, 턴 수준에서 세 가지 결정을 분리한다: 누가 말하고 있는지 식별하는 것, 주석이 달린 쿼리 시점에 지정된 참가자가 언제 개입해야 하는지 결정하는 것, 그 참가자가 대화를 어떻게 이어가야 하는지 결정하는 것. SocialOmni는 2,000개의 지각(perception) 항목과 품질 관리된 핵심 분할로 200개의 상호작용 생성 항목을 포함하며, 자연적으로 발생하는 화자-가시성 불일치도 담고 있다. 각 항목은 세 명의 인간 주석자가 독립적으로 검증한다. 평가 대상 시스템은 쿼리 시점에 한정된 멀티모달 증거만 받으며, 수동으로 검증된 참조 연속(continuation)은 응답 채점용으로 따로 보류한다. 완전한 3심사관 앙상블이 모든 해당 응답을 채점하며, leave-one-judge-out 및 family-sensitivity 감사를 수행한다. 11개 OLM에 걸쳐 순위는 축별로 크게 달라지며, 커버리지 보정 점수는 높은 조건부 응답 품질이 선택적 턴 진입에 의존하는 경우를 드러낸다. 이 프로토콜은 지속적인 스트리밍 상태나 실제 경과 시간(wall-clock latency)을 측정하지 않는다.
개인화된 대규모 언어 모델(LLM)은 종종 명시적 스타일 지시를 따를 것으로 기대되지만, 우리는 그러한 지시가 개인화 방법이 보존하려는 사용자 고유 특성을 약화시킬 수 있음을 발견한다. 우리는 이러한 실패 양식을 개인화 붕괴(personalization collapse)라 부른다: 명시적 스타일 제어는 암시적 사용자 선호와 충돌할 수 있다. 이 문제에 대응하기 위해 우리는 요청된 스타일을 반영한 뒤 사용자별 잔차(residual)를 학습하는 경량 플러그인 PsPLUG를 제안한다. PsPLUG는 또한 추론 시 개인화 강도를 조절할 수 있게 한다. 실험 결과, 명시적 스타일 지시는 기존 방법에서 개인화를 약화시킬 수 있는 반면, PsPLUG는 사용자 선호를 더 잘 보존하면서 개인화와 스타일 준수 사이의 균형에 대한 정밀한 제어를 제공한다.
대규모 언어 모델(LLM)을 개별 사용자에 맞게 적응시키는 것은 세밀한 개인화와 확장 가능한 배포 사이의 긴장 때문에 여전히 어렵다. 우리는 점진적 정교화를 통해 효과적인 개인화를 달성하는 계층적 프레임워크인 CARD를 제안한다. CARD는 먼저 공유된 스타일 패턴에 따라 사용자를 클러스터링하고 그룹별 LoRA 어댑터를 학습하여, 견고한 일반화와 저자원 환경에서의 강한 성능을 가능하게 한다. 각 클러스터 내 개인 차이를 포착하기 위해, 사용자가 작성한 텍스트와 클러스터 수준 생성물을 대조하는 암시적 선호 학습 메커니즘을 제안하여, 모델이 수동 주석 없이 사용자별 스타일 선호를 추론할 수 있게 한다. 추론 시 CARD는 기본 모델을 고정한 채, 경량 사용자 선호 벡터와 저랭크 로짓 보정을 통해 디코딩 단계에서만 개인화를 주입한다. LaMP 및 LongLaMP 벤치마크 실험에서 CARD는 기준선 대비 우수한 생성 품질을 달성하면서, 실용적 개인화 텍스트 생성을 위한 효율성과 확장성을 크게 개선함을 보여준다.
대부분의 의료 비전-언어 모델(VLM)은 개방형 보고서 생성과 VQA에는 뛰어나지만, 통합된 인터페이스 안에서 구조화된 세밀한 임상 지각을 지원하는 데는 한계가 있다. 본 논문은 QwenVLConnector를 제안한다. 이는 Qwen2.5-VL 기반 의료 챗봇으로, 분류, 다중 레이블 분류, 텍스트화된 검출, 계수, 회귀, 자유 형식 보고서 생성을 단일 next-token 목표 아래 하나로 통합한다. 핵심 구성요소는 경량의 밀집 다층 Connector로, 저수준·고수준 시각 특징을 집계하고 사전학습된 vision Merger를 통해 정렬한 뒤, 시퀀스 길이를 늘리지 않고 최종 시각 표현과 융합한다. 이 설계는 효율성을 유지하면서 시각 토큰을 상보적인 공간·의미 단서로 풍부하게 한다. FLARE-2D에서 QwenVLConnector는 검출 F1을 0.55에서 0.85로 개선하고, 단일 레이블 분류를 0.37에서 0.51로 높이며, Qwen2.5-VL 기준선 대비 보고서 생성 GREEN을 최대 18.3점 향상시킨다. 또한 보고서 생성을 위한 멀티모달 문맥 내 학습(ICL)을 탐구하여, 모델 매개변수를 갱신하지 않고도 추가 개선을 보였다. 전반적으로 QwenVLConnector는 구조화된 의료 지각과 개방형 임상 텍스트 생성을 결합하는 통합적이고 효율적인 프레임워크를 제공한다. 코드는 https://github.com/plnguyen2908/QwenConnector 에서 확인할 수 있다.
프롬프트(prompt)로부터 텍스트가 풍부한 이미지를 생성하려면 텍스트의 정확도(fidelity)와 주변 이미지와의 일관된 통합이 모두 필요합니다. 명시적 레이아웃(layout)은 어떤 텍스트가 어디에 나타나야 하는지에 대한 구조화된 지침을 제공할 수 있지만, 잘 짜인 계획만으로는 렌더러(renderer)가 이를 충실하게 구현할 것이라고 보장하지 못합니다. 기존의 레이아웃 기반 자기회귀(AR)-확산(diffusion) 시스템은 일반적으로 계획과 렌더링을 별도로 최적화(optimization)하므로, 플래너(planner)의 표현(representation)이 이미지 합성과 공동으로 적응되지 못합니다. 본 논문에서는 자기회귀적 계획과 연속적인 확산 렌더링을 공동으로 학습하는 딥퓨전(DeepFusion) 기반의 자율 시각적 텍스트 생성기인 DuetGen을 소개합니다. DeepFusion은 플래너의 프롬프트 및 경계 상자(bbox)-콘텐츠 은닉 상태(hidden states)를 확산 트랜스포머(diffusion transformer)의 조건으로 활용하여, 렌더링 감독(supervision)이 텍스트 계획과 시각적 출력을 연결하는 표현을 형성하도록 합니다. 또한 구조화된 계획 수립을 유지하고, 텍스트가 포함된 영역을 강조하며, 플래너 표현의 공간적 정밀도(precision)를 개선하기 위해 자기회귀 계획 감독, 텍스트 영역 가중 확산 학습, 보조 좌표 감독을 결합한 공동 목적 함수를 사용합니다. 추론(inference) 단계에서는 위상 인식 어텐션 변조(Phase-Aware Attention Modulation)를 통해 이미지 영역과 이에 매칭된 좌표 및 콘텐츠 상태 간의 대응 관계를 강화하여 생성된 계획의 영역별 실행을 촉진합니다. 2B 플래너와 4B 단일 스트림 DiT를 갖춘 DuetGen은 CVTG-2K에서 0.8293의 단어 정확도, LongText-Bench에서 0.938의 정확도를 달성하여 두 벤치마크(benchmark) 모두에서 훨씬 더 큰 Qwen-Image와 거의 대등한 성능을 보입니다. 이러한 결과는 자율 시각적 텍스트 생성을 위해 공동으로 학습된 계획 표현과 영역별 렌더링의 가치를 입증합니다.
실제와 같은 온라인 손글씨는 개별 문자의 형태뿐만 아니라, 필기자가 인접한 문자들을 어떻게 연결하고 간격을 두고 정렬하는지에도 좌우된다. 기존 방법들은 주로 장거리 시퀀스 모델링(long-range sequence modeling)에 의존하며, 이러한 문자 간(inter-character) 거동을 암묵적으로만 포착한다. 이는 종종 그럴듯한 글리프(glyph)를 생성하지만, 필기체(cursive) 연결이 끊기거나, 간격이 일관되지 않거나, 필기자별로 일관되지 않은 전환(transition)을 동반한다. 우리는 문자 간 경계(boundary)를 명시적인 생성 단위로 다루는 필기자 조건부(writer-conditioned) 프레임워크인 BoundInk를 제안한다. 지역적 전환(local transition)과 주변 텍스트 맥락(context)을 함께 모델링함으로써, BoundInk는 필기자 고유의 글리프 외형을 보존하면서도 전체 텍스트 줄에 걸친 연결성과 간격을 개선한다. 우리는 나아가 기존의 궤적 유사도(trajectory similarity)를 넘어 필기체의 연속성과 문자 간 공간적 관계를 직접 평가하는 경계 인식(boundary-aware) 평가 프레임워크를 도입한다. 세 가지 벤치마크에 맞춘 설정 전반에서, BoundInk는 적용 가능한 모든 경계 품질(boundary-quality) 지표를 개선하고 정규화된 동적 시간 워핑(normalized dynamic time warping)을 17.6~47.8% 감소시킨다. 블라인드 인간 평가(blind human evaluation)에서, BoundInk의 출력은 유효한 기준별 판단(valid criterion-wise judgment)의 78.0~82.6%에서 선호되었다.
대부분의 위기 언어는 기술 문법서가 존재함에도 불구하고 기계 번역에 필요한 병렬 데이터가 부족하다. 본 연구는 대규모 언어 모델(LLM)을 사용하여 문법서에서 문법 규칙, 예문, 어휘집을 추출하고 미세조정용 합성 병렬 코퍼스를 생성하는 파이프라인을 제안한다. 이는 기존 연구처럼 추론 시점에 문법 내용을 프롬프트에 제공하는 방식과는 다르다. 유형론적으로 다양한 세 저자원 언어—Kalamang(파푸아어), Tuatschin(로망스어), Mandan(수어)—에서 검증한 결과, 합성 데이터 미세조정은 Kalamang에서 75%, Tuatschin에서 59%의 설정에서 시드 데이터 기준선 대비 개선을 보였으며, 최적의 경우 ChrF++는 각각 +8.8, +5.3, +3.3만큼 향상되었다. 목표 품사, 검색 세분성, 샘플 규모를 달리한 96개 설정에 대한 체계적인 요인 실험을 통해, 어떤 요인 조합이 성능 향상을 이끌고 어디에서 효과가 한계에 이르는지 밝혔다. 이 결과는 정적 언어학 문헌을 기계 번역 미세조정에 재활용할 수 있음을 보여 주며, 극도로 자원이 부족한 언어를 위한 번역 도구 구축이라는 실용적 경로를 제시한다.
문맥이 변화할 때 요약의 구식된 부분만 국소적으로 수정하는 디퓨전 기반 프레임워크인 DETECT-REMASK-REPAIR를 제안한다. 이 방법은 전체 재작성보다 빠르고 효율적으로 충실도(faithfulness)를 개선하며, 자가회귀 시스템의 사후 수정 단계로도 활용될 수 있음을 보여준다.
비전-언어 모델(VLM)은 올바른 시각적 내용을 식별하는지에 대해 점점 더 평가되고 있지만, 그러한 내용을 담화에 적합한 형태로 표현하는지에 대해서는 거의 알려져 있지 않다. 우리는 정보 구조(information structure, IS)를 사용하여 이 연구 공백을 다루며, 시각 기반 질의응답에서 VLM이 담화상 구 토픽(Topic)과 담화상 신 초점(Focus)을 구별하는지 검증한다. 우리는 토픽과 초점이 전용 구문 위치에 대응하여 IS 선택을 텍스트에서 관찰 가능하게 하는 헝가리어를 활용한다. 6개의 VLM과 인간 참가자를 비교한 결과, 모델은 IS 관련 구문을 생성하지만 이러한 민감성을 과도하게 규칙화한다. 담화 지위, 문법적 역할(주어 토픽 선호), 정확성(부정 초점 선호)의 상호작용하는 압력 아래에서 인간은 IS 실현을 위한 다양한 전략을 선택한다. 반면 VLM은 좁은 응답 템플릿으로 수렴하여 mode collapse(Kirk et al., 2024)와 유사하다. 우리의 발견은 VLM 평가가 내용 정확성을 넘어 담화를 위해 내용이 어떻게 구성되는지를 살펴야 함을 시사한다.
서사학의 스타일화·통일성 등 8가지 인물 묘사 범주 쌍을 자동 분류하는 CAspER 프레임워크로 인기 LLM 생성 단편과 최근 인간 창작 이야기의 인물을 비교·분석한다. LLM과 인간 이야기의 인물 유사성, LLM 생성물의 인물 다양성, 모델 크기·계열·장르별 차이 등을 다루며 유사점·차이점과 핵심 시사점을 제시한다.
Vision-language models (VLMs) have shown remarkable progress in offline tasks such as image captioning and video question answering. However, real-time interactive environments impose new demands on VLMs, requiring them to generate utterances that are not only semantically accurate but also temporally precise. We identify two core capabilities necessary for such settings---\textit{perceptual updating} and \textit{contingency awareness}---and propose a new benchmark task, \textbf{Temporally-Grounded Language Generation (TGLG)}, to evaluate them. TGLG requires models to generate utterances in response to streaming video such that both content and timing align with dynamic visual input. To support this benchmark, we curate evaluation datasets from sports broadcasting and egocentric human interaction domains, and introduce a new metric, \textbf{TRACE}, to evaluate TGLG by jointly measuring semantic similarity and temporal alignment. Finally, we present \textbf{Vision-Language Model with Time-Synchronized Interleaving (VLM-TSI)}, a model that interleaves visual and linguistic tokens in a time-synchronized manner, enabling real-time language generation without relying on turn-based assumptions. Experimental results show that VLM-TSI significantly outperforms a strong baseline, yet overall performance remains modest---highlighting the difficulty of TGLG and motivating further research in real-time VLMs. Our code is available at https://github.com/yukw777/tglg.
이산 디노이징 확산 모델(DDM)은 최근 이산 데이터에 대한 자기회귀(AR) 모델링의 설득력 있는 대안으로 부상했으며, 병렬 생성과 반복적 전역 정제 능력을 제공한다. 상태 공간이 고정된 연속 확산과 달리, DDM은 이산 상태 공간이 어떻게 구성되는지—토큰화 방식, 어휘 토폴로지, 도메인별 구조적 알파벳—에 의해 근본적으로 형성된다. 본 연구는 기저 이산 상태 공간의 구성을 통해 이산 확산 모델을 조망하는 통합 개념 프레임워크를 제안한다. 이 프레임워크 내에서 전이 행렬(transition-matrix), 마스킹/흡수 상태(masking/absorbing-state), 점수/비율 기반(score/ratio-based) 접근법을 포함한 기존 공식화들이 공통 설계 공간의 서로 다른 인스턴스화로 나타난다. 이 프레임워크는 또한 학습 목표, 추론 알고리즘, 스케일링 행동, 시스템 최적화, 평가 프로토콜 전반에 걸친 공통 설계 트레이드오프를 드러내며, 향후 연구를 위한 여러 유망한 방향을 제시한다.
대규모 언어 모델(LLM)은 자연스러운 인간과의 상호작용을 통해 지식을 검색하는 강력한 도구로 부상했습니다. 뛰어난 텍스트 생성 능력에도 불구하고, LLM은 사실과 다른 진술을 생성하고 지식을 조작하는 환각(hallucination) 경향을 보이며, 이는 신뢰성과 신뢰도를 저해합니다. 여러 연구에서 LLM의 불확실성을 평가하고 환각을 탐지하는 방법을 탐구해 왔습니다. 그러나 기존 접근법은 대개 확률론적이고 계산 비용이 높아 실용적인 적용에 한계가 있습니다. 본 논문에서는 디코딩 단계에서 모델이 생성한 응답에 능동적으로 이의를 제기함으로써 LLM 불확실성 휴리스틱을 개발하는 새로운 방법인 다이버전 디코딩(diversion decoding)을 소개합니다. 다이버전 디코딩을 통해 LLM이 대안적 답변을 생성하려는 저항성을 포착하는 특징을 추출하고, 이 특징들을 활용하여 머신러닝 모델을 학습시킴으로써 LLM 불확실성에 대한 휴리스틱 측도를 개발합니다. 실험 결과, 다이버전 디코딩은 계산 복잡도가 현저히 낮으면서도 기존 방법을 능가하여 환각 탐지 평가를 위한 효율적이고 견고한 솔루션임을 입증합니다.
멀티모달 대규모 언어 모델(MLLM)의 차트 설명에 대한 충실도와 통찰력을 평가하기 위해 4가지 차원을 기반으로 한 ChartFI-Bench와 정렬된 평가 지표를 제안한다. 주요 MLLM에 대한 실험을 통해 제안된 프레임워크의 유효성을 확인하고 기존 모델들의 공통적인 약점을 밝혀냈다.
창의적 작업에 대규모 언어 모델(LLM)의 사용이 늘고 있음에도, 그 출력은 종종 다양성이 부족하다. 더 높은 temperature에서 샘pling과 같은 흔한 해결책은 결과 품질을 희생시킬 수 있다. 이러한 트레이드오프를 다루는 것은 창의성을 위한 AI 시스템 설계에서 여전히 열린 과제이다. 정보 이론에 기반하여, 가치와 독창성을 정량적으로 평가하는 문맥 기반 점수를 제안한다. 이 점수는 학습된 분포로부터의 이탈을 촉진하면서 정확성과 요청 준수를 장려한다. 이 점수를 강화학습 프레임워크에서 보상으로 사용하여 대규모 언어 모델을 최대 성능을 위해 파인튜닝할 수 있음을 보인다. 시 생성 및 수학 문제 풀이와 같은 다양한 창의적 작업을 고려한 실험을 통해 전략을 검증하였으며, 생성된 해의 가치와 독창성을 향상시킴을 보였다.
텍스트 생성에 대한 접근성이 그 어느 때보다 높아졌으며, 특히 대규모 언어 모델(LLM)을 활용한 시스템에 대한 관심이 커지면서 관련 논문의 출판이 급증하고 있습니다. 본 연구에서는 2017년 1월부터 2025년 12월까지의 기간을 아우르는 257편의 논문으로 구성된 체계적 문헌 고찰을 제공합니다. 이 리뷰에서는 텍스트 생성 분야의 기여를 오픈엔드(open-ended) 텍스트 생성, 요약, 번역, 패러프레이징, 질의응답이라는 다섯 가지 주요 과업으로 분류합니다. 자체적인 분류 체계의 각 과업에 대해 관련 특성과 핵심 하위 과업을 검토합니다. 또한 비모델 기반(model-free), 모델(model) 기반, 인간 평가를 아우르며 텍스트 생성 시스템을 평가하기 위한 최신 접근법을 평가합니다. 본 조사에서는 여러 과업별 도전 과제(예: 다중 문서 요약을 위한 데이터셋 부재, 스토리 생성에서의 일관성 부족, 질의응답에서의 복합 추론 어려움 등)를 밝혀냅니다. 나아가 최근 텍스트 생성 논문들의 모든 과업 및 하위 과업에서 공통으로 나타나는 9가지 도전 과제인 바이어스(bias), 추론, 환각(hallucination), 오용, 개인정보 보호, 해석 가능성, 투명성, 데이터셋, 컴퓨팅에 대해 논의합니다. 이 체계적 문헌 고찰은 두 가지 주요 독자층을 대상으로 합니다. 바로 해당 분야의 전반적인 개요와 유망한 연구 방향을 모색하는 자연어 처리(NLP) 분야의 신진 연구자와, 주요 과업, 평가, 도전 과제 및 완화 전략에 대한 최신 개요가 필요한 시니어 연구자입니다.