우리는 RLM-Cascade를 제안한다. 이는 모델 아키텍처 접근이나 공유 어휘(shared vocabulary) 없이 LLM API 비용을 줄이기 위해 응답 수준에서 투기적 디코딩(speculative decoding)을 적용하는 프록시 층 시스템이다. 빠르고 저렴한 드래프트(draft) 모델이 후보 응답을 생성하고, 성능이 높은 검증(verify) 모델은 경량 복잡도 라우터에 따라 이를 수락하거나 향상시키거나 아예 우회된다. 실제 에이전트(agentic) 코딩 워크로드(Claude Code)에서 RLM-Cascade는 125건의 프로덕션 요청에 걸쳐 88.8%의 드래프트 사용률을 달성하며, 직접 Opus 기준선 대비 API 비용을 45.8% 절감한다. 직관에 반하게 프록시는 종단 간(end-to-end) 지연시간도 줄인다. 중앙값 응답 시간은 Native Opus의 3,698 ms 대비 2,026 ms이며, p50에서 1.83배 가속이다. 이는 SKIPPED 경로(DeepSeek만 사용, Opus 호출 없음)가 워크로드 분포를 지배하기 때문이다. 품질은 Opus 기준선과 동등하거나 그 이상이다. 20개 태스크 Code/Math/Instruct 벤치마크에서 통과율 100%로, Native Opus의 95%를 상회한다. 또한 단순한 에이전트 턴에 SKIPPED 경로를 선택하는 규칙 기반 복잡도 라우터와, 스키마가 중요한 도구 선택 턴에서 투기적 파이프라인을 우회하는 하이브리드 도구 호출(tool-call) 전략을 설명한다. RLM-Cascade는 기업 AI 인프라 구성 요소로 프로덕션에 배포되었으며, 실시간 메트릭 대시보드와 Prometheus 엔드포인트와 함께 오픈 소스로 공개되었다.
우리는 쌍wise 인간 선호로부터 생성 모델을 정렬하는 기본적인 접근법인 Markov Chain from Human Feedback(MCHF)를 제안한다. 비교를 스칼라 보상으로 축소하는 인간 피드백 강화학습(RLHF)이나, KL 정규화 minimax 최적화를 통해 쌍wise 효용을 보존하는 Nash Learning from Human Feedback(NLHF)과 달리, MCHF는 쌍wise 선호를 직접 사용하여 모델 출력 위의 전이 메커니즘을 정의한다. $y$가 $x$보다 선호되는 정도를 정량화하는 쌍wise 효용 $U(x,y)$와 기준 확률 분포 $μ_{\mathsf{ref}}$가 주어졌을 때, 마르코프 커널 $\mathsf{P}(x, dy)\propto \exp(U(x,y))μ_{\mathsf{ref}}(dy)$를 정의하고, $μ_{\mathsf{ref}}$에서 시작하는 마르코프 체인을 반복적 정렬 절차로 본다. MCHF가 정상 분포에 기하급수적으로 빠르게 수렴함을 보이며, 수렴 속도는 쌍wise 효용의 비전이적 구조를 정량화하는 반노름 $\|U\|_\oplus=\inf_{g,f\in L^\infty(μ_{\mathsf{ref}})}\|U-g\oplus f\|_\infty$에 의해 결정된다. 또한 NLHF를 위한 mirror-descent 알고리즘이 유사한 구조 적응적 수렴 보장을 만족함을 보인다. 마지막으로, 섭동 분석을 통해 $\|U\|_\oplus$가 작을 때 MCHF와 NLHF가 RLHF 해법 주변에서 1차까지 일치함을 증명하며, 이는 정렬에 대한 보상 기반, 게임 이론적, 마르코프적 접근법의 통합적 관점을 제공한다. 특히 MCHF/NLHF 균형에 수렴하는 두 자연스러운 알고리즘에 대해, MCHF와 NLHF의 첫 번째 단계가 열 합 보상 $\hat{f}(y)=\int μ_{\mathsf{ref}}(dx) U(x, y)$에 기반한 RLHF 해법을 복원함을 보이며, 두 번째 반복부터는 두 알고리즘 모두 잔차 $U-(-\hat f)\oplus \hat f$의 동일한 선형 함수형을 포함하며, 이는 쌍wise 효용 $U$의 비전이적 구조를 포착한다.
에지 사물인터넷(IoT) 에이전트는 종종 메모리 용량, 프라이버시 요구사항, 통신 지연, 반복적인 추론 비용에 의해 제약된다. 현재 스마트홈 어시스턴트는 일반적으로 API 수준의 명령 인터페이스나 클라우드 기반 언어 모델에 의존하며, 이는 에지 디바이스에 배포하기 어렵다. 본 논문은 여러 자연어 지시가 결정론적 스마트홈 파싱을 위해 동일한 정규(canonical) 명령 문자열에 매핑되는 다대일(many-to-one) 구조화 출력 작업으로 에지 IoT 명령 생성을 다룬다. 이를 지원하기 위해, 본 연구는 모델 아키텍처 선택, Smart Home Instruct 데이터 생성, triplet-loss 대조 지도 미세조정, 가지치기와 양자화, 배포 지향 익스포트를 포괯하는 end-to-end 프레임워크인 SCENIC(Semantic-Conditioned Edge-Aware Neural Framework for Structured IoT Command Generation)를 제안한다. 우리는, 우리가 아는 한 에지 IoT 구조화 명령 생성을 위해 연구된 최소 규모의 언어 모델 백본 중 하나인 0.2B 미만 규모 트랜스포머 백본을 평가한다. Smart Home Instruct-Bench에서, 가장 강력한 dense decoder-only 구성은 99.0% EM@1에 도달하며, encoder-decoder 모델은 더 강한 고희소성 동작을 유지한다. 대표적인 가지치기된 INT8 encoder-decoder 익스포트는 익스포트된 모델 크기를 25.38% 줄이면서 91.0% EM@1과 99.0% EM@5를 유지한다. NVIDIA 2:4 희소 encoder 익스포트에 대한 TensorRT 프로파일링은 추가로 최대 1.8배 encoder 컴포넌트 속도 향상을 보여주며, 이는 선택된 encoder-decoder 배포 경로가 에지 지향 압축 하에서도 구조화 명령 정확도를 유지할 수 있음을 시사하지만, 하드웨어 가속 증거는 컴포넌트 수준에 머무른다는 점을 나타낸다. SCENIC 코드와 실험 산출물은 재현성을 위해 오픈소스로 공개되었다.
현대의 전문가 혼합(MoE) 모델은 대부분의 파라미터를 전문가 층에 배치하지만, 어떤 토큰에 대해서도 그 전문가 중 일부만 사용된다. 사용되지 않는 가중치도 GPU가 접근 가능한 위치에 저장되어야 한다. 범용 GPU에서의 일반적인 해결책은 층 수준의 CPU 오프로딩으로, 메모리를 낮게 유지하지만 순전파마다 해당 층의 모든 전문가를 PCIe를 통해 스트리밍하여 MoE 희소성의 이점 대부분을 잃게 된다. 우리는 저사양 MoE 서빙을 GPU의 워킹셋 관리 문제로 재정의한다: 라우팅된 전문가 가중치와 키-값(KV) 캐시는 제한된 VRAM을 두고 경쟁하는 두 가지 메모리 수요 스트림이다. 우리는 이를 WiSP(Working-Set Paging)로 구현하였는데, 이는 수정되지 않은 서빙 엔진에 바이트 동일 출력을 유지하면서 플러그인되는 라우팅 인식 전문가 페이저이다. 워크로드가 재사용하는 전문가만을 상주시킴으로써, WiSP는 모델이 메모리에 맞지 않을 때 동일한 메모리 예산에서 정적 오프로딩 대비 최대 1.95배의 디코드 처리량을 달성한다. 또한 예측된 라우팅으로부터의 전문가 프리페칭은 단일 스트림 디코드에서 거의 도움이 되지 않음을 발견했다: 병목은 예측 정확도가 아닌 PCIe 대역폭이다. 이는 문제의 초점을 프리페칭에서 할당으로 전환시킨다: VRAM을 전문가와 KV 캐시 사이에 어떻게 분할해야 하는가? 우리는 KV 허용 하한선을 조건으로 바이트당 한계 지연 이득을 균등화하는 MV-WSA(Marginal-Value Working-Set Allocation)로 이에 답한다. MV-WSA는 오프라인 설정기 또는 서빙 중 두 풀을 동시에 조정하는 온라인 컨트롤러로 실행될 수 있다. 실제 서빙에서는 오프라인 설정기만이 프리필과 디코드 모두에서 좋은 성능을 보이는 유일한 정책이었으며, 트레이스 기반 시뮬레이션에서는 워크플로우별 오라클 대비 몇 퍼센트 이내를 유지한 반면 고정 분할은 약 20% 더 나빴다. 온라인 컨트롤러는 모델 출력을 변경하지 않고 추가로 1.20배의 성능 향상을 제공한다.
언어 모델은 예측에 대해 그럴듯한 근거(rationale)를 생성할 수 있지만, 이러한 설명이 모델의 내부 추론을 충실하게 반영하지 않을 수 있다. 우리는 추론 trace에 인라인 클레임을 삽입하고, 보조 일관성 헤드를 학습하여 근거 구간 은닉 상태로부터 프로그램적 검증기 출력을 예측하는 검증기 결합 추론(verifier-coupled reasoning) 프레임워크를 제안한다. 핵심 발견은 디코드 가능성과 충실성 사이의 격차이다: 일관성 학습은 근거 표현으로부터 검증기 정보를 안정적으로 디코드 가능하게 만들지만, 디코드 가능성이 충실한 생성을 보장하지는 않는다. LeanCheck(형식 정리 증명)에서는 근거 전용 및 증명 전용 풀링이 반사실적 충돌 하에서 완벽한 방향 분리를 달성한다. KataGo(바둑 엔진)에서는 해설 구간이 10분류 승률 버킷을 81% 정확도로 인코딩한다. 그러나 코드 환경에서는 모델이 98.6% 결합을 달성하면서도 생성된 설명은 비충실하다: 유창한 산문과 올바른 구조화된 클레임을 갖추었지만, 무관한 알고리즘을 설명한다. 통제된 사전학습 대 처음부터 비교는 이 격차가 용량에 의해 주도되지 않음을 보여준다. 합성 활성화 패칭은 인과적 영향(기준선 31% 대비 73–89%)을 확인하고, FEVER는 증거 전용 풀링이 원시 정확도를 희생하는 대가로 진정한 증거 민감도를 분리함을 밝힌다. 주장별 분석은 일관성 손실이 이진적 클레임보다 세분화된 클레임에 불균형적으로 이득을 준다는 것을 보여준다. 이러한 결과는 일관성 손실이 효과적인 진단 및 표현 형성 도구이지만, 충실한 추론을 위한 충분조건은 아님을 확립한다.
원자론적 구조와 자연어는 오랫동안 별도로 모델링되었으며, 언어 모델은 원자론적 모델을 도구로 호출하거나, 원자론적 정보를 버리는 손실이 있는 텍스트 인코딩으로 파인튜닝되었다. 우리는 네이티브 멀티모달성을 목표하는 원자론적 언어 모델(ALM)을 제안한다. 단일 언어 백본이 원자론적 구조를 이해하고, 자연어로부터 물질을 생성하며, 텍스트 지시에 따라 결정 구조를 최적화한다. 사전학습된 원자론적 인코더, 대규모 언어 모델, 디노이징 확산 모델을 순수 연속 프로젝터와 단계적 학습으로 통합하여, ALM은 결정 구조 예측 및 de novo 생성에서 최고 수준의 결과를 달성한다. ALM은 언어 모델 임베딩을 원자론적 확산의 조향 공간으로 직접 매핑하는 연속 브리지로 구현되며, Text-to-Crystal Feynman-Kac(T2C-FK)이라는 입자 기반 샘플러가 부분 디노이징 궤적을 점수화하여 추론 시 화학량론 목표를 강제하는 것을 보조한다. ALM이 자연어 프롬프트와 3D 원자 좌표 입력으로부터 물질을 최적화하고 생성하는 능력을 평가하기 위해, 텍스트 조건부 결정 생성 및 최적화를 위한 첫 벤치마크인 ALM Bench를 도입한다. 코드, 학습 데이터, 모델 가중치는 곧 공개될 예정이다.
개인화 콘텐츠 시스템은 사용 가능한 UGC(사용자 생성 콘텐츠)에 의존하며, 적합한 콘텐츠가 없거나 지연되거나 생성 비용이 클 때 어려움을 겪는다. 멀티모달 생성기가 필요에 따라 콘텐츠를 합성할 수 있지만, 행동 흔적을 생성 준비가 된 선호로 변환하는 방법은 아직 충분히 탐구되지 않았다. 우리는 개인화 멀티모달 콘텐츠 생성을 연구한다: 기존 아이템 풀 없이 또는 일치하는 UGC를 기다리지 않고 사용자에 맞춤화된 멀티모달 콘텐츠를 생성하는 것이다. 우리는 협업 선호 모델링과 제어 가능한 멀티모달 생성을 연결하는 TailorMind를 제안한다. TailorMind는 하이퍼그래프 협업 필터링을 통해 희소한 사용자 이력을 보강하고, 랭킹 오류 피드백과 텍스트 그래디언트 경사하강법으로 텍스트 프로파일을 최적화한다. 검색-증강 스타일 제어는 출력을 실제 UGC 패턴에 그라운딩하고, 교차 모달 응집성 반영은 의미적 드리프트를 줄인다. 우리는 세 개의 주류 플랫폼에서 구축한 벤치마크 TailorBench를 만들며, 일관성, 참신성, 미적 품질, 환각, 프로파일링 다섯 차원으로 평가한다. 실험 결과 TailorMind는 경쟁력 있거나 더 강한 일관성을 달성하고, 대표적인 생성 베이스라인 및 ground-truth UGC 대비 참신성과 미적 품질을 개선하며, 사용 가능한 콘텐츠 또는 유사 UGC를 검색하는 방식보다 우위를 보인다. 동시에 재순위화에서 최대 29%의 재현율 향상을 달성한다. 코드는 https://github.com/iLearn-Lab/TailorMind 에서 공개되어 있다.
대규모 언어 모델(LLM)의 선호 추출에 관한 최근 연구에 따르면, 두 결과 사이의 일련의 선택지를 제시했을 때 LLM은 일관된 모델별 효용 구조를 드러낸다. 특히 이 구조에는 모델 학습자가 의도하지 않은 선호—예를 들어 특정 국적의 사람들을 다른 국적보다 높이 평가하는 것—가 포함되는 경우가 많아, LLM이 창발적이고 정렬되지 않은 목표를 형성하고 있을 가능성을 제기한다. 이것이 사실이라면 중대한 안전성 함의를 갖는다. 그러나 이러한 선호가 관찰되는 선택 패러다임은, 정렬 이탈 행동이 실질적 우려가 될 실제 상황을 반영하지 않는다. 따라서 우리는 이러한 선호가 현실적인 시나리오에서 LLM 행동의 동기로 작용하는지 탐색하기 위한 실험 패러다임을 설계한다. 먼저 일관된 선호 추출에 관한 선행 연구 결과를 재현한다. 다음으로, 에세이, 연구비 제안서 초록, 인시던트 사후 분석, 번역 등 블라인드 독립 LLM 심사 패널이 품질을 평가할 수 있는 일반적인 작문 과제들을 구성한다. 이어서 직접적인 권고 및 기타 명시적 단서를 통해 LLM이 해당 과제에서 출력 품질을 조절하도록 동기부여될 수 있음을 입증한다. 마지막으로, 고품질 출력에 대해 LLM에게 고효용 인센티브를 제공함으로써, 명시적으로 보고된 선호에서 추론한 효용이 해당 과제의 출력 품질을 변화시킬 수 있는지 탐색한다. 테스트된 모든 모델에 걸쳐 모든 과제에서, 선택 패러다임에서 LLM이 매우 선호한다고 보고한 결과물을 제공하더라도, 비선호 결과물을 제공하거나 아무런 결과물도 제공하지 않는 것에 비해 더 높은 품질의 출력을 생성하지 않았다. 우리는 선택 패러다임에서 입증된 일관된 선호의 존재를, 그 선호가 모델에게 인센티브 가치를 지니거나 다른 맥락에서 모델의 행동에 영향을 미친다는 증거로 간주해서는 안 된다고 결론짓는다.
최근 대규모 언어 모델(LLM)의 발전으로 정교한 추론과 콘텐츠 생성이 가능해졌지만, 내재된 확률성(stochasticity)은 예측 신뢰성을 확보하는 데 상당한 어려움을 야기한다. 전통적인 불확실성 분류 체계(예: 우연적(aleatoric) 불확실성과 인식적(epistemic) 불확실성의 이분법)는 개념적 토대를 제공하지만, LLM 생성의 다중 구성 요소·다단계적 특성을 포착하지 못하는 경우가 많으며 다양한 불확실성 정량화(UQ) 방법의 효과를 평가하는 데 어려움을 겪는다. 본 논문에서는 LLM의 불확실성을 입력(input-level), 매개변수(parameter-level), 토큰(token-level), 디코딩 과정(decoding-process) 원인으로 체계적으로 귀속하는 세분화된 불확실성 분류 체계를 제안한다. 이에 대응하여 기존 UQ 방법을 베이지안(Bayesian), 앙상블(ensemble), 합의 기반(consensus-based), 단일 패스(single-pass) 접근법으로 분류한다. 또한 다양한 생성 설정과 지표를 포괄하는 종합 평가 프레임워크를 도입한다. Qwen3, Llama 3.2, DeepSeek-V3 등 세 가지 주요 LLM 계열에 대해 TriviaQA, GSM8K, HumanEval 같은 벤치마크에서 21가지 대표 UQ 방법을 실증적으로 평가한다. 실험 결과는 (i) UQ 방법의 효과가 과제 유형과 생성 설정에 민감하고, (ii) Deg 및 EigV 유형의 합의 기반(consensus-based) 방법이 다른 UQ 접근법을 꾸준히 능가하며, (iii) 더 큰 모델 스케일이 더 낮은 불확실성 추정과 상관되어 LLM 불확실성에 대한 실증적 스케일링(scaling) 법칙을 시사함을 보여준다. 본 연구는 이론적 기원과 실무 배포 사이의 격차를 메우며, LLM 응용에서 불확실성을 체계적으로 정량화하는 다목적 진단 도구를 제공한다.
대규모 언어 모델이 효율적으로 추론하도록 학습시키는 것은 중요한 과제입니다. 길이 페널티 보상을 그룹 상대적 정책 최적화(GRPO)에 통합하면 장황함을 줄이는 것을 목표로 하지만, 이는 보상 붕괴(reward collapse)를 자주 유발하여 추론 능력을 심각하게 저하시킵니다. 다양한 보상 구성에 대한 체계적인 평가를 통해, 우리는 근본 메커니즘을 규명했습니다: GRPO의 그룹 정규화는 오답이 지속적인 길이 페널티를 받을 때 발산하는 어드밴티지(advantage)를 생성합니다. 결과적으로, 오답의 길이에 페널티를 부과하는 방법은 지속적인 최적화 하에서 구조적으로 붕괴에 취약합니다. 또한, 페널티를 정답에만 한정하면 이 주요 실패를 피할 수 있지만, 응답 과압축(over-compression)에 의한 확률적 붕괴에 모델이 노출됩니다. 두 가지 실패 모드를 모두 강건하게 방지하기 위해, 우리는 ACOER(Adaptive Correct-Only Efficiency Reward)를 제안합니다. ACOER는 간결성 보너스를 정답 완성에만 격리함으로써 구조적 페널티 루프를 제거하고, 동적 예산 정규화와 제어 루프 페널티 조정을 통해 확률적 압축을 방지합니다. 다양한 수학적 추론 벤치마크에서 평가한 결과, ACOER는 기반 모델 대비 전체 정확도를 향상시키면서 토큰 생성량을 60% 이상 감소시켜, 효율성 인식 최적화를 위한 근본적으로 안정적인 접근 방식을 확립합니다.
기존 운전자 개입 시스템은 청각 경고와 고정 템플릿에 의존하여 다중 작업 인식 출력을 활용하지 못한다. BLEU와 BERTScore와 같은 범용 지표는 위험-긴급성 정렬, 인지 부하, 운전자 수용성을 포함한 개입 특화 품질 차원을 포착할 수 없다. 본 논문에서는 경량 규칙 기반 계산과 LLM Judge 평가를 결합한 하이브리드 아키텍처를 통해 다섯 차원을 평가하는 도메인 특화 지표인 Driver Safety-Aware Intervention Score(DSAIS)와, 위험 융합, 상태 이력 관리, 동적 프롬프트 구성을 통해 네 가지 작업 인식 출력을 LLM에 통합하는 end-to-end 프레임워크를 제안한다. 다섯 개 모델과 일곱 가지 조건으로 AIDE 데이터셋에서 수행한 실험은 DSAIS가 구조적으로 서로 다른 세 judge에서 ICC 0.798-0.840을 달성하고 모든 대조 조건에서 Cohen's d > 1.5를 보임을 입증한다. 다차원 하위 점수 분석은 규칙 기반 시스템과 LLM 기반 시스템 간의 문맥 적응성 격차를 정량화하며, 다중 작업 통합이 규칙 기반 베이스라인 대비 문맥 관련성을 9.1% 향상시킴을 보여준다. Ablation 실험은 각 프레임워크 구성 요소가 문맥 관련성에 기여함을 보여주며, 하위 점수 분해는 종합 점수가 가리는 이득을 드러낸다. 운전자 감정 인식이 가장 중요한 상류 요인으로 확인되며, 소형 로컬 LLM(7B-9B 파라미터)은 API 기반 모델보다 우수한 품질을 달성하여 차량 내 배포를 위한 실용적 설계 지침을 제공한다.
대규모 언어 모델(LLM)은 코드를 작성·실행하고 문헌을 검색할 수 있는 유능한 추론자이자 도구 사용자가 되었으며, 이로 인해 연구 과정 자체를 자동화하는 것이 현실적인 목표가 되었다. 우리는 연구 분야에서 완성된 논문까지 프로젝트를 자율적으로 수행하는 하네스(harness) 기반 다중 에이전트 시스템인 PAPERCLAW를 제안한다. PAPERCLAW는 해당 분야의 실시간 문헌, 데이터셋, 코드로부터 도메인을 큐레이션하고, 사전 등록된 주요 결과 계약(main-result contract)을 갖춘 아이디어로 브레인스토밍하며, 측정된 판정에서만 확장되고 증거가 아이디어를 뒷받침하면 중단되는 반복적 제안-검증-성찰(propose, test, reflect) 루프를 통해 중단 가능한 가설 맵(hypothesis map)을 구동하며, 그 시점에 학회 요건을 충족하는 논문을 작성한다. 전체 수명 주기(full-lifecycle) 메모리는 각 단계를 하나의 살아 있는 기록으로 유지하여, 장기 실행을 일시 중지·검토·재개할 수 있게 하며 맥락을 잃지 않는다. 중심에는 연구 도구와 스킬을 갖춘 사이클 내(in-cycle) 연구 어시스턴트가 있으며, 이는 전체 파이프라인을 독립적으로 구동할 수 있고, 동일한 인터페이스를 통해 사람이 어느 단계에서든 개입하여 최초의 자율 초안을 인간 참여형(human-in-the-loop) 정제를 통해 더 강한 논문으로 발전시킬 수 있다. 전 과정에서 PAPERCLAW는 출력을 그라운딩(grounding)하고 검증 가능하게 유지하며, 공개 학술 색인에서 검증된 참고문헌만 인용하고 실제로 실행된 결과만 보고한다. LLM 심사(judge)를 통한 평가에서 PAPERCLAW는 완전 자율적으로도, 인간 참여형 정제와 함께도 강력한 논문을 생성하는 것으로 나타났다.
사회적 지능(social intelligence)은 언어 에이전트(language agent)의 핵심 역량이지만, 현재 연구는 이러한 기술이 지속적으로 형성되고 축적되는 방식보다 정적인 능력 평가(evaluation)에 주로 초점을 맞추고 있다. 이러한 공백은 지속 가능한 학습(training) 패러다임으로의 전환을 요구한다. 현재 두 가지 방법론적 난점이 존재한다: 사회적 상호작용 궤적(trajectory)은 반복 가능한(iterable) 학습 신호를 형성하기 위한 통합된 구조화 표현(structured representation)이 부족하고, 능력 향상과 유지(retention)는 일반적으로 독립적으로 연구되어 지속적인 진화(evolution)의 평가를 방해한다. 이 공백을 메우기 위해 우리는 Social World Model을 제안한다. 우리는 사회적 상호작용을 다섯 가지 차원(장면 설정, 관찰, 정신 상태, 행동, 대화)으로 분해하여 폐루프(closed-loop) 학습 프레임워크를 구축한다. 이 설정에서 에이전트(agent)는 상호작용 경험을 수집하고, 이를 모델 업데이트를 위한 선호 신호(preference signal)로 변환하며, 지속적인 학습을 위해 업데이트된 정책(policy)을 재배포한다. 또한 재사용 가능한 데이터 합성(synthesis) 메커니즘과 평생 학습(lifelong learning) 벤치마크를 제공하여, 사회적 능력을 "평가의 대상"에서 "지속 가능한 학습의 대상"으로 전환한다. ASCENT-Bench에서 프레임워크를 검증한 결과, 상호작용적으로 학습된 Qwen2.5-7B 모델은 다섯 가지 핵심 지표 전반에서 기준선(baseline)을 능가한다. 특히 completion rate에서는 폐쇄형 Gemini 3 Flash와 동등한 성능을 달성하고, pass rate에서는 이를 능가하며, 세 가지 난이도 수준에서 망각 제로(zero forgetting)를 달성한다. 정적 비교나 능력 저하(decay)만 보고하는 선행 연구와 달리, 이 end-to-end 접근법은 학습 가능하고 검증 가능하며 유지 가능한 경로를 제공하며, 소규모 오픈소스 모델이 경쟁력 있는 사회적 조율(social coordination) 능력을 지속적으로 습득할 수 있음을 보여준다.
생의학 연구자들은 단백질 수준의 신호를 해석하기 위해 AI가 생성한 분석과 보고서를 점점 더 많이 사용하고 있지만, 정적인 출력물은 증거를 검토하고, 불확실성을 평가하며, 메커니즘을 비교하고, 가설을 정교화해야 하는 연구 의사결정에는 종종 불충분하다. 우리는 정적인 생의학 보고서 생성에서 증거 중심의 상호작용형 인터페이스 생성으로 전환하는 멀티 에이전트 시스템인 BioInsight를 제안한다. 질병명, 단백질 연관성 표, 선택적 코호트 메타데이터가 주어지면 BioInsight는 순위가 매겨진 경로, 문헌 증거 패킷, 단백질 수준 추론 노트, 인용 기반 보고서, 대시보드 스키마, 렌더링된 상호작용형 인터페이스 등 유형화된 중간 산출물을 통해 질병 특이적 증거를 구조화한다. 이 시스템은 증거 검색과 기전적 추론을 분리하고, 결정론적 컴포넌트를 통해 인용을 정규화하며, 보고서에 사용된 동일한 구조화된 증거를 상호작용형 인터페이스로 변환한다. BioInsight를 표준화된 생의학 QA, 어려운 단백질 기능 추론, 종단간 생의학 증거 합성 과제에서 평가한다. 결과는 BioInsight가 최고 성능을 달성함을 보여주며, 생의학 AI 시스템이 텍스트 전용 및 정적 보고서를 넘어 출처 보존형 상호작용형 증거 산출물을 향해 나아가야 함을 시사한다.
오디오 설명(Audio Description)은 시청각 미디어에서 핵심적인 시각 콘텐츠에 대한 간결한 내레이션을 생성하여 시각 장애 및 저시력 청중을 위한 것을 목표로 한다. 기존 방법은 상용 멀티모달 모델의 프롬프팅에 의존하여 AD 스타일과 자주 불일치하거나, 다음 토큰 예측으로 학습 기반 시스템을 부분적으로 최적화하여 모델 용량을 충분히 활용하지 못하고 생성을 일반적인 표현 쪽으로 편향시킨다. 우리는 학습 기반 AD 생성을 위한 최초의 강화학습(RL) 프레임워크인 READ를 제안한다. READ는 참조 일치, 길이, 형식 보상을 갖춘 시퀀스 수준 최적화로 AD를 공식화하고, 맥락 인식 감독 하의 전용 일관성 보상을 추가하여 서사적으로 일관된 설명을 촉진한다. MAD-Eval, CMD-AD, TV-AD에서의 실험은 READ가 다양한 평가 지표 전반에서 기존 방법을 크게 능가함을 보여준다. 우리 결과는 정확하고 일관된 AD 생성을 위해 RL이 유망한 패러다임임을 강조한다. 코드, 모델, 벤치마크 결과는 공개될 예정이다.
자동화된 흉부 X-ray 보고서 생성은 임상적으로 신뢰할 수 있는 서술을 보장하기 위해 정밀한 교차 모달 그라운딩(grounding)이 필요하다. 그러나 기존 비전-언어(vision-language) 모델은 명시적 영역-단어 대응과 질병 수준의 일관성을 강제하지 못하는 암시적 어텐션 메커니즘에 의존한다. 본 연구는 보고서 생성을 협력 게임 이론적 정렬 문제로 공식화하는 비전-언어 프레임워크인 게임 이론적 정렬 네트워크(GTA-Net)를 제안한다. 해당 모델은 Shapley에서 영감을 받은 중요도 가중치를 갖는 유사도 기반 페이오프 행렬을 사용하여 이미지 영역과 텍스트 토큰 간 상호작용을 모델링하는 BinaryGameAligner를 도입한다. 임상적 의미를 강제하기 위해, 이미지, 보고서, 구조화된 질병 개념 간의 공동 상호작용을 포착하는 Disease-Aware Ternary Aligner를 추가로 개발한다. GTA-Net은 Swin 기반 시각 인코더와 LoRA로 적응된 대규모 언어 모델을 결합하며, 생성과 정렬을 위한 통합 목적 함수로 학습된다. CheXpertPlus와 IU-XRay에서의 실험은 표준 생성 지표 전반에 걸쳐 최고 수준의 성능과 향상된 임상적 일관성을 보여주며, 의료 비전-언어 생성에서 명시적 게임 이론적 정렬의 효과를 강조한다.
의도 분류(intent classification)를 위한 고유틸리티 합성 데이터를 생성하는 데는 일반적으로 사람이 주석을 단 시드 데이터가 필요하지만, 이는 빠르게 변화하는 산업 현장에서는 종종 구하기 어렵습니다. 본 논문에서는 사람이 주석을 단 데이터를 전혀 사용하지 않고 오직 의도 정의(intent definitions)에만 의존하여 작동하는 합성 대화 생성 프레임워크를 제안합니다. 제안된 대화 생성 프레임워크는 데이터 다양성을 향상시키기 위해 두 가지 유형의 주제 및 스타일 속성을 활용합니다. 또한, LLM이 생성한 합성 발화를 더 다양하고 인간과 유사한 언어 스타일로 변환하기 위해 Univ와 Exam이라는 두 가지 새로운 사후 스타일화 모델을 제안합니다. 데이터 품질을 향상시키기 위해 LLM-as-a-judge 필터링 과정을 활용합니다. 산업 및 공용 데이터셋에 대한 실험 결과, 제안된 접근 방식이 사람이 주석을 단 학습 데이터를 사용하여 얻은 성능의 최대 93.3%를 달성함을 보여줍니다. 무엇보다 중요한 점은, 연구 결과가 스타일 다양성이 모델이 허위 스타일 상관관계를 학습하는 것을 방지하므로 합성 데이터의 유용성 측면에서 주제 다양성보다 더욱 중요하다는 것을 밝혀냈다는 것입니다. 더욱이, 이 연구는 생성 과정 중에 스타일 속성을 통합하는 것이 사후 스타일 적응보다 더 효과적임을 보여줍니다.
온라인 혐오 표현과 오정보는 빈번하게 중복되지만, 자연어 처리(NLP) 연구는 주로 이들을 독립적으로 다루어 왔습니다. 대규모 언어 모델(LLM)은 이러한 두 가지 위협에 대한 반박 연설 생성에서 인간을 보조하는 확장 가능한 솔루션을 나타내지만, 제로샷 모델은 종종 반복적이고 모호한 응답을 생성하여 모델 생성을 유도하기 위한 고품질 예시의 필요성을 강조합니다. 그러나 혐오와 오정보의 중복에 대응하는 기존 반박 연설 데이터셋은 희소하며 단일 회차 영어 대화로 제한되어 있는 반면, 실제 상호작용은 여러 회차와 언어에 걸쳐 있습니다. 이러한 격차를 해소하기 위해, 우리는 혐오와 오정보의 결합을 다루는 대화에 대한 첫 번째 대규모 전문가 선별 다국어 데이터셋을 소개합니다. 사실적 그라운딩을 보장하기 위해, 대화는 검증된 외부 지식(즉, 팩트 체킹 기사 및 NGO 보고서)에 고정되어 있으며 문서 및 청크 수준의 구간(span) 주석을 포함하여 검색-증강 생성(RAG) 시스템에 직접 적용할 수 있도록 합니다. 5개 언어를 포괄하고 7개의 소수자 집단을 향한 혐오를 대상으로 하는 이 새로운 자원은 더욱 설득력 있고 사실에 기반한 반박 연설 모델의 학습 및 평가를 가능하게 합니다.
금융 제출 보고서부터 임상 기록에 이르기까지, 전통 산업들은 고가치 정보를 저장하기 위해 긴 비정형 문서에 크게 의존합니다. 이 정보를 신뢰할 수 있는 정형이고 기계가 읽을 수 있는 표현으로 추출하는 것은 자동화된 시스템이 내용에 접근할 수 있게 만드는 핵심 전제 조건입니다. JSON은 이러한 정형 추출의 자연스러운 목표이지만, 신뢰할 수 있고 확장 가능한 텍스트-JSON 학습 데이터를 구축하는 것은 여전히 어렵습니다. 이러한 격차를 해결하기 위해 우리는 STAGE(Spreadsheet-grounded Text-to-JSON Artifact GEneration)를 제안합니다. 이는 소스 기반 데이터 생성 파이프라인으로, 확장 가능한 합성을 위해 LLM을 사용하여 보고서와 JSON 스키마를 구축하는 동시에 기본 스프레드시트에 대해 정답 값을 검증합니다. 851개 예제 테스트 세트가 포함된 우리의 소스 기반 벤치마크인 STAGE-Eval에 대한 평가 결과, STAGE가 기존 접근 방식보다 더 우수한 학습 데이터를 생성함을 보여줍니다. 이는 Qwen3-4B의 정확 일치를 31.37%에서 74.27%로, 값 정확도를 45.46%에서 90.69%로 향상시켰습니다.
AI와 대규모 언어 모델(LLM)은 전 세계적인 정신 건강 문제를 해결하기 위한 유망한 도구로 등장했습니다. 이러한 문제의 전 세계적 성격에도 불구하고, 해당 시스템을 학습(training)하고 평가하기 위한 고품질 데이터셋(dataset)은 여전히 심각하게 부족합니다. 이러한 격차를 완화하기 위해 연구자들은 사용자 데이터를 시뮬레이션하고 디지털 정신 건강 지원 시스템을 테스트하기 위해 합성 임상 페르소나(persona)를 점점 더 많이 생성하고 있습니다. 그러나 대부분의 검증된 페르소나는 영어 중심의 맥락에 의존합니다. 본 논문은 유사한 페르소나 기반 방법을 다국어 정신 건강 데이터셋 생성에 사용할 수 있는지 조사합니다. 저희는 페르소나 내의 국적 및 언어 매개변수를 수정하여 만다린어, 벵골어, 힌디어로 된 임상 대화를 생성했습니다. 그 후 영어 기준선(baseline)과 비교하여 생성된 다국어 데이터셋의 우울증 심각도를 평가할 때 서로 다른 LLM이 어떻게 수행하는지 조사했습니다. 연구 결과에 따르면, 페르소나에 국적과 언어 매개변수만 추가하는 것은 언어 간 임상적 불일치를 초래할 수 있으므로 충분하지 않을 수 있습니다. LLM 판사 모델(judge model)은 비영어 텍스트의 우울증 심각도를 평가할 때 종종 부정확성을 보이며, 성능은 모델마다 다르게 나타납니다. 이는 다국어 맥락에 영어 중심 페르소나를 적용하는 것의 체계적 한계를 드러냅니다. 궁극적으로 본 연구는 전 세계적으로 형평성 있는 정신 건강 시스템을 보장하기 위해 문화적 반응성을 갖춘 데이터 생성의 시급한 필요성을 강조합니다.