LLM 딥 리서치(Deep Research) 보고서의 실질적 신뢰성은 주장과 논증이 명시적으로 뒷받침되는 논리적 품질에 달려 있으나 기존 평가는 이를 거의 다루지 않는다. ReportLogic은 감사 가능성(auditability) 관점의 매크로·설명·구조 논리(Macro-Logic, Expositional-Logic, Structural-Logic) 분류로 이를 정량화하는 벤치마크이며, 사람 주석 루브릭 데이터셋과 오픈소스 LogicJudge로 확장 평가를 제공하고, 적대적 공격 실험에서 기성 LLM 판정기가 장황함 같은 표면적 단서와 추론 모드에 취약함을 보였다.
TAVR 수술 계획에서 해부학적 그라운딩이 부족한 진단 환각을 줄이기 위해 TAVR-VLM이 위험 조건부 인과 그라운딩 어텐션(R-CGA)으로 Risk→Region→Word 인과 경로를 두어 멀티모달 입력을 위험 병목으로 압축하고, 위험 마스크 안에서 토큰 수준 그라운딩을 제약한다. 1,482명 환자 M³TAVR 코호트에서 AUROC 0.896, CIDEr 0.936을 달성하고 환각률을 8.1%로 낮춰 임상 보고서 생성 성능을 개선했다.
계산 오리가미(computational origami)에서 엄격한 평면 접힘 가능성(flat foldability)과 주관적 시각 미학을 함께 만족시키기 위해, 자연어로부터 접힌선 패턴(crease pattern)을 생성하는 end-to-end AI 파이프라인 COrigami를 제시한다. 의미적 막대그림 생성, 베이스 패킹, 평면 접힘 가능 패턴 풀이, 형태화, 자율 미학 평가 루프 기반 강화학습(RL)을 결합해 인간 예술가가 확장할 수 있는 구조적 출발점을 자동 생성하는 협업 어시스턴트로 작동한다.
Lacuna는 LLM으로 논문·학술 메타데이터를 마크다운 요약, 개념 요소, 연구 방향, 연구 제안으로 변환한 기계학습 연구 지도이며, 원본 논문과의 링크를 유지한 채 웹·마크다운·MCP로 제공된다. LitSearch, Multi-XScience-CS/ML, ScholarQA-CS-ML에서 OpenScholar를 능가하며(LitSearch Recall@10 0.538 vs. 0.424), 지도 기반 다단계 보고서 에이전트 Lacuna Deep Research는 ReportBench-ML에서 GPT-Researcher보다 높은 인용 F1·정밀도와 RACE 보고서 품질을 기록했다.
미국 저작권법(Title 17) 하에서 생성형 AI 음악 창작의 법적·기술적 쟁점을 검토하며, 프롬프트 인코딩·확산 모델·신경 vocoder 등 파이프라인 구성요소를 침해 위험에 대응시킨다. 무단 가사 복제는 음악 저작물 침해 위험이 높지만 AI 합성 보컬 유사성은 연방 녹음물 보호를 벗어나 주 퍼블리시티권에 해당하며, 가사·멜로디와 보컬 정체성 사이의 규제 공백을 드러내고 정책 개선 방향을 제안한다.
표정 품질 평가(FEQA)가 심각도 점수만 내고 얼굴 움직임 근거를 설명하지 못하는 한계를 줄이기 위해 TraMP-LLaMA는 RGB 외관과 랜드마크 궤적을 통합해 점수와 구조화된 텍스트 보고서를 함께 생성하고, 분리형 인스트럭션 튜닝(instruction tuning)으로 심각도 예측과 언어 생성 간 과제 간섭을 완화한다. PFED5-plus에서 보고서 생성은 경쟁 비디오-언어 베이스라인을 능가했고, 공동 다중 표정 학습에서는 비교 방법 중 최고의 심각도 예측을 달성하며 Spearman 순위 상관계수를 최소 4.39% 향상했다.
Wan-Streamer는 VAD·ASR·TTS 등 외부 모듈 없이 언어·오디오·비디오를 단일 Transformer에서 입출력 토큰으로 교차 처리하고 블록 인과 어텐션(block-causal attention)으로 실시간 전이중(full-duplex) 스트리밍 상호작용을 학습하는 엔드투엔드 파운데이션 모델이다. 인과 인·디코더와 저지연 멀티모달 토큰 스케줄링으로 25fps에서 160ms 단위 스트리밍을 지원하며, 모델 측 응답 지연 약 200ms·네트워크 포함 총 지연 약 550ms를 달성해 1초 미만 오디오-비주얼 통신이 가능하다.
We initiate a resource-aware theory of \textit{language generation in the limit} under the minimal constraint of space efficiency. In our framework, a learner observes an adversarial positive stream from a target language $K$ and must eventually output a hallucination-free hypothesis language $L \subseteq K$ while omitting at most $Δ$ strings of $K$. We focus on $\mathcal{C}_{s,k}$, the collection of languages recognized by DFAs with at most $s$ states over an alphabet of size $k$, as the natural hypothesis class for memory-bounded learners. In the exponential-space regime, we prove that a learner can exactly identify the target $K$. Under a stricter memory budget, we characterize the strongest possible generation guarantees. In particular, we present a streaming algorithm using $\mathrm{poly}(s,k)$ space that converges to a hypothesis with generation gap $Δ= O(k^{2s-2})$. Moreover, the learned hypothesis captures every string in $K$ of length at least $2s-1$. We complement this result with a near-matching lower bound through a reduction from a standard communication complexity problem. Specifically, achieving generation gap $Δ\le k^{(1-\varepsilon)s}$ requires $k^{Ω(\varepsilon s)}$ memory. Together, these results reveal a sharp transition between polynomial-space generation and exponential-space exact identification.
추론 효율성은 보통 모델 축소로만 다루지만 출력 길이는 그대로 두는 경우가 많고, 간결하고 정확한 사전학습 데이터 큐레이션으로 비전-언어 모델(VLM)이 더 짧게 답하도록 학습시키면 정답당 연산 비용(Cost-of-Pass)을 직접 낮출 수 있다. MAmmoTH-VL 단일 이미지 코퍼스에 이 파이프라인을 적용한 결과, 정확도를 거의 유지하면서(약 1%p 차) 가장 장황한 4B 비교 모델 대비 Cost-of-Pass가 약 35배 낮아졌고, 출력 길이를 맞춘 뒤에도 미큐레이션 기준 대비 정확도가 17.55%p 향상되었다.
긴 문맥에서 softmax 어텐션의 확률 질량 희석과 슬라이딩 윈도우-전역 어텐션 간 트레이드오프를 ATMA가 Polar Attention의 방향·크기 2채널 분해와 게이트-델타(gated-delta) 압축 recurrent memory를 결합한 convolution-attention 하이브리드로 해소한다. 학습 길이 2K의 32배인 64K 토큰까지 induction needle-in-a-haystack 검색 정확도 90% 이상을 유지하면서 문서 perplexity가 단조 개선되어 softmax 메모리 기준선을 능가한다.
temperature zero에서 추측 디코딩(speculative decoding)이 안전성 평가 출력에 드래프트 모델측 행동을 누출하는지 TAIS(Typical-Acceptance Invariance Screen) 동등성 스크린으로 검증했다. 16,783건 확인 코어와 44,066건 매칭 확장 표본, DPO 적대적 드래프트·GPTQ 4bit 드래프트·네 가지 안전성 벤치마크를 포함한 vLLM 스택에서 대상 모델 단독 추론과 검출 가능한 안전성 차이는 나타나지 않았다.
Reinforcement Learning (RL) has become a powerful paradigm for de novo molecular design, enabling Chemical Language Models (CLMs) to navigate and explore the chemical space while optimizing specific desired properties. However, the existing RL frameworks treat all scoring functions as deterministic oracles, neglecting the inherent uncertainty attached to the predictions of the different molecular properties. This can lead to the exploration of highly-uncertain regions of the chemical space, focusing on the generation of highly scored molecules which are poorly supported by the training data. This can destabilize the optimization process, yielding predictions that are far from their true values. We propose and compare two complementary ways of incorporating predictive uncertainty into RL. In the first one, uncertainty is treated as an additional optimization objective and incorporated along with the rest of the scoring functions, allowing the policy to trade off exploitation against reliability. Secondly, uncertainty is used to modulate policy updates, reducing the influence of molecules whose properties lie far outside the scoring function confidence domain. Both approaches were evaluated across three different settings: (i) a controlled model system, in which the prediction error is modeled as a Gaussian distribution, with a variance proportional to the distance to the training data; and two real-world tasks, making use of (ii) ChemProp models and (iii) a Conformal Prediction wrapper applied to a Random forest classifier. We show that uncertainty-aware RL enables CLMs to explore chemical space more robustly by favoring lower-uncertainty regions. This leads to more reliable hit discovery without compromising molecular score, increasing the true hit rate by 0.25 (from 0.5 to 0.75), and nearly doubling the total number of true hits.
추상적 텍스트 요약 LLM의 파인튜닝 단계 데이터 포이즈닝을 막기 위해, 독성 학습 데이터는 영향 함수(influence function) 분석과 의미 일관성 검사로 찾아 그래디언트 상승(gradient-ascent) 언러닝(unlearning)으로 제거하고, 독성 모델은 의미 보존 입력 교란에 대한 과민성(SAP)으로 학습 데이터 없이 감사하는 통합 사후 방어 프레임워크를 제시한다. 9개 아키텍처와 6개 벤치마크에서 적응형 공격에도 탐지 정밀도 85–92%를 달성하며, ROUGE 저하 0.6% 미만으로 원래 요약 행동의 최대 96%를 복원한다.
토큰 길이 제한 하에서 기존 문법 제약 생성(GCG) 방식은 JSON 출력이 중간에 잘리거나 문법적으로 깨질 수 있는데, TruncProof는 LL(1) 파서로 각 디코딩 단계마다 문법적으로 유효한 완성에 필요한 최소 토큰 수를 추정해 사전 정의된 토큰 한도 내에서 유효한 JSON을 생성한다. Text-to-JSON 지시 과제 실험에서 엄격한 토큰 예산에서도 구문적으로 올바른 출력을 만들었고, Beam Search·MCTS 등 고급 디코딩 전략과 결합하면 의미적 정확도도 높일 수 있음을 보였다.
Acute ischemic stroke (AIS) requires time-critical decision-making, where inaccurate interpretation of neuroimaging findings can lead to irreversible disability. Diffusion-weighted imaging (DWI) and apparent diffusion coefficient (ADC) maps from magnetic resonance imaging (MRI) are central to detecting acute infarction, yet generating factually reliable radiology reports directly from 3D MRI remains challenging due to the difficulty of learning robust cross-modal alignments between volumetric images and clinical text. We propose paired image-domain retrieval and text-domain augmentation (PIRTA), a retrieval-augmented generation framework that improves report factuality by avoiding explicit image-text alignment. PIRTA retrieves clinically similar 3D DWI/ADC volumes using a pretrained 3D vision encoder and leverages their paired clinician-authored reports to ground large language model (LLM)-based report generation. Experiments on multi-institutional in-house data, a held-out external privacy-preserving cohort, and the public ISLES benchmark demonstrate that PIRTA achieves strong image-domain retrieval performance and consistently improves ischemic-territory accuracy, a clinically grounded surrogate for report factuality, compared to direct image-to-text baselines. These results indicate that retrieval-grounded generation provides a scalable and reliable paradigm for producing factually consistent radiology reports from complex 3D brain MRI. Source code is available at https://github.com/jhlee0619/PIRTA.
Large language models have shown strong fluency in scientific writing, yet the evaluation of related work generation (RWG) remains limited. Existing RWG evaluations largely inherit summarization-oriented metrics, using lexical or semantic similarity to reference sections as proxies for quality. However, related work writing is fundamentally a citation-level scholarly positioning task: it requires selecting, organizing, and framing prior work to clarify how a target paper relates to, differs from, and contributes beyond existing research.As a result, models may generate coherent and semantically-relevant text while exhibiting academically critical failures, such as inappropriate citation selection or misplaced references, that conventional metrics do not capture.To this end, we introduce \textbf{RWGBench}, a benchmark that evaluates RWG from the perspective of citation decision-making rather than text similarity. RWGBench is constructed from a large-scale collection of 40,108 computer science papers and a retrieval corpus of 1.09 million documents, with a carefully curated test set comprising 100 papers and their corresponding published related work sections.We propose a multi-dimensional evaluation framework that assesses citation selection, contextual appropriateness, organization, and discourse structure.Experiments reveal systematic limitations in current systems that are obscured by standard evaluations, while Oracle studies further disentangle retrieval-level and generation-level bottlenecks. Human evaluation further shows that our citation-centric metrics align substantially better with expert judgment than surface-level text metrics. RWGBench offers a citation-centric testbed for developing and evaluating related work generation systems that are better aligned with scholarly writing practices.
생의학·생명과학 장문 요약을 위해 PMC 기반 188만 건 규모의 PMC-Large 데이터셋을 구축·공개하고, 저자 초록이 본문과 얼마나 정렬되는지 원문 근거·모델 기반 지표로 분석했다. 초록 품질 신호로 학습 데이터를 선별하면 동일 학습 규모에서 무작위 샘플링보다 성능이 좋아지며, 사실성 중심 평가에서는 더 큰 무작위 부분집합과 맞먹거나 능가할 수 있다.
Non-autoregressive generation offers a powerful paradigm for iterative refinement, allowing models to recursively critique, erase and regenerate arbitrary subsets of tokens. However, existing non-autoregressive models fail to realize this potential. Masked Diffusion Models (MDMs) suffer from factorization error, causing sample quality to collapse when generating multiple tokens simultaneously. Flow Map Language Models (FMLMs) circumvent this bottleneck via joint sequence transport for excellent few-step generation, but sacrifice the inference-time flexibility of MDMs. We introduce FMLM+, a framework that bridges this gap by equipping FMLM with masking-style noise schedules. While generating the full sequence in a single step, FMLM+ simultaneously scores the global consistency of each token a posteriori. We leverage this to introduce Posterior Refinement, a novel inference-time refinement strategy that enables the model to adaptively self-correct its outputs, matching the performance of discrete baselines with 32x fewer NFEs. Across diverse benchmarks, we demonstrate that FMLM+ with Posterior Refinement improves the speed--quality tradeoff over both MDM and FMLM families, providing a scalable foundation for high-fidelity language modeling.
15개 언어 414개 속담을 프롬프트로 네 가지 대규모 언어 모델(LLM)이 생성한 약 1.3만 편 내러티브를 분석하는 다국어 평가 프레임워크를 제안한다. 교차언어 프롬프트는 속담 수준의 의미를 대체로 보존하지만 행위자·사회적 위치·서사 구조를 체계적으로 재배치하며, 단일언어·교차언어 모두에서 모델 간 강한 해석 수렴이 관찰되어 의미 유사도만으로는 문화적 보존을 과대평가할 수 있음을 보인다.
대규모 언어 모델(LLM) 출력의 출처 검증을 위해 편집에도 견고한 다중 비트 워터마킹이 필요하지만, 기존 오류정정코드(ECC) 방식은 하드 디코딩으로 토큰 신뢰도 정보를 버린다. CORE-BREW는 block-wise BREW에 고정 히트율 보정을 더해 토큰별 로그우도비(LLR) 기반 소프트 디코딩을 가능하게 하며, 오픈소스 LLM에서 토큰 편집·의역 공격 하에도 낮은 오탐률(FPR) 판별과 견고성이 이전 다중 비트 워터마킹 대비 개선되면서 의미 품질은 유사하게 유지된다.