PyTorchKR Papers

최신 논문

총 4,696편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.22692v1cs.AI

생성형 AI 정신 건강 지원을 위한 위험 거버넌스: 다중 턴 안전 아키텍처

Risk Governance for Generative AI Mental Health Support: A Multi-Turn Safety Architecture

대규모 언어 모델(LLM)은 진화하는 정신 건강 위험을 안전하게 거버넌스할 메커니즘이 부족함에도 불구하고 정서적 지원에 점점 더 많이 사용되고 있다. 기존 안전 접근법은 주로 위험을 탐지하지만, 대화적 위험이 전개됨에 따라 모델이 어떻게 응답할지 형성하는 데는 거의 관여하지 않는다. 우리는 다중 턴 정신 건강 상호작용을 위해 맥락적 위험 탐지, 추론 기반 검증, 프로토콜 기반 응답 생성을 결합한 모델 불가지론적 안전 거버넌스 아키텍처를 개발했다. 실제 세계 정신 건강 서사에 기반한 합성 대화를 사용하여 아키텍처의 성능을 평가했으며, GPT-5-chat과 Qwen3.5-27B로 테스트한 결과 높은 위험 탐지 성능(특이도: 0.85 (95%CI: 0.78;0.91), 민감도: 0.92 (95%CI: 0.88;0.95))을 달성하고, 친밀감과 유대감을 유지하면서 임상의가 선호하는 에스컬레이션 응답을 25.6--59.2pp 증가시켰다. 성능은 대화 길이에 걸쳐 안정적으로 유지되었으며, 독점 모델과 오픈소스 모델 모두에서 일반화되었다. 이러한 결과는 임상적으로 근거한 안전 거버넌스가 위험 탐지를 넘어 LLM이 진화하는 정신 건강 위험을 관리하는 방식을 개선할 수 있음을 보여주며, 모델 전반에 걸친 더 안전한 배포를 위한 확장 가능한 프레임워크를 제공한다.

arXiv:2607.22661v1cs.AI

TRE: 확산 언어 모델을 위한 학습 없는 환각 탐지

TRE: Training-Free Hallucination Detection for Diffusion Language Models

확산 대규모 언어 모델(D-LLM)은 최근 주목을 받고 있으나, 환각(hallucination) 문제로 인해 신뢰성이 크게 저해된다. 기존 D-LLM 환각 탐지 접근법은 주로 학습 기반 패러다임을 따르며, 데이터 기반 학습을 통해 탐지기를 최적화한다. 이러한 의존은 도메인 및 모델 간 일반화 가능성을 제한할 뿐만 아니라 추가적인 학습 비용과 배포 부담도 초래한다. 이러한 한계를 해결하기 위해, 우리는 D-LLM을 위한 학습 없는 환각 탐지 지표인 TRE를 제안한다. TRE는 매개변수가 없고 단일 실행(single-run) 지표로, 탐지기 학습이나 반복 샘플링 없이 단일 생성의 엔트로피 신호로부터 환각 위험을 직접 추정한다. TRE는 D-LLM 디코딩 과정에서 공간적·시간적 차원 모두를 따라 엔트로피 신호를 추출한다. 토큰 수준의 공간적 관점에서, 우리는 불확실성을 가장 잘 드러내는 정보 담체인 토큰에 초점을 맞추며, 불확실성이 적극적으로 확정되는 지점을 포착한다. 확산 단계 수준의 시간적 관점에서, 우리는 후반 단계 엔트로피의 지배성을 실증적으로 확인하고, 이를 간단한 선형 가중치 방식으로 집계하여 TRE를 얻는다. 다양한 D-LLM과 QA 데이터셋에 대한 광범위한 실험은 TRE가 경쟁력 있는 성능을 달성하면서 강한 일반화 가능성, 효율성, 견고성을 갖춤을 보여준다.

arXiv:2607.22653v1cs.AI

언어 모델은 자기 자신으로 수렴하는가? 텍스트 이완으로서의 재귀적 자기 정제

Do Language Models Converge to Themselves? Recursive Self-Refinement as Textual Relaxation

대규모 언어 모델(LLM)은 초안을 동일 모델이 반복적으로 수정하는 재귀적 정제 워크플로에서 점점 더 많이 사용되고 있다. 사용이 늘어나고 있음에도 이러한 워크플로의 장기 역학은 여전히 잘 이해되지 않는다. 반복적 정제는 출력을 무한히 개선해 나가는가, 아니면 안정적인 텍스트 형태로 수렴하는가? 본 연구는 반복적인 LLM 수정이 텍스트를 모델이 선호하는 소프트 고정점(soft fixed-point) 영역으로 이끄는 동역학적 과정으로서 재귀적 자기 정제를 분석한다. GPT-5.5를 사용해 기본 온도(default-temperature) 디코딩과 결정론적 디코딩 모두에서 ICML 2025 초록 50편에 대한 10단계 정제 궤적을 생성하고, 추가로 ICML 2020 초록 15편을 평가한다. 정규화된 편집 거리, 정확·근사 고정점, 단어 수 안정성, 지수적 이완(exponential relaxation), 외부 LLM-as-a-judge 평가를 분석한다. 모든 설정에서 정제 궤적은 빠르게 포화된다. 대부분의 편집은 처음 몇 번의 반복 안에서 이루어지며, 이후 궤적은 표면 수준의 미세한 변화만 남기는 소프트 고정점 영역에 진입한다. 결정론적 디코딩은 정확한 고정점에 더 일찍 도달하고 기본 온도 디코딩보다 잔여 변동이 더 작지만, 둘 다 보편적인 근사 수렴을 달성한다. 평균 편집 크기는 일관된 지수적 이완 패턴을 따르며, 이는 개방형 최적화가 아니라 모델이 선호하는 텍스트 평형으로의 수렴을 시사한다. 외부 평가에 따르면 수렴된 초록은 기술적 의미를 보존하면서 명확성, 간결성, 과학적 문체가 개선된다. 이러한 결과는 LLM 자기 정제에 대한 동역학 시스템 관점을 뒷받침하며, 편집 크기 포화에 기반한 실용적 중단 기준을 제시한다.

arXiv:2607.22635v1cs.AI

CallBench: 전화 통화 어시스턴트의 이중 목표 조율을 위한 벤치마크

CallBench: A Benchmark for Dual-Goal Coordination in Phone Call Assistants

목표 지향 대화 시스템은 상호작용 대화를 통해 사용자 목표를 완수하는 데 강한 능력을 보여주었다. 그러나 기존 연구는 주로 단일하고 명시적인 목표 완수를 위해 설계되었으며, 전화 통화 어시스턴트는 기기 소유자의 명시적 사전 설정 목표와 발신자의 암묵적이고 동적인 목표를 조율해야 하는 대리(proxy) 설정에 직면한다. 우리는 전화 통화 어시스턴트에서 이중 목표 조율을 평가하기 위한 중국어 벤치마크 CallBench를 제안한다. CallBench는 배달 음식, 배송, 택시, 업무, 생활, 괴롭힘 등 6가지 시나리오에 걸친 50,000개의 완전한 다중 턴 전화 통화 대화를 포함한다. 일반 사전 설정, 창발적(emergent) 사전 설정, 사전 설정 없음 케이스를 다루며, 정렬(alignment), 상호 보완, 무관, 충돌 등 소유자 측과 발신자 측 목표 간의 다양한 관계를 포함한다. 또한 의미 이해, 문맥 활용, 능동적 안내, 응답 품질, 사전 설정 준수, 대화 리듬, 안전성(safety)을 포괄하는 사전 설정 인식 턴 수준 평가 프로토콜을 설계한다. 대표적인 대화 방법에 대한 실험 결과, 기존 접근법은 여전히 이 과제에서 어려움을 겪는 것으로 나타나며, 대리 제약 하에서 두 독립적 목표 사이에서 신뢰할 수 있는 턴 수준 결정을 내릴 수 있는 전화 통화 어시스턴트의 필요성을 부각한다.

arXiv:2607.22634v1cs.AI

PRESTO: 확산 추측 디코딩을 위한 접두 문맥 정렬 트리 드래프팅

PRESTO: Prefix-Aligned Tree Drafting for Diffusion Speculative Decoding

확산 대규모 언어 모델(dLLM)은 토큰을 병렬로 생성하는 자기회귀(AR) LLM의 유망한 대안으로 부상했다. 이는 추측 디코딩(SD)의 드래프트 모델로 효과적이며, 단일 순전파로 드래프트 토큰 블록 전체를 생성할 수 있다. 그러나 기존 확산 기반 드래프팅 방법은 dLLM이 여러 위치에서 다수의 후보 토큰을 출력하여 디코딩 경로의 큰 조합 공간을 유발함에도 불구하고 선형 드래프팅에 의존한다. 결과적으로 수용 길이와 디코딩 효율이 제한된다. 이 다중 후보 구조를 활용하기 위해, 우리는 확산 드래프터에 트리 기반 드래프팅을 적용하여 다양한 후보 경로의 탐험을 가능하게 한다. 그러나 순진한 트리 드래프팅은 최적이 아님을 확인했다. 확산 marginal은 접두 문맥 맹목적(prefix-blind)이어서 접두 문맥 기반 AR 검증과 불일치하며, 신뢰할 수 없는 경로 순위를 초래한다. 우리는 PRESTO를 제안한다. 이는 확산 드래프터에 트리 기반 드래프팅을 확장하면서, 접두 문맥 정렬 점수(PREfix-aligned Scoring)와 확산 추측 디코딩을 위한 우선순위 기반 트리 탐색(priority-based Tree search for diffusion speculative decOding)을 통해 확산 드래프트 신뢰도와 접두 문맥 기반 AR 검증 간의 근본적 불일치를 해소하는 원칙적 프레임워크이다. PRESTO의 핵심 원칙은 (1) 후보 순위가 AR 검증의 접두 문맥 기반 특성과 정렬되어야 하며, (2) 트리 구성이 검증 잠재력이 높은 후보 경로를 우선하여 수용 길이를 극대화해야 한다는 것이다. 광범위한 실험에서 PRESTO는 최신 전용 확산 드래프터 SD에서 평균 최대 $1.5\times$의 엔드투엔드 처리량 가속을, 다양한 벤치마크에서 자기 추측(self-speculative) 확산 LLM에서 평균 $1.12\times$를 달성했다.

arXiv:2607.22625v1cs.AI

TokenMem: 동결 LLM을 위한 충실한 지식 주입

TokenMem: Faithful Knowledge Injection for Frozen LLMs

검색-증강 생성(RAG)은 대규모 언어 모델(LLM)에 외부 지식을 더해 성능을 높이지만, 지식 충돌 문제가 있습니다. 검색된 정보가 파라미터 메모리와 모순될 때, 공유된 셀프-어텐션(self-attention) 경로가 예측 불가능한 출력을 만들어냅니다. 우리는 TokenMem을 제안합니다. TokenMem은 전용 크로스-어텐션(cross-attention) 채널을 통해 동결 LLM에 지식을 주입하는 경량 메모리 시스템으로, 잔차 스트림(residual stream)에서 파라미터 메모리와의 경쟁을 우회합니다. TokenMem은 2단계 커리큘럼을 통해 얇은 게이팅 어댑터(약 3–7M 파라미터)만 학습합니다. 먼저 일반적인 지식 활용을 학습하고, 이어서 반사실적(counterfactual) 지식 하에서 충실한 준수(faithful compliance)를 강화합니다. 세 가지 모델 패밀리에 걸친 다섯 모델(Qwen3-4B/8B/14B, LLaMA-3.1-8B, OLMo-3-7B)에 대한 통제 실험에서 TokenMem은 반사실적 벤치마크에서 69–70%의 지식 준수(Knowledge Compliance, KC)를 달성했으며, 바닐라 RAG의 20–52%와 비교해 최대 49퍼센트포인트 차이를 보였습니다. ablation 연구는 2단계 커리큘럼이 핵심적임을 보여줍니다. Phase 2를 제거하면 KC가 거의 0에 가까워집니다. 메커니즘 분석은 게이트 어댑터가 명시적 감독 없이 충돌 인식(conflict-aware), 층별(layer-specific) 주입 전략을 학습함을 밝혀냅니다.

arXiv:2607.22602v1cs.AI

DeepLook: 선행 탐색(Lookahead)을 통한 더 깊은 사고

DeepLook: Deeper Thinking with Lookahead

추론 시점 스케일링(inference-time scaling)은 대규모 언어 모델의 추론 능력을 향상시키는 강력한 패러다임으로 부상했으며, 어려운 추론 과제에서는 종종 매개변수 스케일링만으로 얻는 것보다 더 큰 이득을 제공한다. 그러나 기존 접근법은 추론 궤적 내에서 연산을 할당하는 방식이 여전히 비효율적이다. 추론 실패가 잘못된 답이 명시적으로 드러나기 전에 불확실성이 조기에 나타나는 경우가 많다는 관찰에 동기를 부여받아, 우리는 DeepLook을 제안한다. DeepLook은 학습 없이 모니터링하고 개입하는 디코딩 프레임워크로, 불확실성 병목 지점에 선행 탐색(lookahead) 연산을 집중한다. DeepLook은 토큰 수준의 신뢰도를 구간 수준 신호로 집계하고, 최근 이력 대비 신뢰도가 하락할 때 트리거되며, 고정 수평선 선행 탐색으로 후보 연속을 탐색한다. 분기는 롤아웃 연속에 대한 구간 수준 신뢰도의 평균인 평균 선행 탐색 신뢰도(Average Lookahead Confidence, ALC)로 순위를 매기고, 가지치기한 뒤 투표를 통해 집계한다. DeepSeek-R1-8B, Qwen3-32B, GPT-OSS-20B, GPT-OSS-120B에 걸친 4개의 경쟁형 수학 벤치마크에서 DeepLook은 정확도-토큰 비용 파레토 프론티어를 이동시킨다. 16개 설정 중 11개에서 DeepConf-low 대비 정확도를 개선하면서, 평균적으로 데이터셋 수준 토큰 생성을 87.3% 줄였으며, Qwen3-32B에서 AIME25 +3.1, GPT-OSS-20B에서 BRUMO25 +8.8의 향상을 포함한다. 이러한 결과는 선택적이고 미래를 고려한 개입이 완전한 추론 궤적을 균일하게 스케일링하는 것보다 실질적으로 더 강한 정확도-비용 트레이드오프를 제공함을 보여준다. 코드는 여기에서 이용 가능하다.

arXiv:2607.22563v1cs.AI

Industry 4.0 에이전트 평가를 위한 합성 시나리오 생성

Synthetic Scenario Generation for Evaluation of Industry 4.0 Agents

산업 에이전트 벤치마크는 원격 측정(telemetry), 고장 모드, 유지보수 기록, 도메인 표준을 통합하는 현실적인 평가 시나리오가 필요하다. 그러나 AssetOpsBench와 같은 기존 벤치마크는 수작업으로 작성된 시나리오에 의존하며 제한된 자산 클래스만을 다룬다. 우리는 AssetOpsBench를 스마트 그리드 변압기(Smart Grid Transformer) 자산 클래스와 건강 지수 예측, 용존 가스 분석, 권선 온도 평가, 부하 프로파일 평가를 위한 IEC 기반 진단 도구 4종으로 확장한다. 또한 합성 산업 에이전트 시나리오 생성을 위한 파이프라인인 ScenarioGeneratorAgent를 도입한다. 이 파이프라인은 증거 기반 자산 프로파일을 구성하고, 운영 도메인 전반에 걸쳐 커버리지 인식 시나리오 예산을 배분하며, 스키마 유효성, 도구 도달 가능성, 물리적 타당성, 표준 정합성, 중복 제거를 강제하는 하이브리드 검증-수정 루프를 통해 후보를 생성한다. 확장성을 높이기 위해 2단계 캐싱, 병렬 포커스 그룹 생성, 스레드 풀 오프로딩, 배치 LLM 호출, 조기 거부 필터링을 적용한다. 스마트 그리드 변압기 시나리오 생성에서 이러한 최적화는 품질을 유지하면서 50개 시나리오에 대해 종단 간 실행 시간을 $8\times$ 단축하며, 최적화되지 않은 기준선의 $73.8 \pm 3.0$에 비해 $74.2 \pm 1.9$의 복합 품질 점수를 달성한다. 이 결과는 표준 기반 합성 시나리오 생성이 시나리오 품질을 희생하지 않고 산업 에이전트 벤치마크를 효율적으로 확장할 수 있음을 보여준다.

arXiv:2607.21958v1stat.ML

Rao-Blackwellized E-Process를 이용한 효율적 온라인 LLM 워터마크 탐지

Efficient Online LLM Watermark Detection via Rao-Blackwellized E-Processes

대규모 언어 모델(LLM)의 배포가 늘어남에 따라, AI 생성 텍스트와 인간이 작성한 콘텐츠를 구별하는 신뢰할 수 있고 효율적인 메커니즘이 필수적이 되었다. 통계적 워터마크(statistical watermarking)는 유망한 해결책으로 떠올랐지만, 기존 방법의 대부분은 일반적으로 고정 구간(fixed-horizon) 절차로, 스트리밍 생성에서 유효한 조기 종료를 배제한다. 본 논문에서는 Rao-Blackwellized e-process에 기반한 anytime-valid 추론을 갖춘 효율적인 온라인 워터마크 탐지 프레임워크를 개발하며, 전체 이력을 저장하지 않고도 재귀적 토큰 수준 증거 업데이트를 가능하게 한다. 특히 Gumbel-max 워터마크에 대해 프레임워크를 구체화하고, 원래의 토큰 수준 종속성 검정 문제를 명시적 귀무 분포(null distribution)를 갖는 pivot-induced 순차 검정 문제로 환원한다. 이론적으로 임의의 선택적 종료(optional stopping) 하에서 anytime-valid 제1종 오류(Type I error) 통제를 증명하고, 워터마크 환경에서 양의 점근적 로그 성장(positive asymptotic log-growth)을 확립하여 제안된 종료 규칙의 일관성(consistency)을 함의한다. 실제 LLM 생성 텍스트에 대한 시뮬레이션과 실험은 엄밀한 anytime-valid 보장을 갖춘 효율적인 온라인 탐지를 보여준다.

arXiv:2607.22136v1cs.CL

공감적 응답 생성을 위한 동적 상식 조율

Dynamic Commonsense Coordination for Empathetic Response Generation

공감적 응답 생성(Empathetic Response Generation, ERG)은 모델이 사용자의 감정을 인식하고 공감적 응답을 생성해야 한다. 상식 지식이 이러한 추론을 지원하는 것으로 알려져 있지만, 기존 접근법은 이해와 생성 단계 전반에 걸쳐 고정된 상식 표현을 재사용하는 경우가 많아, 서로 다른 단계에서 이러한 지식을 조율하는 능력을 제한한다. 본 연구는 DCC(Dynamic Commonsense Coordination)라는 동적 상식 조율 프레임워크를 제안하며, 이는 세 가지 상호 보완적 모듈로 구성된다: 맥락적·상황적 상식 표현을 통합하는 잔차 기반 상식 상호작용(SCE-AttnRes), 낮은 관련성의 상식 관계 가중치를 낮추는 연관성 기반 상식 필터링(Association-Guided Commonsense Filtering, AGCF), 생성 중 상식 메모리를 동적으로 검색하는 반복적 상식 인지 디코딩(Iterative Commonsense-Aware Decoding, ICAD). Empathetic-Dialogues 벤치마크에서의 실험 결과, DCC는 CEM 기준선 대비 감정 분류 정확도와 응답 다양성을 향상시키면서 perplexity는 유사한 수준을 유지한다. LLM 기반 블라인드 평가는 DCC가 더 나은 관련성, 일관성, 정보성을 갖춘 응답을 생성함을 추가로 보여준다. 코드와 구현 세부사항은 https://github.com/Hanabi-Q/DCC-ERG 에서 공개될 예정이다.

arXiv:2607.21961v1cs.CL

문서 기반 팟캐스트 생성의 충실성 개선

On Improving Faithfulness of Podcasts from Documents

대규모 언어 모델(LLM)은 텍스트 소스로부터 팟캐스트와 같은 장문 대화형 콘텐츠를 생성하는 데 점점 더 많이 사용되고 있다. 이러한 시스템은 유창하고 매력적인 내러티브를 생성하지만, 종종 그라운딩되지 않은(ungrounded) 정보를 도입한다. 본 연구에서는 문서 기반(document-grounded) 팟캐스트 생성에서의 충실성(faithfulness)에 대한 최초의 체계적 연구를 제시하며, 여기서는 장문 다중 화자 트랜스크립트의 대화 턴(conversational turns) 전반에 걸쳐 그라운딩(grounding)이 유지되어야 한다. 우리는 5개 도메인에 걸친 1,500개 이상의 문서로 데이터셋을 구축하고, 여러 LLM을 사용하여 팟캐스트 트랜스크립트를 생성한다. 우리는 대화 턴이 원본 문서에 의해 뒷받침되는지 평가하기 위한 턴 수준 LLM-as-a-judge 프레임워크를 도입하고, 인간 연구를 통해 그 신뢰성을 검증한다. 분석 결과, GPT-4o를 포함한 최신(state-of-the-art) 모델조차도 빈번하게 그라운딩되지 않은 콘텐츠를 생성함을 보여준다. 이 문제를 완화하기 위해, 우리는 대화 흐름을 유지하면서 비충실한 대화 턴을 탐지하고 재작성하는 모델 불가지(model-agnostic) 프레임워크인 catch-n-repair를 제안한다. 실험은 도메인 내(in-domain) 및 도메인 외(out-of-domain) 설정 모두에서 충실성의 일관된 개선을 보여준다.

arXiv:2607.21887v1cs.HC

학습자 수준에 적합한 체화된 대화형 에이전트를 활용한 외국어 불안 감소 연구

Towards Reducing Foreign Language Anxiety Using Level-Appropriate Embodied Conversational Agents

외국어 불안(FLA)은 특히 대화 맥락에서 제2언어 습득(SLA)의 주요 장벽이 될 수 있다. 생활 전반에 걸쳐 대규모 언어 모델(LLM)이 확산됨에 따라, 최근 연구는 LLM 에이전트와의 상호작용이 SLA 및 외국어 교육 분야, 특히 FLA 감소에 중요한 역할을 할 수 있음을 시사한다. 관련 연구는 또한 언어적 요구와 과제 복잡성이 FLA의 예측 변수가 될 수 있음을 제시하며, 이는 요구 수준이 높고 복잡한 언어의 사용이 학습자에게 더 높은 FLA를 유발할 수 있음을 의미한다. 본 논문에서는 영어 학습자를 위한 학습자 수준에 맞는 대화를 생성하는 새로운 다중 에이전트 체화 대화 시스템을 제안한다. 이러한 수준은 비원어민 청자 및 화자의 숙련도를 설명하기 위해 유럽 공통 참조 틀(CEFR)에서 정의한 것을 기반으로 한다. 여러 LLM 에이전트와 수준 분류기를 활용한 "생성-평가-재생성" 루프를 통해, 사용자의 숙련도 수준에 적응하는 원하는 단순성을 달성한다. 또한 일본 대학생을 대상으로 이 시스템을 테스트하여 단순화되지 않은 체화 대화형 에이전트보다 더 낮은 FLA 수준을 산출하는지 확인한 예비 소규모 파일럿 연구 결과를 공유한다. 대화 출력 분석 결과, 제안된 다중 에이전트 시스템이 생성한 대화 문장의 87.4%가 학습자의 자기 평가 숙련도로 예측된 CEFR 수준의 ±1 수준 이내에 있었으며, 단순화되지 않은 에이전트의 경우 54.1%였다. 이는 새로운 시스템이 학습자에게 더 적절한 수준의 출력을 생성할 수 있음을 시사한다. 본 연구는 표본 크기가 작아 일본인 영어 학습자의 FLA 수준을 시스템이 감소시킨다는 통계적으로 유의미한 증거를 제공하지 못했으나, 향후 연구를 위한 사용성 발견과 문화적으로 고려된 설계 통찰을 제공한다.

arXiv:2607.21758v1cs.CL

Humanly: 구성 가능하고 추적 가능한 인간-AI 협업 글쓰기 환경

Humanly: A Configurable and Traceable Environment for Human-AI Collaborative Writing

교사, 학회 의장, 일반 독자는 모두 제한된 증거만으로 글쓰기를 판단하며, 완성된 문서만 보고 그것을 만들어낸 과정은 보지 못한다. 최종 텍스트만으로는 문서가 사람의 직접 타이핑, AI 생성, 또는 인간-AI 혼합 협업을 통해 만들어졌는지 알 수 없다. 기존 과정 추적 도구는 도움이 되지만, 많은 것들이 호스트 문서의 편집 이력에 묶여 있고, 거친 활동 기록만 제공하며, 글쓰기 환경에 대한 제어가 제한적이다. Humanly는 글쓰기 과정 자체를 증거로 삼는 글쓰기 플랫폼이다. 사용자는 개인 문서나 할당된 과제를 위해 글쓰기 환경을 구성하고, 글쓰기 활동과 플랫폼 내 AI 지원을 기록하는 작업 공간에서 초안을 작성한다. Humanly는 완료된 세션을 봉인된 글쓰기 인증서로 패키징할 수 있으며, 구성을 인식하는 이상 행동 검토를 포함한다. 이는 수업 과제, 동료 검토, 개인 인증과 같은 글쓰기 시나리오를 지원할 수 있다. 사용자 연구는 Humanly가 다양한 역할에서 유용함을 보여주었으며, 레드팀 테스팅(red-teaming) 연구는 Humanly Typing Detector가 사람의 손 타이핑과 자동화된 타이핑을 구별함을 보여준다.

arXiv:2607.10428v2cs.CL

Enjoy Your Talk: 분리형 사용자 시뮬레이션, 타깃 모델링, 판정을 갖춘 인간 중심 다중 턴 대화 벤치마크

Enjoy Your Talk: A Human-Centered Benchmark for Multi-Turn Dialogue with Decoupled User Simulation, Target Modeling, and Judging

대규모 언어 모델(LLM)을 다중 턴 대화 상대로 평가하려면 단일 턴 벤치마크가 놓치는 역량을 탐색해야 한다: 페르소나 일관성, 진화하는 의도 추적, 감정 역학, 그리고 여러 턴에 걸친 목표 달성. 우리는 EYT-Bench를 제안한다. 이는 인간 중심 벤치마크로, 평가 프로토콜이 분리된 3자 설계를 중심으로 구성된다: 페르소나에 그라운딩된 사용자 시뮬레이터, 의도 인식과 응답 생성 모두에서 평가되는 타깃 모델, 그리고 독립적이고 설정 가능한 LLM 판정자 앙상블. 17개 타깃 모델에 걸친 3,400개 대화에서 EYT-Bench는 이전 벤치마크가 놓친 네 가지 발견을 드러낸다: (i) 최첨단 폐쇄형 및 오픈소스 모델은 주관적 차원에서 통계적으로 구별되지 않지만, 객관적 의도 추적에서는 최대 9배까지 차이가 난다; (ii) 추론(reasoning)은 긴 컨텍스트 페르소나에서 객관적 추적의 상전이(phase transition)이지만 주관적 점수에서는 본질적으로 평탄하다; (iii) 페르소나 형식은 궤적 분산에 강하게 영향을 미치며, FICR(final-intent completion rate, 최종 의도 완료율)은 Nemotron-USA에서 0.95 이상으로 포화되지만 PersonaMem-v2에서는 0.53에서 0.88까지 범위를 보인다; (iv) 워밍업 효과(warm-up effect)는 17개 모델 중 16개에서 관찰된다.

arXiv:2605.01006v3cs.CL

AI가 뉴스의 편향을 줄일 수 있는가? LLM 개입은 당파 간 수용성을 높이지만 LLM은 자신의 효과를 과대평가한다

Can AI Debias the News? LLM Interventions Improve Cross-Partisan Receptivity but LLMs Overestimate Their Own Effectiveness

당파적 뉴스 매체는 당파를 넘나드는 신뢰를 약화시키지만, 대규모 언어 모델(LLM)은 이러한 콘텐츠의 편향을 대규모로 완화할 잠재력을 제공한다. 사전 등록된 두 실험에서, 진보 뉴스 헤드라인에 대한 LLM 생성 탈편향화가 보수 독자의 신뢰 관련 판단을 개선하는지 검증했다. 연구 1에서 미묘한 어휘적 탈편향화(감정적 단어를 중립적 동의어로 대체)는 어떤 결과 변수에도 영향을 미치지 않았다. 연구 2에서는 보다 실질적인 재구성 개입이 보수 독자가 진보 뉴스 헤드라인에 대해 느끼는 신뢰성, 완전성, 참여 의향을 유의미하게 높였으며, 진보 독자에게 역효과(backfire effect)를 일으키지 않았다. 연구 1에서 해당 개입은 여섯 가지 모델(o3-mini, o3, GPT-4o mini, GPT-4o, GPT-5 mini, GPT-5)로 시뮬레이션한 실리콘 참가자(silicon participants)에게는 견고한 효과를 보였으나, 실제 인간 독자에게는 영향을 미치지 않았다. 연구 2에서는 실리콘 참가자에서 관찰된 개입 효과가 전반적으로 인간 반응과 방향적으로 일치했으나 일부 결과에서는 유의미하게 더 컸고, 세 모델(o3, GPT-4o mini, GPT-4o)은 인간에게는 나타나지 않은 진보측 역효과를 잘못 예측했다. 조절(moderation) 분석에 따르면, 모델들이 암묵적으로 가정한 ‘누가 탈편향화에 반응하는가’에 대한 이론은 실제로 인간의 반응성을 예측한 심리적 프로필과 달랐다. 특히 연구 2에서, 여섯 모델 각각으로 시뮬레이션한 참가자들은 정치적 내집단(political in-group) 동일시가 높은 참가자일수록 탈편향화 효과가 더 클 것이라고 시사했으나, 인간 참가자에서는 그러한 조절 효과가 관찰되지 않았다. 이 결과는 LLM 기반 탈편향화가 표면적 언어보다 이념적 프레이밍을 대상으로 할 때 당파 간 수용성을 개선할 수 있음을 보여주지만, 현재 모델들은 인간의 감독 없이 자신의 개입을 평가하기에 필요한 정량적 정확성과 질적 심리적 충실성을 모두 갖추지 못함을 시사한다.

arXiv:2508.05618v2cs.CL

사실성을 위한 추론 학습

Learning to Reason for Factuality

추론 대규모 언어 모델(R-LLM)은 복잡한 추론 과제에서 크게 발전했지만, 사실성에서는 종종 어려움을 겪으며 장문 사실성 벤치마크에서 비추론 모델에 비해 상당히 더 많은 환각을 생성한다. 그러나 최근 R-LLM 발전의 핵심 요소인 온라인 강화학습(RL)을 장문 사실성 설정으로 확장하는 것은 신뢰할 수 있는 검증 방법의 부재로 인해 여러 고유한 과제를 제기한다. 이전 연구는 FActScore와 같은 자동 사실성 평가 프레임워크를 활용하여 오프라인 RL 설정에서 선호도 데이터를 구축했지만, 이러한 방법을 온라인 RL의 보상으로 직접 활용하면 덜 상세하거나 관련성이 낮은 응답을 생성하는 등 여러 방식의 보상 해킹이 발생함을 확인했다. 우리는 사실적 정밀도, 응답 상세도, 답변 관련성을 동시에 고려하는 새로운 보상 함수를 제안하고, 온라인 RL을 적용하여 고품질의 사실적 추론을 학습한다. 6개의 장문 사실성 벤치마크에서 평가한 결과, 우리의 사실적 추론 모델은 환각률을 평균 23.1%p 감소, 답변 상세도 23% 증가, 전체 응답 유용성 저하 없음을 달성했다.

arXiv:2607.22334v1cs.LG

바이트 접두사 주변화를 통한 크로스-토크나이저 온-정책 지식 증류

Cross-Tokenizer On-Policy Distillation via Byte-Prefix Marginalization

서로 다른 계열의 오픈 가중치 언어 모델은 상호 보완적인 능력을 보이며, 이는 온-정책 지식 증류(OPD)를 통해 이를 소형 학생 모델로 통합하려는 동기가 됩니다. 그러나 전체 어휘집 OPD는 일반적으로 공유 토크나이저를 가정하는 반면, 기존 크로스-토크나이저 방법은 교사 모델의 확률 질량을 버리거나 관련 없는 내용의 학생 토큰에 할당할 수 있습니다. 우리는 교사의 다음 토큰 분포를 공유 바이트 공간에서 학생 어휘집 위로 재표현하는 Byte-Prefix Marginalization(BPM)을 제안합니다. 구체적으로 BPM은 각 교사 토큰의 확률을, 해당 토큰의 바이트 표현이 교사 토큰 바이트의 접두사인 학생 토큰 중 가장 긴 토큰에 할당하고, 동일한 학생 토큰에 매핑된 질량을 집계하며, 그렇지 않아 매칭되지 않은 질량은 명시적 잔여 범주에 둡니다. 이는 dense OPD를 위한 어휘집 전체를 포괄하고 바이트 정렬되며 질량을 보존하는 목표를 생성합니다. 해당 목표는 관련 접두사가 여러 교사 토큰에 걸치지 않을 때(학습 위치의 99% 이상에서 충족되는 조건) 교사가 유도한 바이트 접두사 주변화를 정확히 복원하고, 그렇지 않은 경우에는 질량을 보존하는 연쇄 분해 하한을 사용합니다. Qwen3-32B, GLM-Z1-9B-0414, MiniMax-M2.7을 교사로 사용한 실험에서 BPM은 6개의 수학 및 프로그래밍 벤치마크에서 기존 크로스-토크나이저 방법을 일관되게 능가하며, 6개 벤치마크 avg@8에서 가장 강한 기준선 대비 3.7–6.6점을 개선했습니다.

arXiv:2607.21804v1cs.CR

Speculative Decoding에서 수용 붕괴를 유발하는 적대적 프롬프트

Adversarial Prompts for Acceptance Collapse in Speculative Decoding

speculative decoding과 같은 무손실 가속 기법은 draft 모델과 target 모델 간의 동적 토큰 수준 정렬에 의존하여 상당한 추론 속도 향상을 약속한다. 그러나 이러한 의미적 동등성 보장은 심각한 운영 취약점을 가린다. draft-target 정렬은 체계적으로 공격될 수 있다. 본 논문에서는 ADSD를 제안한다. 저희가 아는 한, 이는 draft 확률 질량을 target이 수용할 가능성이 낮은 토큰 쪽으로 밀어 검증자(verifier) 수용(acceptance)을 붕괴시키는 최초의 프롬프트 접미사 공격이다. ADSD는 비대칭 speculative 수용 규칙에서 파생된 검증자 정렬 대리(surrogate)인 Soft-Collapse와, 명백한 태스크 손상을 억제하는 target 보존 목적 함수를 함께 사용한다. ADSD는 매우 효과적인 적대적 접미사를 성공적으로 생성한다. GSM8K 데이터셋에서 본 공격은 태스크 품질을 유지하면서 평균 샘플링 시간을 62.3% 증가시킨다. 또한 이러한 취약점이 서로 다른 도메인, speculative decoding 전략, 모델 아키텍처 전반에 존재함을 보인다.

arXiv:2607.22375v1cs.AI

IDEAgent: 연구 아이디어 생성을 위한 에이전트형 품질-다양성(Quality-Diversity) 검색

IDEAgent: Agentic Quality-Diversity Search for Research Idea Generation

대규모 언어 모델(LLM)은 지난 몇 년간 과학적 발견 과정을 크게 자동화해 왔다. 그러나 기존 시스템은 공통된 핵심 한계를 공유한다: 품질(Quality) 또는 다양성(Diversity) 중 하나에 대해서만 독립적으로 아이디어를 생성하고 최적화한다. 이는 종종 서로 가까운 아이디어가 생성되거나, 사소하고 부적절하거나 불명확한 개념들의 대규모 집합이 생성되는 결과로 이어진다. 본 연구에서는 대신 연구 아이디어 구상을 두 목표의 결합으로 취급하고 품질-다양성(Quality-Diversity, QD) 검색으로 프레이밍해야 한다고 주장한다. 이러한 관점에 따라, 계보(lineages)를 통해 아이디어의 진화를 관리하는 다중 에이전트 프레임워크인 IDEAgent를 제안한다. 우리는 전용 수리(repair) 및 정제(refinement)를 위한 다목적 피드백으로 품질을 공동적으로 추진하고, 다양성은 경량 순차 메모리와 완료된 아이디어, 그 역사적 선조, 그리고 거부된 제안들과의 명시적 비교를 통해 달성한다. 이러한 QD 결합을 체계적으로 평가하기 위해, 사전 결정된 품질 임계값을 만족하는 상호 다양한 아이디어들의 최대 집합을 계산하는 공동 지표인 Yield를 개발한다. 마지막으로, 컴퓨터 과학(CS) 8개 도메인에 걸친 32개 주제에 대한 평가를 통해, IDEAgent가 Yield에서 최고 기준선 대비 3.89배 우수한 성능을 보이며, 8배 더 많은 주제에서 0이 아닌 Yield를 달성함을 보인다. 우리는 품질 개선 분석을 통해 이러한 발견을 추가로 뒷받침하며, 수리와 정제가 명백하지 않음(non-obviousness)을 보존하면서 논리적 엄밀성과 명확성을 구축하는 데 핵심적임을 보인다. QD 검색 기반 아이디어 구상에 대한 향후 연구를 장려하기 위해, IDEAgent를 https://github.com/declare-lab/IDEAgent 에서 오픈소스로 공개한다.

arXiv:2607.21793v1cs.AI

QLPO: 길이 인식 정책 최적화를 위한 사분면 가중 샘플링

QLPO: Quadrant-weighted Sampling for Length-aware Policy Optimization

최근 대규모 추론 모델은 강화학습(RL) 과정에서 긴 사고의 연쇄(Chain-of-Thought) 응답을 자주 생성하여, 추론 지연과 배포 비용이 높아지는 문제가 발생한다. 기존의 응답 길이 제어 방법은 대체로 명시적 길이 페널티나 추가 제어 모듈에 의존하며, 이는 세심한 튜닝을 요구하고 추론 품질을 저하시킬 수 있다. 우리는 보상 함수를 수정하지 않고 암묵적 길이 제어를 도입하는 GRPO의 간단한 재샘플링 기반 변형인 QLPO(Quadrant-weighted Sampling for Length-aware Policy Optimization)를 제안한다. QLPO는 먼저 후보 응답을 과다 생성한 뒤, 경험적 정답/오답 비율을 유지하면서 짧은 정답 응답과 긴 오답 응답을 선호하도록 학습 그룹을 재샘플링한다. 이는 학습 분포를 재형성하여 모델 출력을 암묵적으로 더 짧게 유도한다. 1.5B부터 32B 파라미터에 이르는 모델, 베이스 모델과 강력한 추론 모델을 포함하여 QLPO는 정확도-길이 트레이드오프를 일관되게 개선한다. 응답 길이를 30%에서 70%까지 줄이면서도 추론 성능을 유지한다. 이러한 결과는 구조화된 재샘플링이 효율적 추론을 위한 효과적이고 견고한 접근법임을 시사한다.