본 연구는 Turbo-Quant와 SpectralQuant KV-캐시 압축을 체계적으로 비교하며, Beta Lloyd-Max 및 QJL과 결합된 WHT 회전을 포함한 비지배 방식들을 통계적 검증 방법론을 통해 평가한다. 이 방법론은 체계적인 코덱 차이와 구현 분산을 분리한다. 주요 발견으로는, 고유기저 기반 방법이 공분산 불안정성으로 인해 중꼬리 분포 데이터에서 실패하는 반면, 구조적 체계에서는 우수한 성능을 보임을 확인하였다. 또한 유효 의미 차원($d_{eff}$)이 실제 데이터 랭크가 아닌 보정 예산에 따라 적응함을 밝혔다. (this is an abstract of the abstract thank you )
대규모 언어 모델(LLM)이 직장 내 커뮤니케이션을 빠르게 재편하고 있지만, AI 보조 작성이 수신자의 실제 행동을 변화시키는지, 그리고 어떤 경로를 통해 변화시키는지는 아직 밝혀지지 않았다. 본 연구에서는 무작위 교차 현장 실험을 통해 6개 기업의 직원 121명이 3주에 걸쳐 세 가지 조건 하에 업무 이메일을 발송하였다: 보조 도구 없이 직접 작성, GPT-5를 이용한 유쾌한 톤으로의 재작성, GPT-5를 이용한 전문적인 톤으로의 재작성. 총 16,880건의 이메일을 분석한 결과, 유쾌한 편집은 감정적 긍정성을 증가시켰고(B=+0.068, p<0.001), 전문적인 편집은 이를 감소시켰으나(B=-0.041, p<0.001), 어느 조건도 열람률, 답장률, 응답 시간을 직접적으로 변화시키지 않았다. 대신, 발신자 내 긍정성이 열람(OR=2.05)과 답장(OR=3.32, p<0.001) 모두를 강하게 예측하였으며, 이는 직접적인 효과 없이도 AI 편집이 행동을 형성하는 유의미한 간접 경로임을 나타낸다. 이러한 결과는 AI 보조 커뮤니케이션이 직장 내 참여를 형성하는 것은 AI의 사용 자체가 아니라, AI가 생성하는 언어의 감정적 톤을 통해서임을 시사한다.
자기-정제(self-refinement)는 대규모 언어 모델(LLM)에서 퓨샷(few-shot) 귀납적 추론을 강화하는 데 종종 실패한다. 모델이 추론한 규칙을 명시적으로 서술하도록 프롬프트하는 것만으로는 거의 효과가 없다. 실질적으로 중요한 것은 추론 단계들 간에 구조적으로 강제된 격리이며, 이를 통해 정보는 압축된 심볼릭 상태(symbolic state)로만 단계 간에 전달될 수 있다. 우리는 추론 단계들 간의 엄격한 컨텍스트 격리를 강제하는 모래시계 추론(Hourglass reasoning)을 제안한다. 고정된(frozen) LLM은 메타-생성자(meta-constructor)로 동작하며, 각 태스크에 대해 심볼릭 인코더-디코더를 구축한다: 귀납 모듈(Induction module)은 지원 예시들을 스키마 φ(인코더)와 일시적 스캐폴드 z로 압축하고; 연역 모듈(Deduction module)은 이로부터 규칙 T(디코더)를 도출하고 z를 폐기하며; 구현기(Implementer)는 (φ, T)를 아티팩트로 컴파일하고; 오류 기반 정제기(Refiner)는 (φ, T)를 수정하고 아티팩트를 처음부터 재생성한다. (φ, T)만이 단계 경계를 넘기 때문에, 모든 정제는 규칙에 고정된 채 유지된다. 우리는 GPT-5.5와 Gemini 3.1 Pro를 사용하여 시각적 추상화, 하드웨어 합성, 텍스트 규칙 귀납에 걸친 세 가지 벤치마크에서 모래시계 추론을 평가한다. ARC-AGI-2에서, 반복 정제 기준선(iterative-refinement baseline) 대비 best-of-5 정확도를 최대 14포인트 향상시킨다. ChipBench에서, GPT-5.5로 Verilog 합성 정확도를 31%에서 58%로 거의 두 배로 늘린다. BBEH-Linguini는 국제 언어학 올림피아드의 퍼즐을 활용하는데, 이는 명시적 언어화(explicit verbalization)가 성능을 저하시킬 수 있음을 선행 연구가 보여준 환경이다. 모래시계 추론은 이러한 경향을 완화하며, Gemini 3.1 Pro에서는 그 효과를 완전히 역전시킨다. 절제 실험(ablation)을 통해, 이러한 성능 향상이 단계 간 격리와 초기 귀납의 품질에서 비롯된 것이며 프롬프트 표현이나 사용된 특정 심볼릭 형식에 의한 것이 아님을 확인한다. 고정된 LLM에서 귀납적 추론을 이끄는 것은 정보를 표현하는 데 사용되는 언어가 아니라, 정보가 추론 과정을 통해 흐르는 방식이다.
경로 선택을 포함한 인간의 선택 행동은 완전한 합리성 가정에서 벗어나는 체계적인 행동 편향을 나타낸다. 누적 전망 이론(Cumulative Prospect Theory, CPT)은 이러한 행동 패턴을 특성화하는 효과적인 프레임워크로 널리 인정받아 왔다. 그러나 시뮬레이션 및 에이전트 기반 모델링과 같은 대규모 적용에는 개인 수준의 CPT 파라미터 지정이 필수적이며, 이는 여전히 주요 병목으로 남아 있다. 기존 접근법은 CPT 파라미터를 보정하기 위해 설문조사와 통제 실험에 의존하는 경우가 많으나, 이러한 방법은 일반화하기 어렵고 인간 의사결정의 다양성을 충분히 포착하지 못하는 경우가 많다. 이 문제를 해결하기 위해, 본 논문은 대규모 언어 모델(LLM)이 전망 이론적 파라미터의 명시적 지정 없이도 선택 과정에서 인간의 행동 편향을 재현할 수 있는지를 탐구한다. 경로 선택을 대표적인 시나리오로 활용하여 행동 평가 프레임워크를 설계하고, LLM이 생성한 결정을 CPT가 예측하는 기존의 인간 행동 패턴과 체계적으로 비교한다. 실험 결과, LLM은 비합리적인 인간의 선택 편향을 재현할 수 있으며, 불확실성 하에서 전망 이론적 효과와 일치하는 의사결정 행동을 나타낼 수 있음을 보여준다. 이러한 결과는 생성형 AI 모델이 인간 의사결정 과정을 모델링하기 위한 확장 가능한 대안을 제공할 수 있으며, 차세대 대규모 에이전트 기반 시뮬레이션 및 AI 기반 행동 연구를 위한 유망한 토대가 될 수 있음을 시사한다.
뇌졸중 후 실어증은 흔히 특징적인 프로파일을 가진 체계적인 명명 오류를 유발하지만, 임상 시뮬레이션을 위해 설계되지 않은 범용 언어 모델이 이러한 패턴을 재현할 수 있는지는 아직 검증되지 않았다. 우리는 (1) 멀티모달 언어 모델에 대한 병변 또는 제어된 교란이 그림 명명에서 다양한 유형의 오류를 재현할 수 있는지, (2) 이 프레임워크가 개별 실어증 환자(PWAs)의 완전한 오류 프로파일을 재현할 수 있는지를 조사하였다. LLaVA 1.6을 사용하여 모델 유닛에 적용되는 층, 비율, 노이즈 양을 변화시킨 교란 구성을 평가하였다. Philadelphia Naming Test에서 278명의 PWA를 검사하고, 검증된 신경망 분류기를 사용하여 응답을 7개 범주로 분류하였다. 7개 응답 범주 중 6개(정확, 의미적, 혼합, 무관련, 신조어, 무응답 오류)가 서로 다른 매개변수 공간 영역에서 임상적으로 비교 가능한 비율로 나타났으며, 형식적 착어증만이 예외였다. 교란 공간을 탐색한 결과, PWAs의 97.8%에서 7개 범주 중 적어도 6개의 개별 오류 프로파일을 재현하고, 79.5%의 PWAs에서 7개 범주 전체를 재현하는 구성이 발견되었다. 몬테카를로 기준선은 이러한 매칭이 주변 중첩이 아닌 범주 간 결합 구조를 반영함을 확인하였다. 이러한 결과는 그림 명명에서 개별 실어증 오류 패턴을 재현하기 위한 정량적 프레임워크를 확립한다. 또한 언어 모델이 뇌졸중 후 실어증 환자의 디지털 트윈 역할을 할 수 있는 가능성을 시사한다.
There are two standard ways to spend more compute at test time: let a model reason longer, or sample more attempts and keep one. Both share a hidden limit: they are internal. Every extra token comes from the same frozen weights and the same prompt, so neither can tell the model anything it does not already know. We study a third way, interaction: the model proposes an artifact, an external instrument observes how it actually behaves, and the model revises. Each cycle imports a real observation, so interaction breaks through the ceiling the other two hit. We argue that a single variable governs this third axis, grounding, and that it must hold on both sides of the loop. The feedback that drives revision must come from an instrument that actually observes the flaw, and so must the metric that scores the result. On hard coding tasks at a fixed token budget, reasoning-only and best-of-N sampling both plateau (the latter even when an oracle picks the best sample), while every interaction strategy keeps improving; our proposer-reviewer harness reaches a perfect 100% pass rate with no run-to-run variance, and the gain holds across three model families. On rendered visual artifacts, the usual judge (a vision-language model, or VLM, reading a screenshot) rates 14 of 15 visibly broken figures "perfect," because the screenshot hides the flaws before the judge can see them. A tool that measures the real layout instead shows the loop removing 40-74% of defects across four modalities; and that same VLM, used as the reviewer, makes slide layouts worse where the measuring tool repairs them. Interaction scaling is real and distinct from reasoning and sampling, but only visible when both the feedback and the metric are grounded.
멀티씬 내비게이션(하나의 제한된 공간에서 목표를 달성한 후 포털을 통해 다음 공간으로 이동하는 것)은 현대 3D 게임의 핵심 특징이지만, 이를 제작하는 것은 매우 번거롭다: 모든 포털은 양쪽에 일관된 끝점을 가져야 하고, 각 내부 공간은 가구가 배치된 후에도 탐색 가능한 상태를 유지해야 하며, 이로 인해 생성되는 연결성은 여러 파일에 걸쳐 일관되게 유지되어야 한다. 최근의 대규모 언어 모델(LLM) 및 멀티모달 LLM(MLLM) 씬 생성기는 단일 내부 공간 합성 비용을 획기적으로 낮추었지만, 한 번에 하나의 씬만 생성하며 단순 반복으로는 연결된 멀티씬 월드를 생성할 수 없다. 우리는 단일 씬 방법이 해결하지 못한 세 가지 장애물을 파악하였다: 씬 간 일관성, 씬 내 탐색 가능성, 그리고 전환이 실제로 작동하는지에 대한 평가. 우리는 이 세 가지를 모두 해결하는 프롬프트-투-프로젝트 시스템인 MAGIC을 제안한다. MAGIC은 단일 자연어 프롬프트를 실행 가능한 멀티씬 게임 프로젝트로 변환하는 4단계 파이프라인이다: 공유 전환 인식 중간 표현을 계획하고, 플러드 필(flood-fill) 검증기를 통해 포털 도달 가능성을 강제하면서 각 씬을 명세하며, 씬들을 전환 스크립트와 함께 생성하고, 이들을 하나의 프로젝트로 결합한다. 기존의 단일 씬 충실도 지표는 전환을 실행하지 않기 때문에, 우리는 플레이 중 각 전환을 실행하는 전환 중심 평가 에이전트를 추가로 도입한다. 100개의 멀티씬 사례로 구성된 새로운 벤치마크에서, MAGIC은 모든 사례에서 실행 가능한 프로젝트를 생성하며 종단 간 전환 식별에서 정밀도 0.99, 재현율 0.95, F1 0.96을 달성한다; 단계별로, LLM 기준선 및 Holodeck보다 더 많은 실제 포털을 복원하고 현저히 더 탐색 가능한 레이아웃을 생성한다. 코드는 https://github.com/sereneee1201/MAGIC/ 에서 확인할 수 있다.
전문가 혼합(MoE) 대규모 언어 모델(LLM)은 추론 시 소수의 전문가만 활성화하지만, 토큰 라우팅은 지속적인 전문가 핫니스 편향을 야기한다. 즉, 소수의 핫 전문가가 대부분의 토큰을 지속적으로 수신하는 반면 나머지 전문가는 경부하 상태에 놓인다. 3.5D 멀티칩렛 시스템에서 이 편향은 연산 불균형을 초래할 뿐만 아니라 통신, 메모리 대역폭, I/O, 실행 큐에 대한 압력을 증폭시킨다. 따라서 핵심 문제는 단순히 토큰 이동을 줄이는 것이 아니라, 서로 다른 메모리 계층에 걸쳐 핫 전문가 복제본을 동적으로 배치하고 재사용하는 것이다. 본 논문은 3.5D MoE 추론에서 압력 인식 전문가 복제본 관리를 위한 핫 전문가 레지던시 매핑 프레임워크인 HCRMap을 제안한다. HCRMap은 전문가 핫니스, 가중치 로딩 비용, 마이그레이션 오버헤드, 런타임 리소스 압력을 기반으로 어떤 전문가를 승격, 유지, 강등 또는 축출할지를 동적으로 결정한다. 이후 라우팅된 토큰 그룹을 적합한 상주 복제본에 매핑함으로써 통신, 메모리, 큐 병목 현상을 통합적으로 완화한다. 실험 결과, HCRMap은 프리필 및 디코드 단계에서 Hydra 대비 종단 간 지연 시간을 각각 43.6%, 43.0% 단축하고, MoEntwine 대비 각각 34.5%, 33.1%, PIMoE 대비 각각 46.7%, 46.0% 단축하는 것으로 나타났다.
전방위 모달 증거 탐색 QA는 비디오, 오디오, 이미지, 웹 페이지, 연산 결과에 걸쳐 희소하게 분산된 증거를 바탕으로 에이전트가 질문에 답하도록 요구한다. 기존 에이전트 기반 멀티모달 시스템은 증거를 스크래치패드, 도구 궤적, 자유형 히스토리에 남겨두는 경우가 많아, 무엇이 그라운딩되었는지, 무엇이 누락되었는지, 언제 증거가 충분한지를 추적하기 어렵다. 우리는 전방위 모달 QA를 쿼리 범위의 증거 완결 프로세스로 전환하는 학습 없는 증거-상태 시스템 Omni-Decision을 제안한다. 각 쿼리에 대해 Omni-Decision은 확인된 증거, 미해결 충돌, 사실 및 연산 의존성, 미충족 증거 요구사항을 포함하는 구조화된 증거 상태를 유지한다. 공유 상태 뷰는 계획, 증거 수집, 검증, 수정, 최종화를 조건화한다. 미디어, 웹, 연산, 검증 모듈로부터의 이질적 관측값은 결정론적 상태 업데이트를 통해 정규화, 판단, 커밋된다. 이 설계는 목표 지향적 증거 수집을 가능하게 하고, 희소한 교차 모달 단서를 보존하며, 수정 및 종료에 대한 검사 가능한 제어를 제공한다. Omni-Decision은 OmniGAIA에서 45.6%, WorldSense에서 58.3%의 정확도를 달성하여 기준선 대비 각각 +27.3 및 +30.2 퍼센트포인트 향상되었다. 상태 없음 어블레이션 및 궤적 감사는 다단계 전방위 모달 증거 탐색에서 명시적 증거-상태 제어의 역할을 추가로 뒷받침한다.
대규모 언어 모델(LLM)과 비전-언어 모델(VLM)의 최근 발전으로 컴퓨터 사용을 위한 디지털 에이전트의 능력이 점점 향상되고 있다. 그러나 실세계 태스크는 흔히 장기 수평(long-horizon)으로 진행되며, 누적된 관찰, 중간 수정, 실패한 시도, 부분적으로 완료된 실행 등이 포함된 변화하는 컨텍스트를 수반한다. 기존 에이전트는 대개 원시 상호작용 기록을 그대로 처리하기 때문에 태스크 진행 상황을 해석하고 검증하며 복구하기 어려워, 결과적으로 신뢰할 수 있는 장기 수평 실행이 제한된다. 본 논문에서는 이 문제를 해결하기 위해 에이전트의 상태와 워크플로우 모두를 태스크 진행 상황의 통합된 인과 표현을 중심으로 명시적으로 구조화하는 것이 필요하다고 주장한다. 우리는 상태 중심 프레임워크인 StructAgent를 제시한다. StructAgent는 간결하고 검증 가능한 태스크 진행 상황을 유지하는 통합 상태와, 검증기(verifier) 기반 상태 전이를 통해 진행 상황을 규율하는 구조화된 워크플로우를 도입한다. 이 설계를 바탕으로 StructAgent는 명시적인 진행 상황 체크포인팅, 증거 기반 태스크 완료 판단, 목표 지향적 실패 복구, 도구 지원 실행을 추가로 가능하게 하며, 모든 진행 상황 업데이트가 검증에 근거하도록 보장한다. 광범위한 실험 결과, StructAgent는 다양한 LLM 및 VLM 백본에서 장기 수평 컴퓨터 사용 태스크의 성능을 일관되게 향상시키는 것으로 나타났다. OSWorld-Verified에서 Qwen3.5-9B의 성공률을 27.0%에서 46.9%로, Qwen3.5-27B를 31.6%에서 62.2%로 향상시켰으며, MiniMax-M3로는 78.9%라는 새로운 오픈소스 최고 성능(state of the art)을 달성하였다. 나아가 동일한 프레임워크가 데스크톱 환경을 넘어 Minecraft에도 일반화됨을 보여, 본 설계의 범용성을 입증하였다.
현대 소프트웨어 시스템의 장애 진단은 운영 경험에 의해 안내되는 반복적인 증거 수집과 가설 추론을 필요로 한다. 기존의 대규모 언어 모델(LLM) 기반 방법들은 에이전트(agent) 추론 또는 지식 증강을 통해 진단 성능을 향상시키지만, 반복적인 진단 과정에서 진화하는 진단 상태와 운영 경험을 조율하는 메커니즘이 부족한 경우가 많다. 우리는 현재 진단 상태를 위한 단기 메모리와 재사용 가능한 운영 경험을 위한 장기 메모리를 유지하는 이중 메모리 프레임워크인 OpsMem을 제안한다. OpsMem은 교차 메모리 공명(cross-memory resonance)을 사용하여 상태와 관련된 장기 메모리를 활성화하고, 단기 메모리와 활성화된 장기 메모리를 기반으로 멀티 에이전트 진단을 수행하며, 해결된 인시던트로부터 재사용 가능한 경험을 장기 메모리로 통합한다. 실제 Huawei 마이크로서비스 장애 진단 데이터셋(dataset)에 대한 실험에서 OpsMem은 대표적인 에이전트 추론 및 지식 증강 기준선(baseline)들을 능가하며, 가장 강력한 기준선 대비 Match와 Relevant 지표를 각각 최대 46.88%, 18.39%까지 향상시켰다.
엔터프라이즈 에이전트는 장기적이고 조건부적이며 안전에 중요한 표준 운영 절차(SOP)를 따라야 한다. 우리는 기계 판독 가능한 SOP 제약 조건을 실행 가능한 의사 코드(pseudo-code)로 컴파일하고, LLM이 의미론적 실행을 수행하는 동안 활성 프레임을 페이징하는 프로그램 가이드(PG) 스택 머신으로 실행한다. 6개 모델에 걸친 3-arm SOPBench 연구는 표현(representation)과 런타임을 분리하여 분석한다: 컴파일된 텍스트는 성능을 유의미하게 저하시키지 않으며, 공식 산문(official prose)이 저조한 영역에서 최대 16.0점의 성능 향상을 보인다. 런타임 가이던스는 능력 기반(capability-gated)으로 작동한다. 두 강력한 모델은 7개 도메인에서 독립적으로 긍정적인 PG 대비(58:19 및 75:31 불일치 쌍)를 보이는 반면, 약한 모델은 오히려 성능이 저하된다. 전체 프로그램 커서 어블레이션(활성 프레임 우선, 전체 프로그램 유지)은 강력한 모델의 거부(refusal) 성능 향상의 상당 부분을 회복하며, 선택적 가시성(selective visibility)은 더 작은 추가 개선을 제공한다. 쌍을 이루는 프로브 및 감사 측정은 이 격차를 재구성 능력이 아닌 자발적 상태 규율(spontaneous state discipline)에서 비롯된 것으로 추적한다. Bank 도메인에서 세 가지 주요 arm의 성능은 70.4에서 86.4, 92.8로 상승하며, 거부 정확도 100%를 달성한다. 실용적 지침: 먼저 컴파일하고, 모델 수준의 규율 검사를 통과한 후에만 활성 프레임 페이징을 활성화하라.
완전 증명 자동형식화(full-proof autoformalization)는 자연어로 작성된 방대한 수학적 증명과 공식적으로 검증된 추론을 연결하며, 검증 가능한 수학적 추론의 상한을 높이는 경로를 제공한다. 명제 수준의 형식화와 달리, 증명 자동형식화는 많은 증명 단계에 걸쳐 주장, 문맥, 의존성의 조율을 요구하는 장기적 과제임에도 불구하고, 최근에야 집중적인 연구 대상이 되었다. 현재의 접근법들은 비용이 많이 드는 모델 학습에 의존하거나, 추론 시간에 과도하고 비지도적인 수정을 적용한다. 이에 우리는 ToMap을 소개한다. ToMap은 증명 자동형식화를 분해기(Decomposer)-형식화기(Formalizer)-증명기(Prover) 파이프라인으로 구조화하고, 공식 검증과 증명 품질을 위한 의미론적 루브릭(semantic rubrics)에 의해 안내되는 효율적인 테스트 시간 최적화를 적용하는 다중 에이전트 프레임워크다. 테스트 시간 컴퓨팅을 모든 에이전트에 분산하는 대신, 병목 분석을 수행하여 분해기가 핵심 병목임을 식별한다: 원자적이고 자기완결적인 증명 단위의 품질이 하위 에이전트들이 각 단계를 성공적으로 형식화하고 증명할 수 있는지를 직접적으로 결정하기 때문이다. 따라서 ToMap은 형식화기와 증명기를 하위 실행기로 취급하고, 테스트 시간 컴퓨팅을 분해기 개선에 효율적으로 집중한다. 이 개선은 GEPA에서 영감을 받은 루프를 따르며, 후보 분해들에 대해 프롬프트를 발전시키고, 공식 검증 진행도와 의미론적 증명 루브릭을 함께 사용하여 다음 분해 업데이트를 안내하는 파레토 프론티어(Pareto frontier)를 정의한다. ProofFlowBench에서의 실험 결과, ToMap은 구문적 정확성과 의미론적 충실도를 모두 기준으로 평가했을 때 이전 최고 방법 대비 19.0% 향상되었으며, 더 낮은 테스트 시간 비용을 요구한다. 스케일링 분석에 따르면 대부분의 성능 향상은 분해 발전의 몇 번의 반복 내에서 나타나, 테스트 시간 예산 선택에 지침을 제공한다.
사고의 연쇄(Chain-of-Thought, CoT) 프롬프트는 대규모 언어 모델(LLM)의 추론 능력을 크게 향상시켰지만, 과도한 추론(over-reasoning), 즉 중복되거나 장황하거나 무관한 단계의 생성으로 인해 상당한 연산 비용이 발생하는 경우가 많다. 기존 추론 단계 평가기는 논리적 오류와 사실 오류를 효과적으로 탐지하지만, 본 분석은 중요한 사각지대를 드러낸다. 바로 토큰 사용량을 늘리면서도 솔루션에 기여하지 않는 유효하지만 비효율적인 추론 단계에 패널티를 부여하지 못한다는 점이다. 이 한계를 체계적으로 진단하기 위해, 순환 추론 및 과도한 분해를 포함한 다섯 가지 유형의 비효율성을 주입한 진단 벤치마크 RIV-GSM8K를 제안한다. 진단 실험 결과, 최신 평가기들이 이러한 비효율성을 필요한 추론과 구별하는 데 어려움을 겪는 것으로 나타났다. 이 격차를 해소하기 위해, 저효용 단계를 식별하는 정보 이론 기반의 학습 불필요 지표인 CAID(Context-Aware Information Density)를 제안한다. 해당 지표의 실용적 유효성을 검증하기 위해 사후 압축 전략인 PACE에 CAID를 적용한다. 추가 통제 실험에서 PACE의 성능 향상이 단순 가지치기로 설명되지 않음을 확인하였다. 무작위 단계 제거 및 PRM 기반 압축 기준선과 비교했을 때, PACE는 훨씬 높은 압축률에서도 정확도를 유지한다. GSM8K, StrategyQA, ARC-Challenge에 대한 실험 결과, PACE는 정확도를 유지하면서 토큰 소비를 31~53% 줄였으며, 이는 CAID가 연역적 유효성을 손상시키지 않고 추론 체인에서 정보적 거품을 성공적으로 제거함을 확인한다.
오늘날 대규모 언어 모델(LLM) 에이전트는 곤란한 딜레마에 처해 있다. 정적 안전 지침으로 제한하면 명백한 범위를 거의 벗어나지 못하고, 도구와 다중 에이전트 토론에서 자유를 부여하면 안전 위반이 빠르게 뒤따른다. 단일 모델이 창의성과 신중함을 동시에 처리하도록 강요하는 대신, 우리는 특화된 역할별로 관심사를 분리한다. Disrupter는 비관습적인 제안을 생성하고, Validator는 도구 게이트웨이에서 엄격한 런타임 검사를 수행하며, Broker는 멀지만 관련성 있는 유추를 끌어온다. 실패는 폐기되지 않고, MCTS를 통해 Scars라 부르는 소형의 서명된 제약 패치로 컴파일된다. 이 패치는 로컬에 캐시되어 미래 코호트에 상속되며, 반복된 실패를 재사용 가능한 저비용 런타임 제약으로 전환한다. 공간-의미 샌드박스(N=20회 실행, p<0.01)에서, 우리의 코호트는 토론이 실패하는 원격 목표에 도달하고, Validator는 실행된 모든 위반을 방지하며, Scars는 중복된 검증기 검사를 피함으로써 토큰 소비를 15.1% 줄인다. 또한 신용 기반 통신 할당 점수(CAS)는 아웃바운드 대역폭을 제한하여, 자원 제약 하에서 전체 토큰 비용을 55.9% 절감한다.
대규모 언어 모델(LLM)이 계획 과제에서 고르지 않은 성능을 보일 때, 이러한 격차는 흔히 과제 난이도에 귀인된다. 우리는 이 설명이 불완전하다고 주장한다. 과제 수준의 변동성은 단일 능력 스펙트럼의 차이가 아닌, 잠재적 계획 역량의 차이를 반영할 수 있기 때문이다. 우리는 ACPBench-Hard에서 이 문제를 연구하기 위해 다양한 테스트 시간 추론 예산 조건 하에 여러 LLM 패밀리를 평가하고, 다차원 문항반응이론(item response theory) 모델을 적용하여 LLM 계획 능력의 기저에 있는 잠재적 역량 구조를 분석하였다. 분석 결과, 계획 성능을 결정하는 두 가지 주요 차원이 드러났다: 국소적 행동 적용 가능성과 즉각적 상태 전이를 평가하는 능력인 조작적 추론(operational reasoning)과, 목표 도달 가능성 및 랜드마크 구조에 대해 추론하는 능력인 구조적 열거(structural enumeration)이다. 조작적 추론은 모델 스케일링과 더 긴 추론 경로에 따라 개선되는 반면, 구조적 열거는 이에 비교적 민감하지 않다. 우리의 연구 결과는 LLM 계획 능력의 역량 수준 평가를 촉구하며, 모델이 전반적으로 개선되는지 여부에서 어떤 계획 역량이, 어떤 조건에서, 왜 개선되는지로 평가의 초점을 전환할 것을 제안한다.
컴퓨터 사용 에이전트(CUA)는 시각적 인식과 GUI 실행을 통해 복잡한 디지털 워크플로우를 자동화하는 강력한 인터페이스로 부상하고 있다. 검증 가능한 보상을 활용한 온라인 강화학습(RLVR)은 에이전트의 능력을 확장하는 핵심 방향으로 떠올랐다. 그러나 이 패러다임은 검증 가능한 데이터의 부족과 온라인 강화학습의 비효율성이라는 병목에 직면해 있다. 이러한 장벽을 극복하기 위해 우리는 ScaleCUA를 제안한다. ScaleCUA는 검증 가능한 태스크 합성과 효율적인 학습을 통해 CUA의 온라인 강화학습을 확장하는 통합 프레임워크다. 데이터 측면에서는 반복적인 도커(docker) 상호작용과 멀티 에이전트 피드백 루프를 통해 검증 가능한 강화학습 태스크를 생성하는 엔드-투-엔드 프레임워크인 VeriGen을 설계했다. 공유 도커 상호작용 프로브를 통해 100개 이상의 동시 에이전트 워커로 확장한 이 파이프라인은 24K개 이상의 검증 가능한 태스크와 약 3K개의 고품질 강화학습 태스크를 생성한다. 샘플 효율을 극대화하기 위해 태스크별 역량을 추적하고 현재 학습 프론티어에 롤아웃을 할당하는 Frontier Sampling을 제안한다. 학습 측면에서는 최근 시각적 컨텍스트에 슬라이딩 윈도우를 적용하는 Visual Context Segmentation을 추가로 설계하여 롤아웃과 학습 엔진의 부하를 균형 있게 조절하고, 단계별 분해 방식 대비 2.83배의 학습 속도 향상을 달성한다. 이를 통해 ScaleCUA는 OSWorld에서 68.7%, ScienceBoard에서 54.0%를 달성하여 오픈소스 컴퓨터 사용 에이전트 중 새로운 최고 성능을 확립한다. 코드, 모델, 데이터셋은 https://github.com/THUDM/SCALE-CUA 에서 공개된다.
대규모 언어 모델(LLM)과 비전-언어 모델이 이미지와 텍스트를 공동으로 해석하고 추론하는 능력이 점점 향상되면서 의료 에이전트가 재편되고 있으며, 태스크별 예측기에서 임상 환경에서 인식하고 추론하고 계획하고 기억하며 행동하는 자율 시스템으로 나아가고 있다. 본 연구는 기존 문헌의 능력 우선 관점에서 벗어나 임상 배포를 출발점으로 삼으며, 의료 에이전트가 실제 환경에서 신뢰받기 위해 어떤 태스크, 오염 방지(contamination-resistant) 벤치마크, 상호작용 학습 환경이 필요한지 묻는다. 의료 에이전트는 부분 관측 가능성(partial observability) 하의 순차적 의사결정 시스템으로 형식화되며, 보조(assisted), 협력(cooperative), 완전 자율(fully autonomous) 운영을 아우르는 3단계 자율성 분류 체계와 함께 제시된다. 이 분야는 프레임워크 스케일링, 능력 스케일링, 환경 스케일링으로 구성된 통합 스케일링 척추(scaling spine)를 따라 정리된다. 이 프레임워크 내에서, 도구·데이터·임상 짐(clinical gym)의 통합인 임상 환경 스케일링은 PACS, EHR, FHIR 생태계에서 운영되는 에이전트에게 가장 실행 가능하면서도 충분히 탐구되지 않은 방향으로 파악된다. 임상 자기 진화(clinical self-evolution), 즉 에이전트가 매개변수 스케일링만이 아닌 환경과의 상호작용을 통해 향상되는 것은, 자기 개선 에이전트, 에이전트 짐(agent gym), 테스트 타임 컴퓨트 스케일링으로부터 통찰을 얻어 핵심 연구 프론티어로 자리매김된다. 방사선학, 병리학, 안과학, 병원 워크플로우에 걸친 응용이 환각(hallucination), 연쇄 실패(cascading failures), 공정성(fairness) 등의 배포 과제와 함께 검토된다. 300개 이상의 참고문헌을 집약하고, 특히 2025년부터 2026년까지의 발전에 중점을 두어, 본 연구는 실제 임상 실무를 위한 신뢰할 수 있는 자기 개선 의료 영상 시스템을 향한 로드맵을 제시한다.
심층 탐색 에이전트를 위한 강화학습은 주로 궤적 수준의 점수화, 즉 결과 정확성, 인용 인식 보상, 증거 커버리지에 초점을 맞춰 왔다. 그러나 지지 문서를 노출시키는 행동에는 어떠한 표적 크레딧도 부여되지 않으며, 우리는 이 간극을 보상-크레딧 불일치(reward-credit mismatch)라고 부른다. 우리는 STAMP를 제안하는데, 여기서 참조 기반 검증기는 각 인용 문서가 학습 시 증거 그래프의 엔티티 또는 관계를 지지하는지 판단하고, 최초 노출 귀인(first-exposure attribution)은 지지된 각 인용을 처음 발견한 행동으로 역추적한다. 이 단계 크레딧은 부호 보존 어드밴티지 변조(sign-preserving advantage modulation)를 통해 주입되며, 이는 궤적 수준의 보상이나 각 그룹 내 궤적의 상대적 순위를 변경하지 않고 단계 전반에 걸쳐 어드밴티지를 재분배한다. BrowseComp, BrowseComp-ZH, xbench-DS에서 STAMP는 동일한 SFT 초기화, 학습 데이터, 검색 도구 조건 하에 GRPO 기준선을 +2.0/+5.5/+3.0점 향상시키며, 결과 전용 및 인용 루브릭 기본 보상 모두와 결합된다. 구성 요소 절제 실험을 통해 출처 기반 크레딧 신호와 부호 보존 어드밴티지 변조가 각각 성능 향상에 기여함을 확인한다.
LLM 에이전트 벤치마크는 작업 완료율, 신뢰성, 추론 비용을 측정하지만, 에이전트 실행 후 디스크에 남는 영속 데이터—로그, 컨텍스트 스냅샷, 체크포인트, 디버그 추적 등—는 측정하지 않는다. 우리는 실행 후 에이전트 저장소 발자국(storage footprint)을 측정하는 크로스-프레임워크 벤치마크인 AgentFootprint를 소개한다. 이 벤치마크의 직렬화 인식(serialization-aware) 지표 모음은 총 보존량, 채널 구성, 중복, 증가율, 압축 가능성, 대화 기록 재구성 가능성을 측정한다. 또한 하나의 측정 함정을 해결한다: 데이터베이스 페이징과 JSON 이스케이핑이 반복 콘텐츠를 감추기 때문에 단순 바이트 수준 측정은 중복을 한 자릿수 수준으로 과소평가한다. 고정 추적(fixed-trace) 대조군은 에이전트가 생성한 논리적 볼륨을 영속성 층(persistence layer) 증폭과 분리한다: 동일한 실행 경로를 7개의 영속화 프레임워크에 재현하면 6.7배의 편차가 발생한다. 동일한 모델, 도구, 작업 조건에서 100% 정확도를 보이는 구성들 간에도 보존 바이트 수가 최대 15.7배 차이나며, 다만 각 기본 설정은 서로 다른 복구 및 감사 기능을 지원한다. 반복 관측 스트레스 작업에서 전체 기록을 보존하는 세 가지 구성은 초선형적으로 증가한다. 인스턴스 정규화된 SWE-bench Verified 제출물 108건의 내보낸 실행 경로는 인스턴스당 세 자릿수 크기에 걸쳐 분포하며, 해결률과의 유의미한 상관관계는 검출되지 않는다. 내용 주소 지정(content-addressed) 저장소는 모든 재구성 가능성 점수를 보존하면서 보존량을 4.8배~32.7배 감소시킨다. 이러한 결과는 영속 저장소를 정확도 및 재구성 가능성과 함께 보고해야 할 자원 지표로 확립한다.