멀티모달 대규모 언어 모델(MLLM)은 이미지를 표현하기 위해 수백 개의 시각적 토큰에 의존하기 때문에 상당한 계산 오버헤드를 발생시킵니다. 토큰 가지치기(token pruning)는 MLLM의 추론(inference) 비용을 줄이기 위한 유망한 접근법으로 부상했으나, 기존 방법들은 일반적으로 희소(sparse) 또는 연속적(continuous) 위치 임베딩(position embedding)을 사용하여 유지된 토큰에 위치 임베딩을 재할당하며, 각각 고유한 한계를 야기합니다. 희소 위치 임베딩은 시각적 토큰에 할당되는 어텐션(attention) 값을 감소시키는 경향이 있어 MLLM의 인식 능력을 저하시키는 반면, 연속적 위치 임베딩은 시각적 토큰의 원래 공간적 대응 관계를 왜곡하여 그라운딩(grounding) 능력을 약화시킵니다. 이러한 문제를 완화하기 위해 본 논문에서는 언어 디코더에 대한 층별 분석을 수행하고, 중간 층이 토큰 가지치기 상황에서 MLLM의 그라운딩 능력을 유지하는 데 중요한 역할을 한다는 점을 관찰했습니다. 이 관찰을 바탕으로, 그라운딩에 민감한 층에서는 희소 위치 임베딩으로 전환하고 그 외의 층에서는 연속적 위치 임베딩을 유지하는 층 인식(layer-aware) 위치 임베딩 전략을 제안합니다. 대표적인 가지치기 방법들과 다양한 벤치마크에 걸친 광범위한 실험을 통해, 본 접근법이 표준 희소 및 연속적 위치 임베딩과 비교하여 가지치기된 MLLM의 포괄적인 멀티모달 성능을 향상함을 입증합니다.
종단간(End-to-End) 문서 파서는 복잡한 페이지를 위한 선택적 추론(reasoning) 모드를 점점 더 많이 제공하고 있다. 하나의 고정된(frozen) 4B 체크포인트를 사용하여 엔트로피 계층화된 180페이지 규모의 발견용 샘플(discovery sample)에서, 복잡성은 잘못된 결정 변수임이 드러났다. 추론은 1.54배의 토큰을 사용하면서도 평균 품질(Overall)을 2.21만큼 낮추며, 사전등록된(preregistered) 입력 전용 모델은 그 부호 있는(signed) 이득을 예측하지 못한다(홀드아웃 AUROC 0.47로, 우연 수준과 구분되지 않음). 이러한 이득은 이미 통상적인 처리 과정(ordinary pass)에서 붕괴(collapse)가 발생한 페이지에 집중되며, 이들 페이지는 복잡해 보이지 않는다. 공유된 붕괴(shared collapse)는 정상 페이지보다 레이아웃 엔트로피가 더 낮음에도 불구하고, 예산을 두 배로 늘려도 해결되지 않는 퇴화된 반복(degenerate repetition)으로 19배의 토큰을 소비한다. 모드를 전환해도 이러한 붕괴는 거의 복구되지 않는다: 추론 모드에서도 83%가 재발한다. 우리는 대신 통상적인 처리 과정의 트레이스(trace)로부터 붕괴를 탐지하고, 프로젝션(projection)을 통해 페이지를 분해한 뒤 각 영역을 다시 파싱한다. 이 복구(repair) 방식은 1.13배의 토큰으로 평균 품질(Overall)을 1.40만큼 향상시키며(95% CI [0.68, 2.16]), 세 개의 체크포인트에서 재현되고, 모든 파라미터를 고정한 상태에서 나머지 1,175개의 벤치마크 페이지에서 2.41만큼의 향상(CI [1.64, 3.46])을 달성한다.
인간 중심 환경에서 동작하는 로봇은 일반적으로 명시적 지시를 수행하도록 설계되며, 대부분의 로봇 학습 데이터셋 역시 관측을 작업 지시나 저수준 행동과 짝지어 구성한다. 최근 연구들이 선제적(proactive) 체화 보조(embodied assistance)를 탐구하기 시작했지만, 기존 자원들은 서로 다른 설정과 행동 수준을 대상으로 하여 실세계의 인간 중심 멀티모달 의사결정은 여전히 충분히 탐구되지 않은 상태이다. 우리는 이 문제를 \textit{선제적 로봇 행동 추론}(\textit{ProRobo})으로 정식화하는데, 이는 로봇이 명시적인 행동 지시 없이 인간 및 환경의 멀티모달 단서에 기반하여 어떤 행동을 취할지 결정해야 하는 상위 인지적 의사결정 문제이다. ProRobo를 지원하기 위해, 우리는 다섯 가지 일반적인 장면 속 12가지 일상생활 시나리오에 걸쳐 시각적 관측, 오디오 신호, 텍스트 입력으로 구성된 1만 개(10K) 샘플을 포함하는 실세계 멀티모달 데이터셋 \textit{ProAction}을 소개한다. 인지적으로 근거 있는 상위 수준 행동 지도(supervision)를 구성하기 위해, 우리는 평가(appraisal) 기반 후보 생성과 정서적 마음 이론(Affective Theory-of-Mind) 기반 인간 정제를 결합한 2단계 인간 참여(human-in-the-loop) 파이프라인을 개발하였으며, 인간의 상태, 긴급성, 실행 가능성, 잠재적 위험에 대한 맥락적 판단을 행동 주석에 명시적으로 반영한다. 이러한 지도를 바탕으로, 우리는 대표적인 멀티모달 대규모 언어 모델(Multimodal Large Language Model, MLLM)들을 벤치마크하고, 멀티모달 관측에서 인지적으로 근거 있는 상위 수준 행동으로의 매핑을 암묵적으로 학습하는 참조 모델인 \textit{MMC2Act}를 소개한다. 모달리티 설정, 피험자 비중첩(subject-disjoint) 일반화, 데이터셋 간 전이, 그리고 인간 평가에 걸친 실험 결과, 범용 MLLM은 멀티모달 단서로부터 상위 수준 행동을 선제적으로 추론하는 데 어려움을 겪는 반면, \textit{ProAction}으로 학습할 경우 성능이 크게 향상됨을 보여준다.
텍스트 기반 3D 건물 생성은 엄청난 응용 잠재력을 지니고 있지만, 기존 생성 모델들은 일반적으로 분리할 수 없는 단일 메시(mesh)나 상호작용이 불가능한 렌더링된 표현을 출력합니다. 절차적 모델링(procedural modeling)은 계층 구조를 갖춘 편집 가능한 건물을 생성할 수 있으나 규칙 작성이 번거로우며, 대규모 언어 모델(LLM)의 도움을 받더라도 기하학적 제약 조건 하에서 절차적 규칙을 효과적으로 풀어내는 것은 여전히 어렵습니다. 본 논문에서는 구조화된 건물 생성을 위한 새로운 하이브리드 프레임워크인 ProxyBuild를 제안합니다. 우리는 건물 구성요소를 기하학적 셸(geometric shell)에 단단히 고정하는 새로운 중간 표현인 메시 앵커 기반 절차적 프록시(Mesh-Anchored Procedural Proxy, MAPP)를 도입하여, 생성 작업을 프록시 예측과 프록시-에셋 인스턴스화의 두 단계로 분리합니다. 먼저, MAPP 주석이 포함된 건물 데이터셋을 구축하여 우리가 설계한 면-엣지 이분 그래프(face-edge bigraph) 인코더를 학습시킵니다. 이 인코더는 이종 메시 그래프 상에서 위상 요소들의 특징 상호작용을 명시적으로 모델링함으로써 면과 엣지의 시맨틱 역할을 정확하게 추론합니다. 이후 LLM이 파싱한 텍스트 스타일과 속성 매개변수를 조건으로 하여, 엄격한 제약 조건을 갖춘 공간 배치 로직을 통합함으로써 높은 정밀도의 에셋 검색 및 조립을 완수합니다. 광범위한 실험을 통해 ProxyBuild는 과도한 평활화(over-smoothing), 구성요소 간 충돌, 구조적 손상과 같은 건물 생성의 일반적인 문제들을 크게 완화할 뿐만 아니라, 다양한 출처의 시맨틱 없는 셸을 정확하게 파싱함을 보여줍니다. 다양한 지표에서 기존 베이스라인들을 능가하는 우리의 방법은 텍스트로부터 구조가 명확하고 세부 묘사가 풍부하며 사후 편집이 가능한 3D 건물을 견고하게 생성할 수 있어, 가상현실(VR) 및 디지털 트윈과 같은 다운스트림 애플리케이션을 위한 신뢰성 있고 상호작용 가능한 콘텐츠 기반을 제공합니다.
생성 모델은 이미지 품질 평가(IQA)를 전통적인 충실도 요인을 넘어 물리적 타당성(physical plausibility)과 텍스트 렌더링 정확성(text-rendering correctness) 같은 새로운 차원으로 빠르게 확장하고 있다. 그러나 기존 IQA 모델은 고정된 정의와 많은 지도(supervision)에 의존하여 개방형(open-ended) 지각 차원으로 확장하기 어렵다. 우리는 홀리스틱 바이어스(holistic bias)를 중요한 한계로 확인한다. 보지 못한 차원을 채점할 때 모델이 일반적인 품질 사전분포(prior)를 재사용하여 채점 오류와 순위 역전(rank inversion)이 발생한다. 이를 해결하기 위해 개방형 IQA를 명시적 프로토콜 구성으로 공식화하는 학습 없는(training-free) 다중 에이전트 프레임워크인 PACE(Perceptual Agentic Collaborative Evolution)를 제안한다. 목표 차원이 주어지면 PACE는 협력적 에이전트가 검증 가능한 시각적 질의응답(VQA) 프로브로 구성된 평가 프로토콜을 구축하고, 홀리스틱 인상이 아닌 구체적 시각 증거에 평가를 그라운딩(grounding)한다. 결과 프로토콜은 차원당 사람 주석 이미지 네 장만으로 보정(calibrate)되며, 이중 트랙 채점 메커니즘이 모델 지각을 사람 채점 척도와 정렬(alignment)한다. 전통적 IQA, 구조적 충실도, 맥락 인지 미학(context-aware aesthetics), 새로 정의된 개방형 차원 전반에서 PACE는 MLLM 백본을 일관되게 개선하여 다양한 IQA 설정에서 경쟁력 있는 성능을 달성하며, Holistic Override Rate(HOR)를 44.4%에서 8.6%로 낮춘다.
시각적 표현은 초등 저학년 학습자가 수학 문장제 문제(Math Word Problems, MWP)를 이해하는 데 도움을 줄 수 있지만, 교실에서 활용 가능한 수준의 시각 자료를 생성하는 것은 여전히 어렵습니다. 기존의 기호 기반(symbolic) 시스템은 제어 가능하지만 적용 범위가 제한적이며, 엔드투엔드(end-to-end) 텍스트-투-이미지 시스템은 정확한 수학적 제약 조건을 만족하지 못하는 경우가 많습니다. 본 논문에서는 더 넓은 문제 적용 범위와 확장 가능한 에셋 생성을 바탕으로 초등 저학년 MWP 생성을 지원하는 기호 기반 시각 자료 생성 프레임워크를 제시합니다. 이 프레임워크는 대규모 언어 모델(LLM) 기반 라우팅 층, 세 가지 워크시트 지향형 생성 모듈, 그리고 개방형 환경의 SVG 에셋 획득을 위한 두 가지 폴백(fallback) 메커니즘을 포함합니다. Math2Visual-X를 Stable Diffusion XL, Nano Banana, GPT Image와 비교한 인간 평가(human evaluation)에서 제안된 방법이 전반적으로 가장 우수한 성능을 달성한 것으로 나타났습니다. 이러한 결과는 본 프레임워크가 자동 MWP 시각 자료 생성을 위한 확장 가능하고 교육학적으로 기반을 둔 접근법을 제공함을 시사합니다.
비전-언어 주행 모델은 지각, 예측, 계획을 연결하기 위해 추론 감독(reasoning supervision)을 점점 더 많이 사용하지만, 기존 주행 근거(rationale)는 흔히 자유 형식(free-form)이며 프론티어(frontier) 모델로 생성하기에는 비용이 많이 든다. 우리는 계획 지향적(planning-oriented)이고 검증 가능한 반사실적(counterfactual) 감독을 구성하는 프레임워크인 VeriDrive를 제안한다. VeriDrive는 주행 추론을 구조화된 Perception-Evaluation-Revision(지각-평가-수정) 체인으로 변환하여, 핵심 객체를 미래 운동에 그라운딩(grounding)하고, 규칙으로 검증 가능한(rule-checkable) 근거로 대안적인 ego 궤적을 평가하며, 위험한 의도를 전문가(expert) 행동 방향으로 수정하고, 최종 계획 목표를 산출한다. 데이터 구축을 확장하기 위해 Ve리Drive는 로컬 생성과 검증기(validator) 안내 선택적 수정을 결합하여, 유효하지 않거나 어려운 샘플에 대해서만 에스컬레이션(escalation)을 수행한다. 우리는 nuScenes 기반으로 VeriDrive 데이터셋을 구축하고 Omni-Q 프로토콜 하에서 학습을 진행한다. 통제된 개방 루프(open-loop) 실험 결과, VeriDrive는 OmniDrive 대비 L2, Collision, Intersection 지표를 개선하는 동시에 기록된 토큰 사용량, 생성 시간, 실제 유료 LLM/VLM 비용을 절감했다. 이러한 결과는 감사 가능한(auditable) 중간 필드와 구조화된 수정 목표가 현실적인 어노테이션 예산 하에서 비전-언어 계획 감독을 개선할 수 있음을 보여준다. 코드, 프롬프트, 검증기 스크립트는 곧 공개될 예정이며 리뷰 절차 이후 배포될 것이다.
자기회귀 멀티모달 대규모 언어 모델(MLLM) 기반 3D 생성에서 집합 기반 표현의 순서 모호성과 복셀 기반 표현의 토큰 중복성 간 트레이드오프를 해소하기 위해, SuperVoxelGPT는 현저성(saliency) 유도 중심 보로노이 테셀레이션(CVT)으로 복잡한 영역에 세밀한 셀을, 평탄한 영역에 큰 셀을 할당하는 적응형 슈퍼복셀 토큰화 프레임워크를 제안한다. Trellis-500K 실험에서 균일 복셀 대비 토큰 시퀀스 길이를 12.8%로 줄이면서 최고 수준의 생성 품질과 평균 10배의 속도 향상을 달성했다.
대규모 언어 모델(LLM)은 다양한 언어 과제에서 뛰어난 능력을 보여주었으며, 이는 멀티모달 이해를 위한 비전-언어 모델(VLM)로의 확장을 이끌었다. 그러나 수십억 개의 매개변수를 가진 VLM은 상당한 메모리 및 연산 비용을 수반하여 자원이 제한된 환경에서의 배포를 어렵게 한다. 사후 학습 양자화(PTQ)는 재학습 없이 모델을 압축하고 추론을 가속화하지만, VLM에 대해서는 아직 충분히 연구되지 않았다. 우리는 PTQ에서 나타나는 두 가지 고유한 VLM 활성화 특성을 확인하였다: (1) 비전 토큰이 과도하고 종종 중복되는 시각적 과대표현(visual over-representation), (2) 잠재 특징 공간에서 텍스트 토큰과 비전 토큰을 분리하는 모달리티 간극(modality gap)이다. 기존 방법들은 이러한 특성을 대체로 간과하여 양자화 성능 저하를 초래한다. 이러한 불일치를 해결하기 위해, 우리는 캘리브레이션 과정에서 중요한(salient) 토큰을 우선시하고 중복된 비전 토큰을 억제하는 중요도 인식(importance-aware) PTQ 프레임워크인 SalQ-VLM을 제안한다. 우리는 토큰 수준의 중요도 분산을 포착하며 손실 변동, 활성화 오차, 출력 그래디언트 간의 관계에 이론적으로 근거한 그래디언트 기반 중요도 인자(gradient-driven importance factor)를 도출한다. SalQ-VLM은 단일 경량 블록 단위 그래디언트 캐싱(block-wise gradient-caching) 패스를 통해 이 인자를 얻고, 이를 층별(layer-wise) 재구성 목적함수에 통합한다. SalQ-VLM은 캘리브레이션만을 수정하기 때문에 추론 시 추가 연산이 발생하지 않으며 기존의 고성능 커널과도 호환된다. 다양한 벤치마크와 백본에 대한 광범위한 평가 결과, SalQ-VLM은 특히 초저비트(ultra-low-bit) 양자화 환경에서 강력한 PTQ 베이스라인들을 일관되게 능가함을 보여준다. 특히, INT2g128 양자화 환경에서 MME-RealWorld 정확도를 16.45% 향상시켰다.
버전 관리 시스템은 협업 소프트웨어 개발에 필수적이지만, git과 같은 도구는 많은 실무자에게 여전히 어렵다. 대규모 언어 모델(LLM)의 최근 발전은 개발자 의도를 해석하는 데 유망한 역량을 제공하지만, 저장소 관리 작업에서의 효과는 형식적 추론(formal reasoning)이 필요하기 때문에 제한된다. 본 연구는 LLM과 자동 계획(automated planning)을 결합해 개발자가 비자명한 git 작업을 수행하도록 돕는 AI 기반 어시스턴트 Git-Assistant를 제안한다. 이 어시스턴트는 저장소 컨텍스트를 분석하고, 자연어 요청을 실행 가능한 명령어 시퀀스로 변환하며, 정확성과 안전성을 보장하기 위해 계획 기법을 통합한다. 합성 및 무작위화된 git 환경을 사용한 체계적 평가 방법론을 제시하고, LLM 단독 방식과 계획 증강(planning-augmented) 방식의 성능을 여러 지표로 비교한다. 실험 결과, LLM에 형식적 추론을 통합하면 저장소 관리의 신뢰성이 향상되고 오류가 줄어듦을 보여 주며, 지능형 개발자 지원을 위한 하이브리드 AI 접근의 잠재력을 부각한다.
대규모 언어 모델(LLM) 정렬은 일반적으로 지도 미세조정 또는 강화학습을 통해 이루어지며, 둘 다 레이블 또는 선호도 데이터를 필요로 하고 모델 가중치를 갱신한다. 그러나 목표적인 문화 적응 없이는, 배포된 LLM이 다양한 지역 가치를 반영하지 못하는 문화적으로 동질적인 행동을 보이는 경우가 많다. Hofstede의 가치 설문 모듈(VSM13)과 같은 문화 가치 프레임워크에 모델을 정렬하는 것은 별도의 과제를 제시한다. 정렬 신호는 전체 설문에 대한 응답을 생성한 뒤에만 계산되는 집계된 설문 수준 점수로만 제공되며, 토큰별 그래디언트를 제공하지 않고 구조상 선호도 데이터를 요구하지 않는다. 이로 인해 표준 그래디언트 기반 정렬 방법은 이 과제에 부적합하다. 우리는 배포에 친화적인 접근법을 제안한다. 문화적 행동을 짧고 조정 가능한 소프트 프롬프트에 인코딩하고, 미분 진화(Differential Evolution, DE)로 최적화하며, 모델 가중치는 고정한 채 선호도 데이터를 요구하지 않는다. 추론 시 시스템은 적절한 문화별 프롬프트를 삽입하여 서로 다른 문화에 맞게 모델 응답을 적응시킨다. 4개국과 4개의 인스트럭션 튜닝 모델에 걸친 실험은 DE로 최적화된 프롬프트가 일반적으로 VSM13 참조 프로필과의 불일치를 줄이고, 최적화 중에 보지 못한 독립 프레임워크인 세계 가치 설문(World Values Survey, WVS)과의 순위 일치를 개선하며, 3개의 LLM 심사자에 걸친 다수결 투표를 사용한 맹검 쌍별 평가에서 선호된다는 것을 보여준다.
AlphaEvolve에서 보여주듯, 환경 피드백을 활용한 반복적 자기 진화를 통한 테스트 시점 스케일링(test-time scaling)은 놀라운 성능 향상을 보인다. 우리는 이러한 진화 프레임워크의 성공이 환경 피드백을 통한 자기 성찰(self-reflection)과 같은 메타 스킬(meta-skills)에 달려 있으며, 이는 효과적인 다중 라운드 정제를 가능하게 하지만 기존 사후 학습에서는 대체로 간과된다고 가정한다. 이 격차를 메우기 위해 데이터 합성 파이프라인, 진화 인식(evolution-aware) 강화학습, 그리고 추론 시점 진화 탐색을 통해 이러한 메타 스킬을 개발하도록 설계된 MetaEvolve 프레임워크를 제안한다. 구체적으로 MetaEvolve를 코딩에 그라운딩(grounding)하였으며, 여기서 프로그램 실행은 이진 정확성을 넘어 자연스럽고 연속적인 보상 신호를 제공한다. 이러한 신호를 바탕으로 각각 현재 프로그램, 적합도 점수(정확성과 효율성의 결합), 그리고 이전 시도 기록을 포함하는 진화 궤적을 학습 데이터로 합성하고, 테스트 케이스 실행에서 도출된 검증 가능한 보상으로 강화학습을 통해 모델을 학습한다. 대규모 코드 데이터로 학습함으로써, 풍부한 학습 신호가 부족한 개방형(open-ended) 문제에 광범위하게 전이할 수 있는 일반화 가능한 도메인 무관(domain-agnostic) 메타 스킬을 기대한다. 7개의 코딩 벤치마크에서 MetaEvolve는 분포 내(in-distribution) 과제에서 가장 강력한 기준선을 절대 10.01%p 초과하고, 분포 외(out-of-distribution) 과제에서는 24.12%p 초과한다. 학습 도메인을 완전히 벗어난 개방형 알고리즘 최적화 문제에서도 46.9%의 상대적 향상을 달성한다. 이러한 결과는 자기 진화 메타 스킬을 명시적으로 함양하는 것이 더 유능하고 자율적으로 자기 진화하는 AI를 향한 원칙적인 경로를 제공함을 보여준다.
의미 기반 코드 검색과 클론 탐지는 소프트웨어 개발, 유지보수, 재사용에 필수적이다. 본 논문은 대규모 코드-대-코드 검색 엔진에서 1단계 후보 회수(first-stage recall)에 사용되는 최신 심층 학습 모델의 효과, 효율, 확장성을 평가한다. 여러 프로그래밍 언어와 데이터셋에 걸친 벤치마킹을 통해, 테라바이트 규모의 소스 코드 컬렉션에서 이러한 모델의 정밀도와 확장성에 중대한 한계가 드러난다. 성능이 낮은 모델의 정밀도를 크게 높이는 LLM 기반 코드 정규화 및 쿼리 재작성 방안을 제시한다. 우리 결과는 자원 제약 환경에서의 배포 지속 가능성과, 데이터셋 간 현재 코드 특화 LLM에 가정되어 온 견고성에 의문을 제기한다. 확장 가능하고 효율적인 코드 검색 시스템 구축을 위한 실행 가능한 통찰로 마무리한다.
대부분의 위기 언어는 기술 문법서가 존재함에도 불구하고 기계 번역에 필요한 병렬 데이터가 부족하다. 본 연구는 대규모 언어 모델(LLM)을 사용하여 문법서에서 문법 규칙, 예문, 어휘집을 추출하고 미세조정용 합성 병렬 코퍼스를 생성하는 파이프라인을 제안한다. 이는 기존 연구처럼 추론 시점에 문법 내용을 프롬프트에 제공하는 방식과는 다르다. 유형론적으로 다양한 세 저자원 언어—Kalamang(파푸아어), Tuatschin(로망스어), Mandan(수어)—에서 검증한 결과, 합성 데이터 미세조정은 Kalamang에서 75%, Tuatschin에서 59%의 설정에서 시드 데이터 기준선 대비 개선을 보였으며, 최적의 경우 ChrF++는 각각 +8.8, +5.3, +3.3만큼 향상되었다. 목표 품사, 검색 세분성, 샘플 규모를 달리한 96개 설정에 대한 체계적인 요인 실험을 통해, 어떤 요인 조합이 성능 향상을 이끌고 어디에서 효과가 한계에 이르는지 밝혔다. 이 결과는 정적 언어학 문헌을 기계 번역 미세조정에 재활용할 수 있음을 보여 주며, 극도로 자원이 부족한 언어를 위한 번역 도구 구축이라는 실용적 경로를 제시한다.
우리는 체계적인 실증적 증거를 통해, 대규모 언어 모델(LLM)의 정치적 이념이 고정된 점이 아니라 실제 정치 공간에서의 조건부 분포 $\mathbb{P}(\text{position}\mid\text{context})$임을 주장한다. VAA-CHES 투영 모델에 기반한 통합 측정 프레임워크를 사용하여 현재 LLM 9개를 평가하였으며, 이 프레임워크는 6개의 맥락 축에 걸쳐 검증된 세 가지 차원(lrgen, lrecon, galtan)으로 응답을 매핑한다. 우리의 연구 결과는 맥락에 대한 높은 민감성을 드러낸다: 설득적 프레이밍과 저빈도 언어는 각각 최대 0.57 및 0.52단위의 좌표 변위를 유발하며, 사고의 연쇄(chain-of-thought) 추론은 패러프레이즈 불안정성을 감쇠시키기보다 오히려 증폭시키는 경우가 많다. 이러한 국소적 가소성에도 불구하고, 모델 집단은 전체적으로 매우 좁은 오버턴 범위를 차지하며, 이는 주요 유럽 정당들의 분포 범위 중 약 3분의 1에 해당한다. 다특성 다방법(MTMM) 분석을 기반으로, 단일 점으로는 LLM의 정치적 행동을 요약할 수 없으며 형태로 특성화되어야 함을 결론짓는다. 코드와 데이터는 https://github.com/sakhadib/LLM-Ideoplasticity에서 공개적으로 이용 가능하다.
긴 문맥 작업을 위한 모델 사후학습의 기존 접근 방식들은 상호 보완적인 한계에 직면해 있습니다: (i) 지도 미세조정(SFT)은 안정적인 지도를 제공하지만 노출 바이어스 문제가 있으며, (ii) Group Relative Policy Optimization(GRPO)와 같은 강화학습 방법은 모델 생성 궤적으로 학습하지만 장기간 신용 할당과 희소 보상에 어려움을 겪고, (iii) 온-정책 증류(OPD)는 밀집된 토큰 수준의 지도를 제공하지만 작업 보상을 직접 최적화하지 않습니다. 우리는 긴 문맥 정렬을 위한 이러한 상호 보완적인 전략들을 연구하고, GRPO와 OPD 스타일의 교사 지도를 결합한 레시피를 도출했습니다: 학생 모델은 결과 수준 보상을 사용하여 자신의 롤아웃으로부터 학습하는 반면, 더 강력한 교사 모델은 표준 참조 정책 대신 밀집된 토큰 수준의 정규화를 제공합니다. 이는 프로세스 수준의 지도를 얻기 어려운 경우에 특히 유용합니다. 이 연구를 지원하기 위해, 우리는 멀티-홉 추론, 문맥 기반 그라운딩, 장문 생성을 포괄하는 합성 다국어 데이터셋인 LongBlocks를 소개합니다. 제어된 소거 연구를 통해 콜드 스타트 초기화, 교사 앵커링, 데이터 혼합의 역할을 규명하였으며, 그 결과 우리의 레시피는 짧은 문맥 능력을 보존하면서 GRPO나 OPD보다 더 안정적이고 효과적인 긴 문맥 추론 경로를 제공함을 보여주었습니다.
AI 안전성(safety)의 핵심 질문은 언어 모델이 자신의 모든 추론을 출력 토큰에 표현하는지 여부이다. 우리는 최신(frontier) 모델이 의미적으로 무관한 필러(filler) 토큰을 활용해 합성 추론 과제에서 성능을 개선함으로써 보이지 않는 추론을 드러내는 구체적인 실패 모드를 입증한다. 3개 과제에 걸쳐 13개의 최신 언어 모델을 평가한 결과, 많은 모델이 필러 토큰으로부터 상당한 이점을 얻으며 정확도가 최대 13퍼센트포인트까지 향상되었다. 이 이점은 사용되는 토큰에 따라 달라지며 모델마다 다르다. 또한 필러 토큰이 Claude Opus 4.5가 주 과제의 정확도를 희생하지 않고 숨겨진 모듈러 산술 제약을 만족하도록 할 수 있음을 보여, 보이지 않는 추론이 사고의 연쇄(CoT) 모니터링에 완전히 보이지 않는 목적을 충족할 수 있음을 입증한다. 강화학습은 Qwen3-235B에 필러 토큰 내용에 대한 강한 선호를 부여하지만, RL이나 지도 미세조정 모두 테스트 시점에 지속되는 필러 토큰 이점을 만들어내지는 않는다. 우리의 결과는 최신 모델이 이미 출력 토큰에 해석 가능한 흔적 없이 중대한 연산을 수행하고 있음을 시사한다.
컴퓨터 사용 에이전트(computer-use agent)는 부분 관측 가능한 멀티모달 데스크톱 환경과의 반복적인 상호작용을 통해 장기 태스크를 해결해야 한다. 모방 학습(imitation learning)과 오프라인 궤적 정제(offline trajectory refinement)는 강력한 사전 정보를 제공하지만, 정적인 트레이스는 실제 컴퓨터 사용의 인과적 피드백 루프를 포괄할 수 없다: 각 행동은 화면 상태, 미래 행동 공간, 그리고 복구 옵션을 변화시킨다. EvoCUA-1.5는 자기 진화 컴퓨터 사용 에이전트를 오프라인 경험 학습에서 온라인 강화학습으로 확장하며, 정책이 실행 가능한 샌드박스 환경과 상호작용하고 검증 가능한 태스크 결과로부터 개선된다. 이 설정에서의 온라인 강화학습은 단순히 단일 턴 언어-강화학습 레시피를 재사용하는 것 이상을 요구한다. 멀티턴 상호작용은 컨텍스트 관리 관측, 희소 최종 보상, 가변 길이 궤적, 그리고 느린 환경 피드백을 수반한다. EvoCUA-1.5는 이러한 과제들을 다음과 같은 방법으로 해결한다: 스텝 수준 정책 최적화(STEPO, Step-Level Policy Optimization)는 스텝 수준 샘플로 분해한 후에도 궤적 수준의 이점 균형을 유지하며; 검증 가능한 합성 태스크에 대한 정책 인식 필터링(policy-aware filtering)과 통과율 보정(pass-rate calibration)을 수행하고; 동적 삼중 적응 커리큘럼(DTAC, Dynamic Tri-Adaptive Curriculum)은 학습 가능한 태스크, 어려운 긍정 재생, 제어된 불가능 태스크 노출을 결합하며; 지연도 제어와 미니 그룹 배칭을 갖춘 완전 비동기 강화학습 인프라를 포함한다. 실험 결과, 이러한 구성 요소들이 학습 안정성과 다운스트림 성능을 향상시킴을 보여준다. EvoCUA-1.5는 OSWorld-Verified에서 63.2%의 성공률을 달성하여 비슷한 규모의 32B/35B 오픈 가중치(open-weight) 베이스라인을 능가하며, 훨씬 더 많은 매개변수를 가진 모델에도 근접하는 성능을 보인다. 전반적으로, EvoCUA-1.5는 멀티턴 컴퓨터 사용 에이전트에서 온라인 강화학습을 확장하기 위한 실용적인 프레임워크를 제공한다.
대규모 언어 모델(LLM)에 인코딩된 지식은 복잡한 세계를 설명하는 변수들에 대한 구조적 추론을 위한 기반으로 활용될 수 있지만, 이 지식을 확률적으로 일관된 방식으로 접근하는 것은 어려운 추론 문제를 야기합니다. 본 논문에서는 LLM의 조건부 분포를 전이 연산자로 활용하는 구조적 확률적 추론 방식인 Large Language Gibbs를 제안합니다. 단일 패스 자기회귀 생성을 통해 구조적 객체를 샘플링하는 대신, LLM의 다음 토큰 조건부를 사용하여 다른 변수들이 주어진 상태에서 개별 변수를 반복적으로 재샘플링합니다. 이 접근 방식은 순서 종속 편향을 피하고 모든 국소적 조건부 간의 절충을 반영하는 정상 분포를 생성합니다. 우리는 이 접근 방식을 합성 분포 샘플링, 일관된 추론 작업, 베이지안 구조 학습에 적용했습니다. 결과는 노이즈가 있는 LLM 조건부를 통해 접근 가능한 세계 사전 분포 하에서 구조적 확률적 추론을 위해 MCMC(마르코프 연쇄 몬테카를로)에서 LLM 조건부를 사용하는 것이 단일 패스 생성에 대한 실용적인 대안이 될 수 있음을 시사합니다.
독립적으로 학습된 여러 LoRA 어댑터를 하나의 대규모 언어 모델(LLM)에 통합할 때 소프트 라우팅이 각 어댑터의 단위 스케일 전제를 깨뜨리는 문제를 해결하기 위해, Hard-Routed MoR-LoRA는 검증 가능한 피드백 기반 강화학습(RLVF)으로 추론 전문가를 학습한 뒤 전문가를 동결하고 하드 top-1 라우팅과 straight-through estimator로 경량 라우터만 학습하는 2단계 프레임워크를 제안한다. 5개 벤치마크 실험에서 소프트 라우팅 기반 전문가 혼합(MoE) 대비 훨씬 적은 학습 파라미터로 전문가 행동을 보존하면서도 동등하거나 더 높은 성능을 달성했다.