대규모 언어 모델(LLM)을 위한 Group Relative Policy Optimization(GRPO)에서 롤아웃 다양성을 향상시키기 위한 새로운 차원을 밝혀냈다. GRPO는 다양한 롤아웃에 의존하지만, 기존 전략은 주로 더 많은 토큰 수준 무작위성을 주입하여 다양성을 높이는데, 이는 단계별 노이즈를 유발하고 비일관적인 궤적으로 이어질 수 있다. 동일 모델 패밀리 내에서 더 작은 모델이 본질적으로 더 높은 정책 수준 다양성을 보인다는 것을 발견했으며, 이는 표본 수가 증가할수록 더 큰 모델 대비 우수한 pass@k로 나타난다. 토큰 수준 노이즈와 달리, 이러한 다양성은 시간적으로 상관되어 있으며 논리적 일관성을 유지하고, 그래디언트 추정을 위한 구조화된 탐험 신호를 제공한다. 따라서 S2L-PO(Small-to-Large Policy Optimization)를 제안한다. 이는 고정된 작은 모델을 자연스러운 탐험자로 활용하여 더 큰 모델을 학습하는 프레임워크이다. 탐험과 활용의 균형을 위해, 오프라인 작은 모델 롤아웃에서 대형 학습자의 자체 샘플링으로 전환하는 점진적 어닐링 전략을 설계했다. 이 전환은 작은 모델의 용량 한계로 인한 학습 중기 성능 하락을 우아하게 피하면서, 더 빠른 수렴을 달성하고 더 높은 성능 상한을 열어준다. S2L-PO는 1.7B 탐험자로 8B 모델을 안내하는 경우 AIME 24에서 +8.8% 등 다양한 수학적 추론 벤치마크에서 정확도를 향상시키면서 롤아웃 연산을 줄인다.
많은 지속 학습(continual learning) 방법은 투영(projection), 페널티 재조정(penalty rescaling), 리플레이 혼합(replay mixing) 등과 같이 상류에서 그래디언트를 수정하면서 Adam을 중립적인 백엔드로 취급한다. 우리는 이 조합에 숨겨진 실패 모드가 있음을 보인다. 고중첩(high-overlap), 비적응형 8-도메인 지속 LM에서, 공유 라우팅 투영 기준선은 모두 바닐라 망각에 근접하게 붕괴한다(12.5–12.8 대 13.2). 0.5% 리플레이 버퍼가 가장 강한 공유 대안이지만 여전히 11.6에 도달하며, 고정 강도 분리는 14.1로 바닐라보다 낮게 떨어진다. 적응형 분리 라우팅만이 9.4에서 안정적으로 유지되며, 바닐라 대비 3.8 단위 개선을 달성한다. 16-도메인 스트림에서는 가장 강한 공유 라우팅 투영 기준선 대비 이득이 4.5–4.8 단위로 커진다. 이 실패는 깨끗한 벤치마크에서는 대부분 드러나지 않는다. 우리는 Adam의 2차 모멘트 경로를 통해 이 효과를 설명한다. 시험된 체제에서 투영은 이전 방향의 유효 학습률에 1/(1-alpha) 팽창을 유발하며, 8개 alpha 값에 걸쳐 측정값과 8% 이내로 일치한다. 동일한 충돌은 페널티 방법, 리플레이 혼합, LoRA 하 7B 규모에서도 나타난다. 우리의 수정은 수정된 그래디언트를 1차 모멘트에만 라우팅하면서 크기에 충실한 2차 모멘트 통계를 보존하고, 중첩 인식 적응형 강도를 적용한다. 이 단순한 변경은 방법, 옵티마이저, 규모 전반에 걸쳐 일관되게 붕괴를 피하는 유일한 시험된 구성이다.
전자건강기록(EHR)에서의 인과 추론은 측정되지 않은 교란(unmeasured confounding)에 의해 근본적으로 제한된다. 쇠약(frailty), 치료 목표(goals of care), 정신 상태(mental status)와 같은 중요한 임상 상태는 자유 텍스트 기록에는 문서화되어 있지만 구조화된 데이터에는 없다. 대규모 언어 모델(LLM)은 이러한 잠재 교란변수를 해석 가능한 구조화된 공변량으로 추출할 수 있지만, 이를 인과 추정 파이프라인에 효과적으로 통합하는 방법은 체계적으로 연구되지 않았다. 21,859명의 패혈증 환자가 포함된 MIMIC-IV 데이터베이스를 사용하여, 표 형식 전용 기준선, 전통적인 NLP 표현, 세 가지 LLM 증강 접근법에 이르는 일곱 가지 공변량 통합 전략을 비교하여, 조기 혈관수축제(vasopressor) 투여가 28일 사망률에 미치는 효과를 추정한다. 핵심 발견은 모든 통합 전략이 동등하게 효과적이지 않다는 것이다. LLM 공변량으로 성향 점수(propensity score) 모델을 직접 증강하는 것이 최고의 성능을 달성하는 반면, 텍스트 기반 범주형 거리에 대한 이중 캘리퍼(dual-caliper) 매칭은 기증자 풀(donor pool)을 제한하고 추정을 악화시킨다. 알려진 실제 효과(ground truth)를 갖는 반합성(semi-synthetic) 실험에서, LLM 증강 성향 점수는 표 형식 전용 방법 대비 추정 바이어스를 0.0143에서 0.0003으로 줄이며, 이 이점은 상당한 시뮬레이션된 추출 오류 하에서도 지속된다. 실제 데이터에서는 LLM 추출 공변량을 포함하면 추정된 치료 효과가 0.055에서 0.027로 감소하며, 이는 CLOVERS 무작위 시험과 방향적으로 일치하고, 0.031을 산출하는 이중 강건(doubly robust) 추정량이 이 발견의 강건성을 확인한다. 우리 결과는 중환자 치료(critical care)에서 텍스트 기반 공변량이 언제, 어떻게 인과 추정을 개선하는지에 대한 실용적 지침을 제공한다. 코드는 https://github.com/fpxlei/LLM-Covariates-Causal 에서 이용할 수 있다.
웹 규모(web-scale) 데이터셋에서 대규모 언어 모델(LLM)을 사전학습하는 것은 범용 AI 발전의 기반이 되고 있다. 반면, 하위 태스크(downstream tasks)에서의 예측 성능을 향상시키는 것은 일반적으로 미세조정을 통해 지식을 적응시키는 과정을 포함한다. 매개변수 효율적 미세조정(parameter-efficient fine-tuning) 기법, 예를 들어 Low-Rank Adaptation(LoRA)은, 사전학습된 모델을 동결하고 더 적은 수의 매개변수만 갱신함으로써 이 과정의 계산 비용을 줄이는 것을 목표로 한다. 전체 미세조정과 비교하면, 구성에 따라 이러한 방법은 학습 가능한 매개변수 수를 99% 이상 줄인다. 불행히도 LLM의 규모가 계속 커지면서 이러한 감소만으로는 부족할 수 있다. 본 연구에서는 LoRA 또는 그 변형을 사용하여 미세조정할 소수의 층만 체계적으로 선택함으로써 앞서 언급한 문제를 해결한다. 모든 층이 모델 적응에 동등하게 기여하는 것은 아니라고 주장하며, 이를 활용하여 내부 표현(internal representations) 변화에 대한 기여도를 측정함으로써 미세조정에 가장 관련 있는 층을 식별한다. 제안 방법은 기존 저랭크 적응(low-rank adaptation) 기법과 직교(orthogonal)하며 쉽게 호환된다. 다양한 모델과 태스크에서 예측 성능을 유지하면서 LoRA 기반 기법의 학습 가능한 매개변수를 최대 50%까지 줄인다. 구체적으로, 인코더 전용(encoder-only) 아키텍처에서는 학습 가능한 매개변수 감소가 GLUE 벤치마크에서 무시할 만한 수준의 예측 성능 하락만을 초래한다. 디코더 전용(decoder-only) 아키텍처에서는 수학 문제 해결 능력과 코딩 태스크에서 예측 성능의 소폭 하락 또는 심지어 향상을 달성한다. 마지막으로, 이러한 효과는 멀티모달(multimodal) 모델에도 확장되며, 모든 층에 LoRA 모듈을 적용한 미세조정 대비 경쟁력 있는 결과도 관찰한다. 코드는 다음에서 확인할 수 있다: https://github.com/c2d-usp/Layer-wise-LoRA-with-CKA
저정밀도 실행은 가중치와 입력이 고정된 경우에도 트랜스포머에서 상당한 순전파 불일치를 유발할 수 있지만, 이러한 불일치는 보통 출력에서만 모니터링되며 층별 이론적 설명이 부족하다. 우리는 출력 불일치를 층 국소 어텐션, LayerNorm, 잔차 전달(residual-transport) 항으로 1차 분해하고, 이로부터 실용적인 인과적 위험 추정기와 예산 기반 제어기인 Bound-Guided Selective Stabilization(BGSS)를 도출한다. 통제된 스윕은 예측된 국소 부호, 단조성, 전달 구조를 검증한다. GPT-2에서 전달 인식 결합 예측기는 $18$회 실행 모두에서 FP32 기준 불일치와 양의 상관관계를 보이며, 전달 없음 ablation 대비 $17/18$회 실행에서 개선된다. 기준 패치 기여도 분석은 동일한 점수가 유용한 층 순서 정보를 보존함을 보여준다(평균 Spearman $0.362$). 예산 일치 완화에서 BGSS는 무작위 동일 예산 제어 대비 발현 이벤트($10.67$ vs. $11.67$), 최종 불일치($1.243\times 10^{-3}$ vs. $1.284\times 10^{-3}$), 최악 불일치($3.14\times 10^{-3}$ vs. $8.49\times 10^{-3}$)에서 우수하며, 발현 억제에서는 위험 전용 동일 예산 제어기와 동등하면서 최악 불일치를 크게 줄인다($3.14\times 10^{-3}$ vs. $5.71\times 10^{-3}$). 이 결과는 유한 정밀도 위험을 분석·추정·국소화·선택적으로 안정화할 수 있는 트랜스포머 수치적 취약성에 대한 이론-알고리즘 설명을 뒷받침한다.
프로세스 강화학습(PRL)은 대규모 언어 모델(LLM)의 추론 능력 향상에 상당한 잠재력을 보여왔다. 그러나 추가적인 프로세스 보상 모델을 도입하면 상당한 계산 오버헤드가 발생하며, 프로세스 수준의 어드밴티지 추정을 위한 통일된 이론적 프레임워크가 없다. 이 격차를 해소하기 위해, 우리는 프로세스 인식 강화학습을 가능하게 하는 두 가지 핵심 혁신을 갖춘 새로운 프레임워크인 자기 유도 프로세스 보상 최적화(SPRO)를 제안한다: (1) 프로세스 보상이 정책 모델 자체로부터 내재적으로 도출될 수 있음을 보이고, (2) 잘 정의된 누적 프로세스 보상(CPR)과 마스크드 스텝 어드밴티지(MSA)를 도입하여 단계별 어드밴티지를 재정의함으로써, 공유 프롬프트 샘플링 그룹 내에서 엄밀한 단계별 행동 어드밴티지 추정을 가능하게 한다. 실험 결과, SPRO는 vanilla GRPO 대비 3.4배 높은 학습 효율과 12.9%의 테스트 정확도 향상을 달성했다. 또한 SPRO는 응답 길이를 상당히 줄이면서도 학습 전반에 걸쳐 안정적이고 높은 정책 엔트로피를 유지하여, 충분한 탐험과 보상 해킹(reward hacking) 방지를 입증한다. 특히 SPRO는 GRPO와 같은 결과 지도(outcome-supervised) 강화학습 방법과 비교해 추가적인 계산 오버헤드가 없어 산업적 구현에 유리하다.
LLM 에이전트에 절차적 스킬을 추가하는 효과는 일반적으로 작업 성공률의 평균 향상으로 평가된다. 그러나 이 지표는 중요한 비용을 숨긴다: 스킬은 에이전트를 더 나쁘게 만들 수도 있다. 우리는 두 사무 자동화 벤치마크와 세 가지 모델 하네스 스택에 걸친 거의 6,000회 실행에서 스킬 유무에 따른 에이전트를 비교하여 양쪽을 모두 측정한다. 이를 통해 두 가지 결과를 구분할 수 있다. 회귀(regression)란 스킬 없이는 해결되었으나 스킬 추가 후 실패한 작업을 말한다. 잔존 실패(residual failure)란 스킬 유무와 관계없이 모두 실패한 작업을 말한다. 회귀가 충분히 크기 때문에, 최고 성능 스킬들이 다른 스킬보다 우수한 이유는 더 많이 개선했기 때문이 아니라 회귀가 더 적었기 때문이다. 회귀의 세 가지 원인을 확인한다: (i) 스킬 설명 삼투(skill description osmosis)—스킬이 호출되지 않더라도 컨텍스트에 존재한다는 사실만으로 에이전트의 행동을 바꾸는 현상; (ii) 그라운딩 변위(grounding displacement)—스킬이 규정한 절차가 에이전트의 입력 해석 방식을 덮어쓰는 현상; (iii) 검증 변위(verification displacement)—절차가 에이전트가 원래 출력에 대해 수행하던 검사를 억제하는 현상. 지속적 실패를 분석하면 동일한 근본 패턴이 드러난다. 기존 스킬들은 실패 원인이 될 가능성이 가장 낮은 단계인 절차적 안내에 과도하게 치중하는 반면, 남은 오류의 주요 원인인 그라운딩과 검증은 충분히 지원하지 않는다. 평가 인공물을 수정하고 트레이스를 분석한 결과, 많은 회귀와 지속적 실패가 더 나은 그라운딩과 검증을 통해 회복 가능함을 확인한다. 절차적 스킬은 총괄적 향상만이 아니라 순 효과를 이득과 회귀로 분해하여 평가해야 한다. 스킬이 피해야 할 세 가지 회귀 모드를 확인했으며, 신뢰성은 절차적 스킬 선택보다 그라운딩과 검증에 더 크게 의존함을 확인한다.
대규모 언어 모델(LLM) 기반 테스트 주도 개발(TDD)은 자동화된 코드 생성을 발전시켜 왔다. 그러나 기존 접근법은 사람이 작성한 테스트 케이스에 크게 의존하며, 자연어 요구사항만 제공될 때 효과적으로 작동하지 못한다. 최근 연구는 자동 테스트 생성을 가능하게 하지만, LLM의 내재적 확률적 특성(stochasticity)을 종종 간과하여 두 가지 핵심 결함을 초래한다: 결함 있는 테스트는 코드 최적화(optimization)를 왜곡하는 오해의 소지가 있는 피드백을 생성하고, 품질이 뒤섞인 테스트 케이스는 신뢰할 수 있는 코드 선택을 방해하는 상충하는 평가(evaluation) 신호를 만든다. 이러한 과제를 해결하기 위해, 우리는 테스트 케이스 품질과 코드 품질의 상호 강화에 기반한 협력적 폐루프(closed-loop) TDD 프레임워크인 MineValiCoder를 제안한다. MineValiCoder는 세 개의 모듈로 구성된다. 테스트 케이스 품질 마이닝(TCQM) 모듈은 자기 검증(self-validation)을 통해 결함 있는 테스트 케이스를 걸러내어 신뢰할 수 있는 최적화 감독을 제공한다. 병렬 TDD 정제(Parallel TDD Refinement) 모듈은 검증된 테스트 케이스 피드백을 사용하여 코드를 반복적으로 최적화하고 다양한 고품질 코드 후보를 생성한다. 이분 그래프 기반 코드-테스트 상호 검증(BiCoTeV) 모듈은 코드-테스트 상호작용을 동적으로 모델링하고, 안정적이고 신뢰할 수 있는 최적 코드 선택을 위해 상호 검증 점수를 산출한다. 4개의 LLM과 주류 벤치마크(benchmark)에 걸친 광범위한 평가(evaluation)는 MineValiCoder가 최신(state-of-the-art) 방법들을 크게 능가함을 보여준다. 구체적으로 HumanEval에서 Pass@1 96.34%, MBPP에서 87.40%, APPS에서 64.00%, LiveCodeBench에서 51.33%를 달성한다. 이 결과는 LLM 확률적 특성을 완화하고 자동화된 코드 생성의 신뢰성을 개선하는 MineValiCoder의 효과를 보여준다.
생성형 AI가 프로그래밍 교육을 재편하고 있지만, 교육자들은 종종 교실 관찰만으로 학생들의 AI 지원 학습을 추론한다. 본 경험 보고서는 서로 다른 교수 철학을 가진 두 명의 컴퓨팅 교육자와 한 명의 컴퓨터과학 학부생이 참여하는 트리오 민족지(trio-ethnography)를 통해, 이러한 해석이 대화를 거치며 어떻게 진화하는지를 살펴본다. 세 번의 대화에 걸쳐 교육자들은 학생들의 AI 사용을 성찰하고, 프로그래밍 교수법의 변화를 논의했으며, 학생의 실제 경험과 교류한 후 자신들의 가정을 재검토했다. 학생의 서사는 교육자들의 관점을 단순히 확인하거나 반박하는 것을 넘어, 교실에서 대체로 보이지 않았던 학습 과정을 드러내었고, 이는 두 교육자 모두 AI 사용, 평가, 투명성, 프로그래밍 교육에 대한 가정을 재고하도록 이끌었다. 우리는 트리오 민족지가 컴퓨팅 교육자들이 관찰 가능한 학생 행동을 넘어 AI 지원 학습에 대한 더 풍부한 이해로 나아가도록 돕고, 생성형 AI 시대의 교수법 적응에 정보를 제공하는 데 유용한 성찰적 접근법을 제공한다고 주장한다.
기업 AI 에이전트는 일반적으로 구성 시점에 정적 자격 증명 집합이 부여되며, 수행하는 모든 작업에 대해 해당 역할이 필요할 수 있는 모든 도구를 보유한다. 이러한 지속적인 과도한 권한은 공격 표면을 확대한다. 우리는 권한 범위 지정(capability scoping)이 동적 최소 권한 원칙을 따라야 하며, 탐지 메커니즘보다 예방 메커니즘으로 취급되어야 한다고 주장한다. 에이전트의 컨텍스트에 존재하지 않는 자격 증명은 에이전트의 추론이나 회피 정교함과 관계없이 오용될 수 없다. 우리는 이 원칙을 구현하는 3원천 아키텍처를 개요한다: 역할 기반 상한, 작업 컨텍스트 분류기, 정책 기반 조합 금지가 LLM 에이전트의 정렬 실패(misalignment) 및 오용 사례에 대한 계층적 선제적 방어를 형성한다. 이 아키텍처는 강제(enforcing) 및 관찰 전용(observe-only) 배포를 모두 지원한다. 후자는 작업 컨텍스트와 일치하지 않는 에이전트의 권한 요청을 기록하여, 정렬 실패(misalignment) 연구에 활용할 수 있는 행동 신호를 생성한다. 이 아키텍처를 평가하기 위한 첫 단계로, 우리는 다부서 회사 정책에 기반한 600개의 기업 작업 프롬프트로 구성된 합성 데이터셋을 기여한다. 이 데이터셋은 배포 가능한 자격 증명 또는 강제 가능한 가드레일에 직접 매핑되는 15개 권한 도구 기반 분류 체계에 걸쳐 최소 필요 권한으로 라벨링되어 있다. 데이터셋은 순환성을 피하기 위해 프롬프트 생성과 권한 라벨링을 분리한 2단계 파이프라인으로 구성되며, 60개 레코드/688개 결정에 대한 인간 검토 샘플에 대해 검증되었다(Cohen's $κ= 0.917$ 사전 검토, $κ= 0.967$ 사후 검토). 데이터셋과 정책 간 반복 작업은 상한 위반을 46건에서 3건으로 줄였으며, 93% 감소를 달성했다. 이는 두 요소를 함께 개발할 때 합성 프롬프트 생성이 정책 개선을 이끌 수 있음을 보여준다. 데이터셋, 환경 명세, 생성 파이프라인은 동적 범위 지정 메커니즘의 평가를 지원하기 위해 공개된다.
대규모 언어 모델(LLM)은 점점 더 자율 에이전트로 배포되며, 정적 대화형 인터페이스에서 복잡한 추론, 도구 실행, 의사결정이 가능한 동적 시스템으로 전환되고 있다. 그러나 이러한 에이전틱 AI 시스템의 운영 신뢰성은 개방형 환경에서 신뢰할 수 있는 ground truth(기준 진실값)의 부재와 시간이 지남에 따라 운영 드리프트가 증가할 위험에 의해 근본적으로 도전받는다. 이 문제를 해결하기 위해, LLM 기반 시스템 내에서 자율적 무결성을 강제하도록 설계된 에이전틱 AI 프레임워크를 제안하고 실험적으로 평가한다. 우리는 지속적인 인간 감독 없이 ARIMA 예측기(forecaster)를 통합하여 드리프트를 완화하고 ground truth를 동적으로 근사하는 자기 보정(self-calibration) 메커니즘을 설계한다. 방법론의 효과와 신뢰성을 입증하기 위해, 엣지 컴퓨팅 네트워크에서 영지식(zero-knowledge) 워크로드의 자원 사용량 프로파일링이라는 복잡한 영역에 이를 적용한다. 실험 결과, 제안된 자기 보정 에이전틱 프레임워크가 영지식 워크로드를 성공적으로 프로파일링하며, 자원 사용량 예측에서 기준선 LLM 에이전트보다 91.7% 더 높은 정확도를 달성하고, 순수 프로파일링 대비 예측 속도를 71.7% 개선하여, 분산 인프라에 자율 AI를 배포하기 위한 견고한 기반을 마련함을 보여준다. 또한, 제안된 ARIMA leaping 알고리즘을 사용한 ground truth 생성은 동일한 정확도를 달성하면서 표준 ARIMA 예측 알고리즘보다 52% 더 빠르다.
이상의 근본 원인을 진단하는 것은 안전한 산업 운영에 필수적이다. 광범위한 센서 계측에도 불구하고 가설 수립과 증거 수집은 여전히 수동적 프로세스로 남아 있어 주요 운영 병목을 야기한다. 기존 데이터 기반 접근법은 이를 자동화하려 하나, 두 가지 중요한 한계가 배포를 제한한다: 진단을 정당화할 수 없는 블랙박스로 작동하며, 고장 운전에 대한 희소한 라벨 예제가 필요하다는 점이다. 이 공백을 해소하기 위해 증거 그라운딩 근본 원인 분석을 위한 제로샷 에이전트형 프레임워크 AgentRCA를 제안한다. AgentRCA는 고장 특화 매핑을 학습하는 대신, 정상 시스템 동역학을 모델링하는 데이터 기반 디지털 트윈과 도구 증강 언어 모델을 결합하여 추론 시점 추론을 수행한다. 에이전트는 통계적 증거를 반복적으로 수집하고, 경쟁 가설을 평가하며, 관측된 거동을 가장 잘 설명하는 물리적 고장을 식별한다. 실제 다상 흐름(multiphase-flow) 시설과 대규모 화학 공장에서 평가한 결과, AgentRCA는 고장 특화 학습에 의존하지 않고도 완전 지도 학습 기준선과 경쟁력 있는 진단 성능을 달성한다. 중요하게도, 관측된 증상을 근본적인 물리적 원인과 명시적으로 연결하는 투명한 추론 추적을 생성한다. 이러한 결과는 자율적 가설 주도 추론이 확장 가능한 산업 근본 원인 분석의 실용적 토대임을 보여준다.
대규모 언어 모델(LLM)은 지난 몇 년간 과학적 발견 과정을 크게 자동화해 왔다. 그러나 기존 시스템은 공통된 핵심 한계를 공유한다: 품질(Quality) 또는 다양성(Diversity) 중 하나에 대해서만 독립적으로 아이디어를 생성하고 최적화한다. 이는 종종 서로 가까운 아이디어가 생성되거나, 사소하고 부적절하거나 불명확한 개념들의 대규모 집합이 생성되는 결과로 이어진다. 본 연구에서는 대신 연구 아이디어 구상을 두 목표의 결합으로 취급하고 품질-다양성(Quality-Diversity, QD) 검색으로 프레이밍해야 한다고 주장한다. 이러한 관점에 따라, 계보(lineages)를 통해 아이디어의 진화를 관리하는 다중 에이전트 프레임워크인 IDEAgent를 제안한다. 우리는 전용 수리(repair) 및 정제(refinement)를 위한 다목적 피드백으로 품질을 공동적으로 추진하고, 다양성은 경량 순차 메모리와 완료된 아이디어, 그 역사적 선조, 그리고 거부된 제안들과의 명시적 비교를 통해 달성한다. 이러한 QD 결합을 체계적으로 평가하기 위해, 사전 결정된 품질 임계값을 만족하는 상호 다양한 아이디어들의 최대 집합을 계산하는 공동 지표인 Yield를 개발한다. 마지막으로, 컴퓨터 과학(CS) 8개 도메인에 걸친 32개 주제에 대한 평가를 통해, IDEAgent가 Yield에서 최고 기준선 대비 3.89배 우수한 성능을 보이며, 8배 더 많은 주제에서 0이 아닌 Yield를 달성함을 보인다. 우리는 품질 개선 분석을 통해 이러한 발견을 추가로 뒷받침하며, 수리와 정제가 명백하지 않음(non-obviousness)을 보존하면서 논리적 엄밀성과 명확성을 구축하는 데 핵심적임을 보인다. QD 검색 기반 아이디어 구상에 대한 향후 연구를 장려하기 위해, IDEAgent를 https://github.com/declare-lab/IDEAgent 에서 오픈소스로 공개한다.
대규모 언어 모델(LLM)로 구동되는 생성형 소셜 로봇(GSR)은 고등교육에서 개인화된 튜터링을 위한 새로운 가능성을 제공하지만, 잘못된 정보, 투명성 부족, 또는 학습자의 오답을 강화하는 위험도 수반한다. 선행 연구는 GSR이 고등교육에서 책임감 있고 효과적인 튜터링 행동을 나타내기 위한 정보적 전제 조건을 정의하는 지식 기반 설계(KBD) 요구사항을 밝혔다. 본 논문에서는 시스템 프롬프트, 검색-증강 생성(RAG), 상태 기반 프롬프트 오케스트레이션을 통해 Reachy Mini 로봇 플랫폼에서 선정된 KBD 요구사항을 구현했다. 그 결과 KBD를 사용해 개발한 GSR 튜터링 시스템인 Teachy Mini를 제시한다. 시스템을 검증하기 위해 예비 평가 연구를 수행했다. 참가자(N = 24)는 연구 방법론에 대한 로봇 안내 학습 세션을 완료했다. 참가자는 Teachy Mini 또는 KBD 원칙을 따르지 않은 대조 버전으로 학습했다. Teachy Mini는 대조 로봇보다 책임감 있는 튜터링 행동과 유의미하게 더 일치하는 것으로 인식되었다. 또한 조작 점검 결과, Teachy Mini가 개인화, 슬라이드 기반 설명, 소크라테스식 질문, 정서적 지원, 학습자 중심 피드백을 대조 로봇보다 더 일관되게 사용했음을 보여주었다. 시스템 수용, 내재적 동기, 또는 학습 효과에서는 조건 간 유의미한 차이가 발견되지 않았으나, 탐색적 분석에서는 학습자 선호를 고려할 때 KBD가 객관적 학습 향상에 긍정적 효과를 보였음을 시사했다. 전반적으로 본 연구는 GSR 튜터링을 위한 KBD의 초기 구현과 예비 평가를 제공했으며, KBD가 책임감 있는 로봇 행동을 형성하고 로봇 지원 학습에서 학습 효과를 잠재적으로 높일 수 있음을 시사한다.
대규모 언어 모델(LLM)과 AI 에이전트는 제로샷 및 퓨샷 설정에서 데이터 통합에 대한 강력한 잠재력을 보여주었다. 그러나 지속적인 지식 격차로 인해 기업 환경에서는 여전히 정확도와 비용 측면에서 상당한 과제에 직면하고 있다. 본 논문은 검색-증강 생성(RAG) 워크플로 내에서 동작하는 지식 그라운딩 LLM과 에이전트를 통해 신뢰할 수 있고, 확장 가능하며, 비용 효율적인 통합을 구상한다. 여기서 신뢰성은 증거에 기반한 검증 가능한 추론을 의미하며, 통합 결정이 검색된 지식에 의해 투명하게 뒷받침되고, 환각에 강건하며, 과제 간 일관성을 유지하는 것을 말한다. 우리는 고전적 RAG에서 GraphRAG 및 KG-RAG(지식 그래프 기반 RAG)로의 진화를 추적하며, 이러한 패러다임이 파라미터 지식과 문맥 지식을 어떻게 연결하는지 강조한다. 이 궤적을 바탕으로, 자율적 다중 에이전트 시스템이 복잡한 통합 과제를 위해 적응적으로 계획하고, 검색하고, 정제하고, 추론하는 에이전틱 RAG로의 전환을 탐구한다. 우리는 대규모 기업 환경에서의 계산 병목을 해결하는 비용 효율적 통합을 위한 최적화 전략을 검토한다. 마지막으로, 신뢰할 수 있고 설명 가능하며 확장 가능한 지식 그라운딩 통합 시스템 구축을 향한 미해결 과제와 향후 방향을 개괄한다.
산업 건전성 관리는 점점 더 상태 모니터링 시스템, 감시 제어 및 데이터 수집(SCADA) 시스템, 정비 기록, 검사 결과, 예후 모델 등 이질적인 정보원에 의존하고 있다. 대규모 언어 모델(LLM)은 다중 소스 추론을 위한 새로운 기회를 제공하지만, 산업 데이터와 분석 결과는 구조, 시간 해상도, 물리적 의미, 신뢰성 면에서 상당히 다르다. 이러한 이질적 정보를 단일 통합 모델에 직접 통합하면 해석 가능성, 추적 가능성, 설비 및 데이터 변화에 대한 적응성이 저하될 수 있다. 본 논문은 소스별 분석 결과를 구조화되고 기계가 해석 가능한 산업 증거 단위인 산업 토큰(Industrial Token)으로 변환하는 개념적 인터페이스인 산업 토큰화(Industrial Tokenization)를 제안한다. 원시 시계열 데이터를 인코딩하는 데 사용되는 수치 토큰과 달리, 산업 토큰은 출처, 시간 범위, 운영 맥락, 분석적 의미, 품질 또는 신뢰도 정보, 출처 추적(provenance)과 함께 도메인 그라운딩된 증거를 나타낸다. 이 개념을 바탕으로, 이질적 분석 하위 시스템이 자율성을 유지하면서 표준화된 산업 토큰을 중앙 추론 층에 노출하는 연합형 산업 아키텍처를 제안한다. 초기 구현으로, 본 연구는 진동 진단 출력, 규칙 기반 이벤트 집계, 구조화된 텍스트 토큰 생성, LLM 기반 해석에 기반한 end-to-end DiagnosisToken 경로를 제시한다. SCADA 기반 상태 모니터링 토큰, 정비 토큰, 예후 토큰 등 다른 산업 토큰은 향후 확장으로 남겨두었다. 제안된 프레임워크는 산업 토큰화를 원시 산업 데이터를 인코딩하는 또 다른 방법이 아니라, 도메인 특화 산업 지능과 LLM 또는 에이전트 기반 추론 사이의 의미론적 인터페이스로 위치시킨다.
데이터베이스 S와 자연어 질문 Q가 주어졌을 때, text-to-SQL 시스템은 S에 대해 실행했을 때 Q에 올바르게 답하는 SQL 쿼리를 생성하는 것을 목표로 한다. 현재 인기 있는 text-to-SQL 벤치마크는 대부분 S에 대한 무제한 접근을 가정한다. 그러나 실제로는 사용자 접근이 종종 제한되며, 예를 들어 역할 기반 접근 제어(RBAC) 정책을 통해 제한된다. 이는 벤치마킹 결과와 실제 성능 사이에 잠재적인 괴리를 초래한다. 높은 벤치마크 점수를 가진 LLM이라도 접근 제어 환경에서는 RBAC를 자주 위반하거나, S에서 허용된 데이터만으로 답할 수 있는 쿼리 q를 거부함으로써 성능이 저조할 수 있다. 이에 영감을 받아, 현실적인 RBAC 제약을 포함한 포괄적인 text-to-SQL 벤치마킹 프레임워크를 제안한다. 이 프레임워크는 LLM 보조 워크플로를 특징으로 하며, 기존 text-to-SQL 벤치마크에 그럴듯한 사용자 역할과 접근 정책을 추가한다. 이를 위해 역할 합성(role synthesis) 문제를 데이터베이스 스키마에 대한 구조화된 추론 과정으로 공식화한다. 이 과정에서 LLM은 먼저 스키마로부터 애플리케이션 컨텍스트를 추론하고, 그다음 이 컨텍스트와 일관된 역할 책임과 접근 범위를 도출한다. 이 과정은 human-in-the-loop 품질 관리를 통해 검증되며, 도메인 전문가가 생성된 역할에 대해 메트릭 기반 스크리닝을 수행한다. 증강된 데이터셋 외에도, 제안된 프레임워크는 RBAC 특화 실패 모드를 식별하고 SQL 유용성과 접근 제어 준수를 분리하는 평가 지표를 포함한다. 제안된 프레임워크를 여러 널리 사용되는 벤치마크에 적용하고, 최신 text-to-SQL 시스템에 대한 체계적인 실증 연구를 수행한다. 결과는 무제한 설정에서 높은 벤치마킹 점수를 보이는 많은 솔루션(특히 오픈 가중치 LLM)이 접근 제약이 적용되면 RBAC 위반이 빈번하여 성능이 급격히 저하됨을 보여준다.
대규모 추론 모델(LRM)은 최종 답을 생성하기 전에 긴 추론 trace를 생성한다. 이러한 trace는 환각 탐지에 유용한 신호를 포함할 수 있지만, 긴 궤적에는 진실성 평가와 관련된 단서를 가리는 노이즈가 있는 단계들이 자주 포함되므로 이를 활용하는 것은 쉽지 않다. 본 논문에서는 두 가지 흔한 형태의 추론 노이즈, 즉 무관한 단계와 반복적인 단계를 식별하고, 둘 다 환각 탐지 성능을 상당히 저하시킴을 보인다. 기존의 신뢰도 기반 점수와 단순한 임베딩 기반 필터링은 노이즈가 있는 단계와 정보가 있는 단계를 신뢰성 있게 분리하는 데 실패한다. 이 과제를 해결하기 위해, 본 연구는 환각 탐지를 위한 추론 trace 디노이징을 위한 새로운 학습 프레임워크인 REDE를 제안한다. 구체적으로, REDE는 최종 답변 어텐션을 자동 감독 신호로 활용하여 단계 수준 표현 공간을 형성하고, 노이즈가 있는 단계를 신뢰성 있게 식별하고 필터링할 수 있는 정제된 임베딩을 생성한다. REDE는 노이즈가 있는 단계를 제거한 후 필터링된 추론 궤적에 대해 동작함으로써 다양한 환각 탐지기에 쉽게 연결할 수 있다. 여러 추론 벤치마크에 대한 광범위한 실험에서 REDE는 경쟁력 있는 베이스라인 대비 탐지 성능을 일관되게 향상시킴을 보여준다.
본 논문은 임베딩을 제외한 30억(non-embedding) 파라미터를 갖춘 소형 범용 에이전트 모델 Nanbeige4.2-3B를 소개한다. 이 모델은 코드 에이전트, 오피스 에이전트, 복잡한 도구 사용 과제 전반에서 강력한 성능을 제공하면서도 수학, 코딩, 과학 분야의 추론 능력을 매우 경쟁력 있는 수준으로 유지한다. Nanbeige4.2-3B는 28T 토큰으로 처음부터 사전학습(pre-training)되었으며, Looped 트랜스포머가 층(layer) 스택을 재사용하여 파라미터를 추가하지 않고 용량(capacity)을 확장한다. SFT 데이터 및 궤적(trajectory) 구성을 위해, 실제 배포와 대규모 합성(synthesis)을 통해 실행 가능한 환경, 과제 자산, 에이전트 스캐폴드(agentic scaffolds)의 다양성을 확대했다. RL 파이프라인은 Think 및 Non-Think 응답에 대한 혼합 모드 RLHF(인간 피드백 강화학습)로 전체 모델 품질을 개선하고 실패 사례를 줄이며, 길이 제어 추론 RL로 정확도와 추론 효율의 균형을 맞추고, 결과 및 과정 보상을 활용한 에이전트 RL로 장기간(long-horizon) 학습을 안정화한다. 광범위한 평가(evaluation) 결과, Nanbeige4.2-3B는 Qwen3.5-9B, Gemma4-12B 등 더 큰 모델들을 다양한 에이전트 벤치마크에서 능가하며, 추론 및 정렬(alignment) 과제에서도 경쟁력 있는 성능을 유지한다. OpenClaw와의 성능은 소형 로컬 개인 비서로서의 활용 가능성을 더욱 뒷받침한다.
다중모달 대규모 언어 모델(MLLM)은 체화 에이전트(embodied agent)의 핵심 추론 모듈로 부상하고 있지만, 범용 모델이 단일 고수준 지시만으로 장기(long-horizon) 체화 작업을 얼마나 잘 해결할 수 있는지는 여전히 불분명하다. 우리는 항공 3D 환경에서 MLLM의 미션 수준 평가를 위한 벤치마크인 MissionBench를 제안한다. 이는 5개의 시뮬레이션 3D 환경과 4개의 작업 계열에 걸친 120개의 미션으로 구성된다. 에이전트는 항공 특화 미세조정 없이 자기중심적(egocentric) 관측과 행동 이력만을 사용하여 자율적으로 계획하고, 항법하고, 결과를 보고해야 한다. 22개의 오픈소스 및 폐쇄형 MLLM에 걸쳐, 가장 강력한 모델은 84.4%의 인간 성능과 비교하여 35% 미만의 미션에서만 성공하며, 이는 다단계 체화 작업의 난이도를 부각한다. 모델 계열 간 큰 편차에도 불구하고 스케일링(scaling)으로 인한 성능 향상을 관찰하며, 이는 더 큰 범용 모델이 더 강한 제로샷 체화 역량을 보유함을 시사한다. 우리의 분석은 미션 수준 역량이 공간 인지를 넘어 다단계 계획 및 적응적 추론을 포함한 여러 역량의 조율을 필요로 함을 보여준다. 이는 폐루프(closed-loop) 평가의 필요성을 촉발하며, 체화 AI에 대한 스케일링 기반 개선의 가능성과 위험을 모두 부각한다.