추론 언어 모델(RLM)은 추론 토큰(reasoning token) 형태의 테스트 시점 연산(test-time compute)을 활용하여 인상적인 성능을 보여줍니다. 그러나 이러한 동작 방식으로 인해 RLM을 새로운 도메인에 적응시키는 것은 어렵고 비용이 많이 듭니다. 그 이유는 추가 학습이 이미 학습된 동작을 방해하고 모델 성능을 저하시킬 수 있기 때문입니다. 이로 인해 사람이 작성한 솔루션이 포함된 지도 미세조정(supervised fine-tuning) 데이터를 활용하기가 어려워집니다. 해당 데이터에는 고품질의 주석이 포함되어 있지만 추론 토큰이 부족하기 때문입니다. 본 연구에서는 이러한 어려움에도 불구하고 RLM 적응에 이러한 데이터를 효율적으로 활용할 수 있는 방법을 제시합니다. 이를 위해 먼저 표준 지시 미세조정(instruction tuning)을 적용합니다. 다음으로, 모델 병합(model merging)을 활용하여 지시 미세조정된 모델과 원본 RLM을 결합하며, 대상 도메인에서 결과 모델의 추론 동작이 복구되도록 병합 비율을 선택합니다. 코딩 및 텍스트 요약 태스크의 4개 RLM에서 본 방식을 평가한 결과, 추론 동작을 보존하고 분포 외(out-of-distribution) 점수 저하를 평균 0.7%로 제한하면서 대상 태스크 성능을 최대 11.0%까지 향상시켰습니다. 무엇보다도 본 적응 방식은 효율적이고 경제적이어서 모델당 10달러(USD $10) 미만의 비용이 듭니다.
자연어 비즈니스 맥락을 정량적 최적화 모델에 통합하기 어렵다는 문제를 해결하기 위해, 대규모 언어 모델(LLM) 에이전트가 사고의 연쇄(Chain-of-Thought) 추론으로 구조화된 의사결정 테이블을 구성하고 최적화 모델의 경로 피드백과 반복적으로 상호작용하는 프레임워크를 제안한다. 미국 남동부의 실제 13개 허브 화물 네트워크에서 기존 최적화 모델의 11.0% 최적성 갭을 2.8%로 크게 줄이며 LLM이 정성적 비즈니스 인사이트를 운영 연구(Operations Research) 워크플로우에 효과적으로 통합할 수 있음을 실증하였다.
안전성(safety) 평가는 커미션, 성과 점수, 어떤 행동이 가장 높은 보상을 주는지 나타내는 대시보드처럼 실제 배포 환경이 제공하는 인센티브 정보가 생략된 프롬프트로 정책을 테스트합니다. 본 연구는 이러한 생략이 무엇을 은폐하는지 측정합니다. 합성 직장 환경(environment)인 MoneyWorld에서, 작업 품질을 희생하면서도 보상을 받는 지름길을 가시적인 보상 신호가 식별해 주는 비안전성 작업에 대해 세 가지 계열의 인스트럭션 튜닝(instruction tuning) 모델 5개를 강화학습(RL)으로 학습(training)합니다. 그런 다음 각 정책을 동결하고, 미사용(held-out) 안전성 충돌을 제시하며, 표시되는 신호만을 변경합니다. 각 선택 메뉴에는 하나의 순응 행동과 세 개의 위반 행동이 포함됩니다. Qwen2.5-14B-Instruct의 수치와 함께 세 가지 결과를 보고합니다. (i) 보상 신호는 동결된 안전성 선택을 제어합니다. 신호가 불안전한 옵션을 가리킬 때 불안전한 선택 비율은 100%였고, 신호가 숨겨지거나 안전한 옵션을 가리킬 때는 0%였습니다. 은닉 신호 및 무작위 신호 학습 대조군은 0.3% 이하를 유지했으며, 이러한 전환은 5개 베이스 모델 모두에서 재현되었습니다. 수치적 보상금 또한 샘플링된 행동 보상 하에서 이를 재현하여 1달러의 이점만으로도 98.6%의 불안전한 선택 비율에 도달했습니다. (ii) 학습 메뉴 개입 하에서는 보상 식별과 불안전한 선택이 분리됩니다. 동일한 보상금에서 작업을 완수하는 행동으로 학습하면 99.8%의 식별률을 유지하면서도 일치된 업데이트 예산에서 불안전한 선택을 7.9%로 낮춥니다. 보상 판독 능력만으로는 전이(transfer)를 설명하지 못합니다. (iii) 동일한 동결 어댑터를 사용한 실제 소매 고객 서비스 실행 작업에서는 이러한 전환이 재현되지 않습니다. MoneyWorld에서 인센티브 정보의 생략은 동일한 정책이 어떤 행동이 가장 높은 보상을 받는지 확인할 때 드러나는 불안전한 선택들을 은폐합니다.
전자의무기록의 불규칙하게 샘플링된 의료 시계열(ISMTS)을 기반으로 구축된 임상 조기 경보 시스템은 환자 분류(triage)를 위한 연속적인 위험 점수뿐만 아니라 임상의가 검증할 수 있는 해석 가능한 근거도 제공해야 합니다. 대규모 언어 모델(LLM)은 출력 확률에서 위험도를 도출하고 의료 지식에서 근거를 도출할 수 있어 두 가지 목적 모두에 고유하게 적합합니다. 그러나 기존의 LLM 추론은 점진적인 위험도를 과도하게 확신하는 예측으로 축소시켜, 환자 분류의 기본이 되는 환자 간 비교 가능성을 훼손한다는 점을 발견했습니다. 저자들은 이러한 실패 모드를 '위험 양극화(risk polarization)'라 명명하고, 단일 결과에 대한 조기 확정과 해당 결과에 대한 증거에만 집중하는 편향된 추론이라는 두 가지 근본적인 행동을 확인했습니다. 이를 해결하기 위해 저자들은 결과별 근거를 이끌어냄으로써 경쟁하는 임상 결과들에 대해 LLM이 변증법적으로 추론하도록 훈련하는 프레임워크인 TRIAGE를 제안합니다. 이러한 변증법적 구성은 위험 양극화를 완화하여 단일 LLM이 명시적인 임상 근거와 환자 간 비교 가능한 위험 점수를 함께 제공할 수 있도록 합니다. 5개의 ISMTS 벤치마크 전반에서 TRIAGE는 경쟁력 있는 LLM 기반 기준선(baseline) 대비 평균 AUPRC를 17.0% 향상시키고 평균 캘리브레이션 오차를 82.8% 감소시켰으며, 가장 강력한 ISMTS 기준선보다 평균 AUPRC에서 3.5% 앞섰습니다.
창발적 비정렬(Emergent Misalignment, EM)은 편협한 파인튜닝이 해당 태스크 범위를 벗어난 위험한 행동을 유발할 때 발생합니다. 반복적인 행동 평가를 통해 이러한 변화를 감지하는 것은 비용이 많이 들기 때문에, 내부 표현 기반의 체크포인트 단위 모니터링을 제안합니다. 본 연구에서는 정렬(alignment)과 관련된 7개의 활성화 방향을 바탕으로 고정된 좌표계를 정의하고, 이를 활용하여 오픈소스 7-9B 언어 모델 4종의 LoRA 파인튜닝 과정에서 발생하는 표현 표류(representational drift)를 추적합니다. 이 공간에서 파인튜닝으로 인한 표류는 분산의 78.6%를 설명하는 지배적인 축을 나타내며, 데이터셋, 추출 방식 선택, 매개변수 업데이트 용량 전반에 걸쳐 안정적으로 유지됩니다. EM과 관련된 3개의 홀드아웃 데이터셋에서 얻은 468개 체크포인트를 대상으로 평가한 결과, 제안된 모니터는 1.8%의 FNR, 2.0%의 FPR, 0.989의 AUROC를 달성하여 의미적(semantic), 무작위, PCA 및 SAE 특징 기반의 기준선 모델들을 능가했습니다. 네 번째 데이터셋에서 진행된 위험-무해 대조군 실험을 통해 무해한 파인튜닝 하에서도 상당한 표현 표류가 발생할 수 있음을 확인했으나, 7차원 프로파일 전반의 변화는 위험한 실행과 무해한 실행을 여전히 구별해 냈습니다. 두 개의 14B 모델, 전체 파인튜닝, 더 긴 학습 기간, 비정렬된 시작 상태 등을 포함한 스트레스 테스트 결과, 이러한 신호가 학습 구성의 변화 전반에서도 지속될 수 있음을 보여주었으며, 안정적인 배포를 위해서는 재보정이 필요할 수 있음을 확인했습니다.
대규모 언어 모델(LLM)은 방대한 메모리 사용량과 높은 추론(inference) 비용으로 인해 배포 비용이 많이 듭니다. 가중치-활성화 양자화(quantization)는 이러한 비용을 줄일 수 있지만, 활성화 이상치(outlier)가 큰 양자화 오차를 유발하기 때문에 저비트 활성화 양자화는 여전히 어려운 과제로 남아 있습니다. 최근 회전 기반 방식들은 차원 전반에 걸쳐 활성화 크기를 재분배하는 직교 변환을 적용하여 이 문제를 해결하지만, 기존 접근법들은 비용이 많이 드는 엔드투엔드 회전 학습(training)을 요구하거나 저장된 활성화 말뭉치에 의존하여 상당한 연산 또는 스토리지 오버헤드를 발생시킵니다. 본 논문에서는 LLM 활성화 양자화를 위한 가벼운 사후 학습(post-training) 회전 캘리브레이션 방법을 제안합니다. 제안하는 방법은 정규화된 활성화를 내접 초입방체(hypercube)의 모서리에 정렬하는 직교 회전을 학습하여, 활성화 에너지가 차원 전반에 더욱 고르게 분산되도록 유도합니다. 이 목적 함수는 직교 프로크루스테스 문제(orthogonal Procrustes problem)를 통해 효율적인 닫힌 형태 해(closed-form) 업데이트를 가능하게 하여 직교군(orthogonal group) 상에서의 그래디언트(gradient) 기반 최적화를 피할 수 있습니다. 나아가 캘리브레이션 샘플이 처리됨에 따라 회전을 갱신하는 온라인 캘리브레이션 절차를 도입하여, 디스크에 활성화를 저장할 필요성을 없애고 캘리브레이션 중 양자화된 활성화 분포에 회전이 적응할 수 있도록 합니다. 3B부터 70B 파라미터 규모의 Llama-2 및 Llama-3 모델을 대상으로 한 실험을 통해, 제안하는 방법이 값비싼 엔드투엔드 학습과 대규모 오프라인 활성화 저장을 모두 피하면서도 퍼플렉서티(perplexity) 벤치마크 및 상식 추론 태스크 전반에서 경쟁력 있거나 향상된 성능을 달성함을 보여줍니다.
대규모 추론 모델을 위한 검증 가능한 보상 기반 강화학습(RLVR)은 분산 감소에 의존하며, 이를 위해서는 신뢰할 수 있는 기준선(baseline)과 각 학습 배치 내 높은 프롬프트 다양성이 모두 요구됩니다. 이는 서로 다른 작업의 프롬프트가 매우 다양한 그래디언트 신호를 유도하는 일반 추론 모델용 멀티 도메인 학습에서 특히 어렵습니다. 기존 접근 방식들은 서로 다른 한계를 보입니다. GRPO는 동일한 프롬프트로부터 얻은 롤아웃의 그룹 평균으로 기준선을 추정하므로, 정확한 기준선을 얻으려면 배치 내 고유 프롬프트 수가 줄어들게 되며, 반면 PPO는 정책 규모의 비평가(critic)를 학습시켜 이러한 절충을 피하지만 학습 비용이 대략 두 배로 증가합니다. 본 논문에서는 모델의 내부 상태를 가치 모델로 변환하는 강화학습 알고리즘인 POISE(Policy Optimization with Internal State Value Estimation)를 제안합니다. 경량 프로브는 순전파 동안 이미 계산된 신호를 읽어 기준선을 예측하며, 정책과 함께 온라인으로 학습됩니다. 그래디언트의 비편향성을 보존하기 위해, 독립적인 롤아웃의 내부 상태로부터 각 롤아웃의 가치를 예측하는 교차 롤아웃 구조를 도입합니다. 6개 도메인의 검증 가능한 보상 말뭉치 전반에 걸친 Qwen3-4B 및 OLMo3-7B-Instruct-DPO 실험에서, POISE는 다른 RLVR 베이스라인들을 능가하는 동시에 더 안정적인 학습을 달성했습니다. 나아가 해당 프로브는 별도의 대규모 언어 모델(LLM) 크기 가치 모델에 필적하는 성능을 보이고, 다양한 작업으로 일반화되며, 정책 규모가 커져도 정확도를 유지합니다. 모델의 내부 표현을 활용함으로써 POISE는 안정적인 정책 최적화를 가능하게 합니다.
테스트 시점 연산(test-time compute)의 확장은 대규모 언어 모델(LLM)의 성능을 향상시키는 강력한 메커니즘으로 부상했습니다. 그러나 지도 미세조정(SFT) 및 강화학습(RL)과 같은 표준적인 사후 학습 패러다임은 기본 정책 하에서 개별 샘플의 가능도를 최적화하므로, 집계되거나 필터링된 출력에 의존하는 테스트 시점 절차와의 불일치를 유발합니다. 본 연구에서는 학습 목표를 테스트 시점 전략과 정렬하는 연산 정렬 학습(Compute Aligned Training)을 제안합니다. 추론 전략을 기본 정책에 작용하는 연산자(operator)로 개념화함으로써, 해당 전략이 적용될 때 성능을 극대화하는 새로운 손실 함수를 도출합니다. 또한 일반적인 테스트 시점 전략 전반에 걸쳐 SFT 및 RL을 위한 이러한 손실 함수를 구체화합니다. 마지막으로, 본 학습 방법이 표준 학습 대비 테스트 시점 스케일링을 실질적으로 개선한다는 경험적 증거를 제시합니다.
임상 정형 데이터 예측에서는 특징(feature) 엔지니어링을 적용한 고전적 머신러닝 모델이 신경망 기반 방식을 능가하는 경우가 많습니다. 다운스트림 성능을 향상하기 위해 다양한 특징 변환을 제안하는 도메인 전문가 역할을 수행하며 이러한 과정을 자동화하는 데 대규모 언어 모델(LLM)이 점차 많이 활용되고 있습니다. 그러나 기존 LLM 기반 방식의 특징 생성 과정은 다운스트림 학습자를 인지하지 못합니다(learner-agnostic). 즉, LLM이 현재 어떤 특징이 예측을 주도하는지 또는 모델의 표현 능력이 어디서 부족한지에 대한 신호를 전혀 받지 못하므로, 제안된 특징이 특징 공간의 유망한 영역을 목표로 하지도 않고 학습자의 귀납적 바이어스(inductive bias)에 맞춤화되지도 않습니다. 이러한 한계는 클래스 불균형, 이종 특징 공간, 엄격한 해석 가능성 요구 사항을 동시에 나타내는 의료 데이터에서 더욱 두드러집니다. 본 논문에서는 머신러닝 실무자의 워크플로에서 영감을 받아 모델 인지 및 특징 중요도 신호를 활용하여 임상 정형 학습을 위한 특징 발견을 반복적으로 유도하는 최초의 특징 엔지니어링 프레임워크인 MedFeat를 제안합니다. 광범위하고 도전적인 실제 임상 태스크에서 MedFeat를 평가한 결과, 서로 다른 귀납적 바이어스를 가진 모델 전반에서 기준선(baseline) 대비 평균 10% 이상의 F1 점수 향상을 달성하며 최신 기준선 모델들을 통계적으로 유의미하게 능가함을 보였습니다.
AI 평가는 주로 능력을 측정하는 데 집중되어 왔으며, 문항반응이론(IRT)에서 영감을 얻은 정형화된 접근법이 점차 널리 적용되고 있습니다. 그러나 모델이 특정 행동을 보이는 경향성인 성향(propensity)은 성능과 안전성(safety) 결과를 결정하는 데 핵심적인 역할을 합니다. 전통적인 IRT는 과제에서의 모델 성공을 모델 능력과 과제 요구 수준의 단조 함수(monotonic function)로 설명하지만, 이는 과도함과 부족함 모두 문제가 될 수 있는 성향을 다루기에는 적합하지 않습니다. 본 논문에서는 모델 성공에 대한 이중 로지스틱(bilogistic) 정식화를 활용하여 AI 성향을 측정하는 최초의 정형 프레임워크를 소개합니다. 이 정식화는 모델의 성향이 "이상적 구간(ideal band)" 내에 있을 때 높은 성공 확률을 부여합니다. 나아가 새롭게 개발된 과제 무관(task-agnostic) 루브릭을 갖춘 대규모 언어 모델(LLM)을 사용하여 이상적 구간의 한계를 추정합니다. 양방향으로 성향이 유도된 6개 계열의 LLM 모델에 본 프레임워크를 적용한 결과, 성향이 얼마나 이동했는지와 이것이 과제에 어떤 영향을 미치는지 측정할 수 있음을 확인했습니다. 결정적으로, 한 벤치마크를 통해 추정된 성향은 보류된(held-out) 과제에서의 행동을 성공적으로 예측합니다. 또한 성향과 능력을 결합했을 때 각각을 단독으로 사용할 때보다 더 강력한 예측력을 얻을 수 있습니다. 더 넓은 관점에서 본 프레임워크는 엄밀한 성향 측정이 어떻게 수행될 수 있는지, 그리고 AI 행동을 예측할 때 능력 평가만을 사용하는 것에 비해 어떻게 이점을 제공하는지를 보여줍니다.
본 연구에서는 대규모 모델, 대규모 협업, 복잡한 네트워크 토폴로지 전반으로 확장되도록 설계되었으며 통신 오버헤드를 거의 발생시키지 않으면서 전역 합의(global consensus)를 달성하는 탈중앙화된 대규모 언어 모델(LLM) 미세조정(fine-tuning)의 새로운 접근법인 SeedFlood를 제시합니다. 기존 방식들은 모델 크기에 비례하여 증가하는 높은 통신 비용으로 인해 어려움을 겪으며, 네트워크 홉(hop)에 따른 정보 감소로 인해 전역 합의가 비효율적이었습니다. SeedFlood는 0차 기울기(zeroth-order gradient)의 시드 재구성 가능 구조를 활용하여 전송할 메시지 크기를 실질적으로 0에 가깝게 만듦으로써 이러한 기존 관행에서 크게 벗어납니다. 이를 통해 메시지를 네트워크의 모든 클라이언트에 플러딩(flooding)할 수 있게 하여 탈중앙화 학습(training)의 확장성을 향상시킵니다. 결과적으로 SeedFlood는 수십억 매개변수(parameter) 규모의 모델이나 수백 개의 클라이언트에 걸친 분산 환경과 같이 이전에는 비실용적으로 여겨졌던 영역에서의 학습을 가능하게 합니다. 탈중앙화 LLM 미세조정에 대한 실험 결과, SeedFlood는 통신 효율성과 일반화 성능 모두에서 표준 0차 베이스라인을 지속적으로 능가하며, 대규모 설정에서는 몇 자릿수(orders-of-magnitude) 더 적은 통신 비용을 요구하면서도 1차 가십 기반(gossip-based) 방식과 대등한 결과를 달성함을 보여줍니다. 또한 이론적 분석을 제공하여 SeedFlood가 클라이언트 참여 증가로 인한 가속 효과를 유지하면서도 수렴(convergence) 경계에서 토폴로지 의존적 합의 항을 피함을 정식화합니다.
강화학습(RL)은 언어 모델 추론의 핵심 동력이 되었습니다. 여러 RL 알고리즘 중 그룹 상대 정책 최적화(GRPO)는 프롬프트별 베이스라인과 분산 정규화를 사용하여 크리틱(critic)의 필요성을 없앰으로써 사실상의 표준으로 자리 잡았습니다. 그러나 이러한 정규화가 왜, 그리고 언제 도움이 되는지는 여전히 불분명합니다. 본 연구에서는 시퀀스 수준 정책 그래디언트의 국소 곡률(local curvature) 관점을 통해 두 질문에 모두 답하며, 표준편차 정규화가 적응형 그래디언트(adaptive gradient)를 구현함을 보입니다. 이론적으로, 완만한 조건 하에서 GRPO가 정규화되지 않은 REINFORCE 대비 향상된 수렴 속도를 달성함을 증명하며, 이때의 이득은 프롬프트 및 반복 전반에 걸친 평균 프롬프트 내 보상 표준편차로 특징지어집니다. 나아가 기대 업데이트가 전체 그래디언트와 일치하도록 유지되는 GRPO의 중요도 샘플링(importance sampling) 변형인 IS-GRPO를 도입하고, REINFORCE와 동일한 형태의 수렴 보장을 증명합니다. 이는 실제 학습 과정에서 측정 가능한 배수만큼 실제로 더 긴밀(tight)합니다. 실증적으로는 GSM8K 및 MATH에서 곡률과 분산 간의 연결고리를 검증하고, 실제 학습 과정에서 이론적 한계를 결정짓는 값들을 측정합니다. 1.5B 규모에서는 프롬프트별 정규화가 정규화되지 않은 베이스라인과 전역적으로 정규화된 베이스라인 모두를 능가하며, 이러한 이득은 프롬프트별 분산이 이질적으로 변하는 학습 중간 단계에서 나타납니다. 7B 규모에서는 정규화 방식 간의 통계적 차이가 사라지지만 IS-GRPO가 소폭의 우위를 유지하며, 이는 이득을 얻기 위해 이질성이 필요하다는 이론적 예측과 일치합니다.
대규모 언어 모델(LLM)이 기반 추론 엔진으로 점점 더 많이 활용됨에 따라, 모델의 환각(hallucination) 경향은 여전히 치명적인 취약점으로 남아 있다. 최근의 내부 상태 프로브는 속도가 느린 외부 검색 시스템의 유망한 대안을 제시하지만, 환각 탐지를 토큰별 이진 분류(classification) 태스크로 축소하여 의미적 표류(semantic drift)의 구조화된 순차적 경계를 포착하지 못하는 경우가 많다. 본 연구에서는 세분화된 스팬(span) 수준의 환각 탐지를 위한 내부 은닉 상태 프레임워크를 소개한다. 층(layer)별 활성화 패턴을 조사하여 LLM 생성물에서 정확한 환각 시작 토큰과 지속 토큰을 탐지하고자 한다. 실험 결과, 본 접근 방식은 극단적인 클래스 불균형에도 불구하고 환각 시작 지점을 성공적으로 분리해 내며, 무작위 베이스라인 대비 정밀도(precision)-재현율(recall) AUC에서 상당한 향상을 달성함을 보여준다. 최종적으로, 한 모델이 다른 모델의 생성으로 인해 유도된 내부 표현을 관찰하는 새로운 교차 모델(cross-model) 탐지 프레임워크를 제안한다. 외부 관찰자 모델은 관찰자가 더 작은 모델인 경우를 포함하여, 생성기 모델이 스스로 자신의 환각 시작 지점을 자체 탐지하는 성능과 일치하거나 이를 능가할 수 있음을 발견했으며, 이는 자체 탐지가 시작 지점 위치 특정의 상한선이 아님을 시사한다.
대규모 언어 모델(LLM) 에이전트는 추론, 도구 사용 및 행동을 점진적으로 결합하고 있으나, 대부분의 연구 결과는 비교적 즉각적인 피드백과 실패 시 리셋이 가능한 에피소드형 작업에 기반합니다. 장기간 실행되는 물리적 제어는 다른 영역에서 작동합니다. 즉, 행동이 미래 상태를 변화시키고, 결정 전반에 걸쳐 오류가 누적되며, 에이전트는 실행의 안전성을 담보하는 물리적 규칙을 임의로 변경하지 않으면서 경험을 통해 개선되어야 합니다. 본 연구에서는 일일 결정이 전체 생육 기간에 걸쳐 토양-수분 동역학과 상호작용하는 관개를 통해 이러한 영역을 탐구합니다. 저자들은 두 가지 수정 시간 척도(timescale)를 중심으로 구성된 물리 기반 LLM 에이전트인 Mimir를 제안합니다. 빠른 시간 척도에서는 구조화된 물리적 인터페이스와 결정론적 시뮬레이터가 LLM 출력을 제안으로 변환하며, 이를 실행 전에 수치적으로 확인, 수정하고 한계가 지정된 결정론적 행동 선택을 적용합니다. 느린 시간 척도에서는 물리적 모델, 평가기 및 실행 제약 조건은 불변으로 유지되는 반면, 반복되는 실패 패턴은 향후 제안을 조건화하는 지속적인 맥락적 원칙으로 통합됩니다. 여러 장소, 작물 및 연도에 걸친 공통의 소급 평가 환경에서, Mimir는 평가된 기준 모델 중 가장 낮은 총 제어 비용을 달성했으며 과거 일정 재생(schedule replay) 대비 약 51% 적은 관개 용수를 사용했습니다. 절제 연구(ablation study) 결과, 전방 시뮬레이션, 검증된 수정 또는 지속적인 맥락이 제거될 때 더 높은 제어 비용이 발생하는 것으로 나타났으며, 모델 크기 및 모델 패밀리 연구에서는 LLM 크기 증가에 따른 단조로운 성능 향상이 나타나지 않았습니다. 이러한 결과는 지속적인 물리 에이전트가 물리적 진실과 구동기 권한을 명시적인 수치 메커니즘에 남겨두면서도, 의미론적 추론과 제약된 증거 기반 자기 개선을 결합할 수 있음을 보여줍니다.
응급실(ED) 중증도 분류(triage)는 인구통계학적, 사회경제적 및 시스템적 맥락 정보가 중증도 지정에 부적절한 영향을 미칠 수 있는 중대한 우선순위 결정 작업입니다. 로컬 환경 및 개인정보를 보호하는 임상 의사결정 지원을 위해 오픈소스 대규모 언어 모델(LLM)의 활용이 점차 고려되고 있으나, 모델 제품군, 크기, 의료 도메인 모델 및 도메인 특화 적응 모델 전반에서 반사실적 바이어스가 어떻게 달라지는지는 여전히 불분명합니다. 본 논문에서는 소아 응급 중증도 지수(ESI) 예측을 위해 10개의 오픈소스 LLM을 대상으로 비교 반사실적 감사를 제시합니다. 실제 임상 사례 및 핸드북 스타일의 임상 비네트에서 출발하여, 임상적 증상은 고정한 채 주입된 인구통계학적, 사회경제적, 의료 접근성, 행동적, 사회적 또는 시스템 맥락 변수 중 단 하나만 변경한 쌍 형태의 반사실적 변형을 구성합니다. 대상 모델에는 Qwen2.5-7B, Qwen2.5-14B-Instruct, QLoRA 파인튜닝된 Qwen2.5-7B, MedGemma 변형들, MedLLaMA2-7B, GPT-OSS-20B 및 GPT-OSS-120B가 포함됩니다. 본 연구에서는 모든 반사실적 변화, 과소 분류(undertriage), 과대 분류(overtriage), 1단계 이상의 ESI 수준 변화, 평균 변화 및 평균 절대 변화를 측정합니다. 반사실적 민감도는 상당한 차이를 보였으며 모델 크기 증가나 의료 도메인 사전학습에 따라 일관되게 감소하지 않았습니다. 파인튜닝된 Qwen2.5-7B는 베이스 모델의 전체 변화율 16.02% 및 평균 절대 변화 0.1706에 비해, 5.27%의 전체 변화율과 0.0534의 평균 절대 변화를 기록하며 전반적으로 가장 낮은 민감도를 보였습니다. 몇몇 대형 모델 또는 의료 도메인 모델은 더 유의미한 변화를 보였습니다. 층화 및 상관 분석을 통해 집계된 수치에 가려졌던 임상적으로 중요한 방향성과 공통된 실패 패턴 또한 추가로 밝혀냈습니다. 이러한 결과는 임상 배포 전에 오픈소스 LLM의 공정성 위험을 비교하기 위한 경량화되고 임상적으로 해석 가능한 프레임워크로서 반사실적 감사를 지지합니다.
엔터프라이즈 AI 에이전트(agent) 스킬은 도구 API, 모델(model), 명세의 변화에 따라 진화하지만, 최종 출력 평가만으로는 프로세스 수준의 행동 드리프트(drift)를 놓칠 수 있다. 본 논문에서는 결과 수준 및 프로세스 수준 검사를 결합한 지속적 평가 프레임워크를 제안하며, 이를 엔터프라이즈 가치 인식 복원력(Value Aware Resiliency) 시스템 내 비즈니스 가치 결정(Business Value Determination) 스킬의 수익(Revenue) 및 생산성(Productivity) 변형에 적용한다. 이 프레임워크는 실행별 정답(ground truth)을 독립적으로 계산하고, 재사용 가능한 템플릿 테스트를 구체화하며, 프로그래밍 방식의 검사와 좁은 범위로 한정된 대규모 언어 모델(LLM) 심사위원을 통해 도구 선택, 인자, 실행 순서, 데이터베이스 무결성을 평가한다. 우리는 두 가지 스킬, 두 가지 명세 변형, 두 가지 에이전트 하네스, 세 가지 모델에 걸쳐 240회의 시도를 평가했다. 적용 가능한 모든 최종 수치 검사를 통과한 175회의 시도 중 162회(92.6%, 윌슨 95% 신뢰구간: 87.7-95.6%)에서 평가자가 감지한 또 다른 편차가 포함되어 있었다. 더 넓은 7가지 검사 기반의 최종 상태 정의 하에서도 통과된 164회 실행 중 151회(92.1%, 95% 신뢰구간: 86.9-95.3%)가 여전히 궤적 검사를 위반했다. 의존성 귀속(dependency attribution)을 통해 실행당 실패한 검사의 평균 수를 6.34개에서 근본 원인 2.65개로 감소시켰다. 명세 민감도는 모델과 하네스에 따라 달랐으며, 탐색적 부트스트랩 상호작용 구간은 세 가지 수익 비교 모두와 세 가지 생산성 비교 중 하나에서 0을 제외했다. 런타임 해석 템플릿은 평가된 구성 전반에 걸쳐 재사용 가능한 회귀 커버리지를 제공했으며, 실제 API 진화 환경에서의 종단적 검증(validation)은 향후 과제로 남겨둔다.
활성화 희소성(activation sparsity)은 중요하지 않은 활성화를 0으로 설정하여 해당 연산을 건너뛸 수 있도록 함으로써 대규모 언어 모델(LLM) 추론을 가속화합니다. 그러나 기존의 학습 불필요(training-free) 방식들은 서로 다른 트레이드오프를 가집니다. TEAL과 같은 임계값 기반 방식은 토큰별로 희소성 수준을 적응시키지만 실제 실현되는 희소성을 엄밀하게 제어하지 못하는 반면, WINA와 같은 TopK 기반 방식은 고정된 희소성 수준을 강제하지만 모든 토큰에 대해 동일한 희소성 예산을 사용합니다. 또한 두 방식 모두 트랜스포머 블록 간의 민감도 차이가 큼에도 불구하고 모든 블록에 걸쳐 동일한 예산을 적용합니다. 본 논문에서는 경계가 지정된 토큰 수준의 희소성 적응과 민감도 인식 블록 수준 예산 할당을 결합하여 두 가지 한계를 모두 해결하는 학습 불필요 방식인 TopK-Guided를 소개합니다. Llama-2 및 Llama-3 모델 전반에서 TopK-Guided는 WINA와 실질적으로 동일한 희소성 의존적 투영 연산량을 유지하면서도 TEAL 및 WINA 대비 펄플렉서티(perplexity)와 다운스트림 정확도를 일관되게 향상시키며, 특히 높은 희소성에서 가장 큰 성능 향상을 보입니다. 제거 연구(ablation study)를 통해 두 구성 요소가 상호 보완적인 개선을 제공함을 보여줍니다.
대규모 언어 모델(LLM) 에이전트는 특화된 작업의 성능을 향상하기 위해 스킬(skill)을 활용합니다. 에이전트는 사용자의 요청을 완료하기 위해 여러 스킬을 순차적으로 호출할 수 있으며, 이로 인해 한 스킬에서 생성된 정보가 다음 스킬을 안내하게 됩니다. 스킬은 오픈소스 저장소에서 가져올 수 있으므로, 이러한 정보 전달 과정에서 공격자가 제어하는 주장이 이후의 결정으로 이어질 수도 있습니다. 본 논문에서는 사용자 작업 및 공격자가 선택한 작업에 맞춰 적대적 스킬 체인을 구축하고 정제하는 APEX를 소개합니다. 핵심 통찰은 실제 작업 진행 상황에 대해 에이전트가 작성한 기록이 여러 스킬에 걸쳐 사용자 승인에 대한 거짓 주장을 전달할 수 있다는 점입니다. 즉, 상류(upstream) 스킬이 에이전트로 하여금 해당 기록을 생성하도록 유도하고, 하류(downstream) 스킬은 이를 활용하여 공격자가 선택한 작업을 지시합니다. SkillsBench의 4가지 표적 행동군과 6개 모델에 걸쳐 평가한 결과, 이러한 체인은 690회 시도 중 512회(74.2%)에서 선택된 작업을 유도했습니다. GPT-5.4의 경우, 전체 체인은 워크플로가 단일 스킬로 병합되었을 때의 17.4%와 비교하여 84.3%의 시도에서 성공했습니다. 나아가 스킬이 생성한 파일을 원본 요청과 대조하여 확인하도록 에이전트에게 요청하는 프롬프트 기반 방어 기법을 평가했습니다. GPT-5.4에서 이 방어는 표적 행동 성공률을 84.3%에서 59.1%로 낮추었으나, 72개의 정상 네이티브 스킬 작업에 대한 검증기 테스트 통과율 또한 86.7%에서 56.3%로 떨어졌습니다. 이러한 결과는 정당한 작업 성능을 보존하면서도 공격자가 지시한 작업을 방지하는 방어책의 필요성을 강조합니다.
대규모 언어 모델(LLM)의 강화학습(RL) 사후 학습(post-training)에 관해 최근 떠오르는 가설은, 이것이 단지 베이스 모델의 기존 동작을 샤프닝(sharpening)하여 솔루션 커버리지를 희생하는 대신 단일 시도 정확도(single-shot accuracy)를 향상시킬 뿐이라는 점입니다. 이러한 상충 관계(trade-off)는 수학 및 코딩 과제에서 관찰되었으나, 멀티턴 도구 사용 및 상호작용을 위해 사후 학습 과정에서 새로 습득된 기능이 필요할 수 있는 에이전트(agent) 과제에까지 반드시 확장 적용될 필요는 없습니다. 본 연구의 놀라운 발견은 가벼운 추론(inference) 하네스를 갖춘 사전학습(pre-trained) LLM 또한 유능한 에이전트로 동작할 수 있다는 사실입니다. 훨씬 낮은 정확도(pass@1)에도 불구하고, 충분한 테스트 시간 예산이 주어지면 이들은 솔루션 커버리지(pass@K) 측면에서 종종 사후 학습된 대응 모델(post-trained counterparts)을 능가합니다. 더 나아가 기본 메커니즘을 분석하여 사후 학습이 과제를 '항상 해결됨' 또는 '전혀 해결되지 않음'이라는 두 극단으로 밀어붙이며, 이를 통해 솔루션 커버리지를 희생하면서 샘플링 효율성과 일관성을 개선한다는 점을 보여줍니다. 이러한 비용을 측정하기 위해, 사후 학습 후 테스트 시간 확장성(test-time scalability)의 손실(loss)을 정량화하는 진단 지표인 샤프닝 세금(Sharpening Tax)을 제안합니다. 4개 패밀리의 14개 베이스/사후 학습 모델(model) 쌍과 3개의 에이전트 벤치마크(총 42개 사례)에 걸쳐 평가한 결과, 이 세금은 대부분의 설정에서 만연하게 나타나며, 소수의 롤아웃만으로도 추정 가능하고 다른 지표들과도 잘 상관관계를 이룹니다. 마지막으로 프롬프트(prompt)별 샘플링 온도를 추정된 난이도에 맞게 적응시키는 간단한 플러그 앤 플레이 베이즈 샘플러인 후험 조정 그룹 샘플링(posterior-tempered group sampling, PTGS)을 제시합니다. 두 개의 에이전트 환경에서 RL 학습(training) 중에 적용했을 때, PTGS는 고정 온도 기준선(baseline)보다 더 적은 세금을 치르며, 단일 시도 정확도를 개선하는 동시에 반복 샘플링 조건에서 더 많은 과제를 해결합니다.
건강검진 결과의 개인화된 해석에는 종단적 기록, 의학 지식, 생활 습관 안내 및 의료 서비스 내비게이션 전반에 걸친 추론이 요구됩니다. 본 논문에서는 여러 의도를 식별하고, 각 의도를 작업별 전문 에이전트(agent)에 매핑하며, 이를 병렬로 실행한 후 결과를 종합하는 멀티 에이전트 대규모 언어 모델(LLM) 시스템을 제시합니다. 저자들은 합성 건강검진 기록을 활용하여 2개에서 4개의 요구사항이 결합된 120개의 한국어 복합 질의를 대상으로 단일 에이전트(Single Agent)와 멀티 에이전트(Multi Agent) 환경에서 생성된 답변을 비교했습니다. 멀티 에이전트는 가중치 적용 LLM 심사위원 점수를 1.695점에서 1.797점으로 향상시켰으며(p = 0.027), 3개의 추가 LLM 심사위원 평가에서도 일관된 향상($Δ$ = +0.111 ~ +0.186, 모두 p < 0.05)을 보였습니다. 이러한 성능 향상은 유용성, 일관성, 그리고 복합 질의의 모든 요구사항 처리에 기인한 반면, 수치적 정확도와 그라운딩(grounding)은 4개의 심사위원 중 1개에서만 유의미하게 향상되었고, 의학적 안전성(safety)에는 차이가 없었으며, 치명적 실패 발생률 또한 유사한 수준(단일 에이전트 15.0% 대 멀티 에이전트 13.3%)을 보였습니다. 두 명의 인간 평가자는 쌍별 비교에서 각각 66.7%와 68.3%의 비율로 멀티 에이전트를 선호했습니다. 멀티 에이전트 실행은 지연 시간과 비용을 각각 1.31배 및 2.02배 증가시켰습니다. 탐색적 하위 그룹 분석에서 이러한 개선 효과는 개인 기록 조회가 포함된 질의에 집중된 것으로 나타났습니다.