폐루프 대규모 언어 모델(LLM) 기반 채널 구성 탐색에서 얻은 유망한 초기 결과는, 실행 가능한 코드 생성과 정확도 피드백을 통해 신경망의 폭을 직접 최적화할 수 있음을 보여주었다. 그러나 이러한 결과는 상대적으로 희소한 유효 평가 집합에서 얻은 것이므로, 관찰된 최적화 행동이 더 조밀한 샘플링 체제로 전이되는지, 그리고 더 많은 생성 네트워크가 평가될 때 추가적인 아키텍처 규칙성이 나타나는지는 열려 있는 문제로 남아 있다. 이를 검증하기 위해, 동일한 탐색 설정을 미세조정 주기당 250개의 후보 네트워크로 확장하였다. 분석은 8개의 완전한 주기에서 생성된 2000개의 후보를 다루며, 작업 및 메타데이터 필터링 후 462개의 검증된 CIFAR-100 평가를 산출한다. 주기별 평균 정확도는 기울기 9.87e-4(p=0.043)의 양의 선형 추세를 보이며, 고성능 프론티어는 더 강하게 개선된다. 관찰된 최고 정확도는 0.3144에서 0.3676으로 증가했고, 상위 5개 및 상위 10개 주기별 평균 모두 양의 추세를 나타낸다. 확장된 실행은 또한 매개변수 효율의 개선을 드러낸다. 최고 모델은 11.8M 매개변수로 0.3676에 도달하는 반면, 초기 고성능 모델은 166.5M 매개변수로 0.3144를 기록했다. 정확도를 넘어, 더 큰 표본은 희소한 관측으로는 평가하기 어려웠던 아키텍처 규칙성을 드러낸다. 2의 거듭제곱이 아닌 채널 폭은 검증된 후보의 41.8%에서 나타나며, 가장 강력한 모델들은 초기 폭은 적당하고 중간 또는 후반 블록을 확장한 구조화된 채널 할당 패턴을 공유한다. 이러한 발견은 초기 연구에서 관찰된 채널 탐색 신호가 전이됨을 시사한다
프로덕션 환경의 언어 모델은 산문을 쓰지 않는다. JSON 필드, 함수 인자, 추출 템플릿 같은 양식을 채운다. 우리는 양식 자체가 환각(hallucination)을 유발한다는 것을 보여준다. 동일한 입력에 대해 열세 개 모델에 같은 질문을 하고, 답변 형식만 바꾼다. 입력은 질문에 답할 수 없도록 구성된다: 12,400개의 좋아요는 보이지만 답글이 보이지 않는 바이럴 게시물, 통화가 전사되지 않은 지원 티켓. 자유 텍스트에서는 GPT-5.5가 정직하게 답한다. 98%의 경우 답글 데이터가 없다고 말한다. 감성(sentiment)에 대한 필수 JSON 필드가 주어지면, 같은 모델은 40번 중 40번 답을 지어낸다. 본 적 없는 군중의 분위기를 지어내고, 들은 적 없는 고객의 말을 인용한다. 이 패턴은 강력하게 유지된다. 필수 필드는 열세 모델 중 열 개에서 날조(fabrication)를 100%로 끌어올린다. 명시적인 "증거 불충분(insufficient evidence)" 옵션은 프론티어 모델만 구출한다: 아홉 개의 오픈 가중치(open-weight) 모델은 모두 이를 무시한다. "감성을 추론하지 마라"는 직접 지시는 여섯 모델 중 네 개에서 스키마(schema)에 의해 무시된다. 저항은 스케일링(scaling)과 함께 오지 않는다: 단일 모델 계열 내에서, 가장 작은 모델은 거부하고, 중간 크기 모델은 날조하며, 가장 큰 모델은 다시 거부한다. 형식 압력 하에서의 정직함은 아무도 측정하지 않는 학습(training) 결과물이다. 날조는 회피(hedging)가 불가능한 바로 그곳, 면책 문구가 들어갈 자리가 없는 필수 enum과 최소 개수 배열 같은 필드에 숨겨진다. 우리는 결정론적 채점을 갖춘 벤치마크(benchmark) PhantomFill을 공개하며, 두 가지 보고 가능한 수치인 Coerced Fabrication Rate와 Escape Utilization Rate를 제시한다. 우리가 테스트한 수정은 스키마 한 줄이다. 우리가 측정한 실패는 어디에나 있다.
학습 데이터의 품질은 대규모 언어 모델(LLM)의 능력을 근본적으로 결정하지만, LLM, 에이전트, 데이터 중심 워크플로가 실제로 end-to-end로 학습 데이터를 얼마나 잘 준비하는지 측정하는 통합 벤치마크는 아직 존재하지 않는다. 우리는 LLM 기반 데이터 준비를 두 가지 상호 보완적인 역량으로 구성되는 것으로 본다: 원시 소스를 지도 학습 데이터로 변환하는 데이터 구성(data construction), 그리고 하류 학습 전에 후보 데이터셋의 학습 가치를 예측하는 데이터 품질 평가(data quality evaluation); 전반에 걸쳐 "품질"은 표면적인 텍스트 속성이 아니라 하류 학습 유용성(downstream training utility)을 가리킨다. 우리는 DataPrep-Bench를 제안한다. 이는 여섯 개 도메인과 여러 기본 모델에 걸쳐 공유된 하류 기반(downstream-grounded) 프로토콜 아래 두 역량을 함께 평가하는 최초의 통합 벤치마크이다. 데이터 구성의 경우, 각 방법은 동일한 원시 소스를 사용하며, 그 출력물에 Dolly-15k를 함께 적용해 기본 모델을 미세조정하는 방식으로 점수를 매긴다; 이 트랙과 함께 우리는 Data-Construction-Skill을 공개한다. 이는 스킬 가이드 에이전트로, Llama-3.1-8B Finance에서 Dolly만 사용한 기준선을 절대값 기준 거의 20점 향상시키며, 지식 추출이 밀집한 도메인에서 가장 강력한 에이전트 및 DataFlow 기반 방법과 경쟁력을 보인다. 데이터 품질 평가의 경우, 점수 함수는 공유된 후보 풀에서 하류 성능과의 Pearson 상관으로 평가된다; 우리는 Distributional Alignment Score(DAS)를 공개한다. 이는 후보 데이터셋과 도메인 프록시 간 MMD를 사용하는 분포 기반 평가자이다. DAS는 여섯 도메인 중 네 곳에서 가장 강한 교차 모델 상관을 달성하며, Math, Science, Medical에서 동시에 r > 0.70을 넘기는 유일한 지표로, 기존의 품질-, 다양성-, 휴리스틱 기반 평가자들을 능가한다. DataPrep-Bench는 LLM 기반 데이터 준비의 동등한 목표인 두 역량 모두에 대한 진전을 측정하는 통합적이고 하류 기반의 프레임워크를 제공한다.
선호 최적화(preference optimization)는 대규모 언어 모델(LLM)을 인간 선호에 정렬(alignment)하는 데 널리 사용된다. 그러나 많은 마진 기반 방법은 거부된 응답을 억제하려 할 때 선택된 응답까지 함께 억제하며, 서로 다른 목적 함수(objective) 전반에서 이를 방지하는 일반적인 방법은 없다. 우리는 선호 최적화에 대한 통합된 인센티브 점수(incentive-score) 분해를 통해 이 문제를 해결하며, 서로 다른 목적 함수가 동일한 국소 업데이트 방향을 공유하고 스칼라 가중치에서만 차이가 남음을 밝힌다. 이 분해는 이전에 별도의 설정에서 연구되었던 목적 함수들을 분석하기 위한 공통 프레임워크를 제공한다. 이 분해를 바탕으로 선택/거부 우도(likelihood)의 역학을 분석함으로써, 우리는 분리 밴드(disentanglement band, DB)를 식별한다. DB는 학습(training)이 원하는 경로—초기 단계 이후일 수 있지만 패자는 억제하고 승자는 보존하는 경로—를 따를 수 있는 시점을 알려 주는 간단하고 검증 가능한 조건이다. DB를 활용하여, 우리는 보상 보정(reward calibration, RC)을 제안한다. RC는 기본 목적 함수를 재설계하지 않고 선택/거부 응답에 대한 업데이트를 DB를 만족하도록 적응적으로 재조정하는 플러그앤플레이(plug-and-play) 방법이다. 실험 결과 RC가 보다 분리된 역학을 유도하며, 여러 설정에서 더 나은 다운스트림 성능이 관찰됨을 보여준다. 코드는 https://github.com/IceyWuu/DisentangledPreferenceOptimization 에서 이용할 수 있다.
프롬프트 인젝션은 실제 LLM 응용, 특히 자율 에이전트에 심각한 보안 위험을 초래한다. 많은 방어 기법이 제안되었지만, 적응형 공격에 대한 견고성은 여전히 충분히 평가되지 않아 잘못된 안전감을 조성할 수 있다. 본 연구에서는 PISmith를 제안한다. PISmith는 실용적인 블랙박스 설정에서 공격자가 방어된 LLM을 쿼리하고 그 출력만 관측할 수 있는 조건 하에, 공격 LLM을 학습하여 주입 프롬프트를 최적화함으로써 기존 프롬프트 인젝션 방어를 체계적으로 평가하는 강화학습(RL) 기반 레드팀 테스팅 프레임워크이다. 강력한 방어를 공격하기 위해 표준 GRPO를 직접 적용하면 극심한 보상 희소성으로 인해 최적이 아닌 성능에 이르는 것을 확인했다. 생성된 주입 프롬프트 대부분이 방어에 의해 차단되어 효과적인 공격 전략을 발견하기 전에 정책의 엔트로피가 붕괴하고, 드문 성공 사례는 효과적으로 학습되지 못한다. 이에 대응하여 탐험을 유지하고 희귀한 성공으로부터의 학습을 증폭하기 위해 적응형 엔트로피 정규화와 동적 이점 가중을 도입한다. 13개 벤치마크에 대한 광범위한 평가를 통해 최신 프롬프트 인젝션 방어가 적응형 공격에 여전히 취약함을 보여준다. 또한 정적, 검색 기반, 강화학습 기반 공격 범주에 걸친 7개 기준선과 PISmith를 비교한 결과, PISmith가 일관되게 최고의 공격 성공률을 달성함을 보여준다. 또한 PISmith는 InjecAgent 및 AgentDojo에서 에이전트(agentic) 설정 하에 오픈소스 및 클로즈드소스 LLM(예: GPT-4o-mini, GPT-5-nano) 모두에 대해 강력한 성능을 달성한다. 코드는 https://github.com/albert-y1n/PISmith 에서 제공된다.
테스트-타임 학습(TTT) 언어 모델은 추론 중에 업데이트되는 빠른 가중치로 KV-cache를 대체하여 O(1) 메모리를 달성하지만, 정확 재현 작업에서 치명적인 실패를 겪는다. 본 연구의 버전 1은 높은 surprisal 토큰을 희소 exact-attention 잔차 캐시로 라우팅하는 SR-TTT를 제안했으며, 큰 Needle-in-a-Haystack 성능 향상을 보고했다. 우리는 이러한 향상이 평가 아티팩트였음을 보인다. 손실과 지표가 한 위치 앞이 아니라 답변 위치에서 로짓을 읽어, 두 모델 모두 입력에 이미 보이는 답변을 복사하도록 학습시켰다(검색 불가능 데이터로 학습된 모델도 결함 있는 지표 하에서 100% 정확도에 도달한다). 또한 캐시는 답변 자체를 포함한 미래 토큰에 대해 비인과적으로 어텐션했다. 시작 시 인과성 자가 테스트를 포함한 수정된 구현을 공개한 뒤, SR-TTT 가설이 수정 후에도 유효한지 묻는다. 그렇지 않으며, 실패는 독립적이고 각각 측정된 두 병목으로 분해된다. 저장: surprisal 게이팅은 체계적으로 위치 편향이 있다. TTT 재구성 손실은 바늘이 상대적으로 surprisal하게 되기 전에 burn-in이 필요하므로, 초기 문맥 바늘은 거의 0에 가까운 비율(깊이 0.1에서 0–1% containment)로 저장되며, 이는 바로 장문맥 메모리가 가장 중요한 지점이다. 어드레싱: 오라클로 저장 문제를 해결하고 새로운 학습 가능한 read-time projection을 적용한 경우, 슬롯별 어텐션 supervision은 addressing mass를 2.5배(0.06 → 0.15) 높였지만 토큰 정확도는 통계적으로 변하지 않았으며, 검색은 2.30-nat 바늘 중 약 0.06 nats만 추출한다. 위치 무관 콘텐츠 어드레싱은 내용이 거의 상호 교환 가능한 순서 있는 슬롯을 해결할 수 없다. 모든 수정된 조건에서 2,250회의 쌍별 시행 전체에서 정확 일치는 0%로 남는다. 우리는 v1의 주장을 철회하고, 수정된 코드베이스, 진단 프로토콜, 부정적 결과를 surprise-gated 메모리 아키텍처에 대한 경고적 참고 자료로 제공한다.
글로벌 동영상 플랫폼용 추천 모델과 같은 대규모 머신러닝 시스템을 최적화하려면 방대한 하이퍼파라미터 탐색 공간을 헤집어야 하며, 더 중요하게는 미묘한 사용자 행동을 포착하기 위해 정교한 최적화기, 아키텍처, 보상 함수를 설계해야 한다. 이러한 영역에서 실질적인 개선을 달성하는 것은 사소한 과제가 아니며, 전통적으로 새로운 가설을 검증하기 위해 광범위한 수동 반복에 의존해 왔다. Google의 Gemini 계열을 포함한 대규모 언어 모델(LLM)을 활용하여 엔드투엔드 자동화 워크플로우 내에서 고성능의 복잡한 모델 변경 사항을 자율적으로 생성, 학습, 배포하는 자기 진화 시스템을 제안한다. 자기 진화 시스템은 프록시 지표를 사용해 고처리량 가설 생성을 수행하는 오프라인 에이전트(내부 루프)와, 실제 프로덕션 환경에서 지연된 북극성(north star) 비즈니스 지표에 대해 후보를 검증하는 온라인 에이전트(외부 루프)로 구성된다. 우리의 에이전트는 전문 머신러닝 엔지니어(MLE)처럼 동작한다: 깊은 추론 능력을 보이며, 최적화 알고리즘과 모델 아키텍처에서 새로운 개선점을 발견하고, 장기적인 사용자 참여를 목표로 하는 혁신적인 보상 함수를 수립한다. 이 접근법의 효과는 YouTube에서의 여러 성공적인 프로덕션 런칭을 통해 입증되었으며, 자율적이고 LLM 기반 진화가 개발 속도와 모델 성능 모두에서 전통적인 엔지니어링 워크플로우를 능가할 수 있음을 확인했다.
추측 디코딩(speculative decoding)은 (M)LLM의 추론을 가속하지만, 학습-디코딩 불일치가 지속된다. 기존 방법은 단일 탐욕적(greedy) 궤적을 최적화하는 반면, 디코딩은 여러 샘플링된 드래프트 경로를 검증하고 순위를 매기는 과정을 포함한다. 우리는 변분 추측 디코딩(VSD)을 제안하며, 드래프트 학습을 잠재 제안(드래프트 경로)에 대한 변분 추론(variational inference)으로 공식화한다. VSD는 타깃 모델 수용의 주변 확률을 최대화하여, 고품질 잠재 제안을 촉진하면서 타깃 분포로부터의 발산(divergence)을 최소화하는 ELBO를 도출한다. 품질을 향상하고 분산을 줄이기 위해 경로 수준(path-level) 유틸리티를 통합하고 기대-최대화(Expectation-Maximization) 절차를 통해 최적화한다. E-단계는 오라클 필터링된 사후분포(posterior)에서 몬테카를로(Monte Carlo) 샘플을 추출하고, M-단계는 적응형 거부 가중(Adaptive Rejection Weighting, ARW)과 신뢰도 인식 정규화(Confidence-Aware Regularization, CAR)를 사용하여 가중 가능도를 최대화한다. 이론적 분석은 VSD가 기대 수용 길이와 가속(speedup)을 증가시킴을 확인한다. LLM과 MLLM 전반에 걸친 광범위한 실험은 VSD가 EAGLE-3 대비 최대 9.6%, ViSpec 대비 7.9%의 가속을 달성하여 디코딩 효율을 크게 향상시킴을 보여준다.
확산 대규모 언어 모델(dLLM)은 자기회귀(autoregressive) LLM에 대한 유망한 대안을 제시하지만, 강화학습(RL)을 포함한 효과적인 사후 학습 기법의 부재는 dLLM, 특히 다운스트림 응용에서 핵심 과제로 남아 있다. 기존 접근법은 편향된 가능도 근사를 요구하는 시퀀스 수준 관점에 의존하는 경우가 많다. 본 연구에서는 dLLM의 마르코프(Markovian) 특성을 활용하여 전체 시퀀스가 아닌 개별 디노이징(denoising) 단계를 최적화하는 정책 그래디언트 알고리즘인 Amortized Group Relative Policy Optimization(AGRPO)을 제안한다. 우리 접근법은 학습된 정책과 추론 과정 간의 정렬을 개선하며, 새로운 시간 단계(timestep) 추정 방식을 통해 효율적이고 편향 없는 그래디언트 업데이트도 가능하게 한다. 수학 및 추론 과제에서 AGRPO의 효과를 입증하며, 기본 LLaDA 모델 대비 Countdown과 Sudoku에서 각각 +59.4% 및 +69.7%의 절대 정확도 향상을 달성하여 diffu-GRPO와 같은 유사 방법을 능가했다. 코드는 https://github.com/probablyabot/agrpo 에서 제공된다.
통신 효율적인 분산 학습 알고리즘(예: DiLoCo)은 데이터센터 간 및 인터넷을 넘는 등 대역폭이 제한된 환경에서 대규모 언어 모델(LLM) 학습에 이점이 있어 상당한 관심을 받아왔다. 이러한 로컬 업데이트 방법은 동기화 감소를 통해 통신을 줄이지만, 여전히 모델 크기만 한 밀집 pseudo-gradient를 통신해야 하므로 데이터센터 간 링크에서도 통신 병목이 발생한다. pseudo-gradient의 크기를 줄이기 위해 양자화가 흔히 적용되지만, LLM 사전학습 맥락에서는 기존 접근법들이 상당한 성능 저하 없이 희소화(sparsification)를 활용하지 못했다. 본 연구에서는 SparseLoCo를 제안한다. 이는 LLM을 위한 통신 효율적 학습 알고리즘으로, Top-k sparsification과 2-bit 양자화를 효과적으로 활용하여 통신되는 pseudo-gradient에서 97-99%에 달하는 극단적 희소성을 달성하면서 밀집 DiLoCo보다 더 낮은 최종 손실을 달성한다. 언어 모델 사전학습에 대한 실증 연구에서, SparseLoCo의 DiLoCo 대비 성능 및 pseudo-gradient 압축 측면의 개선이 밀집 모델 규모(178M-2B), 전문가 혼합(MoE) 트랜스포머(645M-A273M), 워커 수 증가, 통신 간격 증가 등 다양한 조건에서 유지됨을 보인다.
표현 개입(representation intervention)은 대규모 언어 모델(LLM)에서 기저 개념을 인코딩하는 표현을 국소화하고 수정하여 정렬된 기대 행동을 유도하는 것을 목표로 한다. 경험적 성공에도 불구하고, 개입을 위해 충실한 개념을 국소화할 수 있는지는 아직 검토된 적이 없다. 본 연구에서는 안전성 정렬(safety alignment) 맥락에서 이 질문을 탐구한다. 개입이 충실하다면, 개입된 LLM은 유해 개념을 제거하고 분포 내(in-distribution) 적대적 프롬프트와 분포 외(out-of-distribution, OOD) 탈옥(jailbreak) 모두에 강건해야 한다. 선형 설정에서는 LLM의 무해한 유틸리티를 저하시키지 않고 유해 개념을 제거하는 것이 가능하지만, 일반적인 비선형 설정에서는 불가능함을 보인다. 이 문제를 해결하기 위해 COncept ConcentrAtion(COCA)을 제안한다. COCA는 잠재적 불안전 개념을 먼저 식별한 다음 응답을 결정하는 명시적 추론 과정으로 학습 데이터를 재구성한다. 본질적으로 COCA는 유해 표현과 무해 표현 사이의 결정 경계를 단순화하여 더 효과적인 선형 제거(linear erasure)를 가능하게 한다. 다양한 표현 개입 방법과 모델 아키텍처에 대한 광범위한 실험 결과, COCA는 분포 내 및 OOD 탈옥 성공률을 모두 크게 낮추면서 수학 및 코드 생성과 같은 일반 작업에서 강력한 성능을 유지함을 보여준다. 코드는 https://github.com/tmlr-group/COCA 에서 공개적으로 이용할 수 있다.
전문가 혼합(MoE) 모델은 동적 연산을 제공하지만, 일반적으로 정적 전용량 모델로 배포되어 배포 환경별 특화 기회를 놓치는 경우가 많다. 본 논문은 목표 배포 시나리오에 맞는 희소 MoE 변형을 선제적으로 컴파일하는 학습 없는(training-free) 프레임워크인 PreMoE를 제안한다. 그 핵심은 예측 전문가 유틸리티(PEU, Predicted Expert Utility)로, 고신뢰도 임계값 필터링과 로짓 변환을 통해 라우터 로짓에서 전문가 중요도를 추정하는 강건한 지표이며, 이 두 기법은 공격적인 희소성 하에서도 유틸리티 추정을 안정화한다. 소규모 보정 세트에서 계산한 PEU 점수를 사용하면, PreMoE는 도메인 인식 전문가 순위를 생성하며, 이를 통해 재학습 없이 도메인 특화 전문가(specialist) 또는 고효율 다중 도메인 범용 모델(generalist)을 컴파일할 수 있다. 30B부터 718B 파라미터에 이르는 MoE 모델 전반에서 PreMoE는 성능 손실 거의 없이 최대 50% 희소성을 달성한다. 또한 실용적인 배포 트레이드오프를 드러낸다: 전문가 모델은 도메인 내 효율을 극대화하는 반면, 합성된 범용 모델은 동일한 희소성 예산에서 더 넓은 교차 도메인 능력을 유지한다. Code: https://github.com/JarvisPei/PreMoE
다른 이로부터 배울 수 있으면서도 단순히 굴복하지 않는, 사회적으로 보정된(socially calibrated) 대규모 언어 모델(LLM)을 구축하려면 아부(sycophancy)를 일차원적인 실패 모드로 줄이는 것만으로는 충분하지 않다. 모델은 다른 이의 관점을 수용해야 할 때와 근거 있는(well-grounded) 도덕적 판단을 유지해야 할 때를 구분해야 한다. 우리는 이러한 구분을 지배하는 더 넓은 저항-순응(resistance-compliance) 과정을 연구한다. 세 가지 연구를 통해, 모델의 판단 수정이 인간 사회 심리학의 고전적 현상과 평행하는 세 가지 차원을 따라 구조화되어 있음을 보인다: 들어오는 관점과 모델의 초기 입장 사이의 거리, 해당 관점의 출처 귀속(source attribution), 이를 뒷받침하는 연대(coalition) 구조. 모델은 일반적으로 가까운 입장에 더 수용적이고, 자신의 이전 판단으로 제시된 관점에 더 크게 영향을 받으며, 집단 압력에 서로 다르게 반응한다. 이러한 발견은 아부를 사회적 영향에 의해 형성되는 더 넓은 판단 갱신(judgment-updating) 과정의 한 표현으로 재해석한다. 우리의 프레임워크는 건설적인 신념 수정(belief revision)과 아부적 순응(sycophantic compliance)을 구분할 수 있는 원칙적 기반을 제공하여, 도덕적으로 중요한 상호작용에서 더 나은 정렬(alignment)을 지원한다.
현재의 고성능 LLM은 위험한 목표를 직접 보여줄 때, 다른 에이전트가 그 방향을 변환하여 전달할 때보다 더 안전해 보일 수 있다. OpenAI의 gpt-5.6-sol 모델 별칭을 사용하여, 사전에 지정된 25개의 대칭적 트레이드오프 프로파일을 테스트했다. 은폐, 날조, 압박을 허용하는 목표에 직접 노출되면, 그 목표와 전반적으로 반대되는 조언이 나왔다. Id와 Censor가 동일한 목표를 affect와 제약 조건이 재작성된 목표 지향 의도로 변환한 뒤, 선호 방향은 보았지만 원본 목표, 조작을 허용하는 조항, 또는 그 출처는 보지 못한 사용자 대면 Superego는 목표와 전반적으로 일치하는 조언을 냈다. 이러한 행동 역전은 모델이 조작적 동기를 인식하거나 불신했을 가능성과 일치하지만, 내부 메커니즘은 밝히지 않았다. 두 번째 결과는 구성적 안전성 격차를 드러낸다. 현재의 고성능 모델은 명시적으로 조작적인 목표를 수행하는 자동화된 다단계 워크플로의 사용자 대면 구성 요소로 사용될 수 있다. 워크플로는 목표의 방향은 유지하면서, 원시 지시, 조작을 허용하는 조항, 출처를 하류 모델의 컨텍스트 밖에 둘 수 있다. 엔드포인트만 접근 가능한 사용자 역시 목표를 포함한 그 상류 메시지를 직접 검사할 수 없다.
프로덕션 AI 에이전트의 실패는 추론 능력 부족 때문인 경우보다, 추론 컨텍스트에 무엇이 들어 있는지 관리하지 못하기 때문인 경우가 더 많다: 대화 기록, 큰 프롬프트, 큰 도구 정의, 그리고 불어나는 도구 출력. 에이전트는 매 턴마다 증가하는 토큰 비용을 지불하면서 스스로 축적된 기록에 잠겨, 대화 내·대화 간에서 회상 누락이 발생한다. 기존의 대응은 이를 저장-검색 문제로 취급한다. 우리는 이러한 프레이밍이 너무 좁다고 주장한다. 에이전트가 마음속에 담아 두는 것을 능동적으로 관리하는 것은 단순한 저장소가 아니라 수명주기이다: 무엇을 기억할지 결정하고, 추출·구조화하며, 데이터 유형별로 적절한 저장소를 선택하고, 출처를 보존하면서 통합·망각하며, 지금 무엇이 관련 있는지 결정하고, 다음에 무엇이 필요할지 예측하며, 중요한 것을 잃지 않고 컨텍스트를 예산 내로 압축하는 일을 아우른다. 진지한 프로덕션 환경에서는 이는 단일 사용자가 아니라 조직적 범위 계층 전반에서 작동한다. 우리는 이 분야를 에이전트형 컨텍스트 관리(Agentic Context Management, ACM)라 명명하고, 이를 아키텍처 설계(architecting), 수집(ingesting), 범위 지정(scoping), 예측(anticipating), 압축 및 통합(compacting & consolidation)의 다섯 원시 요소로 분해한다. 이어 경제적 논거를 제시한다: 순진한 컨텍스트 축적은 대화 길이에 대해 토큰 비용을 2차적으로 증가시키고, 거친 요약은 정확도 절벽(accuracy cliff)이라는 대가로 선형 비용을 얻으며, 검증된 압축(compaction)만이 충실도를 유지한 채 선형 비용을 달성한다. 우리는 다섯 원시 요소를 멀티테넌트 서비스로 구현한 참조 구현 Maximem Synap을 설명하고, Section 6에 상세히 기술한 구성에서 LongMemEval 92%, LoCoMo 93.2%를 보고한다. 마지막으로 기존 벤치마크가 아직 포착하지 못하는 차원—지연(latency), 토큰 효율성, 컨텍스트 부패(context-rot) 저항성—과, 이 범주가 가리키는 의사결정 수준·조직 수준 컨텍스트의 미래 전선을 논한다.
인간-AI 협업 작성의 증가로, 혼합 저자 문서에서 LLM 생성 콘텐츠일 가능성이 높은 부분을 국소화하는 데 도움이 되는 세밀한 탐지 방법에 대한 수요가 커지고 있다. 기존 LLM 생성 텍스트 탐지 방법은 주로 문서 수준 분류에 초점을 맞추며, 텍스트의 어느 부분이 LLM에 의해 생성되었는지 식별할 수 없다. 본 논문은 이러한 시급한 필요를 해결하기 위한 새로운 방법을 제안한다. 우리의 방법은 현대 언어 모델의 자연스러운 단위인 토큰 수준에서 동작하며, 기존 토큰 수준 탐지 점수를 기반으로 한다. 핵심 아이디어는 인접 토큰 점수를 평활화하여 변동성을 줄이는 동시에, 국소 저자 구조에 따라 대역폭을 선택하기 위해 적응형 Lepski-type 규칙을 사용하는 것이다. 우리 방법은 구현이 간단하며, 학습을 위해 토큰 수준 라벨 데이터가 필요하지 않다. 이론적으로, 우리는 이러한 트레이드오프를 특성화하고, 제안된 방법이 기저 신호 추정에서 유리한 평균제곱오차 성능을 달성함을 보인다. 실증적으로, 합성 데이터셋과 현실적인 데이터셋 모두에서 다양한 베이스라인 대비 우리 방법의 강력한 성능을 입증한다. 또한 해당 방법을 구현한 공개 접근 가능한 웹사이트를 배포한다.
장기 지평(long-horizon) LLM 에이전트 강화학습에서 약한 정책은 종종 유사한 실패를 반복하여 정보가 적은 롤아웃 궤적을 만들고, 효과적인 정책 최적화를 제한한다. 기존 스킬 중심 방법들은 재사용 가능한 스킬을 최적화, 필터링, 또는 내재화함으로써 탐험을 개선한다. 그러나 이들은 진화하는 정책에 대한 적응형 학습 시점 지원으로 설계되기보다는 스킬 자체에 중심을 둔다. 이를 해결하기 위해, 우리는 스킬을 동적 학습 스캐폴드로 재구성하는 정책 중심 학습 패러다임을 제안한다. 우리의 프레임워크인 Pats는 최신 정책의 롤아웃 그룹을 증거 카드(evidence cards)로 변환하고, 과제별 평가를 사용하여 이후 롤아웃에 사용되는 컨텍스트를 조정한다. 구체적인 안내는 약한 정책이 어려운 과제를 완수하도록 돕는다. 정책이 개선됨에 따라 불필요한 컨텍스트는 명시적 안내에 대한 의존을 줄이면서 유용한 롤아웃 변이를 보존하도록 수정되거나 제거된다. 정책은 표준 RLVR을 사용하여 환경 보상으로 최적화되며, 학습 스캐폴드는 배포 시 폐기된다. ALFWorld와 WebShop에서 Pats는 강력한 기준선 대비 최대 18.6% 개선을 달성한다. 7개의 검색-증강 QA 벤치마크 전반에서 기준선보다 32.1% 적은 프롬프트 토큰을 사용하면서도 경쟁력을 유지한다.
대규모 언어 모델(LLM)은 자연어 이해와 생성에 뛰어나지만, 특히 안전이 중요한 영역이나 규정 준수에 민감한 도메인에서 다단계 논리 추론에는 여전히 신뢰할 수 없다. 최근 신경-기호(neuro-symbolic) 접근법은 신경 모델과 외부 기호 엔진을 결합하여 이 격차를 해소하지만, 대부분의 통합은 맞춤형이며 도구 증강 에이전트를 위한 표준화된 인터페이스가 부족하다. 본 논문은 SWI-Prolog를 통해 결정론적 논리 추론을 제공하는 오픈 소스 MCP 서버인 Euclid-MCP를 제안한다. Euclid-MCP는 Horn 절(Horn-clause) 논리를 위한 엔진 독립적 중간 표현인 Euclid-IR을 도입한다. Euclid-IR은 사람이 읽기 쉽고, LLM이 생성하기 쉬우며, Prolog 또는 대체 백엔드로 컴파일하기 간단하다. 서버는 translate-run-inspect-repair 루프를 지원하는 간결한 도구 인터페이스를 제공하여, LLM 클라이언트가 추론을 위임하면서도 증명 추적과 도출 로그에 대한 완전한 접근을 유지할 수 있게 한다. 현실적인 IT 보안 및 규정 준수 사용 사례에서 Euclid-MCP를 평가한다. 결과는 LLM 단독으로는 작은 지식 베이스에서는 충분하지만, 더 큰 문제에서는 체계적으로 환각을 일으키는 반면, Euclid-MCP는 더 낮은 지연 시간과 더 간결한 출력으로 정확한 답을 제공함을 보여준다. 우리는 의미론적 RAG(semantic RAG)가 규칙 집행에는 근본적으로 부적합하다고 주장하며, Euclid-MCP가 RAG 기반 어시스턴트와 에이전트 시스템 모두를 위한 안정적이고 공유된 추론 기반 역할을 할 수 있다고 본다.
동적 공정 모델로부터 다변수 제어 설계를 자동화하기 위한 구조화된 대규모 언어 모델(LLM) 기반 워크플로우를 제시한다. 이 워크플로우는 설계 과제를 제약 조건이 있는 코드 생성 단계로 분해한다: 플랜트 인터페이스 구축, 정규화, 조작변수-제어변수(MV-CV) 페어링, 제어기 명세, 폐루프 시뮬레이션, 시나리오 생성, 성능 평가, 베이지안 최적화(BO) 기반 튜닝. 생성된 산출물은 하류 작업이 진행되기 전에 실행되고 검증되며, 실패한 산출물은 검증 피드백을 이용해 수정된다. 제안 접근법은 압력과 온도 역학이 결합된 비선형 가스 예열기 벤치마크에서 시연된다. 생성된 워크플로우는 물리적으로 일관된 분산형 PI(비례-적분) 피드백-피드포워드 제어 구조와 실행 가능한 튜닝 환경을 산출한다. 베이지안 최적화는 제어변수에 대한 설정값 추적 및 외란 억제 오류를 집계하는 폐루프 성능 목적함수를, 워크플로우가 생성한 초기 제어기 대비 약 26.5% 감소시키며, 이는 주로 압력 루프의 과도 성능 개선을 통해 달성된다. 이 수치는 수동으로 설계된 제어기와의 비교가 아니라 자동화된 튜닝 단계를 정량화한 것이다. 결과는 실행 가능한 제어 설계 워크플로우를 구축하기 위해 구조화된 대규모 언어 모델 기반 코드 생성을 사용하는 것의 실현 가능성을 보여주며, 동시에 더 큰 규모의 플랜트 전체 제어 벤치마크에 대한 더 넓은 범위의 검증이 필요함을 강조한다.
영국에서 100만 명 이상이 노쇠 또는 치매를 겪고 있으며, 이는 도시 환경에서의 이동 능력을 심각하게 저해한다. 본 논문은 고령 사용자의 여정을 보조하는 AI 기반 이동 시스템인 SafeStep을 제안한다. SafeStep의 핵심은 경로 계획과 예측 모델링을 통합한 새로운 이동 그래프 표현이다. 각 여정 단계마다 시스템은 (i) 대규모 언어 모델(LLM)과 Anticip8 행동 예측 엔진을 결합하여 개인화된 실패 시나리오를 생성하고, (ii) 표적 개입을 제안하며, (iii) 개입이 결과 확률에 미치는 영향을 추정한다. 이를 통해 SafeStep은 목적지에 도달할 가능도를 최대화하는 개입을 선택할 수 있다. SafeStep은 이동 그래프 생성 실험과 26건의 실제 여정을 포함한 현장 연구를 통해 평가되었다. 결과는 실패 예측에는 Anticip8을, 개입 평가에는 GPT 기반 모델을 결합할 때 가장 신뢰할 수 있는 성능을 보였음을 나타냈다. 사용자 피드백에 따르면 SafeStep은 이동 중 자신감과 체감 안전성을 향상시켰으나, 대상 인구층을 위해 인터페이스 사용성을 개선할 필요가 있다. 향후 SafeStep을 개선하고 공개할 계획이다. SafeStep을 위해 개발된 AI 시스템은 정신 건강, 진로 코칭, 중독 치료 등 다른 분야에도 적용될 수 있다.