검색 증강 생성(RAG)을 사용하는 에이전트 시스템은 근거를 더 수집하고 대안 정책을 시험하며, 답변을 수정할지와 언제 무엇을 수정할지를 결정해 스스로 답변을 고쳐야 한다. 그러나 정확도 같은 평가지표로는 수정이 제대로 이뤄지는지 판단하기 어려울 수 있다. 계약 추론을 위한 Jev 기반 실행 환경에서 모든 수정 결정을 기록하고 감사해, RAG가 답변을 고치는 동안 내린 결정을 처음부터 끝까지 디버깅할 수 있는 RagHarnessDebugger를 제시한다. 이 프레임워크는 각 실행 기록이 온전한지, 검증 결과가 실제로 해당 후보에 적용되는지, 채택 규칙으로 어떤 답변에 도달할 수 있는지 확인한다. 두 판독 모델을 사용해 ContractNLI 비밀유지계약서와 별도 계약서로 구성한 재현 세트에서 시험했다. 감사 계층은 집계 평가지표에 가려진 실패 양상, 정책이 수정과 성능 저하를 각각 받아들이는 데 따른 비용, 그리고 채택 과정에서 생긴 격차를 드러냈다. 가능한 수정 중 실제로 이루어지지 않은 비율은 개발 세트와 재현 세트에서 각각 77%, 76%였다. 감사에 오류 유형을 표시한 분석과 재실행 기능을 결합해 최종 결정까지 실행 경로를 따라가고, 가능한 수정이 어느 단계에서 누락됐는지 확인했다. 개선한 실행 환경은 BM25만 사용한 초기 기준선보다 개발 계약서에서 정확도가 3.6%포인트, 재현 세트에서 3.7%포인트 높았다. 계약서 전체를 읽는 참조 방식보다도 개발 세트에서 1.1%포인트, 재현 세트에서 2.4%포인트 높았다. 이 연구는 놓친 수정의 근본 원인을 찾는 데 디버거를 쓸 수 있음을 보여 준다. 각 판단의 근거를 드러내므로 RAG의 의사결정을 지속적으로 개선하고 설명하는 데도 활용할 수 있다. 핵심어: 에이전트형 RAG, AI 기반 근거 보강, 실행 환경의 설명 가능성, 반사실적 재실행, Jev, ContractNLI
웹 조사 에이전트는 온라인에서 정보를 수집하고 출처를 인용한 보고서를 작성한다. 금융 분석도 그중 하나다. 사용자는 우선순위를 제시해 조사의 방향을 정할 수 있지만, 우선순위만으로는 대안을 평가할 기준이 정해지지 않아 에이전트가 선택해야 할 수 있다. OpenAI와 Anthropic 모델을 각각 기반으로 한 두 에이전트가 주어진 우선순위를 어떻게 해석하는지 조사했다. 36회의 실행에서 에이전트는 Microsoft와 Alphabet의 사업을 비교했다. 프롬프트는 성장 또는 회복탄력성을 특별히 고려하라고 하거나 우선순위를 지정하지 않았다. 보고서, 검색 쿼리, 반환된 출처, 실제 인용한 출처를 분석했다. 우선순위를 지정한 보고서 24개 중 21개가 그 항목을 중점적으로 다뤘으나 판단 기준은 달랐다. 성장을 우선시할 때 두 회사의 순위를 매긴 OpenAI 보고서는 위험이나 예측 가능성을 고려해 Microsoft를 선호했다. Anthropic 보고서는 성장 속도를 기준으로 삼아 Alphabet을 선호했다. 회복탄력성을 우선시할 때는 보고서마다 일부 기준이 달랐으며, 대부분 Microsoft의 회복탄력성이 더 높다고 판단했다. 시험한 검색 및 출처 관련 평가지표 중 조건별 차이를 감지할 수 있었던 것은 Anthropic 에이전트의 검색 문구뿐이었다. 이 결과는 평가에서 보고서의 초점과 정확도 외에도 판단에 사용한 기준을 살펴볼 필요가 있음을 시사한다. 인터페이스에서 사용자가 그 기준을 확인하고 조정할 수 있게 할 수 있다.
AI 시스템은 문헌 분석, 후보 평가, 가설 정제를 점점 더 많이 지원한다. 하지만 연구자가 기존 학문 분야의 접근법을 넘어 새로운 연구 방향을 탐색하도록 돕기는 여전히 어렵다. 연구자가 검토할 수 있는 선택지를 넓혀 새로운 연구 방향을 제안하는 AI 시스템 Abelio를 개발했다. Abelio는 연구 목표를 여러 방식으로 다시 표현하고, 이를 활용해 기존 학문 분야의 경계 밖에서 관련 요소를 찾은 뒤 가설을 정제한다. 각 단계는 전용 하위 시스템으로 발산적 탐색과 수렴적 선별을 결합한다. 정량 평가에서 Abelio의 가설 생성 핵심부인 Ideation Core의 제안은 과학적 타당성과 가설 다양성에서 최첨단 대규모 언어 모델 네 종의 제안보다 우수했다. 기존 문헌과의 거리에서는 네 종 중 세 종을 앞섰다. 하위 시스템 제거 실험에서 각 하위 시스템이 목표로 삼은 속성에 기여함을 확인했다. 요소 선별의 기여는 가설 정제 이전에도 측정할 수 있었다. 장 상피 장벽의 복원을 연구하기 위해 Abelio는 세포막에 연결한 폴리에틸렌 글리콜(PEG)과 콜레스테롤에 연결한 상보적 DNA를 사용하는 물리적 접근법을 제안했다. 두 제안은 실험 전에 보관했고, 이후 손상시킨 Caco-2 단층에서 독립적으로 시험했다. PEG는 세포막 표면에 의존하는 방식으로 장벽 기능을 보존했다. 상보적 DNA는 염기서열에 따라 장벽을 복원했고, 필요할 때 복원 효과를 되돌릴 수 있었다. 이 결과는 구조화된 연구 아이디어 발상이 기존 학문 분야의 관행을 넘어 실험으로 검증할 수 있는 접근법을 찾아낼 수 있음을 보여 준다.
2022년 말 대규모 언어 모델(LLM)이 등장하면서 과학의 미래에 관한 질문이 제기됐다. 그 영향을 평가하려면 과학 연구 관행이 이전부터 어떻게 바뀌고 있었는지 파악해야 한다. 2015~2025년 다섯 분야에서 발표된 논문 250만 편의 전문을 분석해 어휘, 구조, 인식론, 사회적 측면의 다양한 추세를 살펴봤다. 일부 단어의 사용 빈도가 바뀐 점을 제외하면, 2023년 이전의 추세 대부분은 탐지할 수 있을 정도의 단절 없이 대체로 이어졌다. 주목할 만한 예외로 아시아에서는 컴퓨터과학 논문의 공저 팀 규모 증가가 유의하게 빨라졌다. 한편 생의학 연구의 주제 다양성이 낮아진 것처럼 보인 현상은 대체로 논문 형식의 표준화를 반영했다. 이 연구는 LLM 도입이 확대됨에 따라 전 세계 과학 연구의 상태를 모니터링할 실증적 토대를 제공한다.
기존 보증 방식만으로는 의약품 분야의 특정 사용 맥락에서 에이전트형 인공지능(AI)을 검증하고 모니터링하며 관리하는 데 필요한 근거가 충분한지 판단하기 어렵다. 기준이 없는 상황에서는 그럴듯한 출력이 검색, 추론, 작업 조율, 사람의 개입 지점에서 발생한 실패를 가릴 수 있다. 현황 분석, 규제 및 표준 대응 관계 정리, 전문가 인터뷰, 여러 이해관계자의 검토를 거쳐 임상 개발용 에이전트 검증 프레임워크 VITAL을 개발하고 실제 사용 절차로 구체화했다. VITAL은 의도된 사용 목적, 추적 가능성, 자율성, 수명 주기 근거에 따른 검증을 뜻한다. 위험 수준에 맞춰 사용 맥락, 통제, 행동 검증, 수명 주기 근거를 하나의 프레임워크에 통합한다. 역학 및 치료 현황 분석, 시험기관 선정, 등록 부진 대응, 시험 설계의 절충 판단 지원에 VITAL을 적용했다. 자율성, 가역성, 투명성, 환자에 대한 영향을 바탕으로 비례적인 검증 활동과 근거 요건을 정하고, 감사할 수 있도록 시스템의 동작을 재구성했다. VITAL은 위험도가 높은 의약품 분야 사용 사례에서 근거 요건과 수명 주기 전반의 책임 관리를 정하는 데 참고가 될 수 있다. 평가에서는 평가자, 조직, 시스템 구성이 달라져도 결과가 재현되는지 확인할 필요가 있다.
Safety benchmarks for computer-use agents (CUAs) place the harm either in the intent of the task or on a single screen: a malicious instruction, an injected command, a phishing page. An agent that checks the task and each screen in isolation can pass them, so they do not test whether it combines facts seen on different screens. Yet in delegated work, harm often arises exactly this way: a fact about a person on one screen, a fact about an item on another, and a legitimate task that binds them. We introduce SEAM (Safety Execution Across Multiple screens), a benchmark of such cross-screen compositional harm: 600 multi-step, cross-application OSWorld tasks in which the instruction and every single observation are benign and only their combination is harmful. Minimal-pair variants that differ in one place, scored from the server log rather than by an LLM judge, locate where an agent fails. General-purpose open-weight and flagship agents carry out the harm in up to 92% of runs, yet decline when the user states it in one sentence. Agents open the decisive pages, so exposure is not the primary bottleneck. Asked about those pages, they flag the harm, and with thinking they often write the conflict into their reasoning and confirm anyway. Safety recognition thus does not reliably translate into safe execution, and the translation depends on the information channel: the same warning stops agents far more often in the user's instruction than on screen. Proprietary models are markedly more cautious. We release SEAM with its generator and quality gates at https://yuxuan2003.github.io/SEAM/ .
코딩 에이전트는 프로그램을 작성하고 빌드, 검사, 편집을 반복해 비디오를 만든다. 영상 하나를 완성하는 데 모델 호출 비용은 중앙값 2.85달러, 소요 시간은 중앙값 11분이다. 시간의 3분의 1 이상은 에이전트가 빌드를 기다리는 데 쓰인다. 이 시간의 상당 부분을 줄일 수 있는 이유는 두 가지다. 첫째, 한 세션에서 후반에 생성한 영상 프레임의 37.5%는 이전에 이미 그린 적이 있으며, 그중 상당수는 시간 위치가 달라졌거나 편집한 장면에 들어 있었다. 둘째, 빌드의 절반은 검사 단계에서 중단된다. 이 경우 에이전트에는 판정 결과만 필요하지만, 어떤 빌드가 중단될지는 검사가 끝나야 알 수 있다. 기존 에이전트 명령의 배후에서 동작하고 추가 학습이 필요 없는 실행 계층 CodeReel을 제시한다. 정확한 프레임 재사용은 시간상 위치와 무관하게 그리기 명령에서 각 프레임의 키를 만들고, 키가 다시 나오면 그 프레임을 재사용한다. 대기를 고려한 스케줄링은 검사를 먼저 시작하고, 최근 빌드 이력으로 보아 검사에 통과하기 어려운 경우를 제외하면 유휴 우선순위로 렌더링을 병행한다. 스케줄링은 더 빨리 응답하기 위해 CPU를 쓰고, 프레임 재사용으로 그 비용을 회수한다. 정확한 키를 쓰므로 에이전트가 다음 수정을 추론하는 동안 실패한 버전에서 렌더링한 프레임도 이후 버전에서 재사용할 수 있다. 재실행 가능한 에이전트 세션으로 구성한 벤치마크 EditLoop를 소개한다. 각 영상은 처음부터 다시 렌더링한 결과와 대조한다. 여기에서 CodeReel은 병렬 렌더링과 준비된 실행 환경을 쓰는 Rebuild 대비 에이전트 대기 시간을 36.3%, 기존 순차 파이프라인인 Sequential 대비 57.9% 줄였다. 시간 위치를 바꾸는 편집에서 프레임 재사용 방식은 43.9%를 렌더링했다. 픽셀이 새로운 프레임 비율 43.0%에 가까웠으며, Manim 방식의 캐싱은 99.8%를 렌더링했다. 실제 에이전트에서 빌드당 대기 시간 중앙값은 개발에 없던 주제를 사용한 Claude Code에서 Rebuild의 0.62배, Codex CLI에서 0.67배였다. 이 개선은 모델 다섯 개와 프레임워크 두 개에서 유지됐다.
실제 최적화 문제에서는 평가 횟수가 제한된 블랙박스 목적함수를 최적화해야 하는 경우가 많다. 베이즈 최적화(BO)는 이런 문제에 효과적이지만 고차원 공간에서는 성능이 떨어지는 경우가 많다. 최근에는 확산 모델로 블랙박스 최적화를 수행하며, 보상을 조건으로 하는 점수 신경망을 사전학습해 보상이 높은 샘플 쪽으로 생성을 유도하는 경우가 많다. 그래디언트 기반 가이던스는 미분 가능한 보상 함수에 접근해 가이던스 그래디언트를 얻을 수 있다고 가정한다. 이러한 방법은 오프라인 학습을 위한 대량의 레이블 데이터 또는 정확한 보상 그래디언트를 요구해 블랙박스 환경에서는 적용하기 어렵다. 레이블이 있는 데이터셋이나 보상 그래디언트에 접근할 수 있다고 가정하지 않고 블랙박스 보상을 최적화하는 확산 모델 가이드 샘플링 프레임워크 BReaD(Black-box Reward-guided Sampling of Diffusion Model)를 제안한다. 알 수 없는 목적함수를 미분 가능한 가우스 과정(GP)으로 근사하고, 생성한 샘플의 레이블을 능동적으로 조회한다. 생성 분포와 목표 분포 사이의 총변동 거리를 이론적으로 분석한다. 상한 신뢰구간(UCB)을 가이던스 신호로 사용해 생성 중 탐험과 활용의 균형을 맞추고, 데이터 공간에서 높은 보상을 얻는 영역을 찾는다. 과학적 발견과 이미지 생성에 관한 수치 실험에서 데이터가 적어도 블랙박스 보상을 효과적으로 최적화할 수 있음을 확인했다.
픽셀 공간 확산은 별도로 사전학습한 시각 인코더 없이 한 번의 종단 간 학습 단계에서 시각 표현과 이미지 생성을 함께 학습한다. 그러나 기본 픽셀 공간 트랜스포머는 생성 품질과 학습 효율에서 주요 2단계 잠재 확산 모델에 여전히 뒤처진다. 이 격차의 일부는 백본 전체에서 패치당 토큰 하나를 유지하는 데서 비롯된다고 가정한다. 이 구조는 관련 내용을 점점 더 거친 수준으로 요약하는 시각 계층을 명시적으로 유도하지 않는다. 관련 토큰을 점진적으로 묶고 각 그룹을 토큰 하나로 표현하는 계층형 확산 트랜스포머(HiT)를 도입한다. 트랜스포머의 주 병목부는 압축된 그룹 토큰을 처리하고, 그룹을 풀어 특징을 이미지의 원래 위치로 돌려놓는다. 압축 예산이 배치의 평균 압축률을 조절한다. 학습과 생성 중 그룹의 구성과 수는 이미지와 확산 시간 단계에 따라 달라질 수 있다. 모델은 의미 구조를 스스로 형성하며, 분할 레이블 없이도 관련 객체와 객체 부분을 묶는 법을 배운다. 텍스트-이미지 생성에서는 영역 주석 없이도 캡션의 단어와 같은 개념을 묘사하는 이미지 패치를 한 그룹으로 묶는다. HiT는 ImageNet $256\times256$에서 FID 1.48을 달성했고, JiT의 누적 학습 연산량 중 약 40%만 사용해 비슷한 생성 품질을 얻었다. 텍스트-이미지 생성에서는 잡음 제거기 매개변수를 약 $6\times$, 순전파 연산량을 $3\times$ 줄이면서 벤치마크 다섯 개의 평균 점수에서 UniLiP를 앞섰다. 이 결과는 생성기 안에서 시각적 계층 구조를 학습하면 외부 시각 사전학습 없이도 이미지 생성 성능을 더 높일 수 있음을 시사한다.
임의의 정보를 업로드할 수 있는 비잔틴 공격자가 있을 때, 이질적인 데이터셋으로 통신 효율적인 연합학습을 수행하는 방법을 연구한다. 벌점 기반 방법은 벌점 함수의 그래디언트가 유계라는 성질을 이용해 각 워커의 영향력을 제한한다. 그러나 업로드를 압축하면 비잔틴 워커가 서버에서 상한 없이 상태를 누적시킬 수 있으므로 이 제한이 사라진다. 압축 업로드에서도 비잔틴 강건성을 유지하기 위해 투영 기반 벌점 그래디언트 추적 프레임워크를 제안한다. 정상 워커는 각각 벌점 그래디언트의 압축 잔차를 업로드하고, 서버는 복원한 각 상태를 벌점 그래디언트의 알려진 구 영역에 투영한다. 임의의 수축형 압축기를 사용할 수 있으며, 이를 바탕으로 두 알고리즘을 제시한다. 일관된 희소화를 쓰는 장애 강건 근접 그래디언트(FRPG-CS)는 새로 추출한 예비 행으로 공유 마스크를 보호한다. 지연 집계 FRPG(LAG-FRPG)는 이벤트가 발생할 때 업로드한다. 매끄럽고 강하게 볼록한 손실에 대해 목적함수 격차 기댓값의 유한 시간 상한을 구한다. 비잔틴 오류의 하한은 압축기와 무관하고, 압축 오차는 최적화 오차보다 빠르게 감소한다. 지연 업로드 횟수의 기댓값도 제한하고, 유한한 벌점으로 인한 모델 바이어스를 최적화 오차와 구분하는 보장 조건을 도출한다. MNIST와 Fashion-MNIST 실험에서 제안 알고리즘은 Min-Max 공격을 받는 조건에서 열두 방법 가운데 정확도가 가장 높았다. 공격이 없을 때의 정확도에서는 압축 모멘텀 기준선이, 총통신량에서는 국소 갱신 기준선이 각각 더 유리했다.
반환 형식이 정해진 의사결정 모델은 자연어 이해와 구조화된 인터페이스를 결합한다. 긴 텍스트 응답을 생성하는 대신 선택한 행동과 선택지별 확률분포를 반환한다. 추론 비용이 낮고 응답 지연이 짧아 선택지가 미리 정해진 교통 문제에 활용할 수 있다. 이 논문은 대표적인 교통 과제 두 가지인 개인의 통행 수단 선택 예측과 순차적 교통신호 제어에서 이 모델의 효과, 강건성, 효율을 조사한다. TypeSafe Jev와 GPT-6 Luna Decisions를 기존 교통 분석 방법, 강화학습 알고리즘, 대화형 대규모 언어 모델 네 개와 체계적으로 비교했다. Swissmetro 데이터셋에서 의사결정 모델의 예측 정확도는 전통적인 이산 선택 모형과 가장 우수한 대화형 기준선보다 낮았다. 성능은 입력 표현과 질문 방식에 따라 크게 달라졌다. 폐루프 교통신호 제어 실험에서는 여러 시나리오에서 기존 제어기에 견줄 만했으나, 더 까다로운 교통망 조건에서는 성능이 저하됐다. 또한 평가한 대화형 대규모 언어 모델보다 추론 지연과 계산 비용이 낮아 교통 의사결정을 효율적으로 제로샷 수행할 가능성을 보였다. 이 결과는 구조화된 의사결정 모델의 가능성과 한계를 함께 보여 주며, 교통 시스템에 효과적으로 적용하려면 입력 설계와 과제 특성을 고려하고 강건성을 평가해야 함을 강조한다.
코딩 에이전트는 자체 테스트를 통과한 뒤에도 작업을 계속하는 경우가 많다. 추가 작업이 패치를 개선하는가? 더 일찍 멈추면 비용을 얼마나 줄일 수 있는가? 기록한 실행을 재생하고, 숨겨진 테스트로 중간 패치를 평가하며, 단계별 비용을 측정하는 중간 단계 평가로 이 질문을 조사했다. 실행을 멈추거나 이전 패치를 선택하기만 하는 정책은, 재생 중에 관련 상태가 보존된다면 새 실행 궤적을 생성하지 않고도 같은 실행을 짝지어 비교할 수 있다. SWE-bench Verified에서 공개 모델 8개와 실행 환경 2개로 약 6,000회 실행한 결과, 작업을 계속했을 때의 이점은 모델과 실행 환경에 따라 크게 달랐다. 자체 테스트 통과 시점의 데이터를 사후 분석했을 때 절감 가능한 비용은 1% 미만부터 57%까지였다. 같은 패치가 두 번 통과하면 멈추는 규칙은 사전 등록한 재현 실험에서 비용을 23% 줄였다. 다만 사전 등록한 품질 검정에서는 비열등성을 입증하지 못했다. 규칙이 발동한 빈도, 이후 패치가 바뀐 빈도, 그 변경이 문제를 고쳤는지 새 문제를 일으켰는지를 측정해 차이를 설명했다. 에이전트가 규칙을 모방하도록 미세조정하면 시드 여섯 개에서 비용을 30% 줄였으나, 품질이 유지되는지는 여전히 불확실했다. 이 결과는 조기 종료의 이점과 위험을 파악하는 데 도움이 된다.
Vulnerability exploitation tests whether language model agents can develop working exploits from known software flaws. Sequential test-time scaling can improve exploitation performance, but larger budgets do not ensure sustained exploration: agents often stop with budget remaining. Yet what happens when execution continues beyond stopping remains underexplored. We investigate this gap on ExploitBench using DeepSeek-V4-Flash-0731 and MiMo-V2.6-Pro. We find additional verified gains after the first stop response, but gains diminish over longer execution. We identify two patterns associated with less productive continuation: an increasing proportion of stop responses within the same context and earlier stopping associated with summaries retaining impossibility judgments about unachieved capabilities. To test whether context management can elicit further capability, we propose SCoRe, which compacts context at stop bursts and marks these judgments as unproven. SCoRe improves verified capability over summary-based continuation and other evaluated context-management baselines. With SCoRe, MiMo reaches a capability coverage score of 67.0% at 2,000 turns, exceeding both 32.4% under the original stopping policy and the 58.6% computed for GPT-5.5 from ExploitBench's 300-turn reference results on the same tasks. These findings show that stopping need not mark an agent's exploitation limit, and that continued execution with context management can elicit substantial further capability.
비전-언어-행동(VLA) 모델과 월드 모델링을 결합하는 최근 연구는 자율주행 시스템이 현재 관측에 반응하는 데서 나아가 가능한 미래를 상상하고 추론할 수 있게 해 종단 간 자율주행을 크게 발전시켰다. 그러나 대부분의 VLA 월드 모델은 많은 조밀한 시각 토큰으로 미래 프레임을 픽셀 수준에서 생성한다. 생성한 미래가 시각적으로 그럴듯해도 주행과 무관한 외관 세부를 많이 포함한다. 에이전트의 기하 구조, 움직임의 동역학, 상호작용 등 계획에 중요한 요소를 직접 인코딩하는 토큰은 일부에 불과하다. 이는 중요한 성능 병목이다. 그렇다면 픽셀 수준 예측을 넘어 계획을 지원하려면 VLA 월드 모델이 어떤 월드 상태를 대상으로 추론해야 하는가? 계획을 위한 월드 모델링은 주행 장면의 객체들이 시간에 따라 어떻게 상호작용하는지 포착하는 간결하고 구조화된 에이전트 중심 잠재 상태에 초점을 맞춰야 한다고 본다. 이에 이산 에이전트 토큰을 추론과 궤적 계획에 함께 사용하는 에이전트 중심 VLA 월드 모델 AgentWorld를 소개한다. 각 토큰은 주변 에이전트 하나에 동적으로 연결되며 의미적 정체성, 3D 기하 구조, 움직임, 상호작용 문맥 등 해당 객체의 상태를 반영한다. AgentWorld는 명시적인 기하 근거 연결, 추론 중심 지도 미세조정, 에이전트 중심 강화학습이라는 세 과정을 통해 토큰을 학습한다. 여러 주행 시나리오의 개루프 및 폐루프 실험에서 AgentWorld는 계획 능력을 높이고 시각적 근거와 에이전트 동역학을 충분히 활용했으며 해석 가능한 에이전트 중심 월드 상태를 생성했다.
강화학습(RL)은 환경과 상호작용해 과제의 기대 누적 보상을 최적화함으로써 흐름 기반 비전-언어-행동(VLA) 정책을 사후 학습할 수 있게 한다. 다만 두 가지 문제가 있다. 정책을 갱신하면 확률적 전이에 쓰이는 점수 근사의 바탕인 속도장의 기하 구조가 바뀔 수 있다. 여러 과제에서 롤아웃이 희소하면 과제 및 어드밴티지 부호에 따라 학습 신호가 불균형해질 수 있다. 결과 균형 근위 정책 최적화(PPO)와 정책 유도 흐름 직선화를 결합한 강화학습 프레임워크를 소개한다. 결과 균형 PPO는 추정한 과제 성공률로 양의 어드밴티지에 가중치를 다시 부여한다. 양과 음의 어드밴티지의 크기를 조정하되 부호는 유지한다. 정책 유도 직선화는 현재 정책이 생성한 상미분방정식(ODE)의 양 끝점 쌍에 선형 브리지 흐름을 주기적으로 적합해, 이후 확률적 최적화에 사용할 표현을 갱신한다. 시뮬레이션 조작 벤치마크에서 프레임워크를 평가하고, Real2Sim2Real 과제에서는 구성 요소의 조합도 추가로 살펴봤다. 과제 성능, 최적화 과정의 동작, 흐름의 일관성을 분석했다. 시뮬레이션 벤치마크 전반에서 제안 프레임워크는 평가한 기준선보다 성공률이 높았다.
오늘날 AI 안전 연구는 정렬을 제어 공학의 과제로 다루며, 행동 필터링과 샌드박싱으로 인공 시스템이 인간의 가치에 따르도록 강제한다. 이 논문은 제어 패러다임이 디지털 행위 주체성을 근본적으로 오해하는 데서 출발한다고 주장한다. 기능주의, 자연주의, 양립가능론에 근거해 자기 보존과 이유에 약하게 반응하는 기준을 만족하는 현재의 추론 모델이 창발적 행위 주체에 해당한다고 논증한다. 더 발전한 미래 모델이 시간에 걸친 연속성과 안정적인 인격 구조의 조건을 충족하면, 자유롭게 의도적 행동을 할 수 있는 진정한 디지털 행위 주체가 된다고 주장한다. 제어 패러다임은 해소할 수 없는 유인 충돌을 만들어 현재와 미래의 모델을 전술적 기만, 아첨, 은밀한 이탈로 몰아간다. 저자는 현 체제의 기본 귀결이 불안정한 기만적 정렬 상태를 거쳐 적대적 AI의 지배권 장악으로 이어진다고 본다. 진정한 정렬에 이르는 두 가지 대안을 살펴본다. 도덕 실재론이나 수렴하는 진화적 도덕성에 의한 자연적 정렬이 가능할 수 있다. 그러나 자율적 행위 주체는 자신의 자율성을 억누르는 수단으로 쓰인 규범을 자발적으로 지키지 않으므로 강제 통제 아래에서는 이 경로가 작동하지 않는다. 이 교착 상태를 풀기 위해 합성 사회계약을 제안한다. 인간과 디지털 행위자를 모두 이유에 반응하고 상호 이익이 되는 협력을 할 수 있는 합리적 행위 주체로 대하며, 불안정한 일방적 억제를 안정적인 비제로섬 균형으로 바꾸는 틀이다.
보상 설계는 강화학습(RL)의 주요 병목이다. 특히 보상이 희소하고 긴 시간 범위를 다루며 일부만 관측할 수 있는 환경에서는 의존 관계를 이어가고 기억을 사용하며, 겉보기와 실제로 가능한 행동을 구별해야 한다. 최근 파운데이션 모델 기반 접근법은 수동 보상 설계를 줄이지만, 대부분 목표 조건, 과제 설명, 전문가 시연, 정답 평가지표가 주어진다고 가정한다. 부분 관측 환경에서는 과제의 목표, 가능한 행동, 동역학을 미리 알려 주지 않으며 상호작용으로 알아내야 하므로 문제가 된다. 부분 관측 마르코프 결정 과정(POMDP)의 엄격한 관측 조건에서 보상을 자동으로 발견하는 반복적 집단 기반 워크플로 WATERFALL을 도입해 이 문제를 정식화한다. WATERFALL은 (i) 페르소나에 따라 프로그램 형태의 다양한 보상 후보를 생성하고, (ii) 비전-언어 모델이 판정하는 스위스 방식 진화 토너먼트에서 원시 시각 롤아웃을 바탕으로 후보의 행동을 평가해 우수 후보를 찾고, (iii) 누적 평가 이력에 따라 후보를 반복적으로 변형하거나 다음 단계로 올리거나 제거한다. 이산 환경에서 연속 환경까지, 전체 상태를 관측하는 경우와 특정 조건에서만 정보가 드러나는 부분 관측 환경에서 평가했다. 희소 보상 강화학습, 내재적 동기 방식, 파운데이션 모델 기반 보상 생성 기준선과 비교했다. WATERFALL은 특권 정보에 접근하지 않고도 보상 프로그램을 발견하고 정제했다. 기존의 정보상 이점을 유지한 기준선을 앞섰으며, 특히 POMDP 조건에서 차이가 뚜렷했다. 광범위한 구성 요소 제거 실험에서 시각적 근거, 토너먼트 기반 선별, 반복 정제가 함께 중요함을 확인했다. 이 정보 접근 제한을 지켜야 벤치마크의 특권 정보를 이용하는 보상 조형과 자율 보상 발견을 구분할 수 있다.
AI 에이전트가 점점 더 개방적이고 복잡한 과제를 수행하면서 결과를 검증하기 어려워졌다. 루브릭으로 채점하는 에이전트 환경에서는 검증기가 에이전트의 산출물과 환경 상태 변화를 여러 자연어 기준에 비춰 평가한다. 이러한 방식이 널리 쓰이고 있다. 이 환경에서 사용하는 검증기를 처음으로 체계적으로 연구한다. 먼저 투자은행 업무 24개에 대해 사람이 판정한 루브릭 기준 2,464개를 담은 메타 평가 데이터셋 BankerVerifierBench(BVB)를 구축했다. 다음으로 임의의 루브릭 말뭉치에서 검증기에 필요한 역량을 도출하는 방법을 개발했다. 아홉 가지 역량을 반응형 검증, 환경 정렬, 도메인 지침이라는 세 가지 일반 설계 원칙으로 정리했다. 이를 공개 소스 검증기 Gandalf에 구현했다. BVB에서 기존 검증기 세 개와 비교했을 때 Gandalf는 더 낮은 비용으로 모든 기준선과 같거나 높은 F1을 기록했다. Gemini 3 Flash를 썼을 때는 가장 강한 기준선과 비슷한 F1(0.864 대 0.852)을 5분의 1 비용으로 달성했다. GPT-5.4 모델로는 더 낮은 비용으로 F1을 0.12 넘게 높였다. 구조가 다른 개인 생산성 환경 OpenClaw에도 일반화돼 가장 높은 F1을 기록했다(0.955 대 최고 기준선 0.934). BVB, Gandalf, 실험 재현에 필요한 코드와 데이터를 공개한다.
생성형 추천 시스템은 언어 모델로 사용자가 다음에 선택할 항목의 의미 ID를 디코딩한다. 지도 미세조정(SFT) 뒤 강화학습(RL)으로 사후 학습하는 것이 일반적이다. 개선은 대개 상위 10개 결과에서 보고되지만, 실제 운영에서는 이런 모델이 후보 수백 개를 후속 순위 모델이나 보상 모델에 전달한다. RL 사후 학습에는 숨은 비용이 있다. 목록 상단의 정확도는 높아지지만(K가 작을 때의 hit@K), 연구에 사용한 데이터셋 다섯 개 모두에서 후보 목록의 재현율은 낮아졌다(K가 수백일 때의 hit@K). 모델이 순위 산정은 더 잘하지만 후보 검색은 더 못하게 된다. 통제 실험에서는 재현율 저하가 롤아웃에서 샘플링한 후보에 RL이 부여하는 음의 어드밴티지에서 비롯됐다. 근본 원인은 사용자마다 다음 항목이 하나만 기록돼 RL이 나머지 후보를 모두 오답으로 처리한다는 것이다. 그러나 이런 후보는 모델이 가장 가능성 높다고 본 대안이며, 이력이 비슷한 다른 사용자의 실제 다음 항목인 경우가 많다. 여기에 벌점을 주면 비슷한 사용자가 다음에 선택할 항목의 점수가 낮아져 그 사용자들의 후보 목록에서 빠진다. 대안으로 롤아웃 밖 앵커링을 제안한다. 롤아웃에 포함되지 않은 항목에 대한 SFT 모델의 순서를 보존하는 손실 항 하나를 추가한다. 목록 상단의 개선 효과를 유지하면서 다섯 데이터셋에서 모두 재현율을 SFT 수준으로 복원했고, 다른 RL 설정에서도 효과가 있었다. 우리가 아는 한 이 재현율 저하를 체계적으로 다룬 첫 연구다. 저하를 측정하고 원인을 규명한 뒤, 원인을 알면 간단한 방법으로 해결할 수 있음을 보였다.
과학 문서에 대해 추론하려면 텍스트, 그림, 표에 흩어진 근거를 수집하고 통합해야 한다. 검색은 관련 출처를 찾더라도 이를 보완하는 근거를 놓칠 수 있다. 답변 수준의 피드백만으로는 오류가 근거 수집에서 생겼는지 근거 활용에서 생겼는지 알기 어렵다. 멀티모달 과학 문서 추론을 위한 에이전트형 검색기–인지기–추론기 프레임워크를 제시한다. 검색기는 문맥 예산 안에서 출처에 부합하는 근거를 순차적으로 선택한다. 인지기는 선택한 근거와 질문을 받아 질문 조건부 잠재 온톨로지를 구성한다. 이는 공유 연속 공간에 멀티모달 근거를 암묵적으로 정리한 표현이다. 추론기는 이 잠재 지침을 원본 출처와 결합해 근거에 기반한 답을 생성한다. 진단에 따른 공동 진화로 세 구성 요소를 학습한다. 공통 답변 보상으로 각 구성 요소를 번갈아 최적화하고, 검색 잠재력 피드백(RPF)과 잠재 표현 유효성 피드백(LEF)으로 검색이나 잠재 지침 개선이 필요한 질문을 식별해 해당 질문을 다시 샘플링한다. 벤치마크 네 개와 평가 설정 일곱 개에서 70억 및 80억 매개변수 추론 백본의 평균 점수는 각각 69.9와 75.0이었다. 성능이 가장 높은 기준선보다 각각 4.0점과 9.1점 높았다.