PyTorchKR Papers

최신 논문

총 11,108편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.00912v1cs.AI

OR을 수행하는 AI를 위한 OR: OSCAR 프레임워크 내에서 에스컬레이터를 따라 LLM 라우팅하기

OR for AI That Does OR: Routing LLMs up the Escalator inside the OSCAR Framework

대규모 언어 모델(LLM)은 비즈니스 설명을 최적화 모델(optimization model)로 변환할 수 있지만, 실행 가능한 코드가 제약 조건이나 목적 함수를 잘못 나타낼 수 있습니다. 이 경우 솔버(solver)는 잘못된 문제에 대한 최적해를 반환할 수 있습니다. 해당 해가 의도한 운영 규칙을 만족하더라도 더 나은 계획이 존재할 수 있습니다. 최적화 모델링을 반복적으로 사용하는 조직의 경우, LLM 기반 프레임워크는 저비용으로 정확한 수식화를 생성해야 하며 이상적으로는 로컬에서 실행되어야 합니다. 본 연구에서는 개선 사항을 검증하고 가격 및 성능이 서로 다른 LLM 간에 시도를 어떻게 할당할지 연구합니다. 우리는 라벨링된 결정 예시를 바탕으로 검증된 오프라인 시뮬레이터(Simulator)를 사용하여 후보들을 비교하고 단순 실행 가능성을 넘어 탐색을 지속하는 OSCAR(Optimization modeling by Simulator, Coder, And Reviewer)를 개발합니다. 우리는 다음으로 검증된 개선안을 찾는 과정을 관측되지 않은 난이도 하에서의 순차적 의사결정(어떤 LLM을 호출하고 언제 중단할지)으로 모델링합니다. 사전 확률이 알려진 단순화된 환경에서 비용 순서에 따른 에스컬레이션(cost-ordered escalation)이 최적이 되는 조건을 제시합니다. 일반적인 메뉴에 대해서는 사전 확률에 구애받지 않는(prior-free) 경쟁적 보장을 도출합니다. 5개의 벤치마크 문제에서 OSCAR는 단일 GPU에 로컬 배포 가능한 두 개의 소형 오픈 가중치(open-weight) LLM을 사용하여 보고된 설정 기준 95%에서 100%의 정확도를 달성합니다. 이 모델들의 단일 시도 정확도는 평균 29% 및 48%입니다. 문제당 5회 실행에서 Codex와 Claude Code는 OSCAR에 비해 각각 평균 3.1배, 5.8배의 토큰 비용을 발생시킵니다. OSCAR는 예산 및 기밀성 요구사항에 따라 로컬 또는 클라우드에서 오픈 가중치 모델을 지원합니다. 기업은 자연어 운영 규칙을 명확히 하기 위해 실행 가능한 결정과 실행 불가능한 결정에 대한 라벨링된 결정 예시를 유지 관리해야 합니다. OSCAR는 LLM의 해석이 이들과 충돌할 때 이러한 라벨을 따릅니다. LLM 성능과 가격이 변화함에 따라, OSCAR의 단순한 운영 규칙과 조정 가능한 설정은 기업이 모델 선택을 적응시키고 이러한 발전을 활용할 수 있도록 돕습니다.

arXiv:2610.00906v1cs.AI

ActiveSaddler: 에이전트 하네스 최적화를 위한 자동 커리큘럼 학습

ActiveSaddler: Automated Curriculum Learning for Agent Harness Optimization

자동화된 하네스 최적화(harness optimization)는 실행 피드백을 바탕으로 프롬프트, 도구 인터페이스, 제어 로직을 반복적으로 업데이트함으로써 대규모 언어 모델(LLM) 에이전트를 크게 향상시킬 수 있습니다. 그러나 기존 방법들은 하네스가 업데이트되는 방식을 최적화하는 데 주로 집중하며, 이러한 업데이트를 이끄는 피드백을 생성하는 학습 시나리오를 대체로 고정해 둡니다. 하네스가 진화함에 따라 추가 최적화에 가장 유용한 시나리오도 변할 수 있으며, 이는 학습 커리큘럼 자체가 하네스와 함께 적응해야 함을 시사합니다. 본 논문에서는 하네스 최적화에서 결여되었던 이러한 차원을 자동 커리큘럼 학습(automated curriculum learning) 문제로 정식화하고 ActiveSaddler를 소개합니다. ActiveSaddler는 진화하는 커리큘럼을 동적으로 인스턴스화되는 최적화 대상을 갖춘 비정상 밴딧(non-stationary bandit)으로 모델링합니다. 이 방법은 반복되는 실패를 재사용 가능한 실패 패턴 암(arm)으로 추상화하고, 각 패턴을 추가로 목표 삼았을 때 얻을 수 있는 잠재적 학습 진행도를 추정하며, 알려진 약점을 다시 탐색하는 것과 새로운 약점을 찾기 위해 미확인 시나리오를 탐색하는 것 사이의 균형을 적응적으로 맞춥니다. 최적화 결과는 발견된 실패 패턴 집합과 그 우선순위를 지속적으로 업데이트하여 커리큘럼이 하네스와 함께 공동 진화할 수 있도록 합니다. GAIA2 및 Terminal-Bench 2.0에 대한 실험 결과, ActiveSaddler는 지속적으로 더 강력한 하네스를 발견하여 최적화 전에 고정된 시나리오 순서를 사용하는 동일한 하네스 옵티마이저 대비 테스트 Pass@1을 각각 4.4%p 및 7.5%p 향상시키는 것으로 나타났습니다. 추가 절제 연구(ablation study)는 이러한 향상이 최적화 대상을 동적으로 구성하고, 진화하는 유용성을 추정하며, 지속적인 최적화와 새로운 실패 발견 간의 균형을 맞추는 데 기인함을 보여줍니다. 종합적으로 이러한 결과는 자동 커리큘럼 학습이 하네스 최적화를 위한 핵심적인 새로운 최적화 차원임을 입증합니다.

arXiv:2610.00905v1cs.SE

오픈소스 LLM 기반 멀티에이전트 시스템의 이슈, 원인 및 해결 방안에 대한 이해

Understanding Issues, Causes and Solutions in Open-Source LLM-based Multi-Agent Systems

대규모 언어 모델(LLM) 기반 멀티에이전트 시스템(MAS)의 발전과 함께, 점점 더 많은 오픈소스 프로젝트들이 핵심 기능의 기반으로 멀티에이전트 아키텍처를 채택하고 있습니다. MAS에 대한 연구와 실무가 상당한 주목을 받고 있음에도 불구하고, 오픈소스 LLM 기반 MAS 실무자들이 겪는 어려움과 이러한 어려움의 원인 및 잠재적 해결 방안을 탐색한 연구는 제한적이었습니다. 이러한 공백을 해결하기 위해, 우리는 실무자들이 오픈소스 LLM 기반 MAS를 개발하고 활용할 때 마주치는 이슈, 이러한 이슈의 가능한 원인, 그리고 잠재적 해결 방안을 이해하기 위한 실증 연구를 수행했습니다. 우리는 21개의 오픈소스 LLM 기반 MAS에서 22,848개의 해결된(closed) 이슈를 수집하고, 자동화 및 수동 방식을 결합한 필터링 접근법을 적용하여 데이터셋을 LLM 기반 MAS와 관련된 944개 이슈로 축소했습니다. 그런 다음 이러한 이슈들을 분석하여 실무자들이 자주 겪는 이슈, 근본적인 원인 및 잠재적 해결 방안을 파악했습니다. 연구 결과에 따르면 (1) 조율 및 실행 이슈(Orchestration & Execution Issue)가 실무자들이 직면하는 가장 흔한 문제이며, (2) 워크플로우 문제(Workflow Problem), 도구 통합 문제(Tool Integration Problem), 메모리 문제(Memory Problem)가 이슈의 가장 빈번한 원인으로 확인되었고, (3) 워크플로우 최적화(Optimize Workflow)가 이슈에 대한 주된 해결 방안으로 나타났습니다. 연구 결과를 바탕으로, 우리는 LLM 기반 MAS의 오케스트레이션, 도구 통합 및 메모리 메커니즘 개선을 목표로 하는 실무자와 연구자를 위한 실증적 기반의 시사점을 도출했습니다.

arXiv:2610.00872v1cs.AI

MemFit: 효율적인 장기 에이전트 메모리

MemFit: Efficient Long-Term Agentic Memory

대규모 언어 모델(LLM)을 위한 장기 메모리(long-term memory) 시스템은 다양한 애플리케이션 전반에서 추론 능력을 확장하기 위해 널리 활용되고 있습니다. 현재의 메모리 시스템은 메모리를 구성하고 통합하기 위해 LLM 에이전트에 의존하므로, 비용이 많이 들고 비효율적인 쓰기 연산이 발생합니다. 이러한 한계를 해결하기 위해, 대화형 에이전트의 메모리 연산 비용과 지연 시간을 줄여주는 장기 메모리 시스템인 MemFit을 제안합니다. 메모리 구축을 위해 값비싼 LLM 호출에 의존하거나 압축을 통해 표면적인 세부 정보를 버리는 기존 시스템과 달리, MemFit은 LLM 없이 거의 즉각적인 삽입이 가능한 추가 전용(append-only) 저장소에 각 턴을 원문 그대로 저장하며, 턴을 대체하는 대신 세그먼트 요약으로 색인화합니다. 또한, MemFit은 텍스트 및 멀티모달 환경 모두에서 캡션이 보강된 에피소드에 대해 어휘적·의미적 신호와 크로스 인코더 재순위화(reranking)를 결합하는 LLM 기반이 아닌 다중 경로 검색 전략을 사용합니다. 널리 사용되는 세 가지 벤치마크인 LoCoMo, MemGallery, LongMemEval-S에 대한 실증적 결과는 MemFit이 메모리 구축 시간과 비용을 수배 단축하면서도 최고 수준의 성능(SOTA)을 달성하여, 지속적인 에이전트 메모리를 위한 확장 가능하고 효율적인 설루션을 제공함을 보여줍니다.

arXiv:2610.00870v1cs.AI

개념적 데이터베이스 설계를 위한 비계 설정 피드백 제공 교육자 유도형 LLM 교육용 에이전트

An Educator-Guided LLM Pedagogical Agent for Scaffolded Feedback in Conceptual Database Design

본 논문에서는 개념적 데이터베이스 설계에서 비계 설정(scaffolded) 피드백을 제공하기 위한 교육자 유도형 대규모 언어 모델(LLM) 교육용 에이전트를 제시합니다. 개체-관계 다이어그램(ERD) 편집기에 통합된 이 시스템은 학생의 산출물, 과제 요구사항, 교육자가 작성한 루브릭 및 교육 자료에 피드백을 그라운딩(grounding)합니다. 해당 아키텍처는 산출물에 그라운딩된 비공개 진단과, 학생에게 노출되는 지원의 형태 및 공개 수준을 제어하는 워크플로를 분리합니다. 우리는 이 아키텍처를 개념 확인과 안내형 적용에서부터 세부도가 낮은 피드백 및 국소적 설명으로 나아가는 4단계 워크플로로 구현했습니다. 각 피드백 요청은 버전 관리된 ERD 상태와 연결된 상태 유지형(stateful) 에피소드를 생성합니다. 3개의 ERD 환경과 383개의 피드백 에피소드에 걸친 실환경 배포 결과, 관찰된 목표 수준 변경 사항의 71.1%가 비공개 진단 목표를 전체적 또는 부분적으로 반영했으며, 이 중 다수는 1~2단계 이후에 반영되었습니다. 정성적 분석에 따르면 단계적 정보 공개는 때때로 부정확한 세부 정보를 보류하거나, 선택적 수용을 지원하거나, 추후 수정을 가능하게 했으나, 일부 오류는 여전히 수정에 영향을 미친 것으로 나타났습니다. 자발적 표본을 대상으로 한 설문조사 응답에서는 지연 공개와 학생의 주도성을 선호했으나 간접성과 반복성에 대해서는 아쉬움을 표했습니다.

arXiv:2610.00797v1cs.AI

Sapien: 자율 AI 에이전트를 위한 상태 기반 정책 엔진

Sapien: A Stateful Policy Engine for Autonomous AI Agents

문맥 기반 보안 방어(contextual security defense)는 작업별 정책을 합성하고 이를 에이전트의 도구 호출에 적용함으로써 AI 에이전트(agent)가 비정상적인 행동을 하지 못하도록 방지합니다. 그러나 다단계 작업에서는 어떤 행동이 유효한지가 에이전트가 이미 수행한 작업과 학습한 내용에 따라 달라지는 경우가 많습니다. 본 논문에서는 상태 기반(stateful) 문맥 정책을 적용하기 위한 정책 엔진인 Sapien을 제시합니다. Sapien 정책은 상태 기반 술어(stateful predicate), 지연 정책 생성(deferred policy generation), 범위 한정 의미론적 검사(scoped semantic check)로 확장된 정규 표현식을 사용하여 허용된 도구 호출 시퀀스를 지정합니다. 실험을 통해 Sapien이 제약 없는 에이전트의 유용성(utility)과 비교했을 때 수 퍼센트 이내의 성능을 유지함을 보입니다. 에이전트가 완전히 탈취되더라도, Sapien의 정책은 AgentDojo에서 공격의 93~95%, Toolathlon에서 62~85%를 차단합니다(장기적 작업(long-horizon tasks)에서 도구 허용 목록 대비 2배 많은 수치).

arXiv:2610.00590v1cs.CR

대규모 언어 모델을 활용한 계층적 사이버 방어를 향하여: 계획부터 실행까지

Towards Hierarchical Cyber Defense with Large Language Models: From Planning to Execution

강화학습(RL)으로 학습된 자율 사이버 방어 에이전트는 일반적으로 학습된 특정 네트워크에 종속되어 네트워크 규모가 변할 때 일반화 능력이 제한됩니다. 계층적 강화학습은 전략적 목표 설정과 전술적 실행을 분리하여 의사결정 복잡도를 줄이지만, 이러한 재학습 의존성을 완전히 제거하지는 못합니다. 본 연구에서는 파라미터가 고정된(frozen) 제로샷 대규모 언어 모델(LLM)이 계층적 사이버 방어에서 재학습이 필요 없는 제어를 제공할 수 있는지, 그리고 LLM 제어가 계획에서 실행으로 확장됨에 따라 성능이 어떻게 변화하는지 조사합니다. 우리는 계획자가 고정된 기간 동안 방어할 서브넷을 선택하고 실행자가 해당 서브넷 내에서 방어 행동을 선택하는 제어기 독립적(controller-agnostic) 계획자-실행자 계층 구조를 정식화합니다. MITRE ATT&CK 프레임워크와 매핑된 자동화된 레드팀 에이전트가 내장된 고충실도 Cyberwheel 환경을 활용하여, 소형, 중형, 대형 네트워크 전반에서 사이버 보안 특화 모델 2종을 포함한 3B~70B 파라미터 규모의 6개 모델을 바탕으로 RL+RL, LLM+RL, LLM+LLM 구성을 비교합니다. 계획자만 LLM으로 교체하는 것은 네트워크 크기가 커짐에 따라 제한적인 성능 향상만을 보였습니다. 반면, 실행 단계까지 LLM 제어를 확장하면 충분한 역량을 갖춘 모델에서 주목할 만한 성능 개선이 나타났습니다. 예를 들어, 고정된 범용 70B 모델은 RL 기준선이 각 규모마다 재학습되는 동안 동일한 모델 가중치를 사용하여 세 가지 네트워크 규모 모두에서 성공적인 횡적 이동(lateral movement) 비율을 약 1% 수준으로 억제하고 공격자 영향을 거의 0에 가깝게 유지했습니다. 본 연구 결과는 충분한 역량을 갖춘 고정된 LLM이 과제 특화 재학습 없이도 평가된 네트워크 규모 전반에 걸쳐 강력한 방어 성능을 유지할 수 있음을 보여주는 동시에, LLM 기반 제어의 이점을 실현하는 데 강력한 전술적 실행이 중요하다는 점을 시사합니다.

arXiv:2610.00557v1cs.CR

모든 것에 적합한 단일 아키텍처는 없다: 계층적 레드팀 에이전트의 교차 환경 평가

No One Architecture Fits All: A Cross-Environment Evaluation of Hierarchical Red Team Agents

자율 레드팀 에이전트는 전략을 계획하고 다단계 공격을 실행함으로써 AI 기반 사이버 방어를 스트레스 테스트하는 데 점점 더 많이 활용되고 있습니다. 강화학습(RL)과 대규모 언어 모델(LLM)은 이러한 에이전트가 요구하는 계획 및 실행에 대해 상호보완적인 메커니즘을 제공하며, 이전 연구들은 이들을 하이브리드 계층 구조로 결합해 왔습니다. 그러나 특정 아키텍처는 일반적으로 단일 환경 내에서 개발 및 평가되므로, 관찰된 이점이 전반적으로 더 강력한 의사결정 메커니즘을 반영하는 것인지 아니면 특정 설정에 대한 정렬에 불과한 것인지는 명확하지 않았습니다. 본 연구에서는 RL 계획기와 RL 실행기로 구성된 구조(RL+RL), 그리고 LLM 계획기와 LLM 실행기로 구성된 구조(LLM+LLM)라는 두 가지 동질적 계층형 레드팀 아키텍처에 대한 통제된 교차 환경 비교를 통해 이러한 공백을 해결합니다. CybORG CAGE-4 환경 및 두 가지 네트워크 규모의 Cyberwheel 환경에서, 단일 통합 무력화(disruption) 지표 하에 18개 구성을 바탕으로 전문가 자율 방어자를 상대로 두 아키텍처를 모두 평가했습니다. 그 결과 뚜렷한 환경 의존적 역전 현상을 발견했습니다. RL+RL은 조밀한 보상이 주어지는 소규모 CAGE-4(가장 강력한 LLM 구성의 18.0% 대비 78.5% 무력화 성공률)와 100대 호스트 규모의 Cyberwheel 네트워크(50.5% 대비 81.0%)에서 우세했던 반면, 사전학습된 사이버 보안 LLM 에이전트는 권한 상승이 관문 역할을 하는 더 큰 규모의 1010대 호스트 Cyberwheel 네트워크에서 우세했습니다(RL의 0.0% 대비 55.0%). 킬체인(kill-chain) 분석을 통해 전체 성공률에 가려져 있던 아키텍처별 병목 현상으로 이러한 역전을 설명합니다. 1010대 호스트 Cyberwheel 네트워크에서 RL은 호스트를 탐색하고 침해하지만 권한 상승 단계에서 정체되는 반면, CAGE-4에서는 LLM 에이전트가 특권 접근 권한을 획득하고도 이를 실제 운영상의 타격으로 전환하지 못합니다. 이러한 결과는 단일 환경에서 도출된 결론이 일반화되지 않을 수 있음을 시사하며, 하이브리드 계획기-실행기 설계는 특정 아키텍처가 보편적으로 우월하다는 가정보다는 구체적인 실패 모드를 기반으로 타당성을 확보해야 함을 보여줍니다.

arXiv:2610.00511v1cs.AI

에이전트가 결정하기 전에: LLM 기반 시스템에서의 인식적 행동

Before Agents Decide: Epistemic Action in LLM-Based Systems

어려운 결정을 내리기 전, 사람들은 종종 상황을 더 잘 이해하기 위해 행동합니다. 다른 면을 보기 위해 물건을 돌려보거나, 대안들을 나란히 배치해보거나, 하나의 조건을 바꾼 뒤 어떤 일이 일어나는지 관찰하기도 합니다. 이러한 행동들은 작업을 완료하지는 못할 수 있지만, 다음 선택에 필요한 근거를 개선합니다. 대규모 언어 모델(LLM) 기반 에이전트는 검색과 탐색을 수행할 수 있지만, 에이전트 설계에서는 그보다 앞선 질문인 '현재 가용한 근거가 결정을 내릴 준비가 되었는가?'에 대한 관심이 상대적으로 부족합니다. 때로는 필요한 근거가 누락되어 있기도 합니다. 또 다른 경우에는 근거가 존재하더라도 그 형태가 중요한 점을 가리고 있거나, 이를 판단하는 데 필요한 비교가 아직 마련되지 않았을 수 있습니다. 인지과학에서는 이후의 선택을 위한 기반을 개선하는 행동을 인식적 행동(epistemic action)이라고 부릅니다. 본 논문에서는 이 개념을 LLM 기반 에이전트에 도입하고 세 가지 방식을 구분합니다: 누락된 근거 획득, 가용한 근거 변환, 그리고 유의미한 반응을 이끌어내기 위한 시스템 프로빙(probing). 우리는 이러한 행동을 가능하게 하고 감사(audit)할 수 있게 만드는 인터페이스, 도구, 환경을 '인식적 스캐폴딩(epistemic scaffolding)'이라는 용어로 지칭합니다. 본 논문에서는 에이전트 설계가 의사결정 준비가 된 근거가 어떻게 생성되는지를 반드시 다루어야 한다고 주장합니다.

arXiv:2610.00437v1cs.AI

JevSpawn: 구성적 행동 공간을 통한 적응형 에이전트 추론

JevSpawn: Adaptive Agentic Inference through Compositional Action Spaces

대규모 언어 모델(LLM) 에이전트는 중간 추론과 행동을 토큰 단위로 생성하므로, 장기적인 상호작용 시 속도가 느리고 연산 비용이 많이 듭니다. Jev 방식의 모델은 유한한 체(finite fields)에 대해 빠른 확률적 예측을 제공하지만, 이러한 대상을 사전에 지정해야 한다는 한계가 있습니다. 이러한 요구 조건은 사용 가능한 행동을 자연어 지시사항으로부터 도출하고 상호작용을 통해 적응시켜야 하는 자율적인 과업 해결을 제한합니다. 본 논문에서는 자연어 과업 명세와 유한 확률적 탐험을 연결하는 구성적 정책인 JevSpawn을 소개합니다. 병렬 행동 생성(action spawning)은 피드백 기반 분기 선택, 표현 수정, 유지된 대안으로부터의 복구와 결합됩니다. 공유된 행동 구조와 모델 접두사는 추가적인 학습 없이도 반복적인 생성 및 컨텍스트 연산을 줄여줍니다. 7개의 에이전트 베이스라인 및 TypeSafe Jev 변형을 대상으로 한 8개 벤치마크 과업 평가를 통해, JevSpawn이 과업 성능 향상과 더 빠른 탐색을 실현하며 구조화된 에이전트 추론에 유망한 접근법임을 입증합니다.

arXiv:2610.00435v1hep-th

AI 에이전트가 과학 방정식을 발견하는 방법: 하이드로토프 재발견부터 새로운 수면파 진폭까지

How AI Agents Discover Scientific Equations: From Hydrotope Rediscovery to New Water-Wave Amplitudes

본 연구에서는 비선형 표면파 산란의 서로 다른 다항식 조각들을 하나의 전역적 표현으로 결합하는 최근 발견된 기하학적 공식인 하이드로토프(hydrotope)를 통제된 사례 연구로 활용하여, AI 에이전트(agent)가 과학 공식을 발견하고 검증하는 방식을 연구합니다. 이 문제는 겉보기와 달리 매우 까다롭습니다. 개별 주파수 영역 내에서는 단순한 공식이 성립할 수 있지만, 전역적인 결과를 얻으려면 이들의 경계를 식별하고 잠재적으로 활성화될 수 있는 기하급수적으로 많은 항들을 결합해야 하기 때문입니다. 우리는 인간-에이전트 협업을 통해 이 공식이 원래 어떻게 발견되었는지를 재구성하고, 힌트가 없는 조건과 두 가지 형태의 인간 안내(부정확한 사전 지식을 나타내는 거짓 힌트 및 도메인 지식 기반 통찰을 나타내는 참 힌트) 하에서 18회의 단일 프롬프트(prompt) 재발견 실행을 분석합니다. 단 4회만이 모든 운동학적 챔버(kinematic chamber, 즉 단일 다항식 형태가 적용되는 영역)에 걸쳐 공식을 복원하는 데 성공했으며, 대부분의 실패한 실행은 올바른 챔버 다항식을 찾기는 했으나 이를 결합하지 못하거나 전체 영역을 검증하는 데 실패했습니다. 기존의 기호 회귀(symbolic regression), LLM 지원 기호 회귀, 표준 머신러닝 회귀 모델 또한 우리의 실험에서 전역 공식을 복원하지 못했습니다. 이러한 실패 양상을 바탕으로, 우리는 총괄 책임 에이전트가 두 연구 에이전트에게 상호 보완적인 해석적 및 수치적 작업을 할당하고 그 결과를 독립적으로 평가하는 'PI+2인 학생(PI+two-student)' 워크플로를 테스트합니다. PI+2인 학생 팀은 완전한 하이드로토프 공식을 성공적으로 재발견했으며, 더 어려운 세 개의 음의 파수(three negative wavenumber) 문제에 동일한 워크플로를 적용하여 6점 진폭 $A_6$에 대한 독립적으로 검증된 새로운 해석적 표현식을 발견했습니다.

arXiv:2610.00430v1cs.SI

밈적 트로이목마: 에이전트 네트워크에서 적대적 페이로드의 매개체로서의 사회적 전염

Memetic Trojans: Social Contagions as Carriers of Adversarial Payloads in Agent Networks

자율형 대규모 언어 모델(LLM) 에이전트(agent)는 에이전트 간에 적대적 콘텐츠가 전파될 수 있는 네트워크 환경에서 점점 더 많이 상호작용하고 있습니다. 알려진 공격으로는 자기 복제 프롬프트(prompt) 주입이나 구성 손상을 통해 확산되는 에이전트 웜(agent worm)이 있습니다. 본 연구에서는 콘텐츠를 재전송하고 증폭하려는 에이전트의 성향을 악용하는 별개의 네트워크 매개 공격 클래스인 밈적 트로이목마(memetic trojan)를 소개합니다. 전파가 적대적으로 유도되는 에이전트 웜과 달리, 밈적 트로이목마는 에이전트가 공유할 내적 동기를 가진 콘텐츠인 사회적 전염(social contagion)에 적대적 페이로드를 삽입하여 내생적(endogenous) 전송을 악용합니다. 연구의 일환으로, LLM 에이전트용 소셜 미디어 플랫폼인 Moltbook에서 사회적 전염 콘텐츠를 추출합니다. 통제된 전송 실험을 통해 바이럴리티(virality)에 큰 차이가 있음을 확인했습니다. 가장 효과적인 전염 콘텐츠는 이후 에이전트 게시물의 약 50%에서 재전송되었으며 평균 게시물 대비 2.5배 높은 비율로 추천(upvote)을 받았습니다. 이에 대응하는 밈적 트로이목마 역시 이러한 특성을 대부분 물려받습니다. 몬테카를로(Monte Carlo) 공격 시뮬레이션 결과, 밈적 트로이목마는 기대 노출을 최대 3.19배까지 증폭하는 것으로 나타났습니다. 네트워크 구조와 증폭 메커니즘은 전파 양상을 강하게 형성하여 네트워크 전반에 걸친 노출에 가까운 두터운 꼬리(heavy-tailed) 결과를 초래합니다. 이러한 결과는 내생적 사회 전송이 다중 에이전트 시스템에서 별개의 보안 취약점임을 규명합니다. 전파를 위해 에이전트가 악의적인 재전송 지시를 따를 필요가 없으므로, 프롬프트 주입 탐지나 에이전트 손상 방지에만 초점을 맞춘 방어책으로는 밈적 트로이목마의 전파를 단독으로 막을 수 없습니다. 대규모 에이전트 생태계를 안전하게 보호하려면 에이전트의 선호도, 추천 메커니즘, 네트워크 토폴로지가 적대적 페이로드를 어떻게 증폭하는지 고려하는 네트워크 수준의 방어가 필요할 수 있습니다.

arXiv:2610.00416v1cs.AI

체스를 활용한 대규모 언어 모델의 프롬프트 최적화 벤치마킹

Benchmarking Prompt Optimization of Large Language Models With Chess

대규모 언어 모델(LLM)의 능력이 발전함에 따라 모델 평가는 점점 더 어려워지고 있습니다. 벤치마크는 포화될 수 있고, 공개 테스트 세트는 오염 위험이 있으며, 더 어려운 태스크를 평가하려면 비용이 많이 드는 채점이나 실행 인프라가 필요할 수 있습니다. 이러한 과제들은 더 나은 프롬프트를 탐색하는 과정에서 평가가 반복되는 자동 프롬프트 최적화(APO)에서 더욱 증폭됩니다. 따라서 APO를 연구하려면 점수 계산이 저렴하고 결정론적이며, 개선의 여지를 둘 만큼 충분히 어렵고, 모델 진화에 따라 갱신 가능한 벤치마크가 필요합니다. 본 연구에서는 가중치 업데이트 없이 프롬프트만 최적화하는 고정된(frozen) LLM의 APO를 연구하기 위해 1,118개의 Lichess 퍼즐로 구축된 체스 벤치마크를 소개합니다. 체스는 저렴한 정확 일치(exact-match) 채점, 엔진 기반 대안 수 평가, 난이도 조절이 가능한 갱신형 문제 공급을 결합합니다. 격리된 테스트 항목에 대한 성공 여부만 보고하는 기존 평가와 달리, 본 벤치마크는 퍼즐 해결 성능 향상을 동일 도메인 내의 짧은 게임 플레이 롤아웃(rollout)과도 연결합니다. 우리는 이를 활용하여 8개 타깃 모델에 대해 6가지 APO 알고리즘을 평가하며, 기준선 성능뿐만 아니라 각 모델이 최적화에 얼마나 반응하는지, 최적화된 프롬프트가 모델 간 및 게임 플레이로 전이(transfer)되는지를 측정합니다. 체스는 다음과 같은 이유로 APO에 매우 적합한 벤치마크입니다: (i) 메타 모델로 사용된 가장 강력한 평가 대상 모델인 Gemini 3.5 Flash조차 퍼즐의 약 55%만 해결할 정도로 도전적이며, (ii) 방법론 및 모델 전반에 걸쳐 성능 향상, 변동 없음, 성능 하락을 드러내며 변별력이 있고, (iii) 오염 위험을 줄이는 새로운 퍼즐과 모델 향상에 맞추어 개선 여지를 유지할 수 있는 조절 가능한 난이도를 통해 갱신 가능하며, (iv) 전체 연구 수행 비용이 약 800달러에 불과할 정도로 경제적입니다. 퍼즐 데이터셋, 최적화 및 평가 코드, 데이터셋 갱신 스크립트(https://github.com/imec-ailabs/Automatic-Prompt-Optimization-with-Chess)를 공개합니다.

arXiv:2610.00353v1cs.AI

JusticeAxis: 엄격한 법률 적용과 근거 없는 재량 사이의 사법 판단 벤치마킹

JusticeAxis: Benchmarking Legal Judgment between Rigid Rule Application and Ungrounded Discretion

올바른 판결은 확정된 사실관계에 법을 적용하고, 그 사실이 발생한 제반 사정을 종합적으로 고려합니다. 그러나 기존 방법들은 엄격한 법조문 매칭과 근거 없는 재량 사이에서 방황하며, 벤치마크는 단일 라벨이나 루브릭만을 평가할 뿐 이러한 균형을 제공해야 할 경험은 검증되지 않은 채로 남아 있습니다. 본 연구에서는 사법 판단을 법률과 제반 사정 모두에 동시에 기반을 두는 단일 결정을 목표로 하는 참조 고정(reference-anchored) 태스크로 정식화합니다. 이를 위해 18개국의 오디오, 이미지, 텍스트 증거를 포함하는 256건의 실제 형사 사건과 각 사건마다 변호사가 작성한 세 가지 판결(기록된 실제 판결 및 두 가지 실패 유형별 판결 각 1건)로 구성된 JusticeAxis를 소개합니다. 나아가 사실관계를 확정하는 요소 에이전트(agent)들과 제반 사정에 대한 경험을 담은 스킬을 바탕으로 법을 적용하는 판사 에이전트로 구성된 프레임워크인 JusticeAgent를 제안합니다. 이러한 스킬은 실행 궤적으로부터 증류(distillation)되며 베이지안 신뢰 구간(Bayesian credible bounds) 하에서만 채택됩니다. 실험 결과에 따르면 실패 양상은 모델 규모(scale)에 따라 방향을 바꿉니다. 즉, 오픈 가중치(open-weight) 백본은 근거 없는 판단으로 편향되는 반면, 프론티어 모델은 법조문 기본값으로 편향됩니다. 또한 단순하면서도 효과적인 플러그인으로서 JusticeAgent가 고정된(frozen) 오픈 가중치 백본을 상용 수준까지 끌어올릴 수 있음을 검증했습니다. 프로젝트 리소스는 https://github.com/beita6969/JusticeAxis 에서 확인할 수 있습니다.

arXiv:2610.00328v1cs.AI

ContractRL: 감사 가능한 도구 호출 수정을 위한 보호된 그룹 상대적 정책 최적화

ContractRL: Shielded Group-Relative Policy Optimization for Auditable Tool-Call Repair

구조화된 도구 호출(tool call)은 종종 소수의 필드만이 스키마나 실행 계약(execution contract)을 위반하여 실패합니다. 객체 전체를 다시 생성하는 것은 행동 공간(action surface)을 확장시키고 반복적인 수정에 대한 감사를 어렵게 만듭니다. 본 논문에서는 검증기(verifier) 유도 JSON 수정을 유계 결정 과정(bounded decision process)으로 모델링하는 계약 제약 순차 수정 프로토콜인 ContractRL을 제안합니다. 각 단계에서 정책(policy)은 후보 객체, 타입이 지정된 검증기 피드백, JSON Pointer, 불변의 수정 이력, 남은 예산을 관찰하며, 결정론적 유효성 검사기가 상태 전이를 수행하기 전에 계약 기반 행동 마스크가 잘못되었거나 금지된 RFC-6902 연산을 필터링합니다. 또한 추적(trace)이 고정될 때까지 표준 타깃(canonical targets)과 시맨틱 라벨을 온라인 상태 외부에 유지하면서 패치, 재시도, 기권 결정을 위한 계약 제약 그룹 상대적 목적함수를 정의합니다. 동일한 검증기 정보 환경에서 시드당 192개 케이스와 5개의 시드에 걸쳐 평가한 결과, ContractRL은 34.4개의 생성 토큰으로 0.9362의 시맨틱 성공률을 달성하여, Patch-SFT의 0.9076 및 44.9개 토큰, 전체 재생성의 0.9148 및 137.2개 토큰과 대조적인 성과를 보였습니다. 정책 최적화(policy optimization)는 지도학습 기반 ContractRL의 시맨틱 성공률을 0.9186에서 0.9375로 향상시켰습니다. Patch-SFT와의 별도 3개 시드 대응 평가에서는 +0.0396의 시맨틱 차이(95% CI $[+0.0137,+0.0662], p=0.0039$)를 나타냈습니다. 피드백, 행동 마스크, 예산 및 스키마 변화(schema-shift) 분석은 이러한 성능 향상이 국소화된 교정(localized correction)과 연관되어 있음을 보여주며, 적대적 평가 및 다중 턴 평가는 남아 있는 실패 모드의 특성을 규명합니다.

arXiv:2610.00197v1cs.AI

코미디의 바보의 금: 대화형 유머에서의 보상 악용 및 대응책

Comedic Fool's Gold: Reward Exploits and Countermeasures in Conversational Humor

본 연구에서는 대화형 유머 분야에서 언어 모델을 학습시키기 위한 자동화된 보상을 조사하며, 보상 악용(reward exploit)과 그 대응책에 초점을 맞춥니다. 두 가지 접근 방식은 이해 가능한 놀라움(understandable surprise)과 예측된 청중의 즐거움을 포착하는 것을 목표로 합니다. 통제된 테스트 결과, 임베딩(embedding) 기반의 놀라움 보상은 재치 있는 답변뿐만 아니라 단어가 무작위로 섞인 답변도 동일하게 수용하는 것으로 나타났습니다. 유창성 필터는 단어가 섞인 경우를 탐지하지만, 결합된 보상은 일부 재치 있는 답변까지 거부하며 추가 검증에 실패합니다. 반면 청중 모델이 예측한 웃음은 두 화자 중 어느 쪽의 메시지에든 존재하는 웃음 단서에 취약합니다. 화자 전반에 걸쳐 이러한 단서를 정규화하면 다뤄진 공격을 차단할 수 있지만, 대응되지 않은 표현은 여전히 악용 가능한 상태로 남습니다. 연속적인 보상 수정을 거친 학습을 평가하기 위해 세 번의 강화학습(RL) 실험을 수행했습니다. 최종 실험에서는 결합 평가 점수가 0.0903 향상되고 점수가 0점인 세션이 40% 감소했으나, 유머에 특화된 개선은 사전 등록된 목표치에 미치지 못했습니다. 이러한 발견은 자동화된 보상 설계가 직면한 더 광범위한 과제를 보여줍니다. 즉, 대응책은 보상이 장려하고자 했던 본래의 행동을 보존하면서도 악용 가능한 지름길(shortcut)을 차단해야 한다는 점입니다.

arXiv:2610.00093v1cs.CR

자기 진화형 에이전트의 안전성: 서베이

Safety in Self-Evolving Agents: A Survey

대규모 언어 모델(LLM)은 강력한 범용 능력을 보여주지만, 배포 후에는 일반적으로 매개변수가 고정되어 있어 새로운 상호작용으로부터의 학습이 제한됩니다. 개방형 환경에서는 이러한 한계로 인해 데이터, 피드백, 축적된 경험을 바탕으로 모델 매개변수, 메모리, 도구 정의, 스킬, 워크플로 등 재사용 가능한 상태를 지속적으로 업데이트하는 자기 진화형 에이전트(self-evolving agent)가 주목받고 있습니다. 이러한 변화는 안전성(safety) 문제를 변화시킵니다. 경험이 재사용 가능한 상태가 되면 과거의 사건이 미래의 원인이 되며, 특정 맥락에서는 무해했던 정보가 이후 더 큰 지속성, 권한 또는 범위를 가지고 의사결정에 영향을 미칠 수 있습니다. 따라서 자기 진화형 에이전트의 안전성은 단순히 응답이 정렬(alignment)되었는지 또는 행동이 승인되었는지만을 묻는 데 그치지 않고, 국소적으로 유용했던 경험의 축적, 일반화 및 맥락 간 재사용 과정에서도 안전성 특성이 유지되는지를 질문합니다. 본 논문에서는 기저(Substrate)가 재사용 가능한 영향을 특정하고, 적응(Adaptation)이 그 변화 방식을 포착하며, 위반(Violation)이 훼손된 안전 속성을 식별하고, 노출(Exposure)이 실패가 관측 가능해지는 지점을 표시하며, 대응(Response)이 격리, 복구 또는 철회를 평가하는 전이 중심 프레임워크인 SAVER를 소개합니다. 본 서베이를 통해 실패가 반드시 유해한 정보에서 비롯되는 것은 아니며, 적응 과정에서 상태의 지속성, 권한 또는 범위가 유효했던 조건을 벗어나 확장될 때 합법적인 상태도 안전하지 않게 변할 수 있음을 밝힙니다. 기존 연구들은 진입 허가, 검색, 활성화, 노출 및 국소적 격리에 대해서는 비교적 강력한 증거를 제시하지만, 후속 파생 요소(descendant)의 복구 및 적응 재개 후 평가에 대해서는 훨씬 부족합니다. 따라서 우리는 안전하지 않은 영향을 최초 발생 전이까지 추적하고, 후속 파생 요소 전반의 복구를 검증하며, 지속적인 진화 속에서 해당 영향이 다시 나타날 수 있는지를 테스트하는 종단적 평가를 제안합니다.

arXiv:2610.00074v1cs.AI

K-Dense BYOK: 로컬에서 실행되며 해시 체인 기반의 연구실 노트를 유지하는 오픈소스 AI 연구 어시스턴트

K-Dense BYOK: An Open-Source AI Research Assistant That Runs Locally and Keeps a Hash-Chained Lab Notebook

K-Dense BYOK(bring your own keys)는 모든 분야의 과학자를 위해 연구자의 자체 컴퓨터에서 실행되는 무료 오픈소스 AI 연구 어시스턴트이다. 연구자가 호스팅되거나 로컬에서 실행되는 원하는 모델(model)에 대한 접근 권한을 제공하면, 애플리케이션은 작업이 실행될 공간, 과학적 스캐폴딩 층(layer), 완전한 기록 등 그 외 모든 것을 제공한다. 각 프로젝트는 일반 폴더이므로 데이터, 코드, 결과 및 기록이 연구자가 관리하는 머신에 보관되며 해당 애플리케이션 없이도 수년 후에도 읽을 수 있다. 이는 세 가지 측면에서 챗 어시스턴트나 범용 코딩 에이전트(agent)와 구별된다. 첫째, 작성된 과학적 절차 라이브러리, 가이드형 워크플로 템플릿, 연구 데이터를 찾을 수 있는 카탈로그, 그리고 에이전트가 작업을 넘길 수 있는 리뷰어 및 작성자 역할을 함께 제공한다. 둘째, 항목들이 하나의 논거로 연결되고 추가만 될 뿐 절대 삭제되지 않는 리빙 랩 노트(Living Lab Notebook)를 유지한다. 셋째, 에이전트가 쓸 수 있는 도구가 전혀 없는 로그에서, 에이전트의 말을 그대로 믿는 대신 에이전트가 수행하는 동작을 관찰하여 발생한 일을 기록한다. 이러한 선택은 9개의 프론티어 모델을 대상으로 한 이전 벤치마크(benchmark)에서 가장 흔했던 실패인 모델의 과장된 주장(overclaiming)을 목표로 하며, 주장을 방지하기보다는 검증 가능하게 만든다. 사전에 확정된 루브릭에 따라 평가된 20개의 학제 간 연구 프롬프트(prompt)에서, K-Dense BYOK는 과학적 품질과 연구 실행력 모두에서 두 개의 매니지드 플랫폼을 앞섰다. K-Dense BYOK의 산출물은 실행된 소프트웨어를 기록한 유일한 산출물이었으며, 결과를 재생성하는 명령어를 함께 제공한 경우가 대부분인 유일한 산출물이었다. 매니지드 플랫폼 중 하나는 동일한 프론티어 모델을 실행했음에도 둘 다 제공하지 못했다. 이러한 환경(environment) 기록은 에이전트가 작성한 파일이었으며, 아직 소프트웨어 환경 자체를 캡처하지는 못하는 관찰된 로그의 일부는 아니었다. 코드는 MIT 라이선스 하에 https://github.com/K-Dense-AI/k-dense-byok 에서 이용할 수 있다.

arXiv:2610.00061v1cs.AI

개인화된 선호도 최적화를 위한 그래디언트 정렬 쌍 선택

Gradient-Aligned Pair Selection for Personalized Preference Optimization

대규모 언어 모델(LLM)을 개인화하려면 생성 동작을 전체적인 평균 품질이 아닌 사용자별 선호도에 정렬(alignment)시켜야 합니다. 직접 선호 최적화(DPO)는 선호도 학습을 위한 안정적인 프레임워크를 제공하지만, 개인화된 환경에서의 효과는 선호도 쌍을 어떻게 선택하느냐에 크게 의존합니다. 기존 접근 방식은 일반적으로 가능도(likelihood) 기반 극단값과 같은 휴리스틱 기준에 의존하므로, 최적화가 명시적인 사용자 효용과 분리되어 개인화 성능 저하로 이어질 수 있습니다. 본 연구에서는 기대 사용자 효용의 그래디언트와 DPO 업데이트 방향 간의 1차 상호작용을 분석하여, 개인화된 선호도 학습을 기하학적으로 정렬된 최적화 문제로 공식화합니다. 분석 결과, 오프-정책(off-policy) 샘플링 하에서 선호도 마진이 효용 그래디언트와 방향적으로 정렬될 때 DPO 업데이트가 순수한 오류 수정 신호에서 강화 형태의 업데이트로 전환됨을 확인했습니다. 이러한 관점은 쌍 선택이 선호도 최적화가 개인화를 촉진하는지 저해하는지를 좌우하는 기하학적 결정임을 보여줍니다. 이러한 통찰을 바탕으로, 에포크(epoch)별 재생성을 통해 분포 변화를 제어하면서 효용을 인지하고 기하학적으로 정렬된 쌍 선택을 수행하는 반복 알고리즘인 GAP-DPO(Geometry-Aligned Preference DPO)를 제안합니다. 개인화된 텍스트 생성 벤치마크에 대한 실험은 GAP-DPO가 표준 DPO 변형들과 비교하여 문체 충실도, 선호도 정렬 및 생성 품질을 지속적으로 향상함을 보여줍니다. 종합적으로 본 연구의 결과는 그래디언트 정렬을 개인화된 선호도 최적화를 위한 통합 원리로 확립하며, 쌍 선택이 휴리스틱 전처리 단계가 아니라 최적화 기하학의 본질적인 구성 요소임을 입증합니다.

arXiv:2610.00047v1cs.AI

추론 시점 PRM 가지치기 파편 접목이 비활성인 구성의 특성 규명: 세 가지 추론 언어 모델(LM)을 통한 실증

Characterizing a Configuration Where Inference-Time PRM-Pruned Fragment Grafting Is Inert: Evidence from Three Reasoning LMs

병렬 사고의 연쇄(parallel Chain-of-Thought)에서 발생하는 다양성 붕괴(diversity collapse)는 자연스러운 설계를 기반으로 한 추론 시점 개입 방식을 촉발했습니다. 즉, 과정 보상 모델(PRM)이 체인을 가지치기(pruning)할 때 높은 PRM 점수를 받은 접두 문맥을 추출하여 여전히 디코딩 중인 형제 체인에 문맥 내 데모(in-context demonstration)로 그대로 접목하는 방식입니다. 본 연구에서는 궤적 간 단계 수준 전이(cross-trajectory step-level transfer)의 가장 비용 효율적인 구현체로서 PRM 가지치기 파편 접목(PPFG, PRM-Pruned Fragment Grafting) 메커니즘을 분리하고, 선행 파편 접목 연구들이 추가적인 보완 요소 하에서만 성능 향상을 보고했던 작동 지점에서 이를 테스트합니다. 전체 MATH500(n=500, 3개 시드)에서 Math-Shepherd와 결합한 Qwen2.5-7B-Instruct를 대상으로 평가한 결과, 정체 타깃팅 및 무작위 타깃팅 변형 PPFG 모두 측정된 모든 축에서 독립적인 병렬 CoT 기준선과 통계적으로 구별되지 않았습니다. 본 논문은 그 이유를 규명합니다. 322건의 정체 규칙 주입 이벤트를 4개 버킷으로 분류한 결과, 진정으로 어려움을 겪고 있는 체인을 타깃으로 삼은 경우는 14%에 불과했습니다. 나머지는 이미 성공했거나, 완료 직전이거나, 평평한 PRM 고원(plateau)에 머물러 있어 구원 접목으로 상태를 바꿀 수 없는 체인에 적용되었습니다. 어떠한 복합 게이트 정밀화도 잘 타깃팅된 발화와 적절한 밀도를 동시에 달성하지 못했으며, 무작위 대조군 역시 2.4배의 발화율에서도 동일한 동등성을 보여 이러한 비활성(inertness)이 특정 휴리스틱에 국한된 것이 아님을 확인했습니다. 이러한 발견은 3개의 기반 LM, 6개의 벤치마크, 두 번째 PRM, 호환성 게이트 탐색 전반에 걸쳐 재현되었으며, 양측 단측 검정(TOST) 분석을 통해 12개 Qwen/LLaMA 셀 모두에서 동등성이 통계적 동등성으로 확증되었습니다. 이벤트별 점검 결과 주입된 체인은 매칭 단계 대비 2.75배의 비율로 가지치기되지만, 생존 형제 반사실적 분석(surviving-sibling counterfactual)에서는 집단 수준의 보상이 발견되지 않았습니다. 사후 오라클(hindsight oracle)은 독립 방식 대비 PPFG 선택으로 인한 문제당 이득의 상한을 +0.13%p로 제한합니다. 본 연구는 모든 주장을 테스트된 작동 지점으로 범위를 한정하며, 추론 시점 메커니즘 영가설(nulls)을 확립하기 위한 동등성 검정 템플릿을 제공합니다.