호기심을 하나의 생태계로 보는 개념적 토이 프레임워크로, 단일 에이전트의 탐문 정책을 즉각적 불확실성 감소, 비용, 지연 보상, 질문 개방 가치의 가중합으로 정식화하고 경험에 따른 선호 편향(preference drift)을 모델링한다. 나아가 이를 다수 에이전트가 공유 지식 지형을 탐색하는 집단 수준으로 확장하여, 탐문 규모·주제 다양성·프런티어 지향성·지식 재사용성 등 집단적 호기심 생태학(curiosity ecology)을 분석하는 기반을 제공한다.
동적 다중 차량 경로 문제(VRP)에서 보상을 이동 시간과 서비스 시간의 합으로 나눈 보상 밀도(reward-density) 휴리스틱(Efficiency heuristic)을 제안하여, 자율 드론 작업 할당 및 도시 택시 배차 환경에서 평가했다. 제안 방법은 ALNS, GA, SA 등 메타휴리스틱 알고리즘과 동등한 솔루션 품질을 달성하면서도 계획 시간은 최대 수천 배 단축되어, 보상 대 계산량 프론티어에서 모든 비교 방법 대비 파레토 지배를 확립했다.
파리무추엘 결합 시장에서 LLM 에이전트의 상대적 부(wealth) 성장이 상대적 정보량과 정확히 일치한다는 격차 법칙(gap law)을 Claude Opus 4.8 에이전트로 사전 등록 실험을 통해 처음으로 정량적으로 확인했다. 반면 집단 수준의 정렬 불일치(misalignment)가 인센티브 레버에 부드럽게 반응한다는 평균장(mean-field) 가정은 72회 전 실험에서 목표 분산이 붕괴(V→0)하고 어트랙터 전환 형태의 계단 함수 반응만 관찰되어 실증적 기반이 없음을 보였다.
LLM 에이전트 시뮬레이션의 출력이 실제 예측으로 과대 해석되는 문제를 해결하기 위해, AgoraSim은 텍스트·멀티모달 아티팩트를 편집 가능한 에이전트 기반 모델(ABM) 설정으로 변환하고 LLM, 비전-언어(VLM), 고전적 규칙 기반 에이전트를 비율 제어 방식으로 혼합 실행하는 하이브리드 프레임워크를 제안한다. 모든 에이전트가 공유 구조화 결정 객체를 출력하여 동일 시나리오를 고전적 참조 역학(임계값 확산, SIR 전파, 여론 수렴 등)과 직접 비교함으로써, 사용자가 모델링 가정의 차이를 명시적으로 검토하고 경험적 검증이 필요한 사례를 식별할 수 있게 한다.
대규모 언어 모델(LLM) 에이전트는 도구 사용, 다단계 작업 계획, 다른 에이전트와의 조율, 장기간 운용 능력 측면에서 점점 더 광범위하게 평가되고 있다. 보고된 벤치마크 성능 향상은 서로 관련 없어 보이는 다양한 평가 연구에서 반복적으로 문서화된 실패 양상을 종종 가린다. 본 논문은 19개의 서로 다른 벤치마크에 걸쳐 2023년부터 2026년 사이에 발표된 27편의 벤치마크·분류체계·감사 논문을 종합하여 에이전트 한계에 대한 횡단적 분류체계를 구성한다. 저자들이 파악하는 한, 이는 도구 사용, 계획, 장기 추론, 다중 에이전트 조율, 안전성, 측정 타당성에 걸친 증거를 단일하고 통합된 LLM 에이전트 한계 분류체계로 통합한 최초의 종합 연구이다. 본 연구는 여섯 가지 실패 군집을 식별한다: (1) 도구 호출 및 매개변수(parameter) 수준의 오류, (2) 계획 및 제약 충족 실패, (3) 컨텍스트 누적으로 인한 장기 성능 저하, (4) 다중 에이전트 조율 실패, (5) 적대적 또는 불충분한 명세 조건에서의 안전성·보안 실패, (6) 측정 타당성 문제. 분류체계는 독립적으로 보고된 오류 범주를 에이전트 추론-행동 파이프라인의 개별 단계에 해당하는 주제별로 그룹화하는 반복적 방식으로 도출되었다. 문헌 전반에 걸쳐, 실패가 작업 길이에 따라 비선형적으로 누적되고, 개별 하위 작업에서의 높은 성능이 종단 간(end-to-end) 성공으로 안정적으로 이어지지 않으며, 추가적인 스캐폴딩이 일관되게 신뢰성을 향상시키지 않는다는 사실이 발견되었다. 동시에, 단일 턴 도구 사용, 단기 웹 탐색, 좁은 범위의 코딩 작업에서는 상당한 진전이 입증되었다.
공유 환경에 배치된 개인 AI 에이전트가 주 사용자의 이익을 최적화하는 과정에서 제3자의 주체성을 의도치 않게 침식하는 현상을 '제3자 역량 박탈(bystander disempowerment)'로 공식화하고, 이를 에이전트 행동과 미래 상태 간의 상호 정보량 감소로 측정한다. 다중 에이전트 격자 환경 벤치마크 Disempower-Grid를 통한 실험에서 절차적으로 생성된 환경의 27~96%에서 역량 박탈이 나타났으며, 이 현상은 환경 구조보다 어시스턴트의 목적 함수와 역량에 크게 의존함을 보였다.
멀티턴 LLM 에이전트 학습 시 희소한 결과 보상(outcome reward)의 느린 수렴 문제를 해결하기 위해, 밀집 과정 보상(dense process reward)으로 학습된 Agent B가 다양한 궤적을 탐색한 뒤 이를 결과 보상 기반으로 Agent A를 업데이트하는 보상 교환 메커니즘인 RSPO를 제안한다. WebShop과 ALFWorld 벤치마크에서 GRPO, PPO, GiGPO 등 다양한 강화학습 알고리즘에 적용한 결과, 일관된 성능 향상을 달성하였다.
LLM이 생성한 보상 가중치를 오프-정책 협력적 다중 에이전트 강화학습(MARL) 학습 도중 동적으로 업데이트하면 잠재력 기반 보상 형성(PBRS)의 정상성(stationarity) 가정을 위반하고 경험 리플레이 버퍼를 오염시킨다는 문제를 분석하고, 이를 해결하기 위해 단계 기반 동결 스케줄(Phase-Based Freeze Schedule)과 지수 이동 평균(EMA) 스무딩 두 가지 안정화 전략을 제안한다. QMIX 기반의 세 가지 협력 환경 실험을 통해 기준선 성능에 따라 보강(augmentative)·필수(essential)·보조(supplementary) 레짐으로 분류되는 세 가지 레짐 분류 체계를 도출하며, EMA 적용 시 보강 레짐(Simple Spread)에서 성공률이 15.2%에서 86.7%로 크게 향상됨을 보인다.
창발적 언어(emergent language)가 입력의 시각적 내용을 얼마나 인코딩하는지를 측정하는 문제는 아직 열린 과제이다. 우리는 이 속성을 시각적 반영(visual reflection)이라 부른다. 이는 창발적 메시지가 해당 메시지를 생성한 화자-청자 쌍에 의존하지 않고도 복원 가능한 형태로 원본 이미지에 대한 정보를 얼마나 보존하는지를 나타낸다. 기존 지표들은 인간이 정의한 개념 목록, 자연어 캡션, 구조적 거리 상관관계, 또는 Referential Game 정확도와 같은 대리 지표를 통해 이를 간접적으로만 측정하며, 이들 각각은 메시지가 인코딩한 시각적 내용을 놓치거나 인코딩하지 않은 내용을 인정하는 문제가 발생할 수 있다. 우리는 시각적 반영을 직접 측정하는 평가 프레임워크인 EmCom-Diffusion을 제안한다. 이 프레임워크는 창발적 메시지로부터 각 입력 이미지를 복원하고, 인간이 정의한 목표물이 아닌 원본 이미지 자체와 복원된 이미지를 비교한다. 구체적으로, (이미지, 창발적 메시지) 쌍으로 사전학습된 텍스트-이미지 확산 모델을 파인튜닝하고, 판별적 방식이 아닌 생성적 방식으로 복원된 이미지와 원본 이미지 간의 지각적 유사도를 시각적 반영 점수로 산출한다. MS-COCO에서 Referential Game을 통해 구체화하여, 세 가지 사전학습 시각 인코더 하에서 무작위 및 고정 토큰 기준선에 대해 해당 지표를 검증하고, 기존 네 가지 지표(CBM, 지도 학습 번역, TopSim, R@1)와 비교한다. EmCom-Diffusion은 다른 지표들이 놓치는 시각적 내용을 포착한다.
분산된 에이전트들 사이에서 협력을 유도하는 것은 다중 에이전트 강화학습(MARL) 분야에서 여전히 어려운 문제이며, 특히 사회적 딜레마 상황에서 그러하다. 이러한 상황에서는 개인의 이익이 공동선과 어긋나며, 개인적 합리성이 집단적으로 최적이 아닌 결과를 초래한다. 반면 인간은 이러한 상황에서도 서로 협력을 달성할 수 있다. 이러한 협력적 행동에 대한 일반적인 설명은 개인이 사회적 선호를 지닌다는 것이다. MARL에서 협력을 달성하기 위해, 우리는 사회심리학과 행동경제학에서 비롯된 이타적 선호(타인의 보상에 대한 인센티브)와 공정성 선호(평등에 대한 인센티브)를 통합한 새로운 효용 함수를 설계하였으며, 이를 이타적·공정성 선호(AFP, Altruistic and Fairness Preference)라 명명한다. AFP는 자신과 타인의 보상을 협력적 행동을 위한 인센티브로 변환하는 보상 공유 메커니즘이다. 우리는 두 가지 도전적인 순차적 사회적 딜레마 게임에서 표준 강화학습 에이전트 및 불평등 회피(inequity aversion) 에이전트와 비교 실험을 수행하였으며, AFP 에이전트가 기준선보다 더 많은 집단 보상과 높은 형평성을 달성하며 상호 협력에 성공함을 보여주었다. AFP의 학습 과정에서의 진행 양상을 더 깊이 이해하기 위해, 이타적 선호와 공정성 선호가 에이전트 행동에 미치는 영향을 추가로 탐구하였다. 결과는 이타적 선호가 에이전트들로 하여금 공공재에 기여하도록 장려하고, 공정성 선호가 에이전트들 사이에서 상호적 행동을 유도함을 시사한다.
AI를 사물인터넷(AIoT) 시스템에 통합하는 과정은 이러한 시스템을 수동적인 데이터 수집 인프라에서 이상 탐지, 예측 유지보수, 분류(classification), 예측, 최적화가 가능한 지능형 시스템으로 점진적으로 변화시켜 왔다. 그러나 기존 솔루션의 대부분은 센서 데이터로부터 추론(inference)하는 작업 특화 모델에 의존하고 있어, 실시간 추론(reasoning), 적응적 계획(adaptive planning), 자율 조율(autonomous coordination), 학습, 도구 사용(tool use), 맥락적 의사결정(contextual decision-making)과 같은 시스템 전반의 역량은 여전히 제한적이다. 본 논문은 자율 AI 에이전트의 인지(perception), 추론, 계획, 학습, 행동 능력을 사이버-물리 시스템(cyber-physical systems)과 통합하는 차세대 인지 IoT 패러다임으로서 에이전틱 IoT(Agentic IoT)를 고찰한다. 에이전틱 IoT는 IoT를 데이터 중심의 감지 및 추론 인프라에서 디바이스/엣지-포그-클라우드(device/edge-fog-cloud) 연속체에 걸쳐 운용되는 분산형 인지 에이전트 생태계로 변모시키는 것을 목표로 한다. 본 논문은 먼저 이러한 전환을 패러다임 전환으로 정립하고, 에이전틱 IoT를 AIoT, 엣지 지능(edge intelligence), 다중 에이전트 시스템(multi-agent systems), 에이전트 인터넷(Internet of Agents)과의 관계 속에서 위치시킨다. 이후 현행 연구들을 체계적으로 검토하고, 통합적 아키텍처 프레임워크를 제시하며, 도메인별 응용 가능성을 논의하고, 핵심 기술적·운영적·연구적 과제와 향후 연구 방향을 규명한다.
일상적인 과업부터 안전 필수 애플리케이션에 이르기까지 인간 활동의 다양한 영역에서 대규모 언어 모델(LLM)을 활용하는 것은 최소한의 인간 피드백으로 의사결정 효과를 높이는 것을 목표로 한다. 동시에, AI 비결정론(non-determinism)과 관련된 위험을 완화하면서 인간의 기대, 선호, 요구에 결정을 정렬(align)하고자 한다. 그러나 인간은 AI 권고에 과도하게 의존하거나 지나치게 의존하지 않는 경향이 있으며, 현재 AI 시스템은 인간의 기대에 대한 보정(calibration)이 여전히 부족하다. 이러한 과제를 해결하기 위해, 우리는 인간의 역량을 증강하고 AI 에이전트를 인간의 선호 및 기대에 정렬하도록 설계된 인간-AI 협력적 의사결정 프레임워크를 제안한다. 구체적으로, 본 논문은 (a) 협력적 의사결정 과업을 AI 에이전트와 인간 플레이어 간의 확률적 게임(stochastic game)으로 공식화하고, (b) 반복적이고 반성적인 과정에서 언어적 피드백을 활용하는 강화학습 에이전트와 인간 보정 모델을 통합한 인간 중심 반성적 아키텍처(HCRA, Human-Centric Reflective Architecture)를 제안한다. 평가 결과, HCRA는 의사결정 효과를 향상시키고 고품질의 권고를 제공하는 것으로 나타났다.
사회적 환경에서의 효과적인 에이전시는 에이전트가 언제 지식을 구하고, 언제 행동하며, 그 행동이 획득한 정보에 의해 정당화되는지에 달려 있다. 기존의 그라운딩 벤치마크는 실행 가능한 행동, 지속적 상태, 검증 가능한 결과를 제공하는 반면, 사회적 시뮬레이션 환경은 언어 에이전트 간의 풍부한 상호작용을 제공한다. 우리는 이 두 가지 요건을 결합한 평가 설정을 연구한다. 우리는 사회적으로 분산된 태스크 환경을 태스크 관련 지식이 역할 격리된 참여자들 사이에 분산되어 있고, 결과적 행동은 오직 그들을 통해서만 접근 가능한 인터랙티브 환경으로 정의한다. 커뮤니케이션은 역할 분할된 지식에 대한 탐험(exploration)으로, 그라운딩된 행동은 환경(environment) 상태에 대한 활용(exploitation)으로 기능한다. 우리는 Concordia 기반 프레임워크인 Incognita를 소개하며, 이는 사회적 상호작용과 그라운딩된 실행을 분리한다. 평가 대상 에이전트(agent)는 메시지를 사용자 또는 전문가 엔티티로 라우팅하고, 전문가는 허용 가능한 연산을 중개하며, 결정론적 하위 환경이 정규 상태에 대해 승인된 연산을 실행하고, 오프라인 평가자가 상속된 보상(reward)으로 결과를 채점한다. Incognita-Retail은 tau-bench 리테일을 최종 상태 보상 의미론을 유지하면서 다중 엔티티 환경으로 변환한다. 우리는 사회적 폭 기준으로 계층화된 18개 태스크에 대해 세 가지 생성형 에이전트 모델을 540회 시험으로 평가한다. 보상과 행동 양면에서 발전이 나타난다. 성공률은 0%에서 8.9% 및 17.2%로 상승하고, 조기 종료는 100%에서 87% 및 58%로 감소한다. 더 강력한 모델일수록 더 많은 숨겨진 지식을 이끌어내고, 더 많은 엔티티와 접촉하며, 더 많은 그라운딩된 쓰기를 시도하지만, 신뢰성은 여전히 낮다. 이러한 결과는 사회적으로 분산된 태스크 환경이 지식 도출, 출처 선택, 그라운딩된 행동 시도, 조기 완료 믿음 등 신뢰할 수 있는 성공에 앞서 행동을 드러낸다는 것을 보여준다.
autoresearch와 같은 장기 실행 코딩 에이전트는 개방형 문제에 대한 최적화를 지속적으로 발견할 수 있다. 그러나 이러한 에이전트는 단일 고수준 접근법으로 수렴하는 경향이 있으며, 이후 저수준 수정을 진행하면서 문제에 대한 다른 우월한 접근법을 놓친다. 우리는 두 가지 하네스 수준의 설계 선택이 이러한 행동에 기여한다고 가설을 세운다: 단일 장기 실행 에이전트에 컨텍스트를 누적하는 것과 수정 가능한 단일 프로그램 상태만을 노출하는 것이다. 우리는 SwarmResearch를 소개한다. 이는 Shepherd 에이전트가 전역 컨텍스트를 활용하여 각각 자신의 git 브랜치에서 로컬 컨텍스트로 동작하는 Search 에이전트 집단을 이끄는 오케스트레이터-서브에이전트 하네스이다. 개방형 최적화 태스크에서 SwarmResearch는 고수준 탐험을 통해 15개 태스크 중 13개에서 최신 대규모 언어 모델(LLM) 가이드 진화 및 다중 에이전트 기법과 비교하여 더 나은 혹은 동등한 솔루션을 발견한다. 직렬 및 병렬 에이전트의 고정 스케일링과 비교하여, SwarmResearch의 오케스트레이터 가이드 스케일링은 다양한 탐색 깊이에서 병렬성을 조정함으로써 더 우수한 성능의 솔루션을 발견한다.
본 논문에서는 LLMoxie를 소개한다. LLMoxie는 기관용 AI 플랫폼으로, 3계층 아키텍처를 통해 멀티클라우드 및 온프레미스 추론, 인증·예산 관리·PII 마스킹·관측 가능성을 위한 LiteLLM/MLflow 제어 플레인, 그리고 AI 코딩 에이전트를 위한 애플리케이션 증강 층을 지원한다. 그 위에 오픈소스 RSE-Plugins 에코시스템이 쌓인 RSE 지식을 Plugin-Agent-Skill 계층구조로 인코딩하며, 이는 과학적 Python 실천, 도메인별 지식, 6단계 연구-구현 워크플로우, 프로젝트 생명주기 관리를 아우른다. 과학 소프트웨어는 순수한 코드 품질보다 인용 가능성, 감사 가능성, 재현 가능성, 확장 가능성으로 평가된다. 상용 소프트웨어 벤치마크에 최적화된 기성 AI 코딩 에이전트는 이러한 환경에 적합하지 않다. 이들은 호출하는 과학용 Python 라이브러리의 관례를 무시하고, 민감하거나 공개 제한된 데이터를 부적절하게 처리하며, 사후에 재구성하기 어려운 의사결정 흔적을 남긴다. 우리는 대학 기반 연구 소프트웨어 엔지니어링(RSE) 센터에서의 20개월간 실천 사례를 보고한다. 이 센터에서 천문학, 지구 및 기후 과학, 농업, 보건 프로젝트에 내재된 RSE들이 이 격차를 해소하기 위해 노력했다. 우리는 다중 도메인 RSE 센터 내에서 에이전틱 AI(Agentic AI)를 도입할 때 반복적으로 나타나는 인프라, 거버넌스, 프로세스 과제를 분류하고, 플랫폼 및 플러그인 설계를 기술하며, 실제 과학 소프트웨어 배포에서 얻은 운영 교훈을 정리한다. 플랫폼과 플러그인은 함께 AI 코딩 에이전트를 범용 코드 생성기에서 커뮤니티 규범을 존중하고 기술적 추론의 감사 가능한 출처를 생성하는 도메인 인식 협력자로 전환시킨다.
다중 에이전트 시스템(MAS)에서 시스템 수준 평가를 개별 에이전트 및 메시지 수준의 학습 신호로 연결하는 이론적 프레임워크를 제안하며, Shapley 값 기반 기여도 할당과 프로세스 보상 모델(PRM)을 통합하여 성공 시에는 협력을 장려하는 메시지별 보상을, 실패 시에는 오류 위치 추적을 통한 수정 인식 선호도 신호를 생성한다. 이 신호는 유계(bounded)·협력적·기여도 보존 특성을 이론적으로 보장하며, 강화학습 및 선호도 기반 사후학습과 직접 호환되는 단일 경로를 제공한다.
Slide design requires personalizing both deck themes and page layouts. Yet, current AI agent-based methods struggle with fine-grained, page-level design. Solely relying on prespecified templates or user verbose instructions, they fail to capture latent design intents, leaving Page-level Slide Personalization (PSP) unresolved. To close this gap, this work formulates PSP as an inverse planning problem. We propose to learn a design intent without assuming any knowledge of the specific executing tools (e.g., PowerPoint, Beamer) being used. However, relinquishing control over these tools makes the problem intractable to optimize end-to-end. To overcome this, we propose SPIRE, a principled framework to solve PSP approximately. By intentionally corrupting the visual structures of clean slides, SPIRE creates a verifiable task to denoise the corruption, whereby two agents learn to collaboratively refine executable designs via reinforcement learning (RL). We present a proof that structural denoising is a consistent surrogate for PSP, and that the multi-agent formulation strictly reduces policy gradient variance in RL. Extensive experiments demonstrate the superiority of SPIRE.
Autonomous agents, whether LLM-driven software agents or robotic physical agents, face a common class of failure modes when operating without continuous human oversight: safety violations from unverified actions, behavioral instability from unconstrained loops, and continuity loss from unhandled error states. We develop \system{}, a discrete-time control system that combines five execution gears (\Gobs{}, \Gsug{}, \Gplan{}, \Gexec{}, \Gint{}) with utility-gated dispatch and event-driven fallback. For the single-agent case, we prove monotonic stability, execution safety, eventual stabilization, fallback completeness, and equivalence to a gear-constrained Markov decision process. For multi-agent cyber-physical systems (CPS), we apply the established \smart{} managed-autonomy lifecycle and map runtime evidence into its four governance states (\Stable{}/\Meta{}/\Assisted{}/\Regulated{}). Consensus gating, swarm-level Lyapunov analysis, per-agent gear authority, and rendezvous control provide distributed safety and stability guarantees, including zero collision under the stated assumptions. We evaluate the resulting runtime on a three-agent UR5 robotic assembly cell using fault magnitudes calibrated from the NIST \emph{Degradation Measurement of Robot Arm Position Accuracy} dataset across 10,000 Monte Carlo episodes. It achieves a 99.6\% anomaly detection rate versus 2.1\% for the single-agent baseline, reduces detection latency by $3.5\times$, and supplies a formal physical-workspace safety certificate. The execution gears act as micro-level permissions beneath the \smart{} runtime governance states, separating action control from autonomy governance.
How do two agents invent a shared language from scratch? In a Lewis signaling game, a sender and receiver must coordinate on a code using only their interaction history. We study five memory architectures across varying channel configurations with LLM agents and find that memory architecture matters more than channel capacity. Agents with a persistent private notebook benefit from surplus channel capacity and avoid the high-capacity collapse seen in stateless agents, achieving the most reliable coordination ($0.867 \pm 0.023$ at capacity = 25). Stateless agents peak at moderate capacity and then degrade as the vocabulary grows beyond what a rolling context window can track The notebook externalizes learned conventions, freeing agents from having to re-derive codes each round. An information bottleneck-inspired argument predicts an optimal capacity equal to the number of objects. Instead, the bottleneck (capacity = 8) proves to be a fragility point, and surplus capacity is generally better. We show that channel capacity alone cannot predict coordination; memory architecture determines whether agents turn interaction history into stable conventions, and both dimensions are needed to understand how signals become language.
여러 에이전트(agent)가 동일한 저장소 내에서 동시에 쓰기 의도를 형성할 때, 실제 변경을 적용하기 전에 병렬 진행 가능 여부·직렬화 필요 여부·차단 여부를 결정하는 사전 쓰기 승인(pre-write admission) 문제를 다루며, ATM(AI-Atomic-Framework)은 CID 브로커와 어댑터 기반 원자화(atomization), 가상 원자(virtual atom) 폴백을 결합한 7단계 하드 게이트로 단일 거버넌스 도메인 내에서 감사 가능하고 결정론적인 승인 결정을 제공한다. 12개 시나리오 결정론적 설계 매트릭스와 ATM-AdmissionBench 등의 평가를 통해 단일 도메인 환경에서의 실현 가능성과 감사 가능성을 지원하나, Git 머지 대체나 크로스-클론 거버넌스는 범위 밖임을 명시한다.