arXiv:2507.22358 cs.AI

Magentic-UI: Towards Human-in-the-loop Agentic Systems

제출 2025-07-30

한국어 초록

대형 언어 모델(LLM) 기반 AI 에이전트는 외부 도구를 활용하여 복잡하고 다단계인 작업을 자율적으로 수행하는 능력이 점차 향상되고 있습니다. 그럼에도 불구하고, 이들은 컴퓨터 사용, 소프트웨어 개발, 연구 등 대부분의 분야에서 여전히 인간 수준의 성능에는 미치지 못합니다. 또한, 자율성과 외부 세계와의 상호작용 능력이 증가함에 따라, 잠재적으로 부적합한 행동이나 적대적 조작과 같은 안전 및 보안 위험도 함께 증가하고 있습니다. 본 논문에서는 인간-중심 에이전트 시스템(human-in-the-loop agentic systems)이 인간의 감독과 통제를 AI의 효율성과 결합하여 불완전한 시스템으로부터 생산성을 극대화할 수 있는 유망한 방향임을 주장합니다. 이에, 인간-에이전트 상호작용 연구 및 개발을 위한 오픈소스 웹 인터페이스인 Magentic-UI를 소개합니다. 유연한 다중 에이전트 아키텍처 위에 구축된 Magentic-UI는 웹 브라우징, 코드 실행, 파일 조작을 지원하며, Model Context Protocol(MCP)을 통해 다양한 도구로 확장할 수 있습니다. 더불어, Magentic-UI는 공동 계획(co-planning), 공동 작업(co-tasking), 다중 작업(multi-tasking), 행동 가드(action guards), 장기 기억(long-term memory) 등 효과적이고 저비용의 인간 개입을 가능하게 하는 여섯 가지 상호작용 메커니즘을 제공합니다. 우리는 Magentic-UI를 네 가지 차원에서 평가하였습니다: 에이전트 벤치마크에서의 자율 작업 수행, 상호작용 기능에 대한 시뮬레이션 사용자 테스트, 실제 사용자와의 정성적 연구, 그리고 목표 지향적 안전성 평가입니다. 연구 결과는 Magentic-UI가 안전하고 효율적인 인간-에이전트 협업을 진전시킬 수 있는 잠재력을 지님을 강조합니다.

요약

대형 언어 모델 기반 AI 에이전트는 외부 도구를 활용해 복잡한 다단계 작업을 자율적으로 수행할 수 있으나, 컴퓨터 사용, 소프트웨어 개발, 연구 등 대부분 분야에서 인간 수준의 성과에는 미치지 못합니다. 자율성과 외부 세계와의 상호작용 능력이 증가함에 따라, 잘못된 행동이나 적대적 조작과 같은 안전 및 보안 위험도 함께 증가합니다. 이에 인간의 감독과 통제를 결합한 인간-중심 에이전트 시스템이 불완전한 AI 시스템의 생산성을 높이는 유망한 방향임을 제안합니다. Magentic-UI는 다중 에이전트 구조 기반의 오픈소스 웹 인터페이스로, 웹 브라우징, 코드 실행, 파일 조작 등을 지원하며, 다양한 도구 확장을 위한 모델 컨텍스트 프로토콜(Model Context Protocol, MCP)을 제공합니다. 또한 공동 계획(co-planning), 공동 작업(co-tasking), 다중 작업(multi-tasking), 행동 가드(action guards), 장기 기억(long-term memory) 등 6가지 상호작용 메커니즘을 통해 효과적이고 비용 효율적인 인간 개입을 가능하게 합니다. 다양한 평가를 통해 안전하고 효율적인 인간-에이전트 협업의 가능성을 확인하였습니다.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.