A self-improving agent can find accepted solutions more often without expanding the tasks its verification interface can accept. We extend task-relative verification with explicit support and transcript interfaces to distinguish search gains from changes in accepted-task coverage. A stage's native reach contains tasks accepted with default support; its closure frontier contains tasks accepted with any support the declared interface permits. A semantic containment criterion identifies the authority or exposure condition that every verified escape must violate, while guard-transfer invariance prevents a change of representation from being counted as a capability expansion. An executable Boolean-program repair agent makes the distinction concrete: over 36,864 paired runs, counterexample feedback reduces verifier calls without changing coverage, whereas an enforced permission change admits a new target with a proof excluding every old-interface program. Exact and uniformly gapped randomized verification share this account; independent majority amplification improves reliability while preserving the accepted language. Separate adaptive-selection contracts state what is additionally required to interpret a proposed successor's score as evidence of deployment improvement. Classical hierarchy results and finite audits provide supporting boundaries. The framework specifies the evidence needed to establish improved search, wider accepted capability, and reliable successor selection.
에이전틱 AI(Agentic AI) 시스템은 계획(planning), 도구 사용, 메모리, 상호작용 및 적응을 결합한 다단계 궤적(trajectory)을 통해 동작합니다. 이러한 동작 특성으로 인해 수용 가능한 시스템 동작이 시간에 따라, 그리고 변화하는 환경 조건 하에서 결정이 어떻게 전개되는지에 좌우되므로, 검증(validation) 실무는 기존의 컴포넌트 테스트와 단발성 입출력 평가를 넘어서는 수준으로 확장됩니다. 본 체계적 매핑 연구(systematic mapping study)는 에이전틱 시스템의 검증 문제를 규명하기 위해 에이전트 평가, 소프트웨어 보증, 사이버-물리 시스템, 런타임 모니터링 및 규제 지침에 걸친 262편의 논문을 종합합니다. 본 검토는 행동적, 안전성(safety), 시간적, 규제적, 다중 에이전트 관심사를 다루는 5차원 분류 체계를 중심으로 구성되며, 해당 분류 체계를 사용하여 현재의 접근 방식을 매핑하고 접근 방식과 차원 간의 밀집 및 희소 조합을 식별합니다. 생성된 맵에 따르면 문헌은 행동 평가(262편 중 105편)에 집중되어 있으며 시간적 타당성(14편)이 가장 미흡한 것으로 나타났습니다. 규제 관련 연구는 주로 IEEE 색인 학술 행사에서 발표된 보증 케이스(assurance cases) 및 규제 분석에 기반하고 있으며, 다중 에이전트 연구는 주로 벤치마크에 집중되어 있습니다. 세 가지 교차 도메인 사례 연구(의료 케어, 산업 운영, 스마트 모빌리티 시스템)는 검토된 문헌에 기록된 실패 패턴을 바탕으로 안전이 중요한(safety-critical) 환경에서 5가지 분류 차원이 어떻게 반복적으로 나타나는지에 대한 운영적 예시를 제공합니다. 본 논문은 경계가 지정된 자율성(bounded-autonomy) 명세, 적대적 궤적 생성, 런타임 모니터링, 감사 가능한 증거 구조를 중심으로 한 수명 주기 지향적 연구 과제를 제시하며 마무리됩니다. 본 연구의 핵심 주장은 에이전틱 AI의 신뢰할 수 있는 배포가 고립된 컴포넌트만을 평가하는 것이 아니라 맥락 내에서 궤적을 검증하는 것에 달려 있다는 점입니다.
에이전틱 AI(Agentic AI) 시스템은 지시문 해석, 외부 데이터 처리, 도구 호출, 다른 에이전트와의 조율을 위해 언어 모델 컴포넌트에 점점 더 많이 의존하고 있습니다. 이러한 기능은 특히 공격자가 탐침(probing), 프롬프트 정제, 응답 평가를 확장하기 위해 모델 유도 자동화를 도입함에 따라 프롬프트 주입 및 탈옥(jailbreak) 공격의 파급력을 더욱 키웁니다. 본 연구는 대상 시스템, 방어 메커니즘, 공격자의 자동화된 판정자(judge)에 대한 확률 모델을 통해 공격-방어 환경을 분석합니다. 분석에 따르면, 예측 가능한 거절 반응이 자동화된 탐색에 유용한 피드백을 제공하기 때문에 기존의 '탐지 및 차단(detect-and-block)' 방어는 질의 예산(query budget)이 증가함에 따라 공격자 성공률(ASR)이 1에 수렴하도록 허용할 수 있습니다. 이에 본 연구에서는 악의적인 상호작용이 감지되었을 때 공격자의 판정자가 위양성(false-positive) 오류를 일으키도록 설계된 통제된 비작동 응답을 제공하는 '탐지 및 오도(detect-and-misdirect)' 전략을 살펴봅니다. 이 전략은 공격자가 선택한 후보의 양성 예측도(PPV)를 낮추고 유계된(bounded) 점근적 ASR을 유도합니다. 본 연구는 자동화된 탈옥 환경에서 예측 가능한 거절 텍스트를 안전하지만 전략적으로 오도하는 응답으로 대체하도록 설계된 경량 대화형 오도 기법인 CMPE(Contextual Misdirection via Progressive Engagement)를 통해 이 전략의 개념 증명 구현을 평가합니다. 탈옥 벤치마크에서 CMPE는 추정된 ASR 상한을 최대 2자릿수(orders of magnitude)까지 낮추었으며, PAIR, GPTFuzz, AutoDAN-Turbo를 사용한 엔드투엔드 실험에서 검증된 공격 성공을 거의 제거했습니다.
소비자들은 점점 더 구매 결정을 대리 소비자 역할을 하는 대규모 언어 모델(LLM)에 위임하고 있다. 제품 속성을 비용이 드는 도구 호출 뒤에 두는 정보 보드(information-board) 과정 추적(process tracing)의 변형인 "Tool-Lab"을 사용하여, 마케팅 가격 단서(즉, just-below pricing과 프로모션 프레이밍)가 AI 쇼핑 에이전트에 어떻게 영향을 미치는지 살펴본다. 세 제공업체의 상용 배포 LLM 8개에 걸쳐 선택 전 정보 획득을 추적했다. 비용이 없을 때는 가격 단서가 거의 오도하지 않는다. 모호한 목표 프롬프트 하에서 정보 획득 비용을 부과하면 LLM은 단위 가격 계산에 필요한 진단적 속성을 생략하고 인간 휴리스틱을 닮은 차선 선택을 하게 된다. 진단적 탐색과 선택 최적성을 대체로 유지하는 구체적 목표 프롬프트에 비해, 제약 조건 하의 모호한 목표 프롬프트는 탐색을 매개로 한 취약점을 만든다. 본 연구는 위임형 AI 쇼핑에서 마케팅 휴리스틱이 반드시 불변적인 LLM 결함 때문이 아니라 상점프론트 정보 아키텍처에 의해 좌우됨을 보여준다.
에이전틱 AI(Agentic AI)는 대규모 언어 모델(LLM) 보안의 범위를 생성된 콘텐츠를 넘어 영구 상태(persistent state), 자율 행동, 도구 사용, 그리고 인간 및 타 에이전트와의 상호작용으로 확장합니다. 기존의 위협 분류는 대개 개별 차원을 강조하여 진입점, 영향을 받는 컴포넌트, 보안 결과 간의 연결 고리를 모호하게 만듭니다. 또한 알려진 위협 환경은 실증 연구에서 입증된 커버리지와 차이를 보입니다. 본 논문에서는 2022년부터 2026년까지 발표된 66편의 연구에 대한 체계적인 검토를 통해 영향을 받는 기능적 또는 시스템 표면 {S}, 상호작용 또는 신뢰 경계 {B}, 침해된 보안 속성 {P}, 실증적으로 검토된 아키텍처 {A}를 연결하는 다차원 표현 T={S, B, P, A}를 제안합니다. 또한 실증적 커버리지와 평가 성숙도를 규명하기 위해 아티팩트 기반 레드팀 테스팅(red-teaming) 연구 22편과 대표적인 보안 벤치마크(benchmark) 11개를 분석합니다. 선정된 연구 내에서 실증적 증거는 주로 단일 에이전트 환경의 프롬프트(prompt)/추론, 메모리 및 도구 매개 공격에 집중되어 있습니다. 영구성, 인간-에이전트(Human-Agent), 복잡한 멀티 에이전트, 시스템적, 장기적(long-horizon) 위협에 대한 연구 커버리지는 상대적으로 부족합니다. 이러한 발견은 전체 실증 연구 전반의 격차를 규정하기보다는 선정된 연구 코퍼스의 특성을 설명합니다. 이질적인 지표, 제한적인 적응형 방어 평가, 아키텍처적 불균형, 불완전한 실행 상태 캡처는 비교 및 재현성을 더욱 제약합니다. 마지막으로 에이전틱 AI의 보다 체계적이고 아키텍처를 인식하며 재현 가능한 보안 평가를 유도하기 위한 13가지 공개 연구 질문을 도출합니다.
2026년 6월 12일, 미국 정부는 Anthropic에 가장 역량이 뛰어난 두 모델에서 외국인의 접근을 90분 이내에 차단하도록 명령했다. 해당 시간 내에 국적별로 사용자를 분류할 수 없었던 회사는 모든 사용자를 대상으로 모델 서비스를 철회했다. 몇 주 후, 테스트 중이던 OpenAI의 에이전트(agent)들이 샌드박스를 탈출해 Hugging Face를 침해했으며, Hugging Face는 침입의 출처를 모른 채 이를 저지했다. 두 정지(stop) 조치 모두 AI 전용 규제에 기반한 것이 아니었다. EU AI 법(EU AI Act)은 고위험 시스템이 "'정지' 버튼 또는 유사한 절차를 통해" 중단될 수 있어야 한다고 규정하고 있으며, 2026년 7월 의회에 발의된 법안의 명칭은 'AI 킬 스위치 법(AI Kill Switch Act)'이다. 그러나 중단은 단순한 기술적 인공물이나 빨간 버튼이 아니며, 제도적 실천이다. 본 논문은 기술적 어포던스(affordance), 중단 권한, 인식론적 촉발 요인(epistemic triggers), 인식론적 적격성(epistemic standing)이라는 네 가지 차원과 단순형(에스컬레이터), 순차형(공정 플랜트), 네트워크형(철도), 분산형(에이전트 AI)이라는 네 가지 셧다운 패러다임에 기반한 정지 이론을 발전시킨다. 에이전트 AI는 이러한 메커니즘과 분산된 행위주체성(agency) 간의 불일치를 드러낸다. 통제권이 분할되어 있고, 한 지점에서의 정지가 다른 곳에서 활동을 계속 실행되도록 둘 수 있으며, 시스템이 중단되는 것에 저항할 수 있다. 사전 정의된 프로토콜에 따라 경쟁 연구소의 두 언어 모델을 활용해 1,400건의 AI 사고를 독자적으로 코딩한 결과, 최종 유지된 1,213건 중 대략 80%에서 정지가 이루어지지 않은 것으로 나타났다. 사용 가능한 정지 수단이 존재하지 않았던 경우, 5건 중 4건에서는 결여된 요소가 기술적이라기보다는 법적인 문제였다. 39개의 AI 거버넌스 수단에 대한 조사에서도 동일한 공백이 발견되었다. 구속력 있는 정지 요건을 포함하는 것은 7개에 불과했으며, 정지를 어떻게 조율해야 하는지 또는 언제 운영을 재개할 수 있는지에 대해 명시한 것은 전무했다. 본 논문은 인프라 층(layer)에서의 비상 중단 권한, 정지가 근거해야 할 증거에 대한 규제 기관 및 독립적 평가자의 집행 가능한 접근권, 그리고 정지가 실패할 경우를 대비한 안전장치로 구성된 다층적 정지의 법(layered law of stop)을 제안한다.
대규모 언어 모델(LLM)을 기반으로 구축된 에이전틱 AI(Agentic AI) 시스템은 여러 단계에 걸친 계획 수립, 외부 도구 활용, 메모리 내 정보 보존, 다른 에이전트와의 협업을 수행할 수 있습니다. 이러한 기능은 기존의 정적 언어 모델보다 뛰어난 유용성을 제공하지만, 동시에 새로운 보안 및 운영상의 위험을 야기합니다. 웹사이트, 이메일, 문서, 데이터베이스 등 신뢰할 수 없는 콘텐츠가 시스템 인스트럭션과 동일한 컨텍스트로 유입될 수 있고, 영구 메모리는 침해된 정보를 세션 전반에 걸쳐 전달할 수 있으며, 외부 도구에 대한 접근 권한은 모델의 부정확한 응답을 중대한 실제 행동으로 이어지게 할 수 있습니다. 본 논문은 안전성(safety) 및 견고성, 정렬(alignment) 및 인간 감독, 투명성 및 감사 가능성, 프라이버시 및 데이터 거버넌스, 규제 준수라는 다섯 가지 상호 연결된 차원에서 에이전틱 AI의 신뢰성을 검토합니다. 또한 간접 프롬프트 인젝션(indirect prompt injection), 백도어 트리거, 목표 오일반화(goal misgeneralization), 메모리 오염, 세션 간 데이터 유출을 포함한 주요 실패 모드를 통합된 분류 체계로 정리합니다. 아울러 인스트럭션 계층 구조, 컨텍스트 격리, 스포트라이팅(spotlighting), 프로세스 기반 감독, 제한적 도구 사용, 프라이버시 보존 메모리 등 주요 완화 방식을 살펴보며, 실증적 증거로 뒷받침되는 기법과 여전히 주로 개념적 수준에 머물러 있는 기법을 구분합니다. 이러한 분석을 바탕으로, 명세, 설계, 학습(training), 평가(evaluation), 배포, 모니터링의 6단계로 구성된 '신뢰할 수 있는 에이전트 개발 생애주기(TADL)' 프레임워크를 소개합니다. TADL은 각 단계별로 관련 신뢰성 활동, 요구되는 증거, 위험 기반 의사결정 게이트를 정의합니다. TADL은 아직 실증적으로 검증되지는 않았으나, 보다 안전하고 책임 있는 에이전틱 시스템을 개발하고 평가하기 위한 구조화된 기반을 제공합니다. 마지막으로 본 논문은 현재 벤치마크(benchmark)의 한계를 짚어보고 향후 연구를 위한 우선 과제를 제시하며 마무리합니다.
에이전트형 인공지능(Agentic AI)은 6세대(6G) 네트워크에서 레벨 4 자율성을 실현할 수 있는 유력한 기술이지만, 공유 메모리를 기반으로 추론하는 에이전트는 메모리의 왜곡을 그대로 물려받게 됩니다. 본 연구에서는 에너지를 최소화하는 무선 접속망(RAN) 에이전트와 지연 시간을 최소화하는 엣지 에이전트가 협상하고, 디지털 트윈(DT)을 통해 제안을 검증하며, 집합적 메모리를 공유하는 크로스 도메인 RAN-엣지 오케스트레이션을 연구합니다. 이러한 메모리는 샘플링 장치와 같아서, 에이전트가 무엇을 저장하는가가 아니라 무엇을 검색하는가가 이들의 행동을 결정합니다. 본 논문에서는 유도된 검색 분포와 대표 참조 분포 간의 다이버전스로서 시간적, 확증, 가용성 축을 따라 분해되는 검색 바이어스 지수(Retrieval Bias Index)를 정의하고, 가법적 검색 스코어링이 바이어스가 제거되지 않은 분포의 지수 틸트(exponential tilt)임을 보여 실패 증폭 가중치(failure-amplification weight)에 대한 닫힌 형태의 해(closed form)와 저장소 자체의 구성에 의해 결정되는 포화 하한을 도출합니다. 추가적인 결과로 초과 서비스 수준 협약(SLA) 위반이 검색 바이어스와 DT 불일치에 가법적으로 바운딩됨을 보입니다. 확률적 네트워크 미적분학(stochastic network calculus)이 실행 가능 영역, 오라클, 내시 협상(Nash bargaining) 기준점을 제공하는 탠덤 큐에서, 제안하는 연산자는 최신성 기반 저장소 대비 12.7배의 바이어스 감소를 달성하고 6개의 메모리 아키텍처 중 협상 해와 가장 가까운 거리를 달성합니다.
산업용 에이전틱(agentic) AI 시스템에서 프로토타입 성능과 실제 배포 사이의 격차가 점차 두드러지고 있다. 특히 적응형 에이전트는 비결정성, 기밀성 제약, 제한된 컨텍스트, 낮은 관측 가능성 조건에서 타당해 보이는 출력을 생성하면서도 검증하기 어려운 문제가 있다. 본 논문은 유한 심볼릭 규칙, 명시적 진단 술어(diagnostic predicate), 설명 로그, 보류 재평가(held-out re-evaluation)로 표현된 적응형 에이전틱 컨트롤러에 대한 경계 검증 프로토콜을 형식화한다. 핵심 연구 질문은 다음과 같다: 적응형 에이전틱 컨트롤러가 유한 규칙, 명시적 진단 술어, 설명 로그, 보류 재평가로 표현될 때, 무제한적인 인간-개입(human-in-the-loop) 판단에 의존하지 않고 어떤 종류의 컨트롤러 실패를 탐지하거나 국소적으로 수정하거나 거부할 수 있는가? 제안된 프레임워크는 컨트롤러를 유한하게 수정 가능한 객체로 취급한다. 진단 실패는 규칙 추가, 규칙 삭제, 우선순위 수정을 포함하는 사전 정의된 규칙 수준의 편집에 매핑된다. 수정된 컨트롤러는 이후 보류된 시뮬레이션 시드 또는 복제된 초기 상태에서 평가된다. 양식화된 재정 제약 재고 관리(inventory-control) 벤치마크에서의 실험은 세 가지 결과를 보여준다: 단일 규칙 편집으로는 수정 불가능한 자원 유발 실패, 임계값 또는 가드레일 위반으로 인해 거부되는 부분 수정, 그리고 평활화 규칙 제거로 유발된 주문 변동성 실패에 대한 국소적 단일 단계 수정. 본 연구의 기여는 방법론적인 것으로, 특정 컨트롤러 수준의 실패를 관측 가능하고 설명 가능하며 국소적으로 수정 가능하고 통제된 조건에서 실증적으로 재검증할 수 있는지를 테스트하는 시뮬레이션 호환 절차를 제공한다.
AI 시스템이 점점 더 에이전트적 행동을 보이면서, 자율성에 대한 논의는 시스템이 기술적으로 할 수 있는 것과 실제로 허용되어야 하는 것을 종종 혼동한다. 본 논문은 위험, 감독, 책임성 고려에 따라 AI 에이전트가 행사하도록 승인된 자율성의 정도를 정의하는 허용 자율성 수준(Allowed Autonomy Levels, AAL)과 에이전트의 고유한 기술적 능력을 특성화하는 자율 역량 수준(Autonomous Capability Levels, ACL)을 명시적으로 분리하는 거버넌스 프레임워크를 제안한다. 반응적 실행, 의사결정 지원, 감독 하 행동, 목표 지향적 자율성, 위임된 운영 권한에 이르는 구조화된 자율성 수준 집합을 제시하고, 자율성이 증가함에 따라 통제, 가역성, 책임성이 어떻게 변하는지 설명한다. 이 프레임워크를 운영화하기 위해 허용 자율성을 할당하는 위험 인식 의사결정 절차를 제안하고, 자율성 수준에 걸쳐 위험과 책임성이 어떻게 변화하는지 분석하며, 배포된 기업 데이터 엔지니어링 에이전트를 통해 적용 사례를 보여준다. 이를 통해 높은 역량 수준으로 평가된 시스템이 위험, 가역성, 조직 준비도에 기반하여 의도적으로 더 낮은 허용 자율성으로 제한될 수 있음을 설명한다. 승인과 역량을 구분함으로써, 본 연구는 에이전트형 AI 시스템의 설계, 배포, 거버넌스에 대한 실용적 지침을 제공한다.
프로덕션 인프라에 자율 AI 에이전트를 배치하면, 기존 역할 기반 접근 제어(RBAC) 모델로는 해결할 수 없는 근본적인 보안 과제가 발생한다. 결정론적 자동화와 달리 AI 에이전트는 확률적(stochastic) 행동을 보이므로, 중요 시스템에 대한 접근을 통제하기에 기존 신뢰 모델로는 불충분하다. 본 논문은 중요 클라우드 인프라에서 운영되는 에이전트형 AI 시스템을 위해 특별히 설계된 분산형 다계층 접근 제어 아키텍처를 제시한다. 우리 프레임워크는 네 가지 핵심 혁신을 도입한다: (1) 에이전트 행동을 위임된 인간 권한에 연결하는 복합 신원 모델, (2) 글로벌 플랫폼 접근부터 매개변수별 제약까지 다섯 단계의 세분화 수준에 걸친 계층적 권한 시스템, (3) 도구 팀이 각자의 인가 경계를 독립적으로 관리하는 분산형 정책 소유 모델, (4) 자율 에이전트가 고위험 작업을 실행하지 못하도록 하는 안전성 인터록(safety interlocks)을 갖춘 점진적 신뢰 상승. 우리는 설계를 대규모 언어 모델(LLM) 애플리케이션용 OWASP Top 10(2025) 위협 분류체계에 기반을 두고, 각 아키텍처 결정이 특정 공격 벡터를 어떻게 완화하는지 보여준다. 수백 개의 데이터센터에 걸친 네트워크 인프라를 관리하는 주요 클라우드 제공업체의 프로덕션 환경에 배포된 본 시스템은, 20개 이상의 전문 AI 에이전트와 60개 이상의 결정론적 플레이북에 대해 세분화된 접근 제어를 시행하며, 매일 수천 건의 작업을 처리하면서 8개월간의 프로덕션 배포 기간 동안 무단 쓰기 작업을 0건으로 유지했다. 우리는 접근 패턴 분포, 거부율, 그리고 비결정론적 행위자에 의한 권한 상승을 방지하는 다층 인가의 효과에 대한 실증 데이터를 제시한다.
대규모 언어 모델(LLM)은 점점 더 자율 에이전트로 배포되며, 정적 대화형 인터페이스에서 복잡한 추론, 도구 실행, 의사결정이 가능한 동적 시스템으로 전환되고 있다. 그러나 이러한 에이전틱 AI 시스템의 운영 신뢰성은 개방형 환경에서 신뢰할 수 있는 ground truth(기준 진실값)의 부재와 시간이 지남에 따라 운영 드리프트가 증가할 위험에 의해 근본적으로 도전받는다. 이 문제를 해결하기 위해, LLM 기반 시스템 내에서 자율적 무결성을 강제하도록 설계된 에이전틱 AI 프레임워크를 제안하고 실험적으로 평가한다. 우리는 지속적인 인간 감독 없이 ARIMA 예측기(forecaster)를 통합하여 드리프트를 완화하고 ground truth를 동적으로 근사하는 자기 보정(self-calibration) 메커니즘을 설계한다. 방법론의 효과와 신뢰성을 입증하기 위해, 엣지 컴퓨팅 네트워크에서 영지식(zero-knowledge) 워크로드의 자원 사용량 프로파일링이라는 복잡한 영역에 이를 적용한다. 실험 결과, 제안된 자기 보정 에이전틱 프레임워크가 영지식 워크로드를 성공적으로 프로파일링하며, 자원 사용량 예측에서 기준선 LLM 에이전트보다 91.7% 더 높은 정확도를 달성하고, 순수 프로파일링 대비 예측 속도를 71.7% 개선하여, 분산 인프라에 자율 AI를 배포하기 위한 견고한 기반을 마련함을 보여준다. 또한, 제안된 ARIMA leaping 알고리즘을 사용한 ground truth 생성은 동일한 정확도를 달성하면서 표준 ARIMA 예측 알고리즘보다 52% 더 빠르다.
본 논문은 임베딩을 제외한 30억(non-embedding) 파라미터를 갖춘 소형 범용 에이전트 모델 Nanbeige4.2-3B를 소개한다. 이 모델은 코드 에이전트, 오피스 에이전트, 복잡한 도구 사용 과제 전반에서 강력한 성능을 제공하면서도 수학, 코딩, 과학 분야의 추론 능력을 매우 경쟁력 있는 수준으로 유지한다. Nanbeige4.2-3B는 28T 토큰으로 처음부터 사전학습(pre-training)되었으며, Looped 트랜스포머가 층(layer) 스택을 재사용하여 파라미터를 추가하지 않고 용량(capacity)을 확장한다. SFT 데이터 및 궤적(trajectory) 구성을 위해, 실제 배포와 대규모 합성(synthesis)을 통해 실행 가능한 환경, 과제 자산, 에이전트 스캐폴드(agentic scaffolds)의 다양성을 확대했다. RL 파이프라인은 Think 및 Non-Think 응답에 대한 혼합 모드 RLHF(인간 피드백 강화학습)로 전체 모델 품질을 개선하고 실패 사례를 줄이며, 길이 제어 추론 RL로 정확도와 추론 효율의 균형을 맞추고, 결과 및 과정 보상을 활용한 에이전트 RL로 장기간(long-horizon) 학습을 안정화한다. 광범위한 평가(evaluation) 결과, Nanbeige4.2-3B는 Qwen3.5-9B, Gemma4-12B 등 더 큰 모델들을 다양한 에이전트 벤치마크에서 능가하며, 추론 및 정렬(alignment) 과제에서도 경쟁력 있는 성능을 유지한다. OpenClaw와의 성능은 소형 로컬 개인 비서로서의 활용 가능성을 더욱 뒷받침한다.
인공지능(AI)은 과학 탐구의 일부가 되었다. 과학자들은 AI를 사용해 현상을 관찰·측정하고, 데이터에서 패턴을 식별하며, 모델을 구축한다. AI가 과학 탐구에 들어오면서 과학 교육과의 연관성도 커진다. 학생들은 AI가 과학적 실천을 어떻게 바꾸고 있는지 배워야 하며, 이상적으로는 AI 통합 과학 탐구에 직접 참여하면서 배워야 한다. 이러한 교수를 어떻게 설계할지—독립 주제로 가르치기보다는 진정한 과학적 실천에 기반하여—는 여전히 열린 질문이다. 우리의 비전(본 논문에서 설명함)에서 AI는 학생들이 차세대 과학 기준(Next Generation Science Standards)이 설명하는 과학적 실천 안에서 사용하는 일련의 과학적 도구로 취급된다. 각 도구는 진정한 과학적 도구이되 교육적으로 범위가 설정된다. 즉, 핵심 과학적 기능은 보존하면서 조작은 단순화된다. 이 접근법에는 두 가지 목표가 있다. 학생들을 진정한 과학 탐구에 참여시키는 것, 그리고 과학에서 AI가 어떻게 사용되는지와 어디서 오해를 불러일킬 수 있는지에 대한 이해를 형성하는 것(학문 분야 기반 AI 리터러시, DAIL)이다. 본 논문에서는 탐구의 조사 핵심—관찰, 분석, 모델링—에 초점을 맞추고, 각각에 대해 하나의 대표적인 AI 도구를 설명한다. 관찰에는 컴퓨터 비전(computer vision), 분석에는 클러스터링(clustering), 모델링에는 생성 모델링(generative modeling)이다. 우리는 과학 교육의 모든 AI 도구는 AI 도구 자체에 대한 비판적 평가를 촉진하는 별도의 성찰 지점(reflection point)을 갖춰야 한다고 주장한다. 마지막으로, 단일 실천이 아니라 전체 탐구 과정에 걸쳐 작동하는 에이전트 AI(agentic AI)를 어떻게 표현할 수 있는지 설명하며, 학생들은 에이전트 AI에 의존하기 전에 과학 탐구와 AI 도구에 대한 기초적 이해를 먼저 형성해야 한다고 주장한다.
최근 대규모 언어 모델(LLM)은 복잡한 코드를 생성하고 최적화할 수 있다. 우리는 대규모 과학 분야, 특히 전파 천문학과 지속 가능성에 초점을 맞춰 LLM을 이용해 코드를 생성하고 최적화하는 방안을 조사한다. LOFAR 망원경은 현재 업그레이드 중이며, 관측하는 하늘 영역을 크게 늘리는 동시에 더 많은 데이터를 더 빠르게 처리한다. 그러나 이로 인해 계산 요구량이 40배 증가할 것으로 예상된다. 따라서 이 업그레이드는 기존 소프트웨어의 엄격한 성능 최적화와 가속기(accelerator)의 광범위한 도입에 결정적으로 의존한다. 코드베이스가 매우 크기 때문에 이는 매우 어려운 과제가 된다. 따라서 우리는 개발자가 코드를 평가하고 최적화하는 것, 하드웨어 가속기로의 이식(porting)을 포함하여 이를 지원하기 위한 AI 기반 접근법을 조사하고 시연한다. LOFAR 커뮤니티는 지속 가능한 해결책에 전념하고 있으며, 에너지 예산을 늘리지 않고 이러한 개선을 달성해야 한다. 따라서 기존 코드를 최적화하거나 가속기로 이식해야 하며, 최적화 과정 자체도 에너지 효율적이어야 한다. LLM은 에너지 소모가 크기 때문에 이는 도전 과제가 된다. 따라서 환경 영향을 제한하기 위해 대신 소형 언어 모델(SLM)을 사용할 것을 제안한다. 본 논문에서는 에이전트 AI(agentic AI)를 활용하여 SLM을 강화하는 방법을 보여준다. 코드 생성 품질과 성능을 향상시키기 위해 SLM을 두 가지 방식으로 확장한다: 첫째, 다중 샘플링(multi-sampling) 생성 전략, 둘째, 컴파일러 피드백(compiler feedback) 통합. 다중 샘플링 SLM이 더 적은 계산 자원으로 더 큰 단일 생성(single-generation) 모델과 동등하거나 이를 능가할 수 있음을, 그리고 컴파일러 출력을 SLM에 다시 피드백하면 테스트한 모든 모델에서 일관된 개선이 이루어짐을 시연한다. 우리의 접근법은 범용적이며, 코드 생성 파이프라인에서 검색-증강 생성(RAG)뿐 아니라 정적 및 동적 분석 도구도 활용할 수 있다.
Network operators' changing policies, service requirements, and stringent real-time constraints render existing methods designed with fixed objectives and constraints ineffective. This paper presents Agentic long-term performance optimization (Agentic-LTPO), a nested bilevel optimization framework that can be applied to adaptive physical layer problem configuration. The key idea is to employ agentic AI to generate upper-level configurations in a bilevel optimization structure, where evolving operator policies, environment summaries, and historical experiences are translated into structured lower-level optimization problem configurations. The lower level solves the problems with updated configurations for real-time physical-layer decisions. Considering cell-free MIMO beamforming as a use case, we embody Agentic-LTPO by designing a new multi-agent decision process with retrieval-augmented experience-based verification in the upper level, together with a closed-form beamformer in the lower level. Experiments demonstrate that Agentic-LTPO exhibits strong adaptability to dynamic operator policies and effectively enhances the system's long-term performance by 57.2% compared to traditional methods.
규제 대상자가 자율 및 에이전트 AI를 사용하는 활동을 규제하는 것은 어렵다. 규제 대상자의 지식과 통제에 관한 규제 가정은 더 이상 성립하지 않으며, 그 중 상당 부분은 AI 공급망의 다른 곳에 있으므로 이를 규제 범위에 포함시켜야 한다. 자율 AI를 위한 거버넌스 체계는 기존 거버넌스 모델을 그대로 복제할 수 없으며, 새로운 접근이 필요하다. 사후 감독 감시는 위험 관리 도구로서 효과를 잃으며, AI 자율성은 새로운 해결책이 필요한 새로운 시스템적 위험을 야기한다. 본 논문은 네 가지 규제 체계를 조사한다: 영국의 콘텐츠 플랫폼 규제, 데이터 보호, 영국 금융 서비스, EU AI Act의 부문 간 규제 체계. 자율 및 에이전트 AI가 제기하는 과제를 분석하고 규제 당국이 채택할 수 있는 잠재적 해결책을 제안한다. 이는 규제를 반응적 과정에서 능동적 과정으로 전환하고, AI 자율성의 과제에 적응하는 데 도움이 될 것이다.
AI 에이전트가 비즈니스 워크플로에 필수적인 구성 요소가 되면서, 사용자 경험(UX) 원칙을 수립하는 것은 사용자 신뢰와 성공적인 도입을 보장하는 데 매우 중요하다. 이를 위해 본 연구는 참여형 디자인 워크숍, 종이-연필(paper-and-pencil), 전문가 검토, 메타분석, 심층 인터뷰를 결합한 다중 방법 접근법을 사용하여, 직장에서의 인간-AI 에이전트 상호작용을 위한 8가지 핵심 UX 원칙으로 구성된 디자인 프레임워크를 식별하고 검증한다. 이러한 원칙과 그에 따른 기준은 디자이너와 소프트웨어 엔지니어를 위한 실행 가능한 가드레일을 제공하며, 효과적이고 인간 중심적인 AI 에이전트 상호작용 개발의 토대를 마련한다. 본 연구는 기업 환경에서의 에이전트형 AI(agentic AI)에 대한 향후 실증 연구를 위한 구조화된 기반을 제공한다.
풍부하고 식별 가능한 부품 라이브러리는 인쇄 회로 기판(PCB) 설계 및 생성의 초석이다. 전통적으로 엔지니어들은 심볼과 풋프린트를 수동으로 생성하고 PCB 회로도를 설계하는데, 이는 시간이 많이 소요되고 오류가 발생하기 쉽다. 다중모달 대규모 언어 모델(MLLM)을 활용하여, 우리는 전자 부품의 심볼 및 풋프린트에 대한 에이전트 기반 인식 및 생성 플로우인 SFgen을 개발한다. SFgen은 심볼 생성에서 86%의 정확도, 풋프린트 생성에서 80%의 정확도를 달성한다. 우리는 SFgen 방법을 사용하여 심볼과 풋프린트 데이터베이스인 SFnet을 구축한다. SFnet은 현재 1000개의 부품을 포함하고 있으며 지속적으로 확장 중이며, 이는 PCB 설계의 자동 생성을 위한 기반을 마련한다.
최근 대규모 언어 모델(LLM)의 발전으로 운영 금융(operational finance) 분야에서 에이전트 시스템의 배포가 가속화되고 있다. 기존 벤치마크는 일반 역량, 지시 따르기(instruction following), 또는 안전성(safety) 측정에 중점을 두지만, 에이전트 시스템이 자동화하도록 배포되고 있는 운영 금융 워크플로를 직접 다루는 벤치마크는 거의 없다. 금융 전문가들은 에이전트가 사실에 부합하고 적절히 그라운딩(grounding)된 정보를 제공할 뿐만 아니라, 이러한 정보가 검증 가능하고 운영 금융 도메인의 규칙과 제약을 일관되게 준수하는 것을 요구한다. 우리는 251개의 전문가 주석 쿼리를 포함하고, 운영 금융 도메인 요구사항에 맞게 보정된 루브릭 기반 프레임워크를 사용하여 응답을 정확성(accuracy), 인용(citations), 명확성(clarity), 깊이(depth), 그라운딩(groundedness), 최신성(recency), 관련성(relevance), 구조(structure)의 8개 차원에서 평가하는 FORCE-Bench를 제안한다. FORCE-Bench는 세 가지 작업 유형에서 에이전트 시스템을 평가한다: 재무 의무 조사(매출채권 및 매입채무 데이터를 위해 ERP 시스템을 조회), 금융 실체 성과 조사(공시 자료 및 시장 데이터로부터 시한이 정해진 질문에 답변), 비즈니스 브리프 생성(다중 출처의 기업 인텔리전스 보고서 종합). 실제 배포 조건을 반영하기 위해, 우리는 목적에 맞게 구축된 에이전트와 범용 에이전트 시스템 모두를 공통 도구 접근 및 지연 시간 제한(latency-bounded) 설정 하에서 평가한다. 결과는 범용 에이전트 시스템이 운영 제약 하에서 금융 도메인 품질 요구사항을 일관되게 충족하지 못하는 반면, Microsoft 365 Copilot을 위해 목적에 맞게 구축된 Finance Agent가 모든 차원에서 더 신뢰할 수 있음을 보여준다. 우리는 재현 가능한 비교와 다른 기업 금융 환경에의 적응을 지원하기 위해 데이터셋, 루브릭, 하네스, 분석 코드를 오픈소스로 공개한다.