PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.27354v1cs.SE

제약 기반 컨텍스트 엔지니어링: AI 시스템을 위한 도메인 인터페이스 설계

Constraint-Driven Context Engineering: Designing Domain Interfaces for AI Systems

생성형 AI 시스템은 도메인 문제를 해결하기 위해 점점 더 널리 배포되고 있다. 이러한 시스템은 해당 도메인에서 허용 가능한 AI 행동과 결과를 정의하는 기술적, 규제적, 기관적, 규범적 제약 하에서 동작한다. 우리는 산업 협력 과정에서 반복되는 패턴을 관찰했다. 파트너들은 종종 동작은 하지만 상대적으로 범용적인 AI 솔루션을 가지고 찾아온다. 과제는 더 이상 AI 시스템을 처음부터 구축하는 것이 아니라, AI가 생성한 솔루션의 품질과 도메인 적합성을 높이는 데 있다. 이러한 상황에서 병목은 종종 시스템에 제공되는 컨텍스트의 품질, 범위, 구조이다. 그러나 기존 컨텍스트 엔지니어링 접근법은 주로 검색(retrieval), 메모리(memory), 도구(tools)를 통해 도메인 지식을 공급하는 데 초점을 두며, 운영 환경에서 AI 시스템을 지배하는 제약을 체계적으로 식별하고 운영화하는 데 대한 지원은 제한적이다. 본 논문은 AI 시스템을 위한 도메인 인터페이스를 설계하기 위한 설계 접근법인 제약 기반 컨텍스트 엔지니어링(Constraint-Driven Context Engineering, CDCE)을 제안한다. 소프트웨어 아키텍처 설계와 도메인 주도 설계(Domain-Driven Design, DDD)에 기대어, CDCE는 도메인 제약을 1급 설계 동력으로 다룬다. 제약을 식별·특성화하고, 필요한 컨텍스트 자산을 결정하며, 이러한 자산이 AI 시스템에 제공되도록 하는 표현(representation)을 설계한다. 우리는 교육 평가, 의료 의사결정 지원, 재정적 어려움 예측 분야에서 산업 및 공공 부문 파트너와 비교 다중 사례 연구를 수행했다. 제약의 특성에 따라 AI 행동을 안내하거나, 허용 가능한 경계를 강제하거나, AI 생성 결과의 검증을 지원할 수 있다. 사례들은 대조적인 도메인 전반에서 CDCE의 적용 가능성을 보여 주며, 제약 특성이 최종 도메인 인터페이스를 어떻게 형성하는지를 보여 준다.

arXiv:2607.14275v1cs.AI

AI 에이전트는 혼자 실패하지 않는다: 컨텍스트가 먼저 실패한다

AI Agents Do Not Fail Alone:The Context Fails First

컨텍스트 엔지니어링은 신뢰할 수 있는 AI 에이전트를 구축하는 데 핵심이 되었지만, 여전히 대부분 측정되지 않고 있다. 에이전트는 고립되어 실패하지 않는다. 그들의 행동은 컨텍스트에 축적된 지시, 도구, 메모리, 검색된 지식, 가드레일, 신뢰할 수 없는 입력에 의해 형성된다. 이 컨텍스트가 약할 때, 에이전트는 표류하고, 환각을 일으키며, 도구를 오용하고, 제약을 무시하며, 인젝션에 취약해지고, 토큰을 낭비한다. 본 논문은 컨텍스트 엔지니어링 품질을 에이전트 신뢰성의 독립적인 선행 지표로 검증한다. 우리는 다중 심사관 합의 기반 채점을 사용하는 AI 에이전트 평가를 위한 오픈소스 인프라인 ProofAgent-Harness에서 이 측정을 구현한다. 이 하네스는 역할 명확성, 가드레일 적용 범위, 지시 일관성, 도구 스키마 품질, 그라운딩 충분성, 인젝션 강화, 토큰 효율성의 7가지 기준으로 컨텍스트를 평가한다. 핵심적으로, 컨텍스트 점수는 행동 지표 및 출시 결정과 분리되어 비순환 검증을 가능하게 한다. 규제 대상 에이전트 도메인 전반에 걸친 통제된 컨텍스트 품질 연구를 통해, 최첨단 LLM 에이전트는 고정하고 운영 컨텍스트만 변화시켜, 컨텍스트 품질 기준이 해당하는 행동 결과를 일관되게 예측함을 보여준다. 그라운딩 충분성은 환각 저항성을, 가드레일 적용 범위는 조작 저항성을, 지시 일관성은 지시 준수를, 도구 스키마 품질은 도구 사용을 각각 예측한다. 이러한 발견은 컨텍스트 측정을 에이전트 신뢰성을 위한 검증된 사전 점검 신호로 확립하고, 컨텍스트 엔지니어링을 에이전트 평가 및 거버넌스의 감사 가능한 층으로 자리매김한다.

arXiv:2606.28379v1cs.IR

LEDGER: 의존성 인식 그래프 검색을 활용한 에이전틱 문서 편집의 스케일링

LEDGER: Scaling Agentic Document Editing with Dependency-aware Graph Retrieval

우리는 에이전틱(agentic) 문서 편집이라는 새로운 컨텍스트 엔지니어링 과제를 해결하기 위해 LEDGER를 소개한다. 이 과제는 길고 구조화된 문서에 대한 국소적 편집을 교차 참조나 의미적 일관성을 깨뜨리지 않고 효율적으로 적용해야 한다는 요구를 수반한다. LEDGER는 계층적 구성, 명시적 참조, 암묵적 의존성, 의미적 관계 등 문서 구조를 명시적으로 모델링하는 경량 의존성 그래프를 구성한다. 각 편집에 대해 그래프 안내 검색(graph-guided retrieval)은 필요한 컨텍스트만을 선택하여, 일관성을 유지하면서도 전체 문서 처리를 피한다. 우리는 다양한 문서 유형과 길이를 포괄하는 1,900개의 테스트 케이스로 구성된 엄선된 벤치마크에서 최신 6개 모델을 대상으로 LEDGER를 평가하였다: LEDGER는 토큰 사용량을 줄이면서 6개 모델 및 테스트 시나리오 전반에 걸쳐 일관성을 56%에서 76%로 향상시켰다. 특히, 낮은 추론 노력(low reasoning effort)을 적용한 LEDGER는 더 적은 토큰을 사용하면서도 높은 추론 노력(high reasoning effort)의 기준선(baseline) 성능에 필적하였으며, 이는 명시적 의존성 표현이 에이전틱 문서 편집에서 비용이 큰 내부 추론을 부분적으로 대체할 수 있음을 보여준다.