PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.22741v3cs.LG

GRADE: 대규모 언어 모델(LLM) 에이전트의 의존성 및 실행에 관한 그래프 표현

GRADE: Graph Representation of LLM Agent Dependency and Execution

트레이스는 LLM 에이전트가 무엇을 수행했는지는 기록하지만, 각 단계가 무엇에 의존했는지는 암묵적인 상태로 남겨둡니다. GRADE는 두 가지를 하나의 그래프에 담아내며, 기존에 발표된 6가지 그래프 뷰는 이 그래프의 프로젝션(projection)입니다. 실행 엣지(edge)는 추가 비용 없이 확보되지만, 비용이 발생하는 각 의존성 엣지는 트레이스에서 관찰되었거나, 추가된 로깅을 통해 선언되었거나, 특정 가정하에 추론된 것으로 등급(grade)이 매겨집니다. 우리는 이 스키마를 한 등급씩 검증합니다. 6개의 도구 사용, 코딩 및 웹 코퍼스에서 의존성 층(layer)을 복원하고, 실행 크기(run size) 대비 실패 예측 성능 향상을 측정합니다. 첫째, 선형 실행 크기 기준선(baseline) 대비 3개의 코퍼스에서 예측 성능이 향상되지만, 성능 이득은 학습기(learner) 및 태스크 샘플링에 따라 달라집니다. 보류된(held-out) 코퍼스에서는 실행 크기 기준선이 무작위 확률 수준에 머무는 것과 달리 의존성 층은 무작위 수준 이상을 유지하지만, 이는 하나의 학습기에서 나타나며 동일하게 태스크 샘플링에 주의해야 합니다. 둘째, 구조는 실제로는 지니지 않은 신호인 것처럼 보일 수 있습니다. 전체 히스토리를 바탕으로 추론된 층은 실행 크기를 그대로 재진술할 뿐입니다. 코퍼스 내 사전 등록된 검증에서는 복원된 층이 각 단계의 의존성을 재연결하되 개수는 유지한 차수 일치 위조(degree-matched counterfeit) 구조와 구별되지 않습니다. 복원된 층이 이 위조 구조 대비 보였던 가장 큰 전이 우위는 보류된 코퍼스의 태스크 패밀리를 제외할 경우 역전됩니다. 구조의 유효성을 인정하기 전에 각 엣지의 등급을 매기고, 실행 크기 기준선을 유지하며, 차수 일치 연결 대조군(control)을 평가해야 합니다.

arXiv:2606.28379v1cs.IR

LEDGER: 의존성 인식 그래프 검색을 활용한 에이전틱 문서 편집의 스케일링

LEDGER: Scaling Agentic Document Editing with Dependency-aware Graph Retrieval

우리는 에이전틱(agentic) 문서 편집이라는 새로운 컨텍스트 엔지니어링 과제를 해결하기 위해 LEDGER를 소개한다. 이 과제는 길고 구조화된 문서에 대한 국소적 편집을 교차 참조나 의미적 일관성을 깨뜨리지 않고 효율적으로 적용해야 한다는 요구를 수반한다. LEDGER는 계층적 구성, 명시적 참조, 암묵적 의존성, 의미적 관계 등 문서 구조를 명시적으로 모델링하는 경량 의존성 그래프를 구성한다. 각 편집에 대해 그래프 안내 검색(graph-guided retrieval)은 필요한 컨텍스트만을 선택하여, 일관성을 유지하면서도 전체 문서 처리를 피한다. 우리는 다양한 문서 유형과 길이를 포괄하는 1,900개의 테스트 케이스로 구성된 엄선된 벤치마크에서 최신 6개 모델을 대상으로 LEDGER를 평가하였다: LEDGER는 토큰 사용량을 줄이면서 6개 모델 및 테스트 시나리오 전반에 걸쳐 일관성을 56%에서 76%로 향상시켰다. 특히, 낮은 추론 노력(low reasoning effort)을 적용한 LEDGER는 더 적은 토큰을 사용하면서도 높은 추론 노력(high reasoning effort)의 기준선(baseline) 성능에 필적하였으며, 이는 명시적 의존성 표현이 에이전틱 문서 편집에서 비용이 큰 내부 추론을 부분적으로 대체할 수 있음을 보여준다.

arXiv:2606.12385v1cs.CL

우리 모델은 어떤 모델 위에 구축되었는가? 현대 LLM의 보이지 않는 의존성 감사

Which Models Are Our Models Built On? Auditing Invisible Dependencies in Modern LLMs

현대 대규모 언어 모델(LLM) 학습 파이프라인은 데이터 생성, 말뭉치 필터링, 출력 판단, 개발 결정 안내 등을 위해 다른 모델에 점점 더 의존하고 있습니다. 이러한 의존성은 재귀적입니다. 즉, 모델은 자체 의존성이 별도의 릴리스와 아티팩트에만 문서화되어 있는 업스트림 아티팩트에 의존할 수 있습니다. 그 결과, 전체 의존성 구조는 이질적인 공개 아티팩트에 걸쳐 파편화되어 있으며, 그 복잡성과 재귀 깊이는 인간의 추적 능력을 훨씬 초과합니다. 본 논문에서는 소스 기반 증거를 통해 공개 아티팩트에서 LLM 의존성 그래프를 재귀적으로 재구성하는 에이전트 시스템인 ModSleuth를 소개합니다. 우리는 주요 과제가 정보 추출이 아니라, 의존성을 구성하는 요소를 정의하고 불일치하는 문서 간의 아티팩트 참조를 조정하는 것임을 발견했습니다. 우리는 직접 및 간접 의존성을 구별하고, 연산 중심 관계를 통해 이질적인 파이프라인 역할을 표현하며, 이름, 버전, 저장소에 걸쳐 아티팩트 식별자를 해결하는 형식화를 통해 이러한 문제를 해결합니다. ModSleuth를 공개 아티팩트가 풍부한 4개의 LLM 릴리스에 적용하여, 1,060개의 소스 검증된 의존성을 확인하고 현대 LLM 개발의 대규모 의존성 그래프를 구축했습니다. 이 그래프는 멀티홉 라이선스 의무, 학습-평가 결합, 릴리스된 아티팩트와 학습 시점 아티팩트 간의 불일치, 그리고 일반적으로는 발견하기 어려운 문서 불일치를 드러냅니다. 우리는 현대 LLM의 기반이 되는 점점 복잡해지는 생태계를 투명하게 분석할 수 있도록 ModSleuth와 결과물인 의존성 그래프를 공개합니다.