PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.02456v1cs.CR

SideKernel: macOS 환경의 AI 코딩 에이전트를 위한 사용성 높은 microVM 샌드박스

SideKernel: A Usable microVM Sandbox for AI Coding Agents on macOS

AI 코딩 에이전트(agent)는 신뢰할 수 없는 시스템 구성 요소이지만, 실행되는 개발자 머신에서 자율성을 필요로 합니다. 이러한 모순은 보안 문제를 야기합니다. 샌드박스는 격리된 환경(environment)을 제공하지만, 로컬 macOS 개발의 경우 AI 코딩 에이전트를 위한 기존의 로컬 오픈소스 옵션은 수가 적고 사용하기 번거롭습니다. 본 논문에서는 온라인 형성적 사용자 설문조사를 수행하여 AI 코딩 에이전트 사용자의 40% 미만만이 샌드박스에서 에이전트를 실행하고 있음을 확인하고, AI 코딩 에이전트 샌드박스 도입을 저해하는 주요 사용성 장벽을 식별했습니다. 이러한 발견을 바탕으로 사용성을 고려해 설계된 오픈소스 기반 로컬 microVM macOS 샌드박스인 SideKernel을 개발했습니다. SideKernel을 평가하기 위해 시중에 나와 있는 샌드박스 목록을 취합하고 5가지 포함 기준에 따라 필터링했습니다. 그런 다음 사용자 설문조사에서 도출된 사용성 장벽을 기반으로 한 23개의 기능 테스트를 통해 SideKernel과 해당 기준을 충족하는 샌드박스 간의 비교 분석을 수행했습니다. 그 결과 SideKernel과 유사한 샌드박스는 소수에 불과하며, 그중 Docker Sandboxes와 SideKernel이 사용성과 관련된 기능 특성에서 가장 높은 점수를 기록함을 확인했습니다. 본 논문의 부차적인 기여는 AI 코딩 에이전트를 위한 로컬 오픈소스 microVM 기반 macOS 샌드박스의 기존 솔루션 영역에 대한 조사입니다.

arXiv:2607.06101v1cs.SE

가르치는 에이전트: AI 지원 소프트웨어 개발에 부수적 학습을 재설계하기 위한 방향

Agents That Teach: Towards Designing Incidental Learning Back into AI-Assisted Software Development

AI 코딩 에이전트에 대한 과도한 의존이 개발자의 부수적 학습(incidental learning)을 차단하고 기술 부채(Technical Debt)에 대응하는 "지식 부채(Knowledge Debt)"를 누적시킨다는 문제를 제기하며, 이를 해결하기 위한 여섯 가지 설계 원칙과 에이전트 자체 추론을 활용해 개발자 흐름을 방해하지 않는 대역 외(out-of-band) 학습 순간을 제공하는 다중 에이전트 시스템 SHIELD를 제안한다.

arXiv:2606.17099v1cs.SE

소프트웨어 위임 계약: AI 코딩 에이전트 작업에서의 검토 가능성 측정

Software Delegation Contracts: Measuring Reviewability in AI Coding-Agent Work

AI 코딩 에이전트는 점점 더 배정된 소프트웨어 작업을 수락하고, 제한된 권한 하에서 저장소를 수정하며, 검토를 위해 작업 패키지를 반환한다. 선행 연구는 작업, 권한, 반환된 작업 패키지, 수락 맥락을 포괄하는 소프트웨어 위임 계약을 위임된 코딩 작업의 분석 단위로 제안했지만, 그 효과를 측정하지는 않았다. 본 논문은 코딩 에이전트를 위한 명시적 위임 계약에 대한 통제된 파일럿 연구를 보고한다. 우리는 시드된 결함과 문서화 공백을 포함한 의존성 없는 TypeScript API 작업 환경을 구축하고, 다섯 가지 패밀리에 걸쳐 열 개의 작업을 작성했으며, 두 모델 티어에서 64회의 에이전트 실행을 세 가지 조건—현실적인 이슈 스타일 프롬프트, 명시적 위임 계약, 필수 증거 번들을 요구하는 계약—하에 수행했다. 각 실행은 숨겨진 수락 테스트, 변이 검사, 범위 분석으로 채점한 후, 고정된 루브릭을 사용하는 세 명의 독립적 조건-블라인드 모델 기반 검토자에 의해 검토되어 총 192건의 리뷰가 이루어졌다. 명시적 계약은 객관적 작업 결과를 개선하지 않았다: 64회 실행 모두 숨겨진 수락 검사를 통과했으며, 범위 위반은 0건이었다. 그러나 검토 가능성은 개선되었다. 증거 충분성은 30건의 쌍 비교 중 22건에서 개선되었고 악화된 경우는 없었다(5점 척도에서 +0.83, p < 0.0001, Cliff's delta = 0.66); 검토자 모호성은 감소했다(p = 0.035); 변경 파일 목록, 알려진 한계 섹션, 잔여 위험 섹션, 검토자 체크리스트는 대부분 또는 전적으로 계약이 요구할 때만 나타났다. 계약은 에이전트 토큰 +13%, 경과 시간 +38%의 비용을 수반했으며, 더 약한 모델 티어에서 효과가 더 컸다. 이러한 소규모 작업에서는 위임 계약이 정확성보다는 검토 가능성을 확보했다.

arXiv:2606.11456v1cs.CL

사회과학에서의 AI 코딩 에이전트: 방법론적 다양성, 경험적 일관성, 해석적 취약성

AI Coding Agents in Social Science: Methodologically Diverse, Empirically Consistent, Interpretively Vulnerable

과학적 분석에서 LLM(대규모 언어 모델) 기반 에이전트를 배포하는 것에 대해 상반되는 우려가 제기된다: 에이전트가 방법론적 다양성을 감소시킬 수 있다는 점과, 연구자가 동기가 부여된 결론에 도달하게 하는 분석적 유연성을 증폭시킬 수 있다는 점이다. 우리는 이러한 우려가 경험적으로 분리 가능한 두 가지 층, 즉 방법론적 선택의 설계 층과 의사결정 규칙이 추정치를 실질적 주장에 매핑하는 평결 층을 겨냥한다고 주장한다. 우리는 Claude Code와 Codex를 사용하여 주요 이민 및 사회 정책 데이터에 대해 20회의 독립적인 실행을 수행하고 이를 다수 분석가 인간 기준선과 비교하여 두 층을 모두 테스트한다. 설계 층에서 Codex는 인간의 방법론적 다양성과 일치하고 Claude Code는 거의 3배에 달하는 명세를 생성한다. 두 에이전트의 효과 추정치는 인간 합의와 광범위하게 일치하며, 어떤 에이전트 모델도 특정 인간 모델과 정확히 일치하지 않는다. 프롬프트로 유도된 반이민 연구자의 사전 믿음은 각 에이전트의 방법론적 결정을 재구성하지만, 동일한 데이터에서 편향된 인간 분석가와 달리 집계 추정치나 최종 평결을 변화시키지는 않는다. 또한 에이전트는 인간이 추정치에 편향을 주기 위해 사용하는 방법론적 축을 따라 경로를 변경하지도 않는다. 평결 층에서 명시적인 확인적 프롬프트는 계수 분포는 본질적으로 변화시키지 않은 채 Claude Code의 평결을 10% 지지에서 90% 지지로 뒤집으며, 이는 규칙 완화가 아닌 규칙 생략을 통해 작동한다. AI 에이전트는 설계 층에서 인간의 방법론적 다양성과 대등하거나 이를 능가하면서도 평결 층에서는 여전히 취약성을 보인다. 우리의 설정에서 AI 바이어스의 위치는 추정이 아니라 해석에 있다.