PyTorchKR Papers

최신 논문

총 24,492편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 카테고리 구독

arXiv:2609.29140v2cs.AI

비용 효율적인 LLM 평가: 고정 예산에서 좁은 신뢰구간을 얻기 위한 프레임워크

Cost-Efficient LLM Evaluation: A Framework for Narrow Confidence Intervals Under Fixed Budgets

대규모 언어 모델(LLM)은 학계 연구와 산업 모두에서 점점 더 중요한 역할을 하고 있다. 신뢰할 수 있는 평가는 연구자가 모델의 능력을 이해하고 모델 개발 과정에서의 진전을 평가하는 데 도움이 된다. 그러나 평가에는 비용이 많이 들 수 있으며, 연구자는 종종 고정된 예산 내에서 성능을 평가해야 한다. 모델의 출력은 실행마다 달라질 수 있으므로, 이 예산은 서로 다른 과제를 테스트하는 일과 선택된 과제를 반복하는 일 사이에 배분되어야 한다. 신뢰구간은 그 결과로 얻은 성능 추정치의 불확실성을 정량화한다. 같은 신뢰수준과 평가 비용에서 더 좁은 구간을 얻으면 모델 성능을 더 정밀하게 평가할 수 있으며, 연구자가 제한된 관측으로부터 더 명확한 결론을 도출하는 데 도움이 된다. 본 논문은 전체 과제를 포괄하는 경우와 그렇지 않은 경우 모두에 대해, 고정된 평가 예산을 과제와 반복 실행에 배분하는 프레임워크를 제안한다. 이 프레임워크는 동일한 과제에 대한 실행 간 불일치를 이용하여 추정 오차의 한계를 정하며, 표본으로 추출된 반복 실행의 변동이 작을 때 같은 신뢰수준에서 더 좁은 신뢰구간을 얻을 수 있게 한다. 각 과제에서 반복 실행이 동일한 결과를 낼 때, 과제 수와 반복 예산이 증가함에 따라 본 프레임워크가 최악의 경우에 신뢰구간을 좁히는 이론적으로 가능한 가장 빠른 속도를 달성함을 증명한다. 또한 모든 과제를 반드시 포괄해야 하는 경우와 과제를 건너뛸 수 있는 경우 모두에 대해, 평가자가 이전 결과를 이용해 다음에 수행할 실행을 결정하더라도 성립하는 일치하는 하한을 증명한다. LiveCodeBench에서 본 프레임워크는 16개 모델 구성 중 15개에서 균등 무작위 샘플링보다 평균적으로 더 좁은 신뢰구간을 도출하였으며, 같은 신뢰수준과 구성당 1,100개 출력이라는 동일한 예산에서 폭이 중앙값 기준 30.6% 감소하였다.

arXiv:2609.28559v2cs.CR

하네스 뒤에 있는 모델은 누구인가? 행동 지문을 통한 코딩 에이전트의 모델 신원 검증

Who Is Behind the Harness? Verifying Model Identity in Coding Agents through Behavioral Fingerprinting

LLM은 저장소를 검사하고 도구를 호출하며 파일을 수정하는 코딩 에이전트 하네스를 통해 점점 더 많이 운용되고 있다. 따라서 이러한 에이전트 뒤의 모델을 교체하면 변경 사항을 검증하는지, 실패로부터 안전하게 복구하는지 등 보안과 관련된 의사결정이 달라질 수 있다. 기존의 LLM 지문 기법은 대체로 직접적인 텍스트나 토큰 분포로부터 신원을 추론한다. 코딩 에이전트에서는 이러한 신호가 시스템 지시문, 컨트롤러 로직, 도구, 실행 피드백에 의해 매개되므로 적용 가능성이 제한된다. 본 논문은 코딩 에이전트 실행을 위한 능동적 블랙박스 지문 방법인 LIDAR(LLM Identification from Decisions and Actions at Runtime)를 제시한다. 세 쌍의 코딩 프로브는 통제된 변경 아래에서 수정 후 검증, 일시적 실패로부터의 복구, 명세와 테스트 간 충돌 해결을 드러낸다. LIDAR는 그 결과로 나온 궤적을 상호 보완적인 인스턴스 수준 및 분포 수준 특징으로 표현하고, 경량 확률적 식별기를 사용하여 깨끗한 참조와 비교한다. 이 방법은 모델 가중치, 로짓, 제공자 내부 정보에 대한 접근을 요구하지 않는다. 우리는 OpenCode, OpenHands, mini-swe-agent에서 8개 계열의 24개 모델을 평가하였으며, 하네스마다 별도의 참조를 적합하였다. 폐쇄 집합 Top-1 정확도는 세 하네스에서 91.39%에서 98.89% 사이였고, 모든 설정에서 세 가지 기준선을 모두 능가하였다. 감사 대상에 같은 계열의 미등록 모델이 포함된 경우 균형 정확도는 79.58%에서 80.42%였다. 이러한 결과는 에이전트의 실행 행동이 최종 출력을 넘어서는 모델 신원의 증거를 제공함을 보여 준다.

arXiv:2609.27917v2cs.LG

샘플링 예산 재배분은 언제 효과가 있는가? 신경 라우팅 솔버를 위한 인스턴스별 배분

When Does Reallocating a Sampling Budget Pay? Instance-wise Allocation for Neural Routing Solvers

신경 라우팅 솔버는 인스턴스마다 많은 해를 샘플링하여 그중 최선을 선택하며, 모든 인스턴스에 같은 수의 샘플을 사용한다. 본 논문은 동일한 총 예산을 균등하지 않게 나누는 것의 가치가 얼마인지, 그리고 워크로드의 어떤 속성이 이를 결정하는지를 측정한다. 저장된 샘플의 무작위 순서를 평균하여 추정한 best-of-k 곡선은 이득을 과대평가하고, 샘플의 절반으로 결정하고 나머지 절반으로 평가하는 방식은 이득을 과소평가한다. 이에 우리는 모든 순서에 대한 U-통계량인 정확한 best-of-k 곡선을 사용한다. 외판원 문제에서 사전 학습된 세 솔버(POMO, Attention Model, Sym-NCO)에 대해, 재배분은 학습 분포에서 총 최적성 격차를 최대 2.5%만 줄이므로 그 분포에서는 균등 배분이 최적에 가깝다. 분포 외 인스턴스가 섞인 워크로드에서는, 분포 변화에 따라 성능이 저하되는 두 솔버에 대해 격차를 11.8-13.3%(경로 길이의 1.1-1.8%) 줄이며, 그렇지 않은 솔버에서는 거의 줄이지 못한다. 두 가지 이질성 메커니즘, 세 솔버, 두 개의 확인용 컬렉션, 인스턴스당 25~200개의 샘플 예산 전반에서, 이득은 워크로드의 평균 난이도가 아니라 워크로드 내 난이도의 분산에 의해 예측된다. 인스턴스당 20개의 비용이 부과되는 프로브 샘플에 적합한 멱법칙 곡선에 따라 배분하면 비용이 부과되지 않는 최적값의 88-93%를 회복하며, 연속 반감법은 더 나쁜 성능을 보인다. 그러나 2-opt 지역 탐색은 무시할 만한 비용으로 격차 대부분을 제거하며, 그 이후 재배분이 추가하는 이득은 경로 길이의 수백분의 몇 퍼센트에 불과하다.

arXiv:2609.26105v2cs.AI

치료 전 확산강조 및 조영증강 자기공명영상과 임상 변수를 이용한 선행화학요법 반응 예측

Neoadjuvant chemotherapy response prediction using pretreatment diffusion and contrast-enhanced magnetic resonance imaging with clinical variables

선행화학요법 이전에 병리학적 완전 반응을 예측하면 유방암 환자에 대해 보다 맞춤화된 치료 계획을 수립하는 데 도움이 될 수 있다. 본 연구는 겉보기 확산계수 지도, 동적 조영증강 자기공명영상, 임상 변수를 결합하여 치료 전 데이터만을 사용하는 딥러닝 모델을 제안한다. 본 연구는 공개 다기관 데이터셋인 ACRIN 6698/I-SPY2를 사용한다. 아키텍처는 영상 특징 추출을 위해 사전 학습된 EfficientNet-B0 인코더를 사용하며 임상 정보와 후기 융합을 수행한다. 나이, 인종, 조직학적 유형, HR/HER2 아형, SBR 등급, 최대 직경을 포함한 여러 임상 변수를 평가하였다. 이 중 HR/HER2 아형만이 평균 수신자 조작 특성 곡선 아래 면적(AUC)을 향상시켜 최종 모델에 유지되었다. 층화 5겹 교차 검증을 사용하였을 때, 겉보기 확산계수 지도 단독은 평균 AUC 0.79를, 동적 조영증강 자기공명영상은 0.74를 달성하였다. HR/HER2 아형을 추가하면 성능이 각각 0.83과 0.81로 향상되었다. 두 영상 모달리티와 HR/HER2 아형을 모두 사용한 최종 구성은 AUC 0.86을 달성하였다. 이러한 결과는 반응 예측을 위한 치료 전 멀티모달 학습을 뒷받침하지만, 임상 사용 전에 외부 검증이 필요하다.

arXiv:2609.23806v3cs.AI

WorkWorlds: 과제보다 먼저 구축된 회사에서 에이전트 평가하기

WorkWorlds: Evaluating Agents in a Company Built Before the Task

많은 지식 노동 벤치마크는 단일 과제를 중심으로 구축되며, 각 과제의 맥락과 파일이 과제 정의와 동시에 또는 그 이후에 선택된다. 선행 연구는 이러한 구축 방식이 실제 업무 환경을 반영하지 못한다고 주장해 왔으나, 그 영향은 통제된 조건에서 측정된 적이 없다. 통제된 조건에서 두 구축 방식을 비교하기 위해, 우리는 회사 구성 요소를 리비전, 날짜, 직원 좌석으로 모듈화하여 각각 별도로 조정할 수 있게 하는 인프라인 WorkWorlds를 소개한다. 실제 회사가 기증한 과거 데이터를 사용하여 제약회사 PharmaCo를 재구성하였다. 10년 이상의 업계 경력을 가진 두 명의 전문가가 각각 그 회사에서 실제로 발생한 사건을 바탕으로 8개의 과제를 작성하였고, 각자 모든 과제에 대해 과제별 환경을 독립적으로 구축하였다. 192건의 통제된 평가 전반에서, 에이전트를 과제별 환경에서 직원에게 실제로 보이는 모든 자료로 전환했을 때 증거 접근률은 90.4%에서 72.8%로, 기준 통과율은 76.7%에서 68.0%로 하락하였다. 그러나 에이전트가 필요한 증거를 찾은 경우에는 두 조건에서의 통과율이 거의 동일하였다. 또한 같은 과제에 대해 두 전문가가 구축한 환경 사이를 전환하면 평균 통과율 차이가 6.6퍼센트포인트 발생하였다. 세 에이전트가 얻은 이득의 크기도 서로 달라 에이전트 간 격차가 변하였다. 우리는 벤치마크가 환경 자료가 어떻게 선택되었는지를 보고해야 하며, 가능하다면 환경 구축자를 바꾼 후 에이전트 점수의 변화를 검증해야 한다고 주장한다.

arXiv:2609.23466v4cs.CL

RPMem: LLM 에이전트를 위한 세션 간 장기 순환 파라메트릭 메모리 학습

RPMem: Learning Long-Term Recurrent Parametric Memory Across Sessions for LLM Agents

장기간 실행되는 LLM 에이전트는 세션에 걸쳐 지속되고 진화하는 메모리를 필요로 한다. 텍스트 기반 메모리는 매 질의마다 과거 상호작용을 검색하고 재구성하므로, 기록이 늘어날수록 장기 성능이 검색 품질과 맥락적 추론에 점점 더 의존하게 된다. 파라메트릭 메모리는 경험을 모델 연산에 직접 인코딩하지만, 기존 접근법은 세션 간 메모리 진화에 대한 지원이 제한적이다. 또한 특정 백본에 결합되어 있어 모델 교체 후 메모리 재사용이 더욱 제한된다. 우리는 순전파 연산을 통해 각 세션을 모델 독립적인 잠재 메모리로 컴파일하고, 과제 학습된 순환 게이트를 통해 이를 유지된 메모리와 선택적으로 통합하는 2단계 아키텍처인 RPMem을 제안한다. 통합된 메모리는 이후 백본별 저랭크 적응(LoRA) 파라미터로 매핑되어, 백본이 교체될 때 인코딩 능력이 전이되도록 한다. 세 가지 장기 메모리 벤치마크와 다섯 가지 다양한 백본에 대한 평가는 거의 일정한 갱신 비용과 메모리 사용량으로 폭넓은 일반화가 가능함을 보여 준다. PERMA에서 Qwen3-8B를 사용한 RPMem은 85.52%에 도달하여, 가장 강력한 파라메트릭 및 텍스트 기반 기준선을 각각 5.32 및 12.98퍼센트포인트 앞섰다. 절제 실험은 세션 컴파일과 세션 간 통합의 상호 보완적 역할을 검증하며, 동역학 분석은 게이트가 과제별 메모리 통합 전략을 습득함을 보여 준다. 이러한 결과는 RPMem이 백본 교체 후에도 재사용 가능한, 진화하는 세션 간 메모리를 유지하는 수명주기 독립적 파라메트릭 메모리 프레임워크임을 입증한다. 코드는 https://github.com/Quark-Medical/rpmem/tree/main 에서 확인할 수 있다.

arXiv:2609.18442v2cs.AI

RiskWorld: 자율주행에서의 선택적 궤적 계획을 위한 흐름 유도 점유 진화 기반 위험 인지 월드 모델링

RiskWorld: Risk-Aware World Modeling with Flow-Guided Occupancy Evolution for Selective Trajectory Planning in Automated Driving

자율주행에서 안전한 모션 계획을 위해서는 변화하는 교통 위험을 예측하고 현재 계획된 궤적을 언제 수정할지 결정해야 한다. 본 논문은 공유 점유 예측과 선택적 궤적 대체를 위한 위험 인지 월드 모델링 프레임워크인 RiskWorld를 제안한다. 공간 위험 필드와 시간적 행위자 문맥을 시각적 조감도(bird's-eye-view) 특징과 융합한다. 흐름 유도 진화는 점유와 장면 특징을 이동시키며, 부호 있는 잔차는 이동 후의 점유를 보정한다. 계획 단계마다 하나의 예측을 생성하여 모든 후보에 재사용한다. 각 후보는 현재 상태 지속 기준과 비교되어 음이 아닌 충돌 점수 보정값을 산출한다. 현재 세계 평가로 선택된 궤적이 계획 앵커 역할을 하며, 추가로 예측된 위험이 개입을 유발하고 대안 궤적이 예측 위험과 궤적 오차에 대한 성분별 제약을 만족할 때에만 대체된다. 후보의 기하 구조는 변경되지 않는다. 본 연구는 카메라 특징, 주석에서 도출한 현재 및 과거 행위자 상태, 데이터셋이 제공하는 지도 문맥을 사용하여 nuScenes에서 개루프 계획에 대해 RiskWorld를 평가한다. RiskWorld는 다양한 최신 기준 모델 중 3초의 긴 평가 지평에서 가장 낮은 충돌률과 두 번째로 우수한 평균 L2 오차를 달성하며, 90.81 M 파라미터로 단일 NVIDIA RTX 4090에서 11.5 FPS로 동작한다. 동일 설정 내 절제 실험에서 RiskWorld는 현재 상태 재채점 기준보다 낮은 충돌률을 보이며, 예측 재사용으로 낮은 한계 계산 비용에 추가 후보를 평가할 수 있음을 보인다.

arXiv:2609.18366v4cs.AI

Bad Genius: 반사실 유도 하네스 진화로 과제 특화 지름길을 넘어서

Bad Genius: Counterfactual-Guided Harness Evolution Beyond Task-Specific Shortcuts

최적화된 에이전트 하네스는 해당 과제들이 벤치마크의 나머지와 공유하는 형식 관례에 의존함으로써 보류 과제에서 성능을 향상시킬 수 있다. 본 논문은 하네스 개선이 평가 프로토콜의 변화에도 유지되는지 검증하기 위해 반사실적 하네스 탐색 및 진화(Counterfactual Harness Search and Evolution, CHASE)를 제안한다. Proposer는 고정된 기반 모델 주위의 하네스를 편집한다. 이후 Challenger는 과제는 보존하면서 갱신된 하네스의 초기 하네스 대비 이득을 감소시키는 프로토콜 변경을 탐색한다. 실행 가능한 검사를 통해 해당 변환이 과제 의미를 보존하는지 확인한다. 보류 과제에서 이득 손실이 확인되면 CHASE는 해당 변환을 이후 하네스 갱신을 제약하는 아카이브에 추가한다. 본 논문은 이 유한 아카이브가 지름길이 제거된 이상적인 벤치마크에서 이득 손실을 제한하는 조건을 제시한다. CHASE를 Syn-Ledger, OfficeQA, FinanceBench, SWE-Bench Pro V2에서 평가한다. Syn-Ledger에서 알려진 지름길을 제거하면 정확도는 CHASE가 38.30%, HarnessEvolve가 18.27%이다. SWE-Bench Pro V2 HARD-51의 21개 인증 과제에서 이슈 형식과 도구 출력 필드 순서를 변경하면 HarnessEvolve의 초기 하네스 대비 이득이 8.57에서 3.81 퍼센트포인트로 감소한다. 최종 CHASE 하네스는 동일한 변경 하에서 11.43점의 이득 중 10.48점을 유지한다.

arXiv:2609.09953v2cs.CL

SALT를 조금 더해 다국어 토큰 표현 개선

Improving Cross-Lingual Token Representations by Adding a Pinch of SALT

다국어 문장 인코더는 수백 개 언어에 걸친 확장 가능한 전이(transfer)를 가능하게 하며, 번역 마이닝(translation mining)과 저자원(low-resource) 환경에서의 제로샷(zero-shot) 학습 같은 응용을 뒷받침한다. 문장 수준 정렬(alignment)을 위해 학습되었지만, 환각(hallucination) 탐지와 시퀀스 태깅(sequence tagging) 같은 토큰 수준 과제에도 점점 더 많이 쓰이면서 학습과 사용 사이의 불일치가 드러난다. 우리는 기존 문장 인코더에 스팬(span) 수준 감독(supervision)을 주입하여 토큰 표현을 개선하는 경량 사후 학습(post-training) 방법인 SALT를 제안한다. 다섯 개의 다국어 토큰 수준 벤치마크(benchmark)에서 SALT는 네 곳에서 전체 최고 성능을 달성하며, 대안적인 미세조정(fine-tuning) 전략과 경쟁 인코더를 능가한다. 또한 다국어 검색 및 분류(classification) 과제에서 문장 수준 성능도 개선한다. 이 결과는 스팬 수준 감독이 토큰 표현과 문장 표현 모두를 개선하는 데 효과적인 신호임을 보여 준다.

arXiv:2609.07441v3cs.LG

TabBench-Bio: 고차원 생의학 표 데이터에 대한 기계학습용 라이빙 벤치마크

TabBench-Bio: A Living Benchmark for Machine Learning on High-Dimensional Biomedical Tables

생의학 표 데이터는 수천 개의 측정 변수와 수십~수백 개의 레이블 샘플만을 결합하는 경우가 많으며, 이러한 영역은 범용 표 데이터 벤치마크에서 충분히 다뤄지지 않는다. 본 논문은 여러 도메인에 걸친 43개 생의학 데이터셋으로 구성된 라이빙 상호작용형 벤치마크 TabBench-Bio를 소개한다. 공통 교차 검증 프로토콜 하에서 28개의 특징 수-샘플 수 운영점에 걸쳐 고전적 추정기, 신경망, 표 데이터 파운데이션 모델을 비교한다. 특징 10,000개와 학습 샘플 100개의 기준 셀에서 RealTabPFN 2.5가 가장 높은 점추정치를 보였고, TabPFN 3과 로지스틱 회귀가 근소하게 뒤따랐다. 타깃 풀에 대한 쌍체 부트스트랩은 RealTabPFN 2.5와 TabPFN 3을 87 Elo 차이로 구분한다(95% 구간 [43, 129]). 표 데이터 파운데이션 모델이 대체로 상위 순위를 차지하지만, 가장 강력한 구성은 운영점과 생의학 모달리티에 따라 달라진다. AutoML 프레임워크 AutoGluon은 1시간 "extreme" 프리셋을 사용하여 별도의 자원 집약적 참조로 구성되었으며 기준 셀과 전체 셀에서 보고된다. 폴드 수준 예측, 실행 상태, 결정론적 집계를 통해 보고된 모든 결과를 재현하고 재사용할 수 있다. 이 벤치마크는 새로운 생의학 데이터셋의 기여에 열려 있다. 상호작용형 리더보드는 https://tabbench-bio.eu 에서 확인할 수 있다.

arXiv:2609.06490v2cs.CV

OracleZoom: 정답을 넘어서는 참조 제약 재귀적 이미지 초해상도

OracleZoom: Reference-Constrained Recursive Image Super-Resolution Beyond Ground Truth

재귀적 이미지 초해상도(SR)는 각 예측을 동일한 모델에 다시 입력하여 이미지를 거듭 확대하듯 극단적인 배율에 도달한다. 깊은 확대에 대한 실제 정답은 확보하기 어려우며(256배 목표는 52 GB 이미지가 된다), 따라서 더 깊은 확대의 예측에는 감독 신호가 없다. 그러나 마지막 정답 이미지에는 모든 더 깊은 확대가 키우는 영역이 여전히 포함되어 있다. OracleZoom은 이 영역을 학습 신호로 전환한다. 온폴리시 자기 증류에서 착안하여, 모델이 한 번의 재귀 단계($4\times \rightarrow 16\times$)에 대한 자신의 예측으로 학습하고, 교차 스케일 손실이 각 $16\times$ 예측을 $4\times$의 마지막 정답으로 다시 투영한다. 이 투영은 거친 내용만 검증할 수 있으므로, 무참조 품질 목적함수가 나머지 세부 묘사를 유도하고 잠재 사전분포가 이 목적함수가 환각 아티팩트를 추가하는 것을 막는다. 7개 데이터셋에서 OracleZoom은 모든 확대 깊이에서 가장 높은 CLIPIQA를 달성하며(평균 0.713 대 Chain-of-Zoom 0.621), 학습이 $16\times$에서 멈추고 다른 품질 지표를 최적화함에도 가장 깊은 확대에서 이득이 가장 크다. 정답에 고정된 두 판정기를 합산한 결과, 이렇게 추가된 세부 묘사는 $16\times$에서 Chain-of-Zoom과 동일한 환각률이며 $4\times$에서는 더 낮은 환각률을 보이고, 교차 스케일 손실을 제거하면 $16\times$에서 환각이 증가한다.

arXiv:2609.01209v2cond-mat.mtrl-sci

설명 가능하고 신속한 결정 진단 및 스크리닝을 위한 구조-타당성 법칙의 자율 발견

Autonomous discovery of new structure-plausibility laws for explainable and rapid crystal diagnosis and screening

생성 모델과 자율 에이전트는 이제 수백만 개의 무기 결정 후보를 제안하지만, 대부분의 스크리닝은 최소 거리 기준 외에는 거의 검사하지 않으며 실패의 화학적 이유를 제시하지 않는다. 거의 한 세기 동안 폴링 규칙은 결정 구조 안정성에 대한 주요 경험 이론으로 사용되어 왔으나, 정성적이고 이상화되어 있어 알려진 이온 결정 중 규칙 2-5를 동시에 만족하는 것은 6.5%에 불과하다. 본 연구에서 에이전트는 200만 개의 후보 법칙을 생성, 시험, 반증하여 무기 구조 타당성 규칙(Plausibility Rules for Inorganic Structures, PRIS) 여덟 가지를 발견한다. 이 법칙들은 단거리 반발, 이온 접촉과 충진, 정전기적 균형, 결합 원자가 보존, 결정학적 자리 단순성이라는 다섯 가지 물리적 메커니즘을 담고 있다. 실험 구조는 PRIS 법칙 집합을 82-99%의 경우에 만족하며, 가장 엄격한 집합은 인위적으로 손상된 구조의 87.9%를 탐지하여 기존 거리 기준의 1.6-3.2%를 크게 상회한다. 합성 레이블 없이 도출되었음에도 PRIS 타당성은 합성 가능성과 선형 상관이 매우 높으며, PRIS에서 도출한 연속적 합성 점수(PSS)는 합성이 어려운 구조의 83.7%를 설명 가능하게 걸러내면서 실험 구조의 80.7%를 유지한다. 초비압축성 결정을 목표로 하는 역설계 과제에서 PRIS와 PSS에 의한 설명 가능한 스크리닝은 밀도범함수이론(DFT) 검증 대기열을 최대 67.3% 줄이면서 DFT로 검증된 목표 후보의 99.2%를 유지한다. 스크리닝을 넘어 PRIS는 GNoME의 저대칭 초과가 인위적인 원소 배열에서 비롯됨을 추적하고 위조된 결정 구조를 식별한다. PRIS는 스크리닝을 통과 또는 실패 판정에서 실패의 화학적 이유로 이동시키며, 자율 에이전트가 능동적 반증을 통해 계산과 실험을 안내하는 물리화학 법칙을 발견할 수 있음을 보여 준다.

arXiv:2608.28384v2cs.AI

MAP: 실제 장소를 위한 멀티모달 접근성 계획 벤치마크

MAP: A Benchmark on Multimodal Accessibility Planning for Real World Places

본 논문은 MAP를 소개한다. MAP는 실세계 장소 방문 계획 시 접근성 요구가 있는 사용자를 돕는 어시스턴트로서 멀티모달 AI 시스템을 평가하는 최초의 벤치마크이다. 평가에서는 시스템에 접근성 요구를 충족하는 관심 지점(point of interest)을 검증하거나 추천하라는 요청이 제시된다. MAP는 두 가지 새로운 평가를 포함한다. 접근성 계획을 위한 주장 검증(claim verification)은 장소 정보와 명시된 접근성 특징이 뒷받침되는지 평가하고, 요청된 접근성 특징을 충족하는 장소를 식별한다. 접근성 계획을 위한 시각적 증거 검색(visual evidence retrieval)은 멀티모달 AI 시스템이 요청된 장소와 접근성 특징에 해당하는 시각적 증거를 선택할 수 있는지 검사한다. 본 방법론은 장소 정보와 접근성 정보가 시간에 따라 변할 수 있는 환경에서, 예정된 시점에 시스템을 평가하고 그라운드 트루스(ground truth) 데이터를 갱신함으로써 AI 시스템 간 비교를 지원한다. 벤치마크는 응답의 일부에 대해 자동 평가와 인간 평가를 병행한다.

arXiv:2608.27821v4cs.LG

개별 예측에서 특성은 어떻게 작용하는가? 사례 기반 분류 체계로 단독 효과와 상호작용 효과 분리하기

How do features act in an individual prediction? Separating standalone and interaction effects with a case-based taxonomy

SHAP와 LIME 같은 지역 설명 방법은 각 특성을 하나의 기여도 점수로 요약하며, 상호작용 지수는 특성들이 얼마나 강하게 상호작용하는지를 정량화한다. 그러나 어느 쪽도 주어진 예측에서 특성이 어떻게 작용하는지, 즉 그 효과가 단독일 때와 맥락 속에서 같은지, 아니면 다른 특성들이 이를 증폭하거나, 불필요하게 만들거나, 꺼 버리거나, 반전시키는지를 사용자에게 알려 주지 못한다. 우리는 원래 전역 방법이었던 사례 기반 특성 중요도(case-based feature importance, CBFI)를 개별 예측으로 확장한다. 배경 표본마다 네 가지 혼합 상태에서 모델을 평가하면 특성의 맥락 내 중요도가 단독 효과와 상호작용 효과로 분해되며, 사례 분류 체계는 인스턴스의 각 특성에 비활성, 단독, 증폭, 중복, 게이트, 반전 중 하나의 라벨을 부여한다. 합성 함수에서 이 방법을 k-SII, TreeSHAP 상호작용 값, H-통계량과 비교하고, 여섯 가지 모델 계열로 여덟 개의 실제 표 형식 데이터셋을 연구한다. 참 함수에서 이 분해는 상호작용을 정확히 복원하였다(해석적 지역 상호작용과의 상관 0.99). 적합된 모델에서 쌍 복원 성능은 전용 지수보다 약간 낮았다(지역 precision@k 0.86-0.91 대 0.91-0.95). 상호작용 값만으로는 대체와 게이팅을 구별하지 못했지만, 분류 체계는 상대 특성을 알지 못하고도 둘 모두를 식별하였다(정확도 0.74-0.76). 샤플리 상호작용 값에 적용했을 때도 비슷한 성능을 보였다. 실제 데이터에서는 SHAP 값이 거의 같은 특성 쌍의 45-57%가 서로 다른 라벨을 받았으며, 의료 보험 모델에서는 흡연의 상호작용 성분이 체질량지수 30에서 부호가 바뀐다는 점을 이 방법이 보여 주었다. 지역화된 CBFI는 기존 지수보다 상호작용을 더 정확하게 탐지하지는 못한다. 이 방법이 더하는 것은 단독 효과와 상호작용 효과로의 분해와 각 특성이 어떻게 작용하는지를 나타내는 라벨이다.

arXiv:2608.24735v2cs.AI

Meta$^n$: 창발적 깊이를 통한 재귀적 자기 개선

Meta$^n$: Recursive Self-Improvement through Emergent Depth

자기 개선형 LLM 에이전트는 답변을 개선할 뿐, 그 답변을 만들어 내는 과정은 개선하지 않는다. 메타 수준을 추가하는 시스템은 그 수준을 고정해 두고, 스스로를 편집하는 시스템은 안정성을 유지하기 위해 자신의 편집 장치 일부를 건드리지 않아야 하므로, 구현되는 메타 깊이는 대략 둘 정도로 제한된다. 우리는 메타 연산을 고정한 채 그 입력에 대해 재귀하는 Meta$^n$을 제시한다. 이 연산 $\Omega$는 자신의 산출물에 반복 적용되어, 아래 해결기 스택의 추적 기록과 그것을 만든 코드를 함께 읽은 뒤, 전략적 전처리와 호출 가능한 보조 함수 라이브러리로서 다음 층을 작성한다. $\Omega$는 변하지 않으므로 시스템을 불안정하게 만들 수 없고, 입력이 엄격하게 늘어나므로 각 층은 이전 층보다 높은 관점에서 추론한다. 깊이는 미리 정해지지 않고 수렴에 의해 결정되며, 진화적 아카이브가 층 체인을 탐색한다. 두 가지 백본에 걸쳐 Meta$^n$은 여덟 개 벤치마크 계열 모두에서 기존 자기 개선형 에이전트를 능가한다. 가장 두드러진 사례는 기술 암기에 저항하도록 만들어진 ARC-AGI-2로, 여기서는 Meta$^n$만이 0을 넘는 점수를 얻는다. 절제 실험은 재귀로 인한 이득의 대부분이 각 층이 다음 층에 전달하는 조건화에서 나옴을 보여 주며, 어떤 프롬프트도 규정하지 않았음에도 깊이에 따라 뚜렷한 층별 역할이 나타난다. 코드는 https://github.com/minnesotanlp/meta-n 에서 이용할 수 있다.

arXiv:2608.09307v2cs.AI

선형화된 2-심플리셜 어텐션

Linearized 2-Simplicial Attention

우리는 삼선형 점수를 합성 쿼리와 키 사이의 내적으로 다시 쓰는 방식으로 2-심플리셜 어텐션의 선형화된 형태를 제시하며, 이로써 키에 대한 합이 일반적인 소프트맥스 어텐션과 같은 형태가 된다. 그런 다음 이 합을 양의 랜덤 특징으로 근사하고 이전의 모든 키를 고정 크기 상태에 저장하는 한편, 두 번째 키에 대한 합은 이전의 모든 토큰에 대해 정확하게 유지한다. 이로써 비용이 시퀀스 길이에 대해 세제곱에서 제곱으로 줄고, 윈도우 방식 2-심플리셜 어텐션에서는 불가능한 두 키 모두가 이전의 모든 토큰에 걸치게 된다. 우리는 이를 맞춤형 Triton 커널로 구현하고 Kimi Delta Attention과 결합하여 소프트맥스 어텐션이 전혀 없는 모델을 구축한다. FineWeb-Edu에서 동일하게 150억 학습 토큰으로 학습했을 때, 이 모델은 KDA 하이브리드 대비 검증 손실을 2.35에서 2.32로 낮추고 LAMBADA 퍼플렉서티를 40에서 38로 낮춘다.

arXiv:2608.06400v2cs.AI

라우팅 가중치를 넘어서: 기여도 대조를 통한 전문가 혼합 보상 모델의 충실한 응답 수준 해석

Beyond Routing Weights: Faithful Response-Level Interpretation of Mixture-of-Experts Reward Models via Contribution Contrast

보상 모델은 인간 선호로부터의 학습에서 핵심적이지만, 그 예측을 좌우하는 요인을 파악하는 것은 여전히 어렵다. 최근의 희소 전문가 혼합(Mixture-of-Experts, MoE) 보상 모델은 프롬프트를 특화된 전문가에게 라우팅하고 라우팅 가중치가 높은 예시를 통해 전문가를 특성화함으로써 해석 가능성을 높이고자 한다. 그러나 라우팅 가중치는 전문가가 어떤 프롬프트를 $\textit{받는지}$만 보여줄 뿐 응답을 어떻게 $\textit{판단하는지}$는 보여주지 못하므로, 전문가 행동에 대한 부분적인 설명만을 제공한다. 이에 본 논문은 기여도 대조(Contribution-Contrast, CoCo) 응답 수준 해석을 제안한다. 이 방법은 기여도 대조가 가장 큰 선택-거부 응답 쌍을 사용하여 라우팅과 선호 행동을 함께 포착함으로써 전문가의 역할을 충실하게 특성화한다. 자동 평가와 인간 평가 전반에서 CoCo는 경쟁력 있는 보상 모델링 정확도를 유지하면서, 라우터 기반, 점수 기반, 희소 오토인코더 기반 대안보다 더 일관성 있고 충실하며 특화된 해석을 제공한다. 종합하면, 본 논문은 서로 다른 예시 선택 신호가 MoE 보상 모델의 해석 가능성에 어떤 영향을 미치는지에 대한 통제된 연구를 제공한다.

arXiv:2608.04804v2cs.SE

Scrouting: 저장소를 먼저 탐색하여 수행하는 코딩 에이전트의 비용 인식 라우팅

Scrouting: Cost-Aware Routing of Coding Agents by Scouting the Repository First

최첨단 프론티어(frontier) 언어 모델은 저장소(repository) 수준의 소프트웨어 이슈를 해결할 수 있지만, 시도할 때마다 비용이 많이 들며 기존 라우터는 이슈 텍스트만으로 모델을 선택합니다. 본 논문에서는 저장소를 먼저 탐색(scouting)한 후 라우팅을 수행하는 SuperScout을 제안합니다. 7B 탐색 모델인 SuperScout-7B가 먼저 저장소를 탐색하고 재현 주장이 샌드박스에서 검증된 구조화된 인수인계(handoff) 정보를 생성하며, 거짓 주장은 전달되기 전에 제거됩니다. 이어 탐색 모델의 은닉 상태(hidden states)는 작업 텍스트와 함께 이력서 기반 라우터로 전달되어 4개의 최첨단 해결 모델(fixer) 중 하나로 작업을 디스패치합니다. 새로운 해결 모델을 추가할 때 재학습이 필요하지 않습니다. 공식 상한 예산 티어 하의 SWE-bench Pro 전체 Python 슬라이스(266개 작업)에서, SuperScout은 최고 성능의 단일 모델 해결률(SuperScout 266개 중 159개, 최고 모델 158개)과 일치하면서도 해결당 총비용은 약 5분의 1 수준으로 절감하며, 보고된 구성은 무작위 트래픽 분할 기준선(baseline)을 상회합니다. 라우터 없이 항상 인수인계 정보를 갖춘 가장 저렴한 해결 모델을 사용하는 어블레이션(ablation)은 이 벤치마크에서 라우팅된 시스템과 동등한 성능을 기록하므로, 라우팅 결정보다는 인수인계 정보 자체가 결과를 견인합니다. 쌍체 보정(paired calibration) 연구는 그 메커니즘을 시사합니다. 인수인계 정보는 해결 능력을 추가하기보다는 재분배하는 것으로 보이며, 가장 강력한 해결 모델에는 약간의 손해를 입히는 반면 더 저렴한 3개 해결 모델의 성능은 끌어올립니다(단, $N=99$에서 해결 모델별 효과는 방향성만 나타냄). 또한 탐색 모델의 은닉 상태는 보정 레이블에서 비용 라우팅을 개선하지만 인수인계 정보 자체의 텍스트는 그렇지 못합니다. 탐색 모델의 계산 비용은 작업당 0.5센트 미만의 GPU 시간만을 추가합니다.

arXiv:2608.04590v2cs.AI

JUDOR: 지연 허용 네트워크에서 UAV 이동과 분산 기회적 라우팅의 공동 최적화를 위한 CTDE 기반 다중 에이전트 강화학습

JUDOR: CTDE-Based Multi-Agent Reinforcement Learning for the Co-Optimization of Joint UAV Motion and Decentralized Opportunistic Routing in Delay-Tolerant Network

지연 허용 네트워크(delay-tolerant network, DTN)의 배치가 늘어나면서, 희소하고 간헐적인 연결 환경에서 동작하기 위해 저장-운반-전달(store-carry-forward, SCF) 통신이 필수적이 되었다. 그러나 간헐적인 접촉 기회, 유한한 노드 버퍼, 제한된 메시지 생존 시간(TTL)은 메시지 전달 성능을 저하시키고 네트워크 혼잡을 유발한다. 한편 확장된 무선 통신 범위와 제어 가능한 궤적을 가진 무인 항공기(UAV)는 연결성이 나쁠 수밖에 없는 지상 노드 쌍을 연결할 수 있다. 그럼에도 기존 라우팅 기법은 UAV 이동 제어를 메시지 복제와 분리하여 다루므로, UAV의 이동성을 활용해 미래의 접촉 기회를 능동적으로 만들어내지 못한다. 본 논문은 이산적인 UAV 진행 방향 제어와 분산 기회적 라우팅의 공동 최적화에 맞춰진, 중앙집중식 학습 분산 실행(CTDE) 기반 다중 에이전트 강화학습 프레임워크인 JUDOR(Joint-UAV-Decentralized-Opportunistic-Routing)를 제시한다. 구체적으로, 긴밀하게 결합된 UAV 이동-라우팅 공동 최적화 과제를 공유 팀 보상을 가진 인수분해된 부분 관측 마르코프 결정 과정으로 모델링한다. JUDOR는 로컬 노드 실행을 위한 분산 액터와 학습에만 사용되는 중앙집중식 크리틱을 채택하며, 선택적으로 다중 시간 범위 혼잡 핫스팟 보조 지도를 사용한다. 네 가지 서로 다른 트래픽 모드에 걸친 평가에서 JUDOR는 PRoPHET과 MaxProp을 포함한 고전적 및 학습 기반 DTN 기준선 모두에 대해 일관된 성능 향상을 보이며, 실제 DTN 배치에 적합한 접촉 제한적 분산 실행을 유지한다.

arXiv:2608.02014v3cs.RO

MANGO-Grasp: 교차 구현체 정교한 파지를 위한 기하 지향 3D 가우시안 위의 마할라노비스 필드

MANGO-Grasp: Mahalanobis Fields over Geometry-Oriented 3D Gaussians for Cross-Embodiment Dexterous Grasping

교차 구현체(cross-embodiment) 정교한 파지는 구현체별 튜닝을 거의 또는 전혀 하지 않고도 이종의 다지 손에 걸쳐 안정적인 파지를 합성하는 것을 목표로 한다. 기존의 상호작용 중심 방법은 유망한 결과를 달성하지만, 객체 표현이 국소 표면 기하를 충분히 표현하지 못하는 경우가 많고, 손 기술자가 형태와 운동학을 모두 명시적으로 포착하지 못하며, 손-객체 상호작용 모델링이 대체로 등방적이다. 본 논문은 비등방성 상호작용 프레임워크인 MANGO-Grasp를 제안한다. 이 방법은 국소 표면 기하를 더 잘 보존하기 위해 객체를 기하 지향 3D 가우시안 프리미티브로 표현하고, 손을 형태와 운동학을 모두 포착하는 사전학습된 기술자로 인코딩한다. 손-객체 상호작용은 접촉의 방향적 특성을 반영하는 비등방성 마할라노비스 필드를 사용하여 모델링하며, 구현체 전반에서 파지를 실현하기 위한 공유 최적화를 안내한다. CMAP 및 MultiGripperGrasp 벤치마크에서 MANGO-Grasp는 시뮬레이션에서 가장 강한 기존 손(seen-hand) 기준선을 최대 8.24 퍼센트포인트 앞선다. 또한 보지 못한 SharpaWave 손으로 제로샷 전이가 가능하여 가장 강한 제로샷 기준선보다 최대 16.57 퍼센트포인트 향상되며, 실제 환경 실험에서 86%의 성공률을 달성한다. 코드와 추가 자료는 https://connor-zh.github.io/MANGO-Grasp/ 에서 확인할 수 있다.