PyTorchKR Papers

최신 논문

총 9편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.23134v1cs.LG

지수 기울기를 통한 확산 가이드 검색(DiffTilt): 안전-중요 시스템 반증에의 적용

Diffusion-Guided Search via Exponential Tilting (DiffTilt): An Application to Falsification of Safety-Critical Systems

자율 및 사이버-물리 시스템에서 드문 안전-중요 실패를 발견하는 것은 검증(verification) 및 검증(validation)에서 근본적인 과제이다. 기존 반증(falsification) 접근법은 환경과 시스템 실행에 대한 결합 분포를 인수분해하는 조건부 샘플링 전략에 의존하며, 따라서 곱셈적 희귀성 효과(multiplicative rarity effects)의 영향을 받는다: 실패를 유발하는 입력과 실패를 유발하는 실행 궤적(trace)이 동시에 희박하여 전수 탐색을 사실상 불가능하게 만든다. 본 논문은 환경과 실행에 대한 확산 모델 유도 결합 분포를 지수적으로 기울이는(exponentially tilt) 분포적 프레임워크인 DiffTilt를 제안한다. 확산 가이드 샘플링이 결합 공간에서 중요도 샘플링(importance sampling)으로 정확히 해석될 수 있음을 보이며, 가이던스 점수가 실패 관련 행동을 향해 확률 질량의 KL-최적 재배치를 유도함을 보인다. 또한 기울기(tilting)가 실패 확률을 증명 가능하게 증폭하고, 곱셈적 희귀성에 의해 제한되는 조건부 샘플링을 엄격히 능가함을 보인다. 이 프레임워크에서 결합 생성 모델은 시나리오에 대한 재사용 가능한 사전분포(prior) 역할을 하며, 테스트 대상 시스템을 충실히 표현할 필요가 없다. 대신 비용이 큰 시스템 시뮬레이션은 시나리오 품질을 특성화하는 스코어링 함수를 학습하는 데에만 사용되어, 선택적이고 적응적인 활용을 가능하게 한다. ARCH-COMP 벤치마크에서 DiffTilt를 연구하고, 시나리오 생성이 보상이 아닌 잘 정의된 명세(specification)에 의해 가이드될 때 여러 접근법의 동작을 보여주는 추가 트랙터-트레일러 벤치마크를 제안한다. 제안 방법은 최신(state-of-the-art) 접근법 대비 경쟁력 있거나 향상된 반증 성능을 달성하며, 명세 정의가 STL 공식에 국한되지 않을 때 더 큰 이득을 보인다.

arXiv:2607.14890v1cs.AI

Proof-or-Stop: 에이전트를 믿지 말고 증거를 믿어라 -- 검증 가능한 증거 게이트 라이프사이클 제어를 위한 루프 엔지니어링

Proof-or-Stop: Don't Trust the Agent, Trust the Evidence -- Loop Engineering for Verifiable Evidence-Gated Lifecycle Control

자율 코딩 에이전트가 점점 더 다단계 소프트웨어 작업을 수행하고 있지만, reviewed, tested, DONE, ready-to-merge와 같은 라이프사이클 상태는 최신 증거로 뒷받침되지 않는 한 주장에 불과하다. 우리는 Proof-or-Stop Lifecycle Control을 제안한다. 이 방법은 신선하고 추적 가능한 소스 상태에 결합된 기계적으로 검증 가능한 증거가 관련 게이트를 충족할 때만 라이프사이클 전환을 허용한다. 이 방법은 에이전트 출력을 라이프사이클 상태가 아닌 주장으로 취급하며, proof를 운영적으로는 명시된 신뢰 모델 하에서 게이트 허용 증거를 의미하는 것으로 사용한다(의미론적 프로그램 정확성이 아님). 오픈소스 구현을 메커니즘 테스트, 통계적 검정력을 갖춘 제어 정책 ablation, 운영된 자기 적용(self-application) 증거를 통해 평가한다. 무인 루프 엔진은 10개 시나리오 모두를 통과했으며 false-DONE은 0건이었다. 로컬 키 영수증 번들은 18개 변조 클래스를 거부했으며 false accept는 0건이었다. 9,240셀 ablation에서 사전 등록된 A4 대 A2-prime 비교는 연산 예산 기반 naive loop 하에서 주입된 1,800셀 중 31건이었던 visible-pass/hidden-fail 증폭을 gated loop 하에서는 1,800셀 중 2건으로 줄였다. 이는 not-amplified rate에서 1.6 percentage point 개선이며 95% 신뢰구간은 [0.8, 2.5]이다. 거의 동일한 연산량의 A3 대 A4 비교(1,800 중 14건 대 1,800 중 2건)는 이득이 단순히 리뷰어를 추가하는 것이 아니라 review를 라이프사이클 게이트로 강제하는 것과 연관됨을 시사한다. 자기 적용 코퍼스에는 565개 스토리와 1,007개 리뷰 발견이 포함되며 94.8%가 해결되었고, 68행의 high/critical cross-vendor exhibit가 있다. 이러한 결과는 Proof-or-Stop이 라이프사이클이 어떤 자율 에이전트 주장에 행동할 수 있는지를 결정하는 모델 불문·호스트 중립적 제어 층으로서 타당함을 뒷받침한다. 평가는 하나의 모델 계열, 24개 ablation 태스크, 자체 호스팅 코퍼스로 제한된다.

arXiv:2607.12113v1cs.DC

신뢰할 수 있는 자율 과학을 향한 2년 커뮤니티 로드맵

Toward Trustworthy Autonomous Science: A Two-Year Community Roadmap

1년 전 AISLE 로드맵은 자율 실험실이 고립된 섬처럼 운영되고 있다고 주장하며, 다섯 가지 핵심 차원을 중심으로 조직된 기층 네트워크를 제안했다. 그 이후 이 분야는 예상보다 빠르게 진전했다. 멀티 에이전트 시스템이 실험적으로 검증된 가설을 생산했고, 자율주행 실험실(self-driving laboratories)은 더 상호운용 가능하고 오케스트레이션된 형태로 성장했으며, 추론 학습 모델과 도메인 기초 모델이 역량 상한을 높였고, Genesis Mission이 자율 실험을 미국 연방 과학 전략의 중심에 두었으며, 산업계가 주요 주체로 부상했다. 진전은 냉정한 역류와도 맞닥뜨렸다. 여기에는 수정된 대표적 발견 결과, 폐쇄형 질문에서는 전문가에 필적하는 에이전트가 개방형 연구에서는 극히 일부만 완수한다는 벤치마크 결과, 그리고 주요 학술지에서 조작된 인용이 드러나는 사례가 포함된다. 우리는 이를 이 분야의 규정적 긴장으로 해석한다. 후보적 발견을 만드는 것은 더 이상 어려운 부분이 아니지만, 그것을 검증하는 것이 어려우며, 이 비대칭이 이제 원시 모델 역량보다 자율 과학을 더 제한한다. 우리는 로드맵을 일곱 차원으로 업데이트하며, 원래 다섯 가지를 재검토하고 이전에는 횡단적 관심사였던 신뢰·검증·재현성, 그리고 안전성·보안·거버넌스를 일급 지위로 격상시킨다. 원래 이정표(M1~M14)를 달성·부분 달성·재구성·미달성으로 평가하고, 네 가지 새 이정표(M15~M18)를 추가하며, 향후 2년 경로의 범위를 설정한다. 첫해는 인터페이스, 프로토콜 채택, 검증 스캐폴딩에 집중하고, 둘째 해는 연합, 제로 트러스트(zero-trust) 조율, 거버넌스를 목표로 한다. 전 과정에서 기층 네트워크를 국가 프로그램·국제 이니셔티브·상업 플랫폼이 재고립화되지 않고 연결되게 하는 상호운용성 기반으로 자리매김한다.

arXiv:2512.04008v2cs.LG

Efficient Public Verification of Private ML via Regularization

Training with differential privacy (DP) guarantees dataset members that they cannot be identified by users of the released model. However, those data providers, and, in general, the public, lack methods to efficiently verify that models trained on their data satisfy DP guarantees. The amount of compute needed to verify DP guarantees for current algorithms scales with the amount of computation required to train the model. In this paper we design the first DP algorithm with near optimal privacy-utility trade-offs but whose DP guarantees can be verified cheaper than training. We focus on DP stochastic convex optimization (DP-SCO), where optimal privacy-utility trade-offs are known. Here we show we can obtain tight privacy-utility trade-offs by privately minimizing a series of regularized objectives and only using the standard DP composition bound. Crucially, this method can be verified with much less compute than training. This leads to the first known DP-SCO algorithm with near optimal privacy-utility whose DP verification scales better than training cost, significantly reducing verification costs on large datasets.

arXiv:2606.27409v1cs.MA

지연 검증이 다중 에이전트 LLM 신념을 불안정화한다: 불안정성 임계값과 최적 교정기 배치

Delayed Verification Destabilizes Multi-Agent LLM Belief: Instability Thresholds and Optimal Corrector Placement

다중 에이전트 대규모 언어 모델(LLM) 시스템은 환각을 억제하기 위해 검증자 및 비평 에이전트에 의존하는 경우가 많지만, 검증은 지연된다. 이 지연 동안 거짓 주장이 에이전트 네트워크를 통해 전파될 수 있다. 우리는 이 과정을 그라운딩 교정기 노드가 있는 그래프에서의 지연 합의로 모델링한다. 그라운딩 라플라시안에 의한 스펙트럴 분해는 검증 강도에 대한 폐쑤형 안정성 임계값을 제공한다: 너무 강하거나 너무 지연된 교정은 합의를 진동으로 바꿀 수 있다. 가장 불안정한 영역은 통신 지연과 검증 지연이 일치할 때 발생하며, 지연이 2일 때 임계값은 황금비의 역수이다. 동일한 프레임워크는 제한된 교정기 예산을 영향력 있는 노드에 할당하기 위한 초모듈러 배치 목적함수와 탐욕적 (1-1/e) 근사 규칙을 제공한다. 다섯 개의 오픈 모델에 걸친 실험은 예측된 강도-지연 진동을 확인한다. 대조적으로, 그라운딩 기반 사실적 답변은 진실을 흡수 경계로 만들어 효과를 제거하며, 이는 불안정성이 부호 신념 과제에 특정적이고 그라운딩 검증은 여전히 안정화적임을 시사한다.

arXiv:2606.23983v1cs.CR

Maestro Order: A Model-Agnostic Orchestration Harness

A single forward pass of a capable model is a fast, fluent, and unreliable problem-solver: it is right often enough to be useful and wrong often enough to be dangerous; in language models, such confident errors are known as hallucinations. We present Maestro Order, a model-agnostic orchestration harness that turns unreliable solvers into reliable problem-solving systems by composing them according to four structural primitives (decompose, ensemble, verify, and recurse) and a budget-aware controller that decides where to spend compute. The harness treats any model as a black-box base solver behind a uniform interface, layers a verifier ensemble whose discrimination is measured online, and allocates verification and voting to the stages with the highest marginal reliability per unit cost. We give the architecture, the message and state schema, the controller algorithm, and the engineering that makes it deterministic, observable, and fault-tolerant. We then specify an evaluation methodology (reliability at fixed cost, coverage, calibration, and ablations) and report results from a faithful Monte Carlo simulation of the harness over a parameterized solver/verifier model. The simulation reproduces the predicted laws quantitatively: verification amplifies reliability geometrically (e.g. $0.55\to0.98$ with two gates, $\to0.999$ with four), voting helps only above chance and is limited by shared errors, and a budget-aware controller reaches a target reliability at a small fraction of the cost of voting alone by selecting the cheapest mechanism for each regime. We close with failure modes (verifier gaming, correlated errors, and decomposition error compounding) and concrete guidance: build robust checkers, diversify solvers, and let the controller put compute where the information is.

arXiv:2606.21724v1cs.CL

디노이징 반복 자기 수정: 신뢰할 수 있는 LLM 추론을 위한 구조화된 검증 루프

Denoising Iterative Self-Correction: Structured Verification Loops for Reliable LLM Reasoning

대규모 언어 모델(LLM)은 유창하지만 종종 잘못된 다단계 추론을 생성하며, 단순한 교정 방법은 이미 올바른 답을 훼손할 위험이 있다. 우리는 Denoising Iterative Self-Correction (DISC)를 제안한다. 이는 테스트 시점(test-time) 절차로, 검증 질문의 출력을 솔루션이 손상되었을 수 있는 위치에 대한 노이즈가 포함된 측정값으로 취급한다. 이러한 신호를 이용해 DISC는 전통적인 반복 디노이징과 유사하게, 여러 번의 verify-judge-correct 패스를 거치며 오류를 점진적으로 줄인다. 이진 판정 게이트는 이미 올바른 답을 훼손하는 재작성을 차단함으로써 교정 정밀도를 제어하고, 검증기와 교정기가 함께 오류를 수리한다. 우리는 개선 대 비훼손 비율(정밀도)과 수리율(재현율)이라는 두 가지 쌍을 이루는 진단 지표로 이 트레이드오프를 평가한다. 세 가지 벤치마크(BIG-Bench Mistake, HotpotQA, GPQA Diamond)와 네 가지 모델에 걸쳐, DISC는 정밀도-재현율 트레이드오프에서 Chain-of-Verification과 Self-Refine을 압도하며, BIG-Bench Mistake(Sonnet~4.5)에서 81.6% 정확도에 도달하고 Chain-of-Verification 대비 훼손당 13배 더 많은 개선, Self-Refine 대비 5배 더 많은 개선을 달성한다. GPQA Diamond에서는 판정자(judge)가 증거 속 모순을 인식하지만 그 인식을 교정으로 전환하지 못하는 역량 하한(capability floor)을 확인한다. 또한 생성기와 다른 모델에 검증과 판정 역할을 할당하는 교차 모델 역할 분배(cross-model role allocation)가 자기 확인 바이어스(self-confirmation bias)를 완화함을 보인다.

arXiv:2606.19808v1cs.AI

다시 생각할 것인가, 더 오래 생각할 것인가? 예산 인식 추론을 위한 선택적 검증

Think Again or Think Longer? Selective Verification for Budget-Aware Reasoning

테스트 타임 추론은 점차 서빙 타임 제어 수단으로 사용되고 있지만, 추가적인 추론이 항상 가치 있는 것은 아닙니다. 이는 실패한 시도를 수정할 수도 있지만, 이미 정답인 답변에 연산을 낭비하거나 유해한 답변 변경을 초래할 수도 있습니다. 우리는 이를 새로운 검증기 문제가 아닌 배포 할당 문제로 연구합니다. 우리는 동결된 솔버의 초기 답변을 유지할지 아니면 능동적 검증을 호출할지 결정하는 서빙 레이어 컨트롤러인 SEVRA(Selective Verification for Reasoning Allocation, 추론 할당을 위한 선택적 검증)를 소개합니다. 동결된 Qwen3-4B 솔버를 사용하여 개입 결과를 기록하고, 서빙 가시적 시도 상태에서 복구 가능성 인식 게이트를 학습합니다. MATH 데이터셋에서 선택적 검증은 항상 검증하는 경우의 75.5%에 비해 76.3%의 정확도를 달성하면서, 생성 후 토큰을 26.8% 감소시키고 유해한 변경을 2.2%에서 1.0%로 줄였습니다. 그러나 8,192 토큰의 초기 풀이는 전체 모델 토큰을 28% 더 적게 사용하여 76.0%의 정확도를 달성하며, 이는 선택적 복구가 유용하지만 테스트된 비용 최적 경계는 아님을 보여줍니다. GSM8K로의 동결된 전이에서 선택적 정책은 예제의 3.0%만 검증하여 정확도를 93.4%에서 94.5%로 향상시키고, 항상 검증에 비해 검증 토큰을 91.2% 감소시켰습니다. 다시 한번, 더 긴 초기 풀이가 더 적은 실제 사용 토큰으로 동일한 정확도를 달성했습니다. CommonsenseQA에서는 상시 검증이 성능을 저하시키는 반면, Self-Consistency@5는 약 5배의 실제 토큰 비용으로 정확도를 향상시킵니다. 결과적으로 도출된 배포 규칙은 다음과 같습니다. 먼저 초기 예산을 튜닝한 다음, 명시적 검사, 제한된 재시도, 감사 가능성 또는 성능 저하 위험 제어가 중요한 경우 선택적 복구를 사용하십시오.

arXiv:2606.06572v1cs.LG

생성 모델은 시장 선택을 통해 인간의 시간적 학습을 침식한다

Generative Models Erode Human Temporal Learning Through Market Selection

우리는 현대 생성 모델이 현재의 AGI 이전(sub-AGI) 역량 수준에서 지식 및 문화 생산에 구조적 위험을 초래한다고 주장한다. 우리는 인간 시간적 학습(Human Temporal Learning, HTL)을 시간이 지남에 따라 문제와의 지속적인 참여를 통한 경로 의존적 지식 축적으로 정의한다. 생성 결과물은 표면적 특징에서 점점 더 HTL 집약적 작업을 닮아가고 있어, 특정 결과물이 진정한 인간 학습을 반영하는지 검증하는 비용이 기대 편익 대비 증가하고 있다. 검증이 경제적 정당성을 잃으면 평가자들은 생산 방식에 관계없이 결과물에 보상을 제공하게 되고, 수년간의 학습에 투자한 생산자들은 거의 비용 없이 생성된 결과물과 가격 경쟁을 벌이게 된다. 우리는 이 경로를 가치 붕괴(value collapse)라 부르며, 이를 비용이 드는 검사(costly-inspection) 프레임워크를 통해 형식화한다. 학술 출판, 법률 실무, 콘텐츠 플랫폼, 소프트웨어 보안에 걸친 교차 도메인 증거는 검증 침식(verification erosion)의 네 단계에 대응된다. 정렬(alignment)의 성공은 이 문제와 직교적이다. 더 잘 정렬된 모델은 인간과 AI 결과물 사이의 관찰 가능한 격차를 좁혀 출처 검증을 더욱 어렵게 만들고, 개별 AI 결과물이 개선되더라도 HTL 집약적 작업에 대한 경쟁 압력을 심화시킨다.