PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.01995v1cs.AI

AI 감독은 영지식이 될 수 있는가?

Can AI Oversight Be Zero Knowledge?

의료 기록을 기반으로 한 직무 적합성 평가나 비밀 구조로부터 신약 후보 물질의 특성을 예측하는 것과 같이, 기밀 데이터로부터 출력을 생성하는 AI 시스템이 점점 더 많아지고 있습니다. 기본 데이터를 공개하지 않으면서 이러한 출력이 올바른지 검증하는 것은 중요합니다. 최근 일련의 연구에서는 정답 여부가 인간의 판단, 물리적 실험, 웹과 같은 오라클(oracle)에 의존할 수 있는 오라클 보조 계산(oracle-aided computation)에 대해 대화형 증명(interactive proofs) 및 토론(debate)을 통한 AI 출력 검증을 연구하고 있습니다. 이러한 연구들은 계산보다 훨씬 빠르게 실행되는 검증자(verifier)에 의한 검증에 초점을 맞추고 있습니다. 그러나 일반적인 오라클 보조 계산에서는 이러한 효율적인 검증이 불가능하므로, 기존 연구들은 추가적인 가정을 기반으로 합니다. 우리는 그 대신 프라이버시에 초점을 맞춥니다. 즉, 검증자가 계산에 대한 다항 시간(polynomial time) 내에 실행되도록 허용하면서, 오라클 보조 계산을 위한 대화형 논증(interactive arguments)이 영지식(zero knowledge)이 될 수 있는지, 그리하여 검증자가 출력의 정확성 외에는 기밀 데이터에 대해 아무것도 알 수 없도록 할 수 있는지 묻습니다. 우리는 일반적으로는 이것이 불가능하다는 것을 증명합니다. 랜덤 오라클 모델(random oracle model)에서는 증명자(prover)와 검증자 모두가 계산 자체보다 훨씬 오래 실행되도록 허용되더라도, 모든 오라클 보조 계산에 대한 영지식 증명(zero-knowledge proofs)이 존재하지 않습니다. 이러한 불가능성은 확장 가능한 감독(scalable oversight)의 대표적 모델인 토론(debate)으로도 확장됩니다. 긍정적인 측면으로, 오라클이 각 답변에 암호학적 서명을 첨부하는 경우 충돌 저항성 해시 함수(collision-resistant hash functions)만을 가정하여 효율적인 증명자와 검증자를 통해 모든 오라클 보조 계산을 영지식으로 검증할 수 있음을 보입니다. 프라이버시를 넘어, 이는 토론에서처럼 정직한 상대방에게 의존하지도 않고, 기존 단일 증명자 프로토콜에서처럼 계산의 강건성(robustness)에 의존하지도 않는 확장 가능한 감독을 위한 대안적 접근 방식을 제공합니다.

arXiv:2607.03561v1cs.AI

토론을 피하는 방법: 이중 효율 대화형 증명을 통한 확장 가능한 AI 안전성

How to Avoid Debate: Scalable AI Safety via Doubly-Efficient Interactive Proofs

AI 모델이 강력한 능력을 계속 발전시켜 나감에 따라, 그 출력이 우리의 의도와 정렬(aligned)되어 있음을 검증할 수 있는 것이 매우 중요해졌다. 최근 일련의 연구들은 토론(debate)을 통한 검증에 초점을 맞추고 있는데, 이는 두 명의 경쟁하는 강력한 증명자(prover), 즉 AI 모델이 서로 토론하여 약한 검증자(verifier), 즉 인간에게 자신의 주장의 정확성을 납득시키는 대화형 증명 모델이다. 그러나 토론은 두 AI 모델이 동등한 능력을 보유하고 그중 하나가 진실을 말한다고 가정하는데, 이는 현실적이지 않을 수 있다. 본 연구에서 우리는 토론을 피하는 방법을 제시한다: AI 안전성을 위한 단일 증명자(single-prover) 대화형 증명 연구를 시작한다. 단일 증명자 대화형 증명에 관한 기존 결과들은 AI 안전성 환경으로 바로 이전되지 않는다. 예를 들어, 인간의 판단이나 웹과 같은 외부 데이터베이스에 대한 오라클(oracle)에 접근하는 계산에는 작동하지 않는다. 우리는 오라클 보조 계산(oracle-aided computation, 상대화 증명(relativizing proofs)이라고도 함)에 대한 이중 효율 단일 증명자 대화형 증명 및 인수(arguments)를 다음 두 가지 환경에서 제시한다: (1) 오라클 질의 응답 중 최대 소수 비율이 올바르지 않아도 출력이 변하지 않는다는 의미에서 계산이 강건(robust)한 경우, 또는 (2) 오라클이 저차 다항식(low-degree polynomial)인 경우. 이러한 결과는 구조화되거나 잡음에 강한 오라클 접근 하에서 토론 없이도 대화형 검증이 가능함을 시사한다.