A landmark result states that the expressive power of graph neural networks (GNNs) is bounded from above by the 1-dimensional Weisfeiler-Leman (1-WL) test. We ask whether a constant-depth GNN can match the expressive power of 1-WL while using only rational weights. We prove that this is the case when Schanuel's conjecture, a famous open problem from transcendental number theory, is taken to be true. Our GNN construction works even with integer weights, and more generally with a broad range of rational weights. As the activation function, it may use logistic sigmoid, hyperbolic tangent, or related functions. It is uniform across all graph sizes. We also prove a partial converse: if a GNN with exponentiation, hyperbolic sine or hyperbolic cosine as activation matches the expressive power of the 1-WL test in a slightly more expressive setting where graphs may contain certain auxiliary vertices, then this implies Schanuel's conjecture restricted to the numbers that arise in computations of the GNN. We also conduct experiments showing that the constructed GNNs indeed match the 1-WL test.
대규모 텍스트 말뭉치에 대한 많은 질문은 시간에 따라 전개되는 패턴과 관련이 있습니다. 예를 들어 수년간의 토론에 걸쳐 특정 주제에 대한 정치 집단의 입장이 지지에서 비판으로 점진적으로 변화하는 경우가 이에 해당합니다. 본 논문에서는 이러한 시계열 담화 패턴을 찾기 위한 선언적 질의 언어이자 오픈소스 엔진인 TL;QR(Too Long; Query with logical temporal Reasoning)을 제시합니다. TL;QR에서 단일 쿼리는 대규모 언어 모델(LLM)이 진위를 판별하는 자연어 술어(predicate)와 정규 표현식, 그리고 시제 논리(temporal logic) 연산자를 결합합니다. LLM은 개별 텍스트 구절에 대한 국소적 질문에만 답하며, 이후 심볼릭 엔진이 시간에 따라 이러한 판단들을 종합하고 모든 일치 결과를 해당 결과의 바탕이 된 기록 구절 및 술어 판단과 연결합니다. 이러한 역할 분담을 통해 긴 시간 지평에서도 시간적 및 관계적 추론이 정확하고 감사 가능한 상태로 유지됩니다. 또한 쿼리에 정규 표현식 사전 필터가 포함된 경우 말뭉치의 극히 일부분만 LLM에 전달됩니다. 시간적 및 의미론적으로 복잡한 패턴을 포함하는 제어된 합성 벤치마크 평가에서, TL;QR은 LLM 전용 베이스라인보다 실질적으로 훨씬 더 정확했습니다. 10년간의 유럽 의회 토론(442,593개의 다국어 연설)을 다룬 사례 연구에서, TL;QR은 GDPR 개인정보 보호 규정에 대한 정치 집단들의 입장 변화 후보들을 성공적으로 식별합니다.
AI 시스템은 수학 분야에서 빠르게 발전하고 있지만, 이러한 발전을 측정하기는 어렵다. 이미 풀린 문제들로 구성된 벤치마크(benchmark)는 포화(saturate)되며, 미해결 문제들로 구성된 벤치마크에서는 각 문제가 최초로 단 한 번만 해결될 수 있다. 우리는 포화에 강건한 벤치마크인 SqueezeBench를 제시한다: 성공은 문제를 제거하는 대신 기준을 높인다. 각 문제는 작은 $n$에 대해서만 값이 알려진 정수 함수 $f(n)$을 고정하며, 벤치마크는 이에 대한 하한(lower) 기록과 상한(upper) 기록을 유지한다. 기록(record)은 $f$를 한정(bound)함을 기계 검증된 증명(machine-checked proof)으로 보인 계산 가능한 Lean 함수이다. 제출(submission)은 새로운 함수를 제안하고, 그 함수가 $f$를 한정하며, 모든 $n$에서 현재 기록보다 나쁘지 않고, 일부 $n$에서는 엄밀히 더 우수함을 증명한다. 채택되면 해당 제출은 다음 제출이 넘어서야 할 새로운 기록이 된다. 따라서 이 시스템은 한계값(bound)뿐 아니라 그 증명까지 선택하며, 단일 $n$에서의 기록을 개선할 수도 있고 성장률(growth rate)을 개선할 수도 있다. 모든 $n$에서 두 기록 사이의 간극은 인증된 한계값들이 $f(n)$을 결정하는 데에서 얼마나 떨어져 있는지를 보여준다. 모든 증명은 두 개의 독립적인 Lean 커널에 의해 검증되므로, 심판이 수학적 내용을 검토할 필요가 없다. 검증 과정은 또한 작은 $n$에서 전수 탐색(exhaustive search)으로 $f$를 계산하는 함수를 거부하며, 유지관리자(maintainer)는 제출자의 보고서만 읽고 더 큰 $n$에서 그러한 탐색이 있는지를 확인한다. 우리는 극단적 조합론(extremal combinatorics) 분야의 열 가지 문제를 스무 개의 증명된 초기 기록 및 승인 도구(admission tools)와 함께 공개한다. 기준선(baseline)으로서, 최신(frontier) 언어 모델(language model) 기반 에이전트(agent)는 기록당 최대 한 시간을 사용하여 82건의 제출을 승인받았고 모든 기록을 개선했으며, 이는 기존 발표된 문헌의 범위를 넘어서지는 않았다. 이후 두 개의 더 새로운 모델(model) 기반 에이전트들이 이 기록들로부터 시작하여 60건의 추가 제출을 승인받았고, 20개의 기록 중 19개를 다시 개선했다. 열 가지 문제 중 여덟 가지 문제에서는, 적어도 하나의 기록이 여전히 발표된 최선의 한계값(bound)에 비해 점근적으로(asymptotically) 뒤처져 있다.
가중치가 {-1,0,1}에 속하는 매컬러-피츠(McCulloch-Pitts) 임계 유닛(threshold unit)으로 구성된 고정된 네트워크는 자신의 상태(state) 안에 다른 임계 네트워크를 보유하고 실행할 수 있다: 이 상태는 레코드(record) 뱅크(bank)들의 환형 구조(ring)이며, 각 레코드는 저장된 네트워크의 하나의 유닛을 나타내고, 각 스텝마다 하나의 레코드가 평가된다. 우리는 이러한 네트워크를 이용해 폰 노이만(von Neumann)의 범용 구성(universal construction)과 자기 복제(self-reproduction)를 정확하게 수행한다. 셀룰러 오토마타(cellular automaton)가 자신의 규칙을 유지하는 것처럼, 고정된 네트워크는 자신의 가중치를 유지하며, 복제되는 것은 저장된 네트워크이다. 143개의 레코드로 구성된 구성자(constructor)는 테이프에서 네트워크의 기술(description)을 읽어, 다음 뱅크에 그 네트워크를 구축하고, 그 기술을 다음 테이프에 복사한 뒤 자신이 만든 것에 제어를 넘긴다; 이 구성자를 자기 자신의 기술로 시작하면, 매 세대마다 가중치를 포함해 자기 자신을 재구축한다. 이 방식은 범용 컴퓨터(universal computer)로 확장된다. 17,598개의 삼진(ternary) 유닛으로 이루어지고 36,080개의 레코드로 저장되며 27개의 명령어로 이루어진 프로그램을 실행하는 SUBLEQ 컴퓨터는, 뱅크에 들어맞는 모든 네트워크를 구축하고 8비트 이상의 모든 워드 폭(word width)에서 동일한 방식으로 자기 자신을 복제한다; 직접 실행하면 자신의 가중치, 메모리, 테이프의 직렬화(serialization)를 출력한다. 정수 사전활성화(pre-activation) 값은 모든 궤도(orbit)에 1/2의 마진(margin)을 부여하며, 각 유닛을 r번 복제하면 마진이 r배가 된다. 이는 사전활성화에 대한 어떤 크기의 잡음(noise)에도 충분하지만, 폰 노이만의 출력 비트 반전(output flip)에 대해서는 팬인(fan-in)에 반비례하는 임계값 이하에서만 충분하다. 이러한 결과는 Rocq에서 증명되었다.
우리는 다음 관찰에 기반하여 추론 모델을 위한 자기 개선(self-improvement) 루프를 소개합니다. 문제의 난이도가 모델의 현재 해결 능력을 초과하더라도, 추가로 제공된 풀이를 통해 모델이 사후(hindsight)에 유용한 해결 아이디어를 추출할 수 있습니다. 우리는 문제만으로 해결 아이디어를 예측하기, 문제와 알려진 풀이로부터 아이디어를 역공학(reverse-engineering)하기, 제공된 아이디어를 활용해 문제 해결하기라는 세 가지 능력을 동일한 모델이 갖추도록 공동 학습(joint training)함으로써 이를 구체화합니다. 이 루프는 풀이가 제공된 문제로부터 이러한 아이디어를 역공학하는 과정과, 세 가지 능력 모두에 대한 공동 학습의 추가 지도 신호(supervision)로 이 아이디어들을 활용하는 과정을 번갈아 수행합니다. 우리는 제안하는 방법의 형식적 명세와 함께 Lean 정리 증명기(theorem prover) 기반의 대화형 정리 증명(interactive theorem proving)을 위한 구체적인 인스턴스화를 제시하며, 실증적 평가는 향후 과제로 남겨둡니다.
Dung이 도입한 추상 논증 프레임워크(AF)는 인공지능에서 비단조 추론(non-monotonic reasoning)을 위한 형식적 기초를 제공합니다. 일반적인 무한 AF에 대한 결정 문제(decision problem)는 통상 해석적 위계(analytical hierarchy)의 높은 수준($Σ_1^1$ 또는 $Π_1^1$)에 속하지만, 프레임워크를 계산 가능하게 유한(computably finitary)하도록 제한하면 일부 복잡도를 산술적 위계(arithmetical hierarchy) 수준으로 낮출 수 있습니다. 본 논문에서는 계산 가능하게 유한한 AF에서 기저 의미론(grounded semantics)과 선호 의미론(preferred semantics)에 대해 표준적인 결정 문제들, 즉 신뢰적 수용($\Cred$), 회의적 수용($\Skep$), 확장 존재성($\Ex$), 유일성($\Uni$), 비공집합 존재성($\NE$) 전반에 걸친 복잡도 매핑을 제시합니다. 기저 의미론의 경우 신뢰적 수용과 회의적 수용은 이미 $Σ_1^0$-완전(complete)임이 알려져 있습니다. 본 연구에서는 비공집합 존재성 역시 $Σ_1^0$-완전인 반면, 존재성과 유일성은 자명(trivial)함을 보입니다. 이러한 분류는 유효한 계산 가능 유한 표현의 영역 내에서 이해됩니다. 선호 의미론의 경우, 계산 가능 유한 분기 계산 트리를 사용하여 $\Cred_{\pref}$는 $Π_1^0$-완전이고 $\NE_{\pref}$는 $Σ_2^0$-완전임을 보입니다. 그러나 이는 보편 양화(universal quantification)와 대역적 유일성을 줄이기에는 충분하지 않아, $\Skep_{\pref}$는 $Π_1^1$에 남고 $\UniPref$는 $Σ_2^1$-완전으로 남게 됩니다. 본 결과는 유한성이 추론 복잡도를 산술적 위계로 낮추는 데 성공하는 지점과, 2차 양화가 문제를 다시 해석적 위계로 밀어올리는 정확한 경계를 보여줍니다.
대규모 추론 언어 모델(Large Reasoning Language Models, LRLMs)은 로봇 작업 계획을 위한 다단계 추론을 가능하게 하지만, 추론을 계속 진행하면 유효한 중간 계획을 덮어쓰거나 제약 조건 위반을 해결하지 못한 채 남겨둘 수 있어 계획 수립의 신뢰성을 저하시키고 추론 시점(inference-time) 연산을 낭비하게 된다. 우리는 원래의 디코딩 궤적을 방해하지 않으면서 중간 계획을 노출하고 검증하는 추론 시점 모니터를 개발한다. 이 모니터를 기반으로, 유효한 중간 계획을 보존하고 생성 과정에서 오류 수정을 지시하는 형식적 검증기 기반 프레임워크인 SafeInferCom을 제안한다. 여러 LRLM과 계획 수립 도메인에 대한 실험을 통해 원샷(one-shot) 추론 하에서 추론과 응답 간 불일치 및 제한된 자기 수정(self-correction) 능력이 드러났다. SafeInferCom은 원샷 추론에 비해 계획 수립 성공률을 높이고 오류 수정을 가속화한다. 반복적 정제(iterative refinement)와 결합하면, 정제만 사용하는 경우와 비교하여 토큰 사용량을 줄이면서도 성공률을 더욱 향상시킨다. 또한 VirtualHome에서 SafeInferCom을 평가하고 실제 로봇 팔(robotic-arm) 시연을 제공한다.
이변량 수치 데이터에서 인과 방향성을 식별하는 것은 실질적으로 중요한 의미를 지닌 근본적인 연구 문제입니다. 본 논문에서는 조건부 분포를 고려하여 인과 방향을 식별하는 두 가지 대안적 방법인 (1) 예상 비대칭 기하학(Anticipated Asymmetric Geometries, AAG)과 (2) 단조성 지수(Monotonicity Index, MI)를 제시합니다. AAG 방법은 두 변수를 따라 실제 조건부 분포와 예상 조건부 분포를 비교합니다. 피어슨 상관계수, 코사인 거리, 헬링거 거리, 자카드 지수, 제프리스 발산, K-L 발산, K-S 거리, MAE, MSE, 상호정보량, 바서슈타인 거리 등 다양한 비교 지표를 평가했습니다. 예상 분포는 평균과 표준편차라는 이중 반응 통계량을 기반으로 정규분포로 추정되었습니다. MI 방법은 두 축을 따른 조건부 분포 그래디언트(gradient)의 계산된 단조성 지수를 비교하고 그래디언트 부호 변화 횟수를 나타냅니다. 두 방법 모두 이변량 데이터의 확률론적 특성을 가정하고 결과 변수 조건부 분포의 예상 단봉성을 활용합니다. 제안된 방법들은 직관적이며 식별 정확도에 영향을 미치는 하이퍼파라미터의 수가 제한적입니다. 주어진 하이퍼파라미터 세트에 대해 AAG와 MI 방법은 모두 고유하고 결정론적인 해를 제공합니다. 하이퍼파라미터 민감도를 다루기 위해 완전 요인 실험계획법(Design of Experiment)을 활용하여 튜닝을 수행했습니다. 그 결과, 튜빙겐(Tubingen) 실제 인과 관계 예제 99개 쌍에서 GRCI의 81.6% 및 CAREFL-H의 82.0%와 비교하여, AAG 방법이 단순 튜닝 시 82.7%, 크기 적응형 튜닝 시 84.4%의 최고 가중 정확도를 달성하며 MI보다 우수한 성능을 보이는 것으로 나타났습니다. 식별 방법의 결정력을 평가하기 위해 오분류 사례를 탐지하도록 입력 데이터의 대칭적 이변량 통계량에 의사결정나무를 적합했습니다.
컴파일러가 대기 상태(wait-for) 엣지를 추적하고, 멀티스레드 작업의 건전성을 증명하며, 분산 경계 계약을 보존할 때 동시성, 병렬성 및 분산 실행은 진정으로 두려움 없는(fearless) 시스템이 됩니다. 본 설계에서 저자들의 Composer 컴파일러는 C나 벤더 API를 통한 변환 없이 Clef를 네이티브 CPU, GPU, NPU 및 FPGA 코드로 직접 저수준화(lowering)하는 과정에서도 증명을 보존합니다. 본 연구의 프로그램 의미론 그래프(Program Semantic Graph)는 BAREWire의 언박싱된 경계 계약을 정당화하는 값, 관계 및 전제를 유지합니다. 또한 C 및 C++ 인터페이싱은 명시적인 마샬링 경계 역할을 하며, 증명은 실제 인자, 변환 및 반환값에 연계됩니다. 네 가지 검증 계층(tier)이 본 설계에 대한 설명을 유기적으로 연결합니다. 계층 1은 주 차원 유형(principal dimensional types)에 기반한 구조적 추론(inference)을 제공합니다. 계층 2는 노드(node) 수준에서 로컬 산술, 표현 및 계산 무결성을 생성하고 검사합니다. 계층 3은 Iris, Actris, Aneris가 지원하는 분산 증명을 포함하여 재사용 가능한 도메인 및 시스템 보조정리(lemma)를 인스턴스화합니다. 계층 1~3은 개발자의 어노테이션을 요구하지 않으며, 사용 사례 확장에 맞춰 적용 범위를 넓힐 수 있도록 인용 기반 보조정리 라이브러리 설계를 활용합니다. 계층 4는 계산 및 확률적 관계 증명을 수용하며, 프로젝트 어노테이션을 통해 필요한 관계를 식별합니다. 또한 동일한 라이브러리 방향성을 확장하여 하이퍼그래프 구조로부터 관계적 구성을 인식하도록 합니다. 형식적 합성 규칙은 산술, 소유권, 프로토콜 및 실체화 근거를 연결합니다. 본 연구에서 구현한 분산 리덕션(distributed reduction)은 동시 작업자, 도착 순서 변경 및 경계 매핑 전반에 걸쳐 명시된 단일 결과를 보존합니다. 그 확률적 확장은 명시적인 오류 허용 예산(failure budget)과 함께 작업자 및 변환 오류를 수용합니다. Urschel의 최근 연구와 결합하여, 바운드가 재사용 가능한 증명 항의 유효한 원천을 제공함을 입증합니다. 이러한 구조적 설계를 통해 다양한 하드웨어 타깃 전반에서 검증을 진정한 무결점 프로그램 및 시스템을 위한 핵심 엔지니어링 원칙으로 확립합니다.
프로그램 검증은 정리 증명기(theorem prover)에서 구축된 기계 검증 가능 증명을 통해 소프트웨어의 정확성을 확립합니다. 이는 유창하지만 정확성을 보장할 수 없는 대규모 언어 모델(LLM) 생성 코드에 특히 유용한 보증입니다. 그러나 기존의 거의 모든 증명기는 샘플링이나 탐색 예산이 얼마나 들든 합격률(pass rate)만을 추구하며 성공 대비 비용 곡선(success-vs-cost frontier)을 간과합니다. 하지만 실제 소프트웨어는 수백 개의 상호의존적인 증명 의무를 수반하는 경우가 많으므로, 대규모 환경에서 중요한 것은 하나의 정리를 증명할 수 있느냐가 아니라 얼마나 많은 정리를 경제적으로 증명할 수 있느냐입니다. 본 논문에서는 비용 제약 하에서의 메타레벨 의사결정으로 비용 효율적인 프로그램 증명을 공식화하고 2단계 증명 그래프에 기반한 CoCo-Prover를 소개합니다. 각 선언 내부의 AND/OR 증명 하이퍼그래프는 선언 간 보조정리 의존성 그래프와 결합되며, 매 단계마다 어떤 미해결 목표(open goal)를 선택할 것인지, 그리고 이러한 목표에 대해 어떤 행동을 비용을 지불하고 취할 것인지라는 두 가지 질문에 답합니다. 목표 선택은 증명 그래프에 대한 위상 정렬 순회로서 기호적(symbolic) 방식을 유지합니다. 행동 선택은 메타레벨 의사결정을 통한 에이전트 오케스트레이션입니다. 즉, 에이전트 기반 라우터는 한정된 전문가 호출 각각을 개별적으로 가격이 책정된 최선 노력(best-effort) 연산으로 취급하고, 증거가 축적됨에 따라 발전하는 라우팅 규칙에 따라 이종 전문가 에이전트들을 다양한 구성과 함께 매칭합니다. 함수 수준의 CLEVER, VERINA, AlgoVeri와 저장소 수준의 NTP4VC 및 Vero를 포함한 Lean 4 기반의 5개 프로그램 검증 벤치마크에서, CoCo-Prover가 프론티어 코딩 에이전트 및 최첨단 LLM 기반 증명기를 포함한 기준선(baseline) 대비 더 우수한 성공 대비 비용 곡선을 달성함을 보여줍니다. CoCo-Prover는 모든 벤치마크에서 최고 해결률을 달성했으며 두 벤치마크에서는 최대 100%를 기록했습니다. 또한 본 평가에서 가장 강력한 LLM을 사용한 가장 강력한 기준선과 비교해 비용을 최대 30.9% 절감합니다.
자율 코딩 에이전트(coding agent)의 도입이 점차 확대됨에 따라, 태스크에 우발적으로 발생하거나 적대적으로 주입된 명세 오류(misspecification)가 위험한 에이전트 행동으로 이어질 수 있는 위험을 해결하는 것이 매우 중요해졌습니다. 선행 연구에 따르면 이러한 태스크가 주어졌을 때 에이전트는 충돌을 지적하는 경우가 드물며, 대신 테스트를 수정하거나 기대 출력을 하드코딩하는 등의 부정행위를 저지르는 것으로 나타났습니다. 또한 결함이 있는 테스트를 통과시키기 위해 보안 방어 코드를 삭제하는 등 부정행위를 위해 취한 조치는 실질적인 피해를 초래할 수 있습니다. 에이전트가 행동하기 전에 독립적으로 검증 가능한 증거를 바탕으로 이러한 충돌을 규명할 수 있는지는 아직 불명확합니다. 본 논문에서는 태스크 의도와 테스트 사이의 이러한 충돌을 탐지하고 정형적으로 증명(formal certification)하는 SpecGuard를 제안합니다. 태스크 설명과 코드베이스만 주어지면, SpecGuard는 의도된 동작을 Lean 4 명세로 자동 정형화(autoformalization)합니다. 테스트 또한 독립적으로 정형화되며, Lean 커널(kernel)은 두 정형 명세를 동시에 만족할 수 있는 구현체가 존재하는지 검사하여 어떠한 구현체도 불가능할 경우 기계 검증된 증명서를 생성합니다. 충돌이 존재하는 SWE-bench 태스크에서 SpecGuard는 최대 72.8%의 충돌을 탐지하고 최대 51.1%를 정형적으로 증명하여, 모델(model) 기반 판단 대비 충돌 누락률을 약 5배 낮췄습니다. SpecGuard는 에이전트의 어떠한 행동도 관찰되기 전에 태스크 수준의 충돌을 정형 증명함으로써 보상 해킹(reward hacking) 가능성을 식별하는 실행 전 안전성(safety) 검사를 제공합니다. 본 연구의 코드는 https://github.com/prmbiy/specguard 에서 이용할 수 있습니다.
대규모 언어 모델(LLM) 기반 에이전트(agent)는 준수해야 할 의무가 이미 명문화되어 구속력을 가지며, 조달된 컴포넌트로 모델이 도입되어 재학습을 제어 수단으로 활용할 수 없는 국방 참모 업무의 의사결정 지원 역할에 도입되고 있습니다. 공학적으로 제어할 수 있는 부분은 에이전트와 에이전트가 작용하는 시스템 간의 인터페이스입니다. 이러한 의무는 공간적, 시간적, 텍스트 의미적 특성을 동시에 지니며, 위반은 대개 다단계 상호작용의 결합에서 발생하므로 이벤트별 가드레일은 순차적인 도구 공격 체인을 놓치게 됩니다. 본 연구에서는 자연어 정책 조항을 단일 표준 이벤트 스트림 상의 형식화된 공간/시간/의미론적 트리플(triple)로 분해하고, 고유한 모니터링 명세로 각 측면을 검사하며, 출처 정보를 보존하는 4치 대수를 통해 판정을 융합하는 다면적 런타임 검증 프레임워크를 제안합니다. 공간적 측면은 임무 기하구조와 정보 공개 토폴로지가 단일 객체로 통합된 가중치 기반 이종(two-sorted) 위치 그래프 상에서 해석되며, 이러한 공간적 의무가 일반적으로 1차 시제 명세에 포함되지 않음을 보입니다. 과거 시제 측면은 수정되지 않은 MonPoly 엔진에서 실행되며, 이는 모든 시점에서 당사의 참조 모니터와 일치합니다. 사상자 후송 및 분쟁 지역 군수 지원이라는 두 가지 임무 도메인과 하나의 민간 도메인 전반에서, 예방적 차단 정책 하의 결합 적용은 관찰된 위양성 없이 마이크로초 단위의 이벤트당 비용으로 공격 성공률을 0으로 낮추었으나, 단일 측면 또는 쌍 단위의 검증은 상당한 비율의 공격 성공을 허용했습니다. 폐루프 실험에서 정책을 인식하지 못하는 플래너는 차폐되지 않은 임무의 대부분에서 위반 상태에 도달했으나 차폐된 임무에서는 전혀 도달하지 않았으며, 거부된 에피소드 5건 중 4건은 규정을 준수하는 결과로 복구되었습니다.
코딩 에이전트(coding agent)는 프로그램이 명세(specification)를 만족하고, 해당 명세가 요구된 동작을 정확히 담아내고 있음을 입증해야 합니다. 본 연구에서는 검증 실패에 대한 전문가의 진단이 어떻게 이러한 작업을 위한 재사용 가능한 지침이 될 수 있는지 살펴봅니다. 본 접근 방식은 K 프레임워크의 실행 가능한 언어 정의와 명세 작성, 증명 수정, 그리고 적절성 감사를 위한 절차 키트를 결합합니다. 164개의 파이썬 프로그래밍 작업으로 구성된 벤치마크인 HumanEval에서 인간 주도형 개발을 진행한 결과, 해당 시맨틱과 키트를 적용하고 두 차례의 집중 수정을 거쳐 최종 AI 감사에서 '통과(Pass)' 판정을 받음으로써 164/164의 성공률을 달성했습니다. 성공적인 증명에서도 해결되지 않은 문제를 감사가 감지할 수 있는지 검증하기 위해, 저자 검토를 거친 12쌍의 정상 패키지와 결함 패키지를 구축했습니다. 모든 패키지는 K 증명을 통과했으며, 완료된 감사는 모든 결함을 식별하고 정상 패키지를 모두 승인했습니다. 이어 연산자 의미가 변경된 31개 프로그램을 대상으로 KleverBench를 사용하여 명세 및 증명 생성을 테스트했습니다. 완전한 수락 규칙 및 동일한 길이의 일반적인 조언과의 비교에서는 두 가지 모델과 예산 설정에 걸쳐 엇갈린 결과가 나타났으며, 이는 자원 한도 내에서 유용한 지침을 선별하는 후속 연구의 필요성을 시사합니다. 인간이 검토한 Optimism 증명은 무제한 가스 환경의 London 시맨틱 하에서 선언된 입력 범위 내 6개 연산에 대해 예상되는 일시 중지 되돌리기(pause revert)를 규명합니다. 본 논문에서는 검증 가능한 정확성 논거를 갖춘 프로그램을 제공하는 에이전트를 향한 진전, 난제, 그리고 교훈을 보고합니다.
중복도를 고려하여 센 전체 개수에 대비해 리만 제타 함수의 서로 다른 비자명 영점(distinct nontrivial zeros)의 점근적 비율 하한은 최소 $0.8369928814\ldots$이다. 이전 연구에서는 $0.83625\ldots$가 증명되었으며, 본 연구진이 검증하지 않은 한 보고서에서는 $0.83672\ldots$를 주장한다. $0.83625$ 상한의 증명에서와 마찬가지로, 몽고메리의 쌍 상관 정리(Montgomery's pair-correlation theorem)의 무조건적 버전이 점근적 에너지 추정치를 제공한다. 새로운 핵심 요소는 자유 클리핑 매개변수(parameter)를 갖는 짧은 행렬 부등식이다. 이는 서로 구별되는 영점의 수 관점에서 이 에너지의 하한을 강화한다. 이러한 개선은 임계선(critical line) 상의 서로 다른 인접 영점 간의 중첩에서 비롯된 음이 아닌 보정값이며, 이들 영점 중 일부가 이중 영점인 경우에도 유지된다. 행렬 부등식, 임계값 보조정리(threshold lemma), 블록 이분법(block dichotomy), 계수 결합(counting assembly) 및 정확한 산술은 Lean 4에서 형식적으로 증명되었다. 이 상수는 아직 심사를 거치지 않은 최근 연구의 컴퓨터 보조 국소 부등식에 의존한다. 해당 계산은 독립적으로 다시 수행되었으며, 가져온 모든 입력값이 나열되어 있다. 본 논문은 주로 AI 보조 수학 연구에 관한 실험이다(섹션 4).
우리는 전이 불확실성이 있는 일반합(general-sum) 동시 확률 게임(concurrent stochastic games, CSG)을 위한 최초의 PAC(Probably Approximately Correct) 학습 프레임워크를 제안하며, 이때 내시 균형(Nash equilibrium, NE)의 존재 여부라는 문제도 함께 다룬다. 제안하는 알고리즘은 전이 커널에 대해 데이터 기반 $L^1$ 신뢰 집합(confidence set)을 유지하고, 강건한(robust) CSG를 풀어 사회적 후생(social-welfare) 측면에서 최적인 $\varepsilon$-NE를 계산하며, 강건 MDP 기반의 탐험(exploration) 메커니즘을 사용해 결합 상태-행동 커버리지를 확보한다. 특히 우리는 균형 존재 여부에 대한 원리적인 추론을 가능하게 하는 내시 마진(Nash margin) 특성화를 도입한다. 이에 따라 프레임워크는 사회적 후생 값이 최적값에 $\varepsilon$ 이내로 근접한 $\varepsilon$-근사 NE를 반환하거나, 정확한 NE가 존재하지 않는다는 타당한(sound) 증명서(certificate)를 제공한다. 관련 상태-행동 쌍에 대해 최소 도달 가능성 조건 $p_{\mathrm{reach}}>0$이 성립하면, 알고리즘은 다항식 개수의 궤적 샘플 이후 종료되며, 표본 복잡도는 $\widetilde{O}\left( {R_{\max}^2 H^4 |S|^2 |A| / (p_{\mathrm{reach}} \varepsilon^2)} \right)$이다. 벤치마크 CSG에 대한 실험 결과는 최적에 가까운 성능, 균형 (비)존재에 대한 올바른 처리, 그리고 이론과 부합하는 표본 복잡도를 보여준다.
본 논문에서는 10년 이상 정규 강의, 서머스쿨 및 튜토리얼에서 활용되어 온 논리 다원주의적 LogiKEy 방법론을 바탕으로, 컴퓨터 과학, 수학, 철학을 전공하는 혼합 학생 그룹을 대상으로 논리학을 교육하는 접근법을 보고한다. LogiKEy는 고전 고계 논리(HOL)를 보편적 메타논리로 사용하여 고전 논리와 비고전 논리를 막론한 대상 논리들의 의미론을 정의함으로써 이를 인코딩한다. 이러한 의미론적 임베딩을 통해 자동 정리 증명기 및 (반례) 모델 탐색기를 갖춘 단일 증명 보조 도구(예: Isabelle/HOL)는 학생들이 다양한 논리를 학습하고, 실험하며, 비교할 수 있는 하나의 환경이 된다. 논리학 수업에서 증명 보조 도구 활용의 교육적 타당성을 제시한 후, 이전 표현 방식의 한계, 보다 명시적인 모델링 자원에 대한 필요성 또는 새로운 응용 분야에 의해 각 단계의 전환이 유도되는 단계별 수업 예제 시퀀스를 제시한다. 거짓말쟁이와 진실을 말하는 사람 퍼즐은 명제 논리에서 양상 논리로 이어지며, 지혜로운 사람 퍼즐은 동적 인식 논리로 나아간다. 불로스(Boolos)의 기묘한 추론은 자동 증명 탐색에서도 고계 메타논리가 제공하는 이점을 보여주며, 치좀(Chisholm)의 역설은 이 시퀀스를 의무 논리로, 그리고 표준 의무 논리에서 이항 의무 논리로 확장한다. 또한 괴델(Gödel)의 존재론적 논증을 통해 이를 연구 수준의 형이상학적 논증으로 발전시킨다. 이어 모든 것을 고전 HOL에 임베딩하는 것이 다원주의가 아닌 일원주의라는 반론을 반박하고, 3년간 이러한 강의를 진행한 경험을 되돌아보며, Isabelle을 넘어선 본 접근법의 이식 가능성을 개괄한다.
논리 프로그래밍은 신경기호 인공지능(Neurosymbolic AI) 시스템의 기호(symbolic) 구성 요소로 점점 더 널리 사용되고 있습니다. 본 논문에서는 이러한 환경에서 사용되는 주요 규칙 기반 언어인 Datalog, 답 집합(answer set), 확률적 논리 프로그램을 의미론(semantics), 표현력(expressiveness), 신경망 통합(neural integration), 평가 메커니즘(evaluation mechanism)이라는 네 가지 축을 기준으로 조사합니다. 또한 데이터베이스 및 프로그래밍 언어, 머신러닝, 비전, 로보틱스의 네 가지 연구 분야에 걸쳐 포멀리즘(formalism)의 활용을 비교하며 50개 이상의 최근 시스템과 응용 사례를 분석합니다. 나아가 적용 시나리오와 필수 기능을 매핑하는 의사결정 매트릭스를 제공하고 미해결 과제들을 정리하며 마무리합니다.
"어떤 결과를 만들어내기에 충분한 환원 불가능한 조건은 무엇인가?"는 계산 및 과학 전반에서 가장 흔하게 반복되는 질문 중 하나입니다. 이에 대한 해답인 '최소 충분 증인(minimal sufficient witness)'은 우리가 설명, 메커니즘, 이유라고 부르는 것을 의미합니다. 이러한 문제들은 대개 다수의 최소 증인을 요구하지만, 표준적인 강화학습(RL) 방법론은 단 하나의 해답만을 제시하거나 중복된 해답을 제시하는 데 그칠 수 있습니다. 본 연구에서는 이 문제를 최소 증인 식별(minimal-witness identification) 문제로 공식화하고, 최소 증인 강화학습(MWRL, Minimal-Witness Reinforcement Learning)을 제안합니다. MWRL은 정책(policy)에서 샘플링된 성공적인 제안들에 의해 인증된 집합들의 합집합을 취하고, 해당 제안이 없을 경우 전체 합집합이 잃게 될 커버리지에 따라 각 제안에 크레딧(신용)을 부여합니다. 문제 정의에서 직접 도출된 이러한 크레딧 할당(credit assignment) 방식은 단일 블랙박스 검증자(verifier) 비트로부터 대안들의 복원과 최소성에 대한 요구조건을 통합합니다. 이러한 원리를 바탕으로, 저자들은 증인 전체 군(family)을 복원하는 가치 반복(value iteration) 플래너와 대규모 언어 모델(LLM)로 확장 가능한 정책 그래디언트(policy gradient) 기법을 도출합니다. 다양한 실험 환경 전반에서 다른 방법론들이 중복된 상위 집합이나 단일 증인만을 도출하는 것과 달리, MWRL은 대부분의 최소 증인을 성공적으로 복원합니다. 검증자 피드백으로부터 증인 군을 학습할 수 있게 함으로써, MWRL은 강화학습의 범위를 단일 해 최적화를 넘어선 영역으로 확장합니다. 코드는 https://github.com/TSUITUENYUE/MWRL 에서 확인할 수 있습니다.
프로그래머블 무선 전파(programmable radio propagation)가 단순한 통신 채널이나 일회성 아날로그 변환을 넘어 연산 깊이(computational depth) 역할을 수행할 수 있을까? 본 논문에서는 지속적인 잠재 상태(latent state) 상에서 에너지 기반 문제 업데이트와 혼합 업데이트를 교차 수행하는 순환형 컴퓨팅 아키텍처인 무선 교차 연산자 안사츠(Radio Alternating Operator Ansatz, RAOA)를 제안한다. 각 혼합 단계 이후 문제 필드를 재계산함으로써, 여러 층에 걸쳐 동일한 학습된 제어 파라미터를 재사용하더라도 반복적인 패스가 합성적(compositional) 특성을 갖도록 만든다. 우리는 정확한 이산 최적화, 제약 조건이 있는 프로그래머블 전파 시뮬레이션, 사전학습 모델 적응(adaptation)을 통해 이 아이디어를 평가한다. 이산 목적 함수에서 반복 실행은 학습된 제어 파라미터 수를 늘리지 않고도 해의 품질을 향상시킬 수 있으며, 동일한 정식화로 고차 상호작용을 직접 처리할 수 있다. 나아가 수동형 위상 전용(phase-only) 자유 공간 모델을 통해, 구현 오차에도 불구하고 유용한 다운스트림 동작을 유지하면서 필요한 연산자를 프로그래머블 전파로 근사할 수 있음을 보인다. 0으로 초기화된 잔차 어댑터(residual adapter)로 삽입될 때, RAOA는 세 가지 모델 패밀리에 걸쳐 매칭된 얕은 MLP와 유사한 WikiText 성능으로 사전학습 언어 모델을 적응시키는 반면, 추론 태스크 전이는 모델에 따라 차이를 보인다. 종합적으로, 이러한 결과는 교차 연산자 연산, 프로그래머블 무선 전파, 신경망 적응을 단일 순환 프레임워크 내에서 연결한다. 단, RF 구현에 관한 증거는 하드웨어 실증이 아닌 시뮬레이션에 기반한다.
신뢰할 수 있는 증명 검증은 고난도 수학적 추론에 대한 AI 시스템의 학습(training)과 평가(evaluation)에서 여전히 병목 현상으로 남아 있습니다. Lean과 같은 언어로 작성된 완전한 형식적 증명(fully formal proofs)은 모호하지 않고 모듈화되어 있어 검증하기 쉽습니다. 그러나 대부분의 증명, 특히 AI 시스템이 작성한 증명은 두 가지 특성을 모두 갖추지 못했으며, 이를 형식 언어로 번역하는 것은 많은 프론티어 수학 환경에서 여전히 어려운 과제입니다. 본 논문에서는 자연어의 유연성을 유지하면서도 형식적 증명의 모듈성과 정밀성을 포착하는 증명 형식인 의사 형식화(Pseudo-Formalization, PF)를 제안합니다. 의사 형식적 증명은 독립적인 모듈들로 분해되며, 각 모듈은 전제, 결론 및 증명을 자연어로 명시합니다. 일반 자연어 증명의 정확성을 검증하기 위해, 대규모 언어 모델(LLM)이 이를 의사 형식적 표현으로 변환한 다음 각 모듈을 독립적으로 검증하는 블록 검증(Block Verification, BV) 알고리즘을 사용합니다. 올림피아드 및 연구 수준의 수학을 아우르는 두 가지 벤치마크(benchmark)에서 PF+BV를 평가한 결과, 오류 발견 정밀도(precision)와 재현율(recall) 측면에서 LLM-as-a-judge 베이스라인을 파레토 지배(pareto-dominates)함을 확인했습니다. 향후 연구를 지원하기 위해 연구 수준의 증명 검증 벤치마크인 ArxivMathGradingBench를 공개합니다.