본 연구는 논리 제약과 제약에 일치하는 데이터셋을 함께 생성하는 신경기호 학습 과제 생성기 NeSySy를 소개한다. 기존 벤치마크와 달리 제약의 구조, 엄격도, 입력 의존성, 데이터 생성 및 정렬 전략 같은 핵심 속성을 세밀하게 조절할 수 있다. 특히 무한 도메인에서도 표현력이 높은 제약을 쓸 수 있다. 풀이기는 제약이 의미가 있는지, 생성한 표본이 제약을 만족하는지 보장한다. NeSySy는 선언적 제약을 활용한 학습과 원격 감독을 통한 학습을 모두 지원하게 설계했다. 여러 제약 계열에서 매개변수가 과제 난도에 체계적이면서 대체로 독립적인 영향을 준다는 증거를 제시한다. NeSySy를 활용해 제약을 고려하는 학습 방법을 연구했다. 제약을 명시적으로 강제하는 편이 유리한 조건과, 표현력이 높은 무제약 모델이 데이터에서 제약 구조를 직접 학습할 수 있는 조건을 각각 확인했다. 이 결과는 NeSySy를 학습과 논리 구조의 상호작용을 분석하는 통제된 실험 환경으로 활용할 수 있음을 보여 준다. NeSySy의 파이프라인에는 여러 풀이기가 포함된다. 충족 가능성 검사기인 CNFgen과 Z3는 제약을 생성하고 검증한다. MaxSAT용 RC2와 OMT용 Z3 같은 제약 최적화 풀이기는 모든 생성 표본이 제약과 일치하도록 최적 수정을 계산한다.
본 서베이는 기존 컴퓨터 대수(CA) 알고리즘을 최적화하고 기호 계산을 직접 수행하기 위해 컴퓨터 대수 분야에서 기계학습(ML)을 활용하는 사례를 살펴본다. 전통적인 기호적 방법은 수학적으로 엄밀하지만 계산 비용이 큰 경우가 많아 실제 응용에서의 사용이 제한된다. 최근의 발전은 데이터 기반 기법이 휴리스틱 결정을 안내하고, 최적의 알고리즘을 선택하며, 대수적 대상의 구조적 성질을 예측하거나 심지어 기호 계산을 직접 수행함으로써 이러한 한계를 해소할 수 있음을 보여 왔다. 본 서베이는 체계적 문헌 고찰 방식을 취하여 원통형 대수적 분해, 그뢰브너 기저 계산, 기호 적분 등 다양한 CA 응용 분야의 연구를 발굴한다. 또한 의사결정나무에서 트랜스포머에 이르기까지 이러한 과제에 사용된 다양한 ML 접근법을 비교한다. 서베이에서 드러난 문제로는 CA용 벤치마크 데이터셋의 부재가 있으며, 이는 방법 간 비교와 ML 모델의 일반화 가능성을 저해한다. 또한 설명 가능한 AI 도구가 의사결정에 대한 신뢰를 형성하고 CA 연구 자체를 발전시키는 데 기여할 잠재력이 있음을 확인한다.
앨런 뉴얼, J. C. 쇼, 허버트 사이먼이 1955~1956년에 개발한 Logic Theorist(LT)는 최초의 인공지능 프로그램으로 여겨지기도 한다. 처음에는 사람이 손으로 실행을 모의했으며, Logic Language(LL)라는 의사 코드로 작성했다. 이 언어는 나중에 Information Processing Language One(IPL-I)으로 불렸다. LT는 여러 차례 개정됐다. 처음 컴퓨터에서 실행한 버전은 IPL-II로 작성해 JOHNNIAC에서 구동했다. 후기에 개발한 버전은 Einar Stefferud가 1963년에 교육용 문서로 공개했으며 IPL-V로 작성했다. IPL-V는 공식적으로 공개된 유일한 IPL 버전이다. 본 연구는 LT의 IPL-I(LL) 버전과 1963년 IPL-V 버전을 다시 실행 가능하게 복원한 과정을 설명한다. 두 복원 결과를 비교해 초기 AI 알고리즘과 컴퓨터 언어가 발명된 과정을 살펴본다.
Python용 CrossHair와 같은 도구의 기호 실행은 버그를 찾는 강력한 기법이지만, 코드에 어서션을 주석으로 다는 사람의 노력과 외부 데이터베이스처럼 Python 밖의 실행 환경을 모델링해야 한다는 두 가지 장벽이 도입을 가로막는다. 이를 모두 극복하기 위해, 기호 실행 도구 CrossHair를 AI 코딩 에이전트와 함께 조율하는 에이전트 하니스를 설계한다. 이 하니스는 사람의 개입 없이 저장소에 어서션을 삽입하고, 데이터베이스에 대한 제약 조건 인식 기호 환경을 합성하며, 기호 실행을 수행하고, 보고하는 각 버그의 증거로서 구체적인 테스트를 구성한다. 11개의 인기 오픈소스 Python 웹 애플리케이션(Zulip, NetBox, Apache Superset 등)의 총 1,156,044줄 Python 코드에서 이 하니스를 평가한다. 합성된 환경을 사용하면 CrossHair는 계약이 명시된 5,406개 함수의 81%를 실행하는 반면, 사용하지 않으면 4.5%를 실행한다. 이 파이프라인은 1,050개의 버그를 발견하며, 각각은 수정되지 않은 애플리케이션에 대한 테스트로 재현되었다. 이 중 221개는 CrossHair가 발견하였고, 312개는 동일한 LLM이 코드를 검사하는 기준선이 놓친 것이다. 두 방식은 서로 다른 종류의 버그를 찾는다. CrossHair가 찾은 버그는 대부분 빈 문자열, 누락된 필드, 특이한 문자처럼 검증을 통과하는 입력 도메인의 경계 사례에서 발생하는 충돌이며, 검사 방식이 찾은 버그는 대부분 잘못된 출력을 만드는 버그이다. 따라서 본 프레임워크는 기호 실행이 검사 기반 버그 발견을 보완하도록 한다.
소형 언어 모델은 다단계 절차를 따라야 하는 도구 사용 과제에서 어려움을 겪는다. 이러한 실패가 제한된 능력을 반영하는지, 아니면 절차적 지식의 부재를 반영하는지는 여전히 불분명하다. 본 논문은 모델 가중치를 갱신하지 않고 전문가 추적 기록을 재사용 가능한 프로그램으로 증류하는 검증 가능한 보상 기반 프로그램 학습(Program Learning with Verifiable Rewards, PLVR)을 제안한다. 최첨단 모델이 추적 기록에서 반복되는 연산을 타입이 지정된 기본 요소(primitive)와 규칙으로 변환하고, 탐색 과정이 참조 행동과 학습 과제 검사를 이용해 이들을 조립한다. 동결된 소형 모델이 기본 요소를 실행하며, 결정적 검증기가 그 출력을 확인한다. 이렇게 얻은 프로그램은 학생 모델의 추론을 안내하거나 학생 모델이 제안한 행동을 검사한다. 합성 학습 과제와 보지 못한 벤치마크 테스트 과제를 사용하여, 동일한 프로그램을 여러 학생 모델에 적용해 $\tau^2$-Bench Retail 및 Telecom과 LiveMCPBench에서 평가한다. Telecom에서 PLVR은 8B 모델의 성공률을 43.0%에서 91.2%로 높였으며, 더 큰 학생 모델은 최대 94.4%에 도달한 반면 최고 기준선은 57.9%였다. Retail과 LiveMCPBench에서 PLVR은 최고 기준선들과 대등한 성능을 보이지만, 도구 탐색은 여전히 학생 모델에 더 크게 의존한다. 이러한 결과는 추가적인 추론 연산을 더 신뢰할 수 있는 도구 사용과 맞바꾸어, 동결된 모델들 사이에서 전문가의 절차를 전이하는 방법으로서 프로그램 학습을 뒷받침한다.
관측 데이터로부터 대칭을 발견하면 동역학계에 대한 해석 가능한 통찰과 과학적 기계학습을 위한 사전 지식을 얻을 수 있다. 그러나 기존 대칭 발견 방법에는 두 가지 한계가 있다. 많은 방법이 대칭을 암묵적으로 표현하므로, 동역학계 학습의 물리적 사전 지식으로 쓸 수 있는 명시적 무한소 생성자를 얻기 어렵다. 한편 생성자를 명시적으로 식별하는 방법은 사전 정의된 함수 라이브러리에 의존하는 경우가 많아, 고차 다항식이나 초월함수를 포함하는 복잡한 대칭을 포착하는 능력이 제한된다. 이러한 한계를 해결하기 위해 본 논문은 복잡한 함수 형태를 포착하도록 기호 함수 라이브러리를 동적으로 확장하는 반복적 기호 탐색 과정을 통해 무한소 생성자를 명시적으로 식별하는 프레임워크인 LieDiscover를 제안한다. 구체적으로 각 탐색 단계에서 후보 기호 표현을 생성하기 위해 인코더-디코더 구조를 설계한다. 각 후보가 복원 가능한 대칭 부분공간에 얼마나 기여하는지 평가하기 위해 적응형 특이값 분해(SVD) 기반 평가를 도입한다. 그 결과 얻은 평가는 단계별 보상에 반영되어, 간결한 기호 표현으로 더 풍부한 대칭 구조를 발견하도록 강화학습을 유도한다. 8개의 편미분방정식(PDE) 벤치마크 실험에서 LieDiscover는 고차 다항식, 지수, 삼각함수 항을 포함하는 명시적 생성자를 복원하였으며, 더 정확한 대칭 부분공간 복원과 향상된 잡음 강건성을 달성하였다. 나아가 복원된 생성자는 효과적인 대칭 기반 데이터 증강을 가능하게 하여 하위 신경망 PDE 풀이기의 정확도를 향상시킨다.
신경-기호 시스템은 전문가 에이전트나 기타 지식원으로부터 관련 있는 답변만을 결합해야 한다. 지식 네트워크가 성장하여 더 많은 지식원과 연결될수록, 주어진 입력 질의에 대해 관련 있는 전문가만 사용하는 것은 정확도와 확장성 측면에서 점점 더 중요해진다. 우리는 증거에 관한 법 이론의 표준적인 관련성 정의를 확장한다. 즉, 답변은 가용한 지식을 고려할 때 당면한 사안에 대해 입증력(probative)과 실질적 중요성(material)을 모두 가질 때, 그리고 그 경우에만 관련성이 있다. 우리는 이 관련성 체계를 실제 또는 인공 전문가의 피드백 퍼지 인지 지도(FCM)를 혼합하는 데 적용한다. 전문가 FCM의 방향성 인과 그래프는 하나의 공통 지식 네트워크로 혼합 또는 결합된다. 우리는 전문가들의 평형 극限 순환(limit-cycle) 예측 또는 답변을 혼합 FCM의 답변과 비교하고, 그 차이 또는 변동으로부터 답변의 입증적 지위를 추정한다. 새로운 베이즈 유사 정리는 지식 혼합물을 이에 대응하는 사후 유사 FCM으로 분리하며, 이 FCM 역시 관련성 기반 비교를 가능하게 한다. 그 결과 주어진 질의에 대해 관련성 혼합 FCM 지식 네트워크를 만들어 내는 최종 관련성 혼합 가중치 집합이 얻어진다. 따라서 질의가 다르면 서로 다른 관련성 혼합 FCM이 생성된다. 우리는 허혈성 뇌졸중 위험의 원인과 피드백을 모델링한 실제 13개 노드 전문가 FCM으로부터 생성한 합성 FCM을 사용하여 이 관련성 접근법을 시연한다.
콘웨이의 99-그래프 문제는 매개변수가 srg(99,14,1,2)인 강정규 그래프가 존재하는지를 묻는다. 우리는 서로 보완적인 두 가지 공략 방법을 전개한다. 한 꼭짓점을 고정하면 조건 lambda=1과 mu=2가 그 이웃을 완전 매칭으로 강제하고 그 이웃과 나머지 꼭짓점 사이의 모든 간선을 결정한다. 따라서 (99,14,1,2)에서 미해결 부분은 84개 꼭짓점 위의 제약된 12-정규 그래프이다. 우리는 이 축소를 CP-SAT으로 인코딩하고 유일한 srg(9,4,1,2)를 복원함으로써 이를 검증한다. 또한 Z/99 위의 어떠한 순환 그래프도 CAISc 제약의 68.0% 넘게 만족하지 못함을 전수 열거로 증명하며, 주어진 자기동형사상에 대한 검증된 궤도 정식화를 제시한다. 이어서 부분 점수 탐색 문제를 연구한다. 사람이 설계한 14개의 탐색 구성은 최대 69.43%에 도달했다. 별도로, 점수 함수를 진화적 프로그램 탐색 시스템에 제공하였다. 그 결과 차수를 보존하는 4-꼭짓점 스위치 타부 탐색이 생성되었으며, 검증된 최고 산출물의 점수는 70.73%이다. 생성된 이동 연산은 우리 자체 탐색에서 사용한 것과 다르며, 그 탐색들에서는 안정적이던 고원을 넘어선다. 주어진 대칭군(먼저 Z/33, 이어서 그 위수 11의 부분군)을 갖는 그래프로 제한한 타부 탐색은 점수 76.67%의 14-정규 그래프에 도달한다. 이러한 결과는 존재 문제를 해결하지는 못하지만, 정확한 탐색 공간을 줄이고 우리 실험에서 발견된 검증된 부분 구성 중 최상의 결과를 개선한다.
인공생명(A-life) 에이전트의 행동을 제어하는 신경망은 여러 세대에 걸쳐 진화할 수 있다. 이러한 신경망은 에이전트의 생존에는 효과적이지만, 일반적으로 인간 관찰자에게는 불투명하다. 또한 신경망 가중치는 서로 다른 신경망 구조를 가진 에이전트 간에 이전될 수 없다. 이러한 신경망을 간결한 기호적 정책으로 증류하면 인간이 A-life에서 에이전트의 행동을 이해하는 데 도움이 될 수 있다. 아울러 에이전트가 지식을 간결한 방식으로 공유할 수 있게 하여 개체군 수준의 학습을 향상시킨다. 신경 정책을 기호적 정책으로 증류하는 작업은 일반적으로 신경 정책을 근사하는 기호적 정책을 찾기 위해 기호적 정책 공간을 탐색하는 방식으로 수행된다. 그러나 도메인 특화 언어를 사용하더라도 정책 공간은 클 수 있어 유전 알고리즘과 같은 불완전한 확률적 탐색이 필요하며, 증류는 여전히 계산 비용이 크다. 우리는 이를 대신하여 손쉽게 구할 수 있는 무작위 지각-행동 데이터로 사전 학습한 트랜스포머를 사용할 것을 제안한다. 이렇게 하면 증류 속도가 크게 향상된다. 트랜스포머 구조는 신경망 구조 탐색을 통해 도출한다. 실험 결과는 서로 다른 증류 방법을 비교하고, 자기 성찰과 교수·학습을 통해 기호 공간이 A-life 개체군 동역학에 미치는 영향을 비교한다.
불변식, 즉 네트워크의 측정 신호들 사이에서 성립할 것으로 기대되는 관계는 검증에서부터 트래픽 생성, 텔레메트리 보간, 입력 검증에 이르는 응용의 기반이 된다. 그러나 이를 수작업으로 작성하려면 형식 논리와 네트워킹 모두에 대한 드문 전문성이 필요하다. 텔레메트리 변수의 가능한 모든 조합을 통계적으로 검사하는 것은 네트워크 규모에서는 실행 불가능하며, 기존 자동화 도구는 여전히 허용 가능한 불변식에 대한 사람이 작성한 문법을 요구하고 실제 환경의 잡음에서 깨지는 정확한 "경성(hard)" 규칙만 학습한다. 본 연구의 핵심 아이디어는 LLM을 사용하여 변수 메타데이터를 검토하고, 카운터 데이터 유형을 분류하며, 간결한 문법을 이루는 후보 구문 관계를 예측한 뒤, 그 문법 안에서 결정론적 통계 탐색을 수행하는 것이다. 초기 문법이 보류된 텔레메트리에서 신뢰할 수 있는 기존 불변식을 복원하지 못하면, Autogram은 복원이 성공할 때까지 LLM이 문법을 반복적으로 확장하도록 지시한다. LLM을 문법 유도와 재유도에 한정하고 후보 검증은 논리적 및 통계적 검사에 맡김으로써, Autogram은 비결정적인 AI의 제안을 유도된 문법 내에서 형식적 보장을 갖는 감사 가능한 불변식으로 바꾼다. 본 연구는 Autogram을 설계 및 프로토타입으로 구현하고 공개 및 실제 운영 WAN 텔레메트리 모두에서 평가하여, 전문가가 도출한 불변식을 완전한 재현율과 낮은 오탐률로 복원하였다. 마지막으로 완전한 개방형 불변식 발견으로 가는 길의 미해결 문제들을 논의한다.
본 논문은 실패로부터 학습(LFF) 패러다임에서 ASP 기반 가설 생성기를 대규모 언어 모델(LLM)로 대체하면서 SWI-Prolog를 형식 검증기로 유지하는 신경-기호 ILP 프레임워크인 ALBI(Agent for Learning By Induction)를 소개한다. ALBI는 반복적인 생성-검증-제약 루프를 구현한다. LLM이 구조화된 프롬프트로부터 후보 가설을 제안하고, Prolog가 각 후보를 검증하며, 진단 피드백이 정제를 이끈다. 또한 구조적 기호 귀납과 술어 이름에 대한 표면적 패턴 매칭을 구별하기 위한 메타모픽 테스트 방법론인 의미 익명화를 도입한다. 30개의 표준 ILP 벤치마크 실험에서 ALBI는 세 가지 최첨단 LLM(Gemini 3.1 Pro, GPT 5.4 Pro, Claude Opus 4.6) 모두에서 100%의 성공률을 달성하여 Popper와 대등하며, 평균 1.4~1.7회의 반복만을 필요로 한다. 익명화 하에서도 모든 모델이 100% 성공률을 유지하고 반복 횟수는 적당히 증가(1.36~1.67배)하여, 견고한 기호 추론의 증거를 제공한다.
관측 데이터로부터 지배 방정식을 발견하는 것은, 특히 기저의 수학적 구조를 알 수 없을 때, 과학적 모델링의 근본적인 과제로 남아 있다. SINDy와 같은 전통적인 희소 식별 방법은 간결한 모델을 발견하는 데 뛰어나지만 연구자가 후보 기저 함수를 사전에 지정해야 하며, 이러한 한계는 핵심 항이 누락될 때 모델 실패로 이어지는 경우가 많다. 우리는 기호 회귀의 탐색 능력과 SINDy의 강건한 희소성 촉진 능력을 결합한 하이브리드 발견 후 해결(Discovery-then-Solve) 프레임워크인 AutoSINDy를 제시한다. 우리의 방법은 세 단계로 작동한다. (1) PySR 기반 기호 회귀가 데이터의 무작위 부분집합으로부터 후보 함수 형태를 발견한다. (2) 큐레이션 파이프라인이 공선성 분석을 이용해 이 표현식들을 분해, 확장, 필터링하여 최소이면서도 포괄적인 라이브러리를 구성한다. (3) SINDy의 약형(weak form)이 이렇게 맞춤 구성된 라이브러리로부터 희소 지배 방정식을 식별한다. 각 변수 표준편차의 최대 20%에 달하는 잡음을 포함한 여섯 개의 대표적 비선형 시스템에 대한 광범위한 실험에서, AutoSINDy는 모든 시행에 걸쳐 89.7%의 복원율(새로운 궤적 R^2 > 0.99)을 달성하였으며, 베이스라인은 최대 45.0%였고 가장 높은 잡음 수준에서는 67.5%였다. 확장된 라이브러리를 사용한 표준 SINDy, 그 약형, 단독 기호 회귀와 비교하여, AutoSINDy는 더 높은 예측 정확도, 보지 못한 궤적에 대한 우수한 일반화, 그리고 실제 복잡도에 가까운 방정식을 달성한다. 이러한 결과는 AutoSINDy가 사전 도메인 지식 없이 올바른 지배 항을 식별하여 시스템 식별의 특징 공학 병목을 자동화하며, 수학적 형태를 알 수 없는 생물학적 및 물리적 시스템에서 복잡한 동역학을 발견하는 경로를 제공함을 보여준다.
본 논문에서는 비선형 실수 산술 이론에 대한 만족 가능성 판정(SMT-NRA)을 위한 하이브리드 프레임워크를 제안한다. 먼저 SMT-NRA 지역 탐색 방법의 핵심 연산인 셀 점프(cell-jump)를 일반화한 2차원 셀 점프 이동인 \emph{2D-cell-jump}를 도입한다. 주어진 직선을 따라서만 할당을 갱신하는 기존의 셀 점프와 달리, 2D-cell-jump는 임의로 선택한 평면 위에서의 탐색을 가능하게 한다. 이어서 (SMT-NRA를 위한 기존 지역 탐색 프레임워크 LS를 따라) \emph{2D-LS}라 명명한 확장 지역 탐색 프레임워크를 제안한다. 마지막으로 정보 교환을 통해 탐색 효율을 높이기 위해 2D-LS, MCSAT, OpenCAD를 통합한 SMT-NRA용 하이브리드 프레임워크를 제시한다. 실험 결과는 지역 탐색 성능의 향상을 보여주며, 제안한 방법의 효과를 부각한다.
기호 회귀(Symbolic regression)는 구조적 탐색과 수치적 피팅을 결합하지만, 집계된 적합도 점수는 남은 오차가 입력에 따라 어떻게 변하는지 설명하지 못합니다. 본 논문에서는 이러한 오차 패턴을 활용하여 수식 발견을 유도하고 어떤 보정이 피팅할 가치가 있는지 학습하는 잔차 기반(residual-informed) 방법인 RISR을 소개합니다. 잔차 인코더는 정렬된 입력, 타깃, 현재 예측값 및 잔차를 연속 토큰으로 압축하며, 이는 언어 모델이 수식을 제안하도록 조건을 부여합니다. 이후의 개선을 위해 듀얼 뷰 관계형 인코더(dual-view relational encoder)는 가법적 잔차와 정규화된 승법적 잔차를 사용하여 후보 보정값의 피팅 후 효용성을 예측합니다. 저자들은 LLM-SRBench의 과학적 과제에서 RISR을 평가합니다. RISR은 1% 및 0.1%의 지점별 상대 오차 허용 오차에서 각각 63.57% 및 38.50%의 ID 정확도를 달성합니다. 이에 상응하는 OOD 정확도는 56.07% 및 38.24%입니다. RISR은 동일한 백본을 사용하는 보고된 베이스라인보다 우수한 성능을 보입니다. 이러한 결과는 본 논문의 잔차 기반 접근법이 수치 방정식 복원을 향상시킬 수 있음을 보여줍니다.
분류 체계(taxonomy)는 AI 시스템이 방대한 문서 집합 전반에서 근거를 정리하고, 패턴을 집계하며, 질문에 답하는 기호적 표현(symbolic representation)입니다. 고객 피드백에서 범주 트리는 모든 레코드가 어떻게 집계 및 라우팅되는지, 어떤 문제가 드러나는지, 그리고 어떤 팀이 이를 담당하는지를 결정합니다. 오늘날 에이전틱 하네스(agentic harness)를 활용하면 그럴듯해 보이는 계층 구조를 쉽게 생성할 수 있으며, 현재 이러한 트리는 각 이름이 설명에 부합하는지, 적절한 부모 아래에 위치하는지, 형제 노드와 구별되는지 등 일반적이고 개별적인 범위의 검사로 검증됩니다. 본 논문에서는 보다 운영 관점의 질문을 던집니다. 즉, 생성된 계층 구조가 프로덕션 분류 체계로서 실제로 유용한 시점은 언제인가입니다. 저자들은 두 개의 자체 피드백 말뭉치(1,940건 및 5,000건의 레코드)를 대상으로 6개의 분류 체계를 구축했습니다. 각 말뭉치마다 프로덕션 기준 참조본 1개와 동일한 입력 조건에서 동일한 하네스를 두 번 반복 실행하여 생성한 결과물이 포함됩니다. 6개 모두 모든 일반적인 명명 및 구조 검사를 통과했으며, 보다 심층적인 제품 커버리지 검사에서는 생성된 트리가 오히려 더 선호되었습니다. 그러나 생성된 모든 트리에서는 리프 노드 이름의 최소 97.7%가 상위 노드의 이름을 단순히 재진술하는 데 그쳤고(참조본에서는 각각 13.9% 및 2.9%), 한 트리에서는 레코드 4건 중 3건이 여러 최상위 범주에 중복 분류되었습니다. 이에 본 논문에서는 두 가지 제품군으로 구성된 전체 트리 메트릭을 제안합니다. 구조적 판별자(structural discriminator)는 트리의 형태가 데이터로부터 학습되었는지 아니면 생성기에 의해 강제되었는지를 검정하며, 팀 분할 가능성(team partitionability)은 하위 브랜치가 피드백을 각 팀이 담당할 수 있는 그룹으로 나누는지를 검정합니다. 일반적 검사에서 동등하게 정확하다고 평가된 트리 간에도 브랜치 간 누출(leakage)에서 27%p 차이가 났으며, 둘 중 단 하나만이 무작위 분할보다 나은 성능을 보였습니다. 표면적인 그럴듯함만으로는 분류 체계 품질을 측정하기에 불충분하며, 평가는 각 노드뿐만 아니라 트리 전체를 함께 측정해야 합니다.
최첨단 대규모 언어 모델(LLM)은 탐색을 유도하는 휴리스틱 함수를 생성하여, 어떤 플랜이든 수용 가능한 만족 플래닝(satisficing planning)에서 최고 수준의 성능을 달성할 수 있습니다. 그러나 이러한 휴리스틱은 허용성(admissibility)이 보장되지 않아 차최적(suboptimal) 플랜으로 이어질 수 있습니다. 본 논문에서는 기계 검증된 허용성을 갖춘 LLM 생성 휴리스틱을 통해 최적 플랜을 찾는 최초의 플래닝 시스템인 LeanPlan을 소개합니다. 도메인 설명과 학습(training) 태스크가 주어지면, 에이전트 루프가 플래너의 피드백을 활용하여 재사용 가능한 도메인 특화 휴리스틱과 그 허용성 증명, 그리고 필요한 도메인 가정을 반복적으로 개선합니다. LeanPlan은 Lean 4에서 기계 검증된 그라운딩(grounding) 및 탐색 기능을 갖춘 효율적인 플래너와 함께 해당 휴리스틱 및 증명을 구현합니다. 저자들은 International Planning Competition의 10개 도메인과 3개의 신규 도메인에서 LeanPlan을 평가하였으며, 학습 태스크보다 최대 57배 많은 객체를 가진 테스트 태스크를 사용했습니다. 에이전트 루프에 GPT-5.6 Sol을 사용하여 이러한 모든 도메인에 대한 휴리스틱 및 허용성 증명을 성공적으로 생성했습니다. 그 결과 도출된 휴리스틱을 바탕으로 LeanPlan은 최첨단 Scorpion 플래너보다 대개 더 적은 상태를 확장하면서 전반적으로 더 많은 태스크를 해결합니다.
최첨단 강화학습(reinforcement learning) 에이전트들은 체스, 바둑, 스타크래프트 II와 같은 게임에서 인간 전문가를 능가하는 성능을 보입니다. 이러한 에이전트들은 인간보다 더 빠르게 반응하고 계산할 수 있는 디지털 하드웨어의 이점만을 취하는 것이 아니라, 더 많은 승리로 이어지는 우수한 전략을 사용합니다. 이러한 전략을 해석하는 것은 인간 플레이어에게 경기력을 향상시키는 방법에 대한 가치 있는 통찰을 제공할 수 있습니다. 본 예비 연구에서는 체스 플레이를 위한 기호 기반 하위 정책(sub-policy) 모델을 제안합니다. 체스 전술에서 영감을 얻은 본 모델은 해석 가능성을 개선하기 위해 도메인 지식을 통합하고자 합니다. 저자들은 PAL이라는 귀납 논리 프로그래밍(inductive logic programming) 시스템이 학습한 패턴을 변형하여 모델을 도출합니다. 또한 무작위 기준선(baseline) 대비 모델을 평가하기 위한 발산(divergence) 메트릭을 제시하며, 인간 초보자와 유사한 경기 수준의 수를 제안할 수 있는 전술 집합을 발견합니다. 마지막으로, 상용 엔진을 본 모델로 증강함으로써 모델에 대한 계산적 평가 체계를 제안합니다.
대규모 언어 모델(LLM)의 활용이 챗봇에서 현실에 비가역적인 결과를 초래하는 행동으로 출력이 이어지는 에이전트(agent) 시스템으로 전환됨에 따라, AI 해석 가능성 연구의 기존 패러다임인 사후 해석 가능성(post-hoc interpretability)은 안전하고 신뢰할 수 있는 모델 배포에 구조적으로 부적합합니다. 이는 사후에 행동을 설명할 수는 있지만, 출력을 확정하기 전에 추론 계산을 감사하거나 개입할 수는 없기 때문입니다. 따라서 우리는 모델의 추론 과정이 본질적으로 인간이 이해할 수 있고 인과적 개입이 가능한 의미 있는 체크포인트를 네이티브로 노출하는 아키텍처 특성인 \emph{생성적 해석 가능성}(generative interpretability)으로의 전환을 주장합니다. 우리는 다른 해석 가능성 연구 패러다임과의 비교를 통해 생성적 해석 가능성의 장점을 제시하고, 구체적인 구현체로서 신경-기호 모델(Neuro-Symbolic Models)을 제안합니다.
수학적 규칙 집합의 의미를 바꾸지 않고 순서만 바꾸면 정답은 유지되어야 하지만, 모델의 내부 표현도 불변으로 유지되어야 할까? 동일한 정답을 갖는 여러 규칙 순서로 제시된 합성 다단계 함수 합성(function-composition) 문제를 사용해 이 질문을 조사한다. 정확도와 순열 신호 대 잡음비(permutation SNR)를 측정하는데, 후자는 문제 인스턴스 간 변이에 비해 순서 패턴이 얼마나 뚜렷하게 표현되는지를 정량화한다. 1B~8B 파라미터 규모의 16개 언어 모델에서 다음 패턴을 확인한다: 재순서화된 문제를 더 정확히 푸는 모델일수록 서로 다른 규칙 순서를 더 뚜렷하게 표현한다. 평가한 모든 합성 설정에서 층 평균 permutation SNR은 정확도와 양의 순위 상관을 보이며, Spearman 상관계수는 0.86에 이른다. 이 결과는 답 불변성(answer invariance)과 표현 불변성(representation invariance) 사이의 구별을 부각한다. 성공적인 수학적 규칙 합성은 동등한 규칙 순서들 사이에서 서로 다른 내부 표현과 동반될 수 있다. 이는 답 불변성과 표현 불변성을 구분해야 함을 정당화하며, 답 정확도만을 넘어 수학적 추론에 대한 표현 관점을 제시한다.
조직에서는 정책, 컴플라이언스(규정 준수), 위험 및 운영 의사결정 지원에 대규모 언어 모델(LLM)을 점차 더 많이 활용하고 있으며, 이에 따라 증거 검증, 검토 라우팅, 버전 관리 및 감사 가능성이 요구됩니다. 본 논문에서는 이러한 기능들을 실행 가능하고 버전이 관리되는 정책 역량으로 패키징하는 모듈형 런타임인 Policy-as-Skill(PaS)을 제안합니다. 고정된 Gemma4 백엔드를 바탕으로 600개의 개발 태스크에서 13가지 방식을 평가했습니다. PaS+Audit은 53.8%의 정확한 정확도(exact accuracy), 매크로 F1 0.346, 검토 F1 0.854, 인용 정밀도 1.000, 정책 참조 재현율 0.984, 감사 완전성 1.000을 달성하여 대부분의 거버넌스 및 검토 지표에서 LLM+RAG를 능가합니다. 결정론적 제어는 종합 정확도를 61.2%까지 끌어올리지만 태스크 의존성이 매우 높아, 보편적인 규칙 기반 개입보다는 선택적 개입이 효과적임을 뒷받침합니다.