수학적 규칙 집합의 의미를 바꾸지 않고 순서만 바꾸면 정답은 유지되어야 하지만, 모델의 내부 표현도 불변으로 유지되어야 할까? 동일한 정답을 갖는 여러 규칙 순서로 제시된 합성 다단계 함수 합성(function-composition) 문제를 사용해 이 질문을 조사한다. 정확도와 순열 신호 대 잡음비(permutation SNR)를 측정하는데, 후자는 문제 인스턴스 간 변이에 비해 순서 패턴이 얼마나 뚜렷하게 표현되는지를 정량화한다. 1B~8B 파라미터 규모의 16개 언어 모델에서 다음 패턴을 확인한다: 재순서화된 문제를 더 정확히 푸는 모델일수록 서로 다른 규칙 순서를 더 뚜렷하게 표현한다. 평가한 모든 합성 설정에서 층 평균 permutation SNR은 정확도와 양의 순위 상관을 보이며, Spearman 상관계수는 0.86에 이른다. 이 결과는 답 불변성(answer invariance)과 표현 불변성(representation invariance) 사이의 구별을 부각한다. 성공적인 수학적 규칙 합성은 동등한 규칙 순서들 사이에서 서로 다른 내부 표현과 동반될 수 있다. 이는 답 불변성과 표현 불변성을 구분해야 함을 정당화하며, 답 정확도만을 넘어 수학적 추론에 대한 표현 관점을 제시한다.
조직에서는 정책, 컴플라이언스(규정 준수), 위험 및 운영 의사결정 지원에 대규모 언어 모델(LLM)을 점차 더 많이 활용하고 있으며, 이에 따라 증거 검증, 검토 라우팅, 버전 관리 및 감사 가능성이 요구됩니다. 본 논문에서는 이러한 기능들을 실행 가능하고 버전이 관리되는 정책 역량으로 패키징하는 모듈형 런타임인 Policy-as-Skill(PaS)을 제안합니다. 고정된 Gemma4 백엔드를 바탕으로 600개의 개발 태스크에서 13가지 방식을 평가했습니다. PaS+Audit은 53.8%의 정확한 정확도(exact accuracy), 매크로 F1 0.346, 검토 F1 0.854, 인용 정밀도 1.000, 정책 참조 재현율 0.984, 감사 완전성 1.000을 달성하여 대부분의 거버넌스 및 검토 지표에서 LLM+RAG를 능가합니다. 결정론적 제어는 종합 정확도를 61.2%까지 끌어올리지만 태스크 의존성이 매우 높아, 보편적인 규칙 기반 개입보다는 선택적 개입이 효과적임을 뒷받침합니다.
자연어 처리(NLP)에서 신경망 모델이 성공을 거두었지만, 블랙박스 특성 때문에 해석 가능성이 제한되고 예측의 근거가 되는 언어적 현상이 드러나지 않는다. 본 연구는 텍스트 함의 인식(Recognizing Textual Entailment)을 위한 설명 가능한 하이브리드 모델 SLITE를 제안한다. SLITE는 두 가지 상호 보완적인 의미 분석 층을 통합한다. 하나는 조합적 개체(compositional entities) 간 의미적 호환·비호환에 기반한 구조-관계(structural-relational) 층이고, 다른 하나는 전제(premise)와 가설(hypothesis)의 임베딩 기반 표현 사이 정보 변화의 구조화된 패턴에 기반한 분포-정보(distributional-informational) 층이다. 개체 수준 의미 관계, 극성(polarity)에 민감한 어휘 매칭, 유사도 행렬의 의미적 하위 표현에 대한 정렬(alignment) 측정—엔트로피 및 전달 엔트로피(transfer entropy)에 기반한 측정을 포함—을 결합한 17개 특징을 제안한다. 이 특징으로 학습한 로지스틱 회귀는 3-class SICK에서 정확도 83%, SICK-CE에서 96%를 달성하여 IsoLex보다 4퍼센트포인트 높고, RoBERTa 대비 계산 복잡도는 훨씬 낮으면서 정확도는 2퍼센트포인트 이내이다. 소거(ablation) 연구와 SHAP 분석은 구조-관계 특징이 분류의 주된 동인임을 확인했으며, 분포-정보 특징은 특히 중립(neutrality)과 모순(contradiction) 탐지에 필수적인 보조 기여를 한다. 결과는 하이브리드 접근에 대한 추가 탐구가 거대 신경망 아키텍처 대신 실행 가능하고 과학적으로 유의미한 대안임을 보여 주며, 언어 이론과 추론(inference)의 계산 모델링 간 대화를 더욱 촉진하기를 기대한다.
표준 모델을 넘어서는(BSM) 물리학의 글로벌 피팅은 이론과 실험 사이의 양방향 상호작용을 수반하는 경우가 많다. 이론 모델은 실험 탐색에 대한 지침을 제공하고, 실험 결과는 다시 이론적 틀을 제약한다. 이러한 피드백 루프에서 중요한 측면은 측정값과 배제 한계를 글로벌 피팅의 매개변수 스캔, 즉 글로벌 피팅 수행 과정 중에 직접 포함하는 ‘온라인(online)’ 글로벌 피팅이다. 그러나 이러한 분석에 대형 하드론 충돌기(LHC) 한계를 넣는 것은 계산적으로 부담이 커 왔으며, 종종 매개변수 점당 소요 시간이 글로벌 피팅 프레임워크에서 허용 가능한 수준을 초과하기 때문이다. 본 연구에서는 기호 회귀(symbolic regression) 기법에서 도출한 근사를 활용하여 LHC 한계를 ‘온라인’ 글로벌 피팅에 통합할 수 있음을 보인다. electroweakino 생성 탐색에서 얻은 ATLAS 제약 데이터셋을 이용해 현상론적 최소 초대칭 표준 모델(pMSSM) 매개변수 공간을 허용 또는 배제로 분류할 수 있는 수학적 표현을 도출한다. 이를 이어 LHC Run-2 한계를 포함한 데이터에 대한 pMSSM 글로벌 피팅에 반영한다.
사고의 연쇄(Chain-of-Thought, CoT) 추론은 대규모 언어 모델(LLM)의 성능을 향상시키는 것으로 입증되었으나, 기존 최적화(optimization) 방법들은 대체로 결과 기반 피드백에 의존하여 중간 추론 단계의 논리적 유효성은 대부분 검증되지 않은 상태로 남겨둡니다. LLM이 논리적으로 결함이 있는 중간 추론 과정을 거치고도 올바른 최종 답변에 도달하는 간극을 해결하기 위해, 우리는 각 추론 단계를 기호 표현으로 자동 정형화(auto-formalizing)하고 이를 자동 정리 증명기(automated theorem prover)로 검증하여 추론 궤적을 감사하는 뉴로-심볼릭(neuro-symbolic) 프레임워크인 LogicTrack을 제안합니다. LogicTrack은 논리적 건전성(logical soundness)을 정량화하고 추론(inference) 시 백트래킹 트리 탐색을 가이드하는 단계별 스코어링 메커니즘인 솔버 기반 백트래킹 보상(Solver-Based Backtracking Reward, SBR)을 도입합니다. 나아가 우리는 LogicTrack을 확장하여 해당 궤적의 백트래킹 추적(backtracking trace)을 포함하는 지도 미세조정(supervised fine-tuning, SFT) 데이터를 구축함으로써, 미세조정(fine-tuning)된 모델이 단계별 감사를 고유한 능력으로 내재화할 수 있도록 합니다. 8개의 추론 벤치마크(benchmark)와 7개의 LLM에 걸친 광범위한 실험은 LogicTrack이 추론 체인의 검증 가능성과 최종 답변 통과율을 모두 효과적으로 향상시켜, 중대한(high-stakes) 도메인에서 전반적인 CoT 품질과 신뢰성을 높임을 입증합니다.
표준적인 명시적 순수 초월 초등함수를 평가하기에 충분한 EML 연산자의 발견은 여러 과학 분야에서 상당한 관심과 논의를 불러일으켰다. 그러나 대부분의 저자는 이항 EML 자체에 집중해 왔으며, 성질이 약간씩 다른 유사한 변형들이 이미 다수 알려져 있다. 본 논문은 이러한 변형들을 열거하고 분류함으로써 이 공백을 메우고자 한다. 또한 이 기회에 EML 연산자와 관련된 흔한 오해를 바로잡는다. 행렬 곱과 단일 일변수 비선형 활성화 함수를 결합하는, 입증된 신경망에 최대한 가까운 아키텍처 내에서 기호 회귀(symbolic regression)를 수행한다는 핵심 목표는 여전히 달성하기 어렵다. 대신 본 논문은 행렬 연산을 유리함수로 대체한 뫼비우스 층(Möbius layer)을 제안하고, exp(x)와 ln(x)를 각각 별도로 복원할 수 있게 하여 신경망의 유리 일반화 내에서 모든 초등함수를 평가할 수 있게 해 주는, 최근 발견된 활성화 함수 eml(x,1/x)를 소개한다.
인간은 지식을 풍부한 구조적 형식으로 표현하기 때문에, 희소한 데이터로부터 새로운 개념을 학습하고 일반화할 수 있다. 본 논문에서는 프로그램이 개념의 보편적 표현에 대한 유력한 후보라고 제안한다. 우리는 프로그램을 개념 표현으로 사용하는 개념 학습의 계산 모델들을 검토하고, 보편적 표현 언어를 향한 그들의 기여를 평가한다.
기호 회귀(Symbolic Regression, SR)는 데이터 안의 근본적 관계를 나타내는 간결한 수학적 표현식을 찾는 것을 목표로 하며, 블랙박스 모델보다 뛰어난 해석 가능성과 과학적 이해를 제공한다. 그럼에도 유전 프로그래밍(Genetic Programming) 같은 전통적 방법은 확장성(scalability) 문제에 직면하고 노이즈에 매우 민감한 반면, SINDy와 같은 희소 회귀(sparse regression) 기법은 미리 정해진 특징(feature) 라이브러리에 크게 의존한다. 본 연구에서는 신경망을 기호 발견을 위한 함수적 전처리기(functional preconditioner)로 취급하는 신경 기호 회귀(Neural Symbolic Regression, NSR) 프레임워크를 제안한다. 우리 접근법은 분리된 파이프라인을 사용한다. 신경망이 먼저 상호작용을 고려한(interaction-aware) 비선형 특징 공간에서 목표 함수의 매끄럽고 노이즈에 강건한 근사를 학습하고, 이어 LASSO를 적용해 희소하고 해석 가능한 폐형식(closed-form) 표현식을 추출한다. Ray Tune과 ASHA 스케줄링을 활용한 분산 하이퍼파라미터(hyperparameter) 최적화를 통합하여 예측 정확도와 기호적 충실도(symbolic fidelity)를 높인다. Nguyen 벤치마크 스위트에서의 실험 결과, 본 방법은 RMSE, 노이즈 강건성, 분포 밖(out-of-distribution) 일반화 측면에서 SINDy와 하이퍼파라미터 튜닝을 하지 않은 신경망 기준선을 일관되게 능가한다. 소거(ablation) 연구는 특징 상호작용, 신경망 깊이, 튜닝 전략의 중요성을 확인한다. 전반적으로 본 연구는 확장 가능하고 이해하기 쉬운 신경-기호 프레임워크를 제시하며, 신경 근사와 과학적 기계학습(scientific machine learning)을 위한 희소 방정식 발견 사이의 견고한 연결고리를 마련한다.
On-Line Encyclopedia of Integer Sequences(OEIS)의 정수 수열은 언어 모델의 수학적 추론 벤치마크로 점점 더 많이 쓰이고 있다. 우리는 이러한 벤치마크가 실제로 무엇을 측정하는지, 정확히 계산 가능한 참조 학습기—P-recursive(holonomic) 점화식 클래스에 대한 2-part 최소 기술 길이(minimum description length, MDL)를 항이 들어올 때마다 수열의 각 접두 구간에서 평가—를 사용해 묻는다. 세 가지 결과가 따른다. 첫째, MDL 난이도는 매개변수 개수이다. discovery point nd, 즉 그대로 저장(verbatim storage)보다 기호적 가설(symbolic hypothesis)이 이기기 시작하는 첫 접두 길이는, 선택된 연산자(operator)의 차수(order)와 degree에 대한 조합론적 식별 가능(identifiability) 상한으로 거의 정확히 예측된다. 이는 항의 크기에 불변이다. Fibonacci 수열의 크기를 12자릿수 스케일로 바꿔도 nd는 변하지 않는데, 가설이 자체 초기 조건을 인코딩해야 하고 크기 효과가 상쇄되기 때문이다. 둘째, 규모가 커지면 학습기는 우리가 큐레이션한 코퍼스에서는 단 한 번도 만들 수 없었던 영역을 보인다. OEIS 수열 20,000개 가운데, 어떤 접두 구간에서는 점화식(recurrence)에 맞지만 전체 길이에서는 맞지 않는 것이 89.98%이다. 우리는 이를 wilderness라 부른다—귀납(induction)이 이론을 얻었다가 잃고 다시는 회복하지 못한다. 셋째, 이러한 MDL 영역으로 계층화(stratified)한 수열에서 세 언어 모델을 평가한 결과, 사전 등록(pre-registered) 가설은 기각되었다. 모델은 MDL이 이론이 없다고 보고하는 곳에서 날조(confabulate)하지 않고, 적절히 hedge한다. 자신 있게 틀리는(confident errors) 경우는 반대로, 쉬운 층(easy stratum)에 집중되며, 겉보기 능력은 규칙의 귀납(induction)보다 수열 인식(recognition)을 따른다. 따라서 OEIS 기반 벤치마크는 상당 부분 암기(memorisation)를 측정하며, MDL은 현재 그들이 갖추지 못한 값싸고 오염(contamination) 없는 난이도 신호를 제공한다. 코드와 데이터를 공개한다.
기호 회귀(symbolic regression)는 데이터로부터 직접 지배 관계를 드러내는 해석 가능한 해석적 표현을 학습함으로써 인공지능 기반 과학적 발견을 위한 강력한 도구로 부상하였다. 그러나 기존 방법은 종종 휴리스틱 탐색에 의존하며, 노이즈가 있는 환경에서 예측 정확도와 표현 복잡도의 균형을 맞추기 어렵고, 기호적 불확실성에 대한 특성화가 제한적이다. 이러한 과제들을 통합적으로 다루는 확률적 접근은 아직 충분히 탐구되지 않았다. 우리는 수학적 표현을 기호 트리(symbolic tree)의 앙상블로 나타내는 확률적 기호 회귀 프레임워크를 제안한다. 트리 위상(topology)에 대한 정규화 사전(prior)이 표현 복잡도를 제어하고, Occam's window 기반 사후(posterior) 요약이 여러 그럴듯한 기호 모델에 걸친 불확실성을 포착한다. 기호 회귀에 대한 기존 이론적 연구가 제한적이라는 점을 고려하여, 기호 표현이 근본 관계를 임의로 잘 근사할 때 사후 집중(posterior concentration) 보장을 도출하며, 정확한 유한 공식이 존재할 때는 거의 모수적(parametric) 수준의 수렴률을 보인다. 또한 기호 모형 오지정(misspecification) 하에서 날카로운 오라클(oracle) 집중 결과를 확립한다. 제안 프레임워크를 최신(state-of-the-art) 경쟁 방법과 비교한 결과, 벤치마크 과학 방정식 학습에서 우수한 예측 정확도, 최적의 기호 복잡도, 안정적인 구조 복원을 보였으며, 어려운 재료 발견 응용에서 과학적으로 해석 가능한 디스크립터(descriptor) 공식의 식별도 함께 이루어졌다.
다항 방정식 시스템을 푸는 표준 엔진인 Gröbner 기저 계산의 효율은 단항식 순서(monomial ordering) 선택에 달려 있다. 가능한 단항식 순서가 거의 연속에 가깝게 많음에도 불구하고, 대부분의 구현은 GrevLex와 같은 정적 휴리스틱에 의존하며 주로 전문가 직관에 기대고 있다. 우리는 허용 가능한 순서 공간 위에서 단항식 순서 선택을 강화학습 문제로 공식화함으로써 이 공백을 메운다. 우리 접근법은 Gröbner 기저 계산의 계산 비용을 정확히 반영하는 도메인 정보 기반 보상 신호를 활용하며, 효율적인 몬테카를로 추정이 가능하다. 시스템 생물학과 컴퓨터 비전(CV)의 벤치마크 문제에 대한 실험에서, 학습된 정책은 표준 휴리스틱을 일관되게 능가하여 계산 비용을 크게 줄였다. 더 나아가 이러한 정책은 단순하고 해석 가능한 모델로의 지식 증류(distillation)에 잘 견디지 못하는 것으로 나타났으며, 이는 심층 강화학습이 에이전트(agent)가 전통적 휴리스틱의 범위를 넘는 비선형 기하 구조를 활용할 수 있게 한다는 실증적 증거를 제공한다.
대규모 언어 모델(LLM)은 체계적 추론보다 지름길(shortcut)에 의존하는 경우가 많아 의료 응용에서 안전성(safety) 우려를 낳는다. 모델이 불확실할 때 기권(abstention)하도록 하면 신뢰성은 높아지지만 커버리지–정확도 트레이드오프가 생긴다. 우리는 다지 선다형 설정에서 의료 가설 검증을 위한 2단계 프레임워크를 제안하며, 모델이 기권할 때에만 적용되는 목표 지향적 온톨로지 그라운딩(ontology grounding)으로 이 트레이드오프를 관리한다. 기권은 무작위가 아니라 실질적 불확실성을 반영하며, 기권한 예측은 더 낮은 신뢰도와 연관됨을 보인다. Azure OpenAI API를 통해 접근한 GPT-5.5와 DeepSeek-R1 두 프런티어 모델에서 제안 프레임워크는 문항 수준 정확도를 9.6%p(82.9%에서 92.5%) 향상시키고 가설 수준 정확도를 4.2%p(92.0%에서 96.2%) 향상시킨다. MedReason과 MedQA에서 수행한 실험은 기권을 선택적 추론 정제를 위한 제어 신호로 재활용할 수 있음을 보이며, 명시적 지식 그래프(knowledge graph) 구축 없이 지식 그래프 수준의 성능을 달성한다.
본 연구에서는 각 행동을 단위 노름(unit-norm) 하이퍼벡터로 표현하고 인코딩된 상태와의 유사도로 점수를 매기는 이산 행동 액터인 벡터 기호 정책 그래디언트(Vector-Symbolic Policy Gradient, VSPG)를 통해 이 질문에 답합니다. 표준 소프트맥스(softmax) 정책 그래디언트 서러게이트(surrogate) 하에서, 해당 모델의 업데이트가 정확히 이점 가중치(advantage-weighted) 하이퍼벡터 번들링 후 정규화(normalization)를 거치는 것과 동일함을 증명하며, 이에 따라 표준 이점 추정기들을 지원함을 보입니다. 나아가 학습된 각 행동 하이퍼벡터가 고정된 크기의 압축된 커널(kernel) 메모리로서 방문한 상태들에 대한 이점 가중 커널 확장을 저장하고 인코더가 유도한 유사도에 따라 증거를 전이함을 보입니다. 이는 추론(inference) 시점의 메모리를 증가시키지 않으면서 표본 효율적인 학습을 지원할 수 있는 구체적인 메커니즘을 제공합니다. 마지막으로 양극성(bipolar) 행동 메모리에 대해, 탐욕적 행동 선택이 무작위 비트 플립(bit flip) 하에서도 안정적이며 오류 확률이 하이퍼벡터 차원에 따라 지수적으로 감소함을 증명합니다. 따라서 VSPG는 정량적인 강건성 보장을 제공하는 동시에 VSA 행동 메모리, 로그 선형 정책 그래디언트, 커널 정책 탐색을 연결합니다.
언어 모델이 제약 문제를 신뢰할 수 있게 풀게 하려면, 문제를 형식 명세(formal specification)로 번역하고 탐색은 sound solver에 맡기는 방식이 흔하다. 그러나 번역 자체가 언어 모델 작업이며, 부정확한 번역은 솔버가 엉뚱한 문제를 정확히 풀게 만든다. 기존 파이프라인은 충돌(crash)하는 번역만 수정하며 솔버의 에러 메시지를 돌려주고, 프로그램은 실행되지만 결과가 틀릴 때는 아무 신호도 주지 않는다. 우리는 에러 메시지를 증명으로 대체한다. 생성된 프로그램이 unsatisfiable(만족 불가)일 때, 모델이 스스로 둔 제약 위에서 최소 불만족 코어(minimal unsatisfiable core)를 추출해, 동시에 성립할 수 없는 정확한 부분집합을 되돌려 준다. 이는 정보 누출(leakage) 없이 결함 위치를 짚어 주는 신호다. exact oracle이 있는 77문제로 구성된 새 벤치마크에서 Answer Set Programming(ASP)으로의 번역은 일곱 도메인 중 여섯에서는 충실하고, aggregate coverage scheduling에서만 실패하며, 번역 부담(translation tax)이 진단 가능한 한 가지 패턴에 몰려 있음을 보여 준다. 맨 에러가 아니라 최소 코어가 weaker 모델이 실행 불가(infeasible) 문제에 대한 해를 날조(fabrication)하는 것을 막아, 날조율을 79%에서 7%로 줄인다. 한편 강한 사고의 연쇄(Chain-of-Thought) 기준선은 정확도에서 기호(symbolic) 경로와 맞먹으므로, 이 경로의 가치는 정확도가 아니라 certificate(증명서)와 날조를 거부한다는 점에 있다.
다항 방정식 계, 특히 해가 유한개인 경우를 푸는 것은 많은 과학 분야에서 중요한 과제이다. Gröbner 기저와 Border basis 같은 전통적 방법은 기본적이지만 계산 비용이 높아, 최근 심층 학습 접근이 효율을 높이려 했으나 출력 정확성을 희생하는 경우가 많다. 본 연구에서는 Oracle Border Basis Algorithm을 제안한다. 이는 Border basis 계산을 가속하면서도 출력 보장을 유지하는 최초의 심층 학습 접근이다. 이를 위해 계산 비용이 큰 reduction 단계를 식별하고 제거하는 트랜스포머 기반 오라클을 설계·학습했으며, 이러한 단계가 알고리즘 실행 시간을 지배함을 확인했다. 계산의 중요한 단계에서 이 오라클을 선택적으로 호출함으로써 기본 알고리즘 대비 최대 3.5배의 속도 향상을 달성했으며 결과의 정확성은 훼손하지 않았다. 학습 데이터 생성을 위해 샘플링 방법을 개발하고 border basis에 대한 최초의 샘플링 정리를 제시했다. 단항식 중심 대수 계산에 맞춘 토큰화 및 임베딩 체계를 구성하여 간결하고 표현력 있는 입력 표현을 만들었고, $n$변수 다항식을 인코딩하는 데 필요한 토큰 수를 $O(n)$만큼 줄였다. 본 학습 접근은 데이터 효율적이고 안정적이며, 전통적 컴퓨터 대수 알고리즘과 기호 계산에 실용적인 개선을 제공한다.
세법 규칙부터 항공사 수하물 허용량에 이르기까지 생성형 AI 시스템의 수많은 실제 응용 분야에서는 자연어 질의에 대한 응답이 성문화된 정책이나 규칙을 반드시 준수해야 합니다. 본 논문에서는 정책을 형식 논리(formal logic)로 표현하는 하이브리드 기호적(hybrid symbolic) 접근법을 제안합니다. 이 방식은 추론(inference) 시 술어(predicate)를 그라운딩하기 위한 사실 추출에 언어 모델의 표현력을 활용하고, 추론에는 앤서 셋 솔버(answer set solver)를 사용하여 응답의 해석 가능성과 감사 가능성을 보장할 뿐만 아니라, 입력의 섭동(perturbation) 상황에서도 정확하고 강건함을 보여줍니다. 구체적으로, 이러한 추출과 추론 단계의 분리가 대부분의 사례에서 프롬프트 형태의 정책(policy-as-prompt) 및 코드 형태의 정책(policy-as-code) 방식보다 우수한 성능을 보이며 약 10배의 토큰 사용량 절감 효과를 달성함을 보입니다. 본 연구 결과는 객관적 기준을 수반하는 강건한 의사결정을 내리는 데 있어 생성형 모델과 결합된 구조적 추론 및 기호 솔버의 가치를 시사합니다.
지정된 성질을 갖는 그래프를 탐색하는 방법으로는 SAT 솔버와 특수 생성기 등 여러 가지가 있다. 이러한 방법들은 결과를 원시 데이터—인접 행렬이나 문자열 인코딩—로 반환한다. 원시 데이터는 그래프가 존재함을 증명하지만, 그래프의 구조적 성질은 드러내지 않는다. 우리는 원시 데이터만 주어졌을 때 짧은 대수적 기술을 자동으로 발견할 수 있는지 묻는다. $\mathrm{Cay}(Γ, S)$ 같은 Cayley 그래프나 $C_5[K_3]$ 같은 렉시코그래픽 곱과 같은 기술을 찾는다. 이 질문에 신경-기호적 접근으로 답한다. 미세조정이나 대상별 학습 없이 범용 대규모 언어 모델 위에서 동작하는 에이전트를 제안한다. 모델은 컴퓨터 대수 시스템 SageMath 호출과 추론을 교차한다: 목표 그래프를 분석하고, 후보 구성을 제안·검증하며, 출력이 목표와 일치할 때까지 수정한다. 에이전트는 범용 브릿지로 공개한 Model Context Protocol(MCP) 서버를 통해 SageMath와 통신한다. 구성이 목표와 일치하는지는 단일 exact isomorphism test로 검사하므로, 모델이 아니라 기호 측에 달려 있다. 접근법을 사전에 고정한 벤치마크—최대 25개 정점의 고대칭 그래프, 구체적으로 two-orbit 그래프 100개—에서 평가한다. 에이전트는 원시 인코딩으로 되돌아가지 않고 모두에 대해 검증된 대수적 구성을 찾을 수 있었다. 강한 템플릿 열거 기준선은 약 $20\%$에 그치며, 카탈로그 조회는 이 그래프들 중 어느 것도 식별하지 못했다. 다만 대칭성을 제거하면 구성 품질이 떨어진다. 구체적 응용으로, Bernhart-Kainen dispersability conjecture에 대한 현재 알려진 최소 반례—열거가 원시 데이터로 찾은 $16$-정점 그래프—를 식별한다. 이 그래프에 대해 에이전트는 명시적 대수적 구성을 찾았다.
검색-증강 생성(RAG)은 텍스트 말뭉치와 같은 외부 지식에 대규모 언어 모델(LLM)을 그라운딩(grounding)하여 질의응답 성능을 향상시킵니다. 그러나 RAG의 추론 과정은 여전히 불투명한 부분이 많습니다. 중간 추론 단계는 검증하기 어렵고 특정 근거에 안정적으로 귀속시킬 수 없습니다. 또한 사용자별 누락된 맥락을 체계적으로 감지하는 경우가 드물어 불완전하거나 부정확한 출력이 자주 발생합니다. 본 논문에서는 검색된 텍스트 청크로부터 귀속 가능한 프롤로그(Prolog) 모듈을 합성하는 모듈형 신경-기호(neuro-symbolic) RAG 프레임워크인 NeSy-RAG를 제안합니다. 시스템은 각 청크에 대해 사용자 사실(fact)에 의존할 수 있는 불리언(Boolean) 주장을 인코딩하는 의미론적으로 유의미한 술어를 생성합니다. 결합 자연어-코드 임베딩을 사용하여 술어를 검색하고 프롤로그 쿼리로 합성합니다. 불완전한 사용자 맥락 문제를 해결하기 위해, 진릿값이 쿼리 결과에 영향을 미치는 누락된 사용자 사실을 식별하고 후속 상호작용을 자동으로 유도하는 기호 지식 격차 감지 메커니즘을 도입합니다. 결과 프롤로그 쿼리를 실행하면 각 추론 단계를 원래 출처와 연결하는 투명한 실행 추적과 함께 결정론적인 답변이 생성됩니다. ShARC 벤치마크에서 NeSy-RAG는 도메인 특화 학습(training) 없이 61.1%의 정확도를 달성하여 42.8%의 정확도를 기록한 동일 모델 RAG 기준선(baseline)을 능가했습니다.
대규모 언어 모델(LLM)은 그럴듯한 수학적 대상을 도출하면서도 모듈러 축약(modular reduction)을 생략하거나, 정수가 아닌 값을 반환하거나, 잘못된 형식으로 인코딩된 정답을 사용하는 등 명시적인 요구사항을 위반할 수 있습니다. 본 연구에서는 학습(training)이 필요 없는 2단계 프롬프트 프로토콜인 제약 우선 추론(Constraint-First Reasoning, CFR)을 소개합니다. 1단계에서는 문제에 수반되는 제약 조건을 추출 및 요약하고, 2단계에서는 해당 요약에 맞춰 중간 및 최종 결과를 점검하면서 문제를 해결합니다. Routed-CFR은 텍스트 전용 정규식(regex) 라우터가 제한적인 단서를 감지할 때만 이 2단계 프로토콜을 활성화하며, 그렇지 않은 경우에는 직접적인 사고의 연쇄(Chain-of-Thought, CoT)를 사용합니다. AIME, CMIMC, BRUMO, AIMO_AMC 전반에 걸쳐, 이 방법은 여러 백본에서 직접 CoT 대비 성능을 향상시킵니다. 나아가 표기 관례를 통제한 라우팅 실험, 조건을 일치시킨 프롬프팅 베이스라인, 문제 수준의 대응 검정, 디코딩 강건성, 제약 조건 품질 감사, 총 토큰(token) 사용량 회계, 그리고 OlympiadBench 평가를 보고합니다. 이러한 분석들은 CFR을 일반적인 수학적 추론의 대체재라기보다는 복구 가능한 제약 조건과 신뢰할 수 있는 1단계 추출에 그 이점이 좌우되는 맞춤형 테스트 타임 개입(test-time intervention)으로 자리매김하게 합니다.
정확한 반응 속도식은 화학 및 생물학적 공정을 이해하고 제어하는 데 필수적이므로, 반응 속도론적 모델(kinetic model) 발견은 화학 공학의 핵심적인 과제입니다. 기호 회귀(SR, Symbolic regression)는 해석 가능한 속도론적 모델을 식별하기 위한 강력한 데이터 기반 접근 방식으로 부상했으나, 대개 도메인 지식 없이 작동하여 물리화학적으로 타당하지 않은 모델을 탐색하는 경우가 많습니다. 대규모 언어 모델(LLM)은 이러한 탐색 과정에 도메인 전문 지식을 주입할 수 있는 유망한 경로를 제공합니다. 본 논문에서는 자동화된 반응 속도론적 모델 발견을 위해 반복(iteration) 기반 SR 알고리즘 내에 LLM 모듈을 임베딩(embedding)한 LLM 유도 SR 프레임워크를 소개합니다. LLM은 각 반복마다 두 가지 역할을 수행합니다: (1) 최적의 SR 후보들에 대한 정성적 물리화학적 비평, (2) SR이 생성한 모델과 내장된 화학 지식을 바탕으로 새로운 후보 반응 속도식 제안. 제안하는 프레임워크는 불균일계 촉매 반응 및 바이오프로세스 시스템을 아우르며 복잡도가 증가하는 네 가지 인실리코(in silico) 사례 연구에서 평가됩니다. 결과에 따르면 LLM 유도 프레임워크는 최첨단 SR 프레임워크 대비 참값(ground-truth) 모델을 식별하기까지의 반복 횟수를 $41.7-79.3\%$ 줄였으며, 유도 실행의 절반 이상에서 LLM이 올바른 모델 구조를 직접 제안했습니다. 각 반복마다 일반적으로 새로운 습식 실험(wet-lab experiment)이 필요한 실제 환경에서, 이는 실험적 노력의 상당한 감소로 이어집니다. 독립적인 검증(validation) 세트에서의 예측 성능은 두 접근 방식 간에 동등하며, 모든 사례 연구에서 $R^2>0.98$을 달성했습니다. 소거 연구(ablation study)에 따르면 SR 구성 요소와 LLM 규모 모두 이러한 성능에 기여하며, 축소된 크기의 LLM도 발견 효율성을 대부분 유지함을 보여줍니다. 이러한 결과는 LLM이 과학적 모델 발견에 도메인 지식을 효과적으로 주입할 수 있음을 입증하며, 완전히 자동화된 도메인 인지형 속도론적 모델링 파이프라인으로 나아가는 길을 열어줍니다.