자기개선 학습 시스템(self-improving learning systems)은 데이터 선택, 최적화, 보조 기호 구성요소를 적응시키며, 표준 학습 가정을 벗어난 비정상(nonstationary) 목적함수를 유발한다. 우리는 생성자(generator), 학습자(learner), 기호 아카이브(symbolic archive)를 상호작용하는 동역학적 프로세스로 모델링하는 공진화(co-evolutionary) 프레임워크인 PRAXIS를 소개한다. 우리는 KL 제약을 받는 생성자 업데이트와 통제된 아카이브 가중치 이동이 1단계 목적함수 드리프트(drift)를 제한함을 증명하고, 아카이브 업데이트가 서브가우시안(sub-Gaussian) 잡음 하에서 지속적인 누적 유틸리티 우위를 갖는 임의의 고정 비교 대상(comparator)에 대해 프로그램을 억제함을 증명하며, 확률적 경사하강법이 누적 목적함수 드리프트에 의해 성능 저하가 좌우되는 평균 정상성(average-stationarity) 보장을 달성함을 증명한다. 시각적 강건성(visual robustness), 관계형 그래프 추론(relational graph reasoning), 알고리즘적 그래프 추론(algorithmic graph reasoning)에 대한 실험은 이러한 이론적 메커니즘과 일치하는 생성자 안정화, 감소하는 학습자 손실, 아카이브 집중(archive concentration) 현상을 보인다.
동적 배치(dynamic batching) 알고리즘과 결합된 트랜스포머 기반 시퀀스-투-시퀀스(sequence-to-sequence) 아키텍처를 바탕으로, 본 연구는 $q$-$θ$ 함수 및 타원 감마 함수를 포함하여 여러 타원 감마 함수가 관여하는 복잡한 수식을 자동으로 단순화하는 머신러닝 프레임워크를 소개합니다. 모델은 대수적 항등식, 특히 $\text{SL}(2,\mathbb{Z})$ 및 $\text{SL}(3,\mathbb{Z})$ 모듈러 변환을 적용하여 복잡하게 뒤섞인 식을 표준 형식(canonical form)으로 축약하는 방법을 학습합니다. 실험 결과에 따르면 이 모델은 분포 내(in-distribution) 테스트에서 99\% 이상의 정확도를 달성하며, 더 깊은 뒤섞임 깊이와 같은 상당한 외삽(extrapolation) 조건에서도 90\%를 초과하는 정확도를 유지하며 견고한 성능을 보여줍니다. 이는 모델이 단순히 학습 패턴을 암기하기보다는 모듈러 변환의 기초 대수적 규칙을 내재화했음을 입증합니다. 본 연구는 모듈러 항등식을 활용해 기호적 단순화를 수행하는 데 머신러닝을 성공적으로 적용한 최초의 사례를 제시하며, 양자장론 및 끈 이론의 특수 함수 계산을 위한 새로운 자동화 도구를 제공합니다.
셀룰러 오토마타는 단순한 함수들 간의 국소적 상호작용으로부터 복잡한 거동이 창발할 수 있는 국소 계산 패러다임이다. 이 패러다임은 생물학적 과정, 교통 시뮬레이션, 컴퓨터 네트워크 등 많은 시스템을 설명하는 데 사용되어 왔다. 게임 분야에서는 SimCity와 같은 게임에서, 또는 동굴이나 던전과 같은 공간적 콘텐츠 생성에 셀룰러 오토마타가 활용되어 왔다. 그러나 효과적인 국소 규칙을 만드는 것은 어렵고 직관적이지 않다. 셀룰러 오토마타는 진화를 통해 효과적으로 도출할 수 있지만, 여전히 해석하기 어려울 수 있다. 본 연구에서는 시스템을 Python 코드로 표현하는 프로그래밍 가능한 셀룰러 오토마타(programmable cellular automata) 개념을 제안한다. 또한 셀룰러 오토마타를 국소 함수(local functions)와 의사결정 함수(decision function)로 모듈화한다. 국소 함수는 국소 이웃(neighborhood)을 입력받아 값을 반환하고, 의사결정 함수는 국소 함수들의 출력을 받아 다음 상태의 값을 결정한다. 셀룰러 오토마타를 Python으로 작성된 모듈로 분리하면 이러한 시스템이 어떻게 동작하는지 이해하는 데 도움이 된다. 또한 전체 상태를 입력받아 그로부터 함수를 계산하는 전역 함수(global functions)를 추가하는 방안을 탐구한다. PCG Benchmark에 포함된 서로 다른 세 가지 게임에 대한 레벨 생성을 테스트하였다. 결과적으로 전역 함수는 문제를 해결하는 데 필요한 셀룰러 오토마타의 반복 횟수를 줄여 주며, 순수하게 국소 함수만으로는 일부 문제에 대한 해법을 찾을 수 없음을 보였다. 생성된 함수들을 살펴보면 서로 다른 실험에서 공통적으로 사용된 함수들을 확인할 수 있으며, 이는 생성기를 이해하는 데 도움이 될 뿐만 아니라 해당 게임들을 더 잘 이해하고 무엇이 중요한지 파악하는 데에도 도움이 된다.
전문 임상의 패널을 활용한 의료 AI 시스템 평가는 비용이 많이 들고 느리기 때문에, 대규모 언어 모델(LLM)을 대체 판정자로 활용하려는 시도가 이루어지고 있다. 본 연구에서는 세 가지 최첨단(frontier) AI 모델로 구성된 LLM Jury를 평가하며, 이는 저소득 및 중간소득 국가(LMIC) 병원의 실제 사례 300건에 대한 진단 3334건을 채점하는 데 사용된다. LLM이 생성한 진단과 임상의가 생성한 진단은 모두 전문가 패널의 진단을 기준으로 네 가지 차원, 즉 진단, 감별 진단, 임상 추론, 부정적 치료 위험(negative treatment risk)에 대해 채점된다. LLM Jury의 점수는 전문가 패널 및 독립적인 재채점 패널의 점수와 비교하여 오류 지표, 평가자 간 일치도, 심각한 위험 오류, 그리고 등張 회귀(isotonic regression)를 이용한 사후(post hoc) 보정의 효과를 평가한다. 본 데이터에서 다음과 같은 결과를 확인하였다. (i) 보정하지 않은 LLM Jury 점수는 전문가 임상의 패널 점수와의 서수 일치도를 유지하지만 체계적으로 더 낮다. (ii) 심각한 위험 오류가 발생할 확률은 인간 전문가 재채점 패널보다 LLM Jury에서 더 낮다. (iii) LLM Jury를 LLM 진단과 결합하면 오류 위험이 높은 진단을 식별할 수 있어, 표적화된 전문가 검토와 패널 효율성 향상이 가능하다. (iv) 보정된 LLM Jury의 점수와 진단 에이전트(agent)의 순위는 1차 전문가 패널의 것과 매우 높은 일치도를 보인다. (v) LLM Jury 모델은 자기 선호 바이어스(self-preference bias)를 보이지 않는다. 즉, 자신의 기반 모델이나 동일 벤더의 모델이 생성한 진단을 다른 모델이 생성한 진단보다 더 우호적으로(또는 덜 우호적으로) 채점하지 않았다. 종합하면, 이러한 결과는 보정된 LLM Jury가 의료 AI 벤치마킹에서 전문가 임상 평가를 대신할 수 있는 신뢰할 수 있고 믿을 만한 대리 지표임을 뒷받침하는 근거를 제공한다. 이러한 결과를 다른 임상 환경에서 확인하는 것은 향후 연구의 중요한 방향이다.