어텐션을 활용한 계산대수학: Border Basis 알고리즘을 위한 트랜스포머 오라클
Computational Algebra with Attention: Transformer Oracles for Border Basis Algorithms
다항 방정식 계, 특히 해가 유한개인 경우를 푸는 것은 많은 과학 분야에서 중요한 과제이다. Gröbner 기저와 Border basis 같은 전통적 방법은 기본적이지만 계산 비용이 높아, 최근 심층 학습 접근이 효율을 높이려 했으나 출력 정확성을 희생하는 경우가 많다. 본 연구에서는 Oracle Border Basis Algorithm을 제안한다. 이는 Border basis 계산을 가속하면서도 출력 보장을 유지하는 최초의 심층 학습 접근이다. 이를 위해 계산 비용이 큰 reduction 단계를 식별하고 제거하는 트랜스포머 기반 오라클을 설계·학습했으며, 이러한 단계가 알고리즘 실행 시간을 지배함을 확인했다. 계산의 중요한 단계에서 이 오라클을 선택적으로 호출함으로써 기본 알고리즘 대비 최대 3.5배의 속도 향상을 달성했으며 결과의 정확성은 훼손하지 않았다. 학습 데이터 생성을 위해 샘플링 방법을 개발하고 border basis에 대한 최초의 샘플링 정리를 제시했다. 단항식 중심 대수 계산에 맞춘 토큰화 및 임베딩 체계를 구성하여 간결하고 표현력 있는 입력 표현을 만들었고, $n$변수 다항식을 인코딩하는 데 필요한 토큰 수를 $O(n)$만큼 줄였다. 본 학습 접근은 데이터 효율적이고 안정적이며, 전통적 컴퓨터 대수 알고리즘과 기호 계산에 실용적인 개선을 제공한다.