조합 폭발적 비트 조작 퍼즐에서 기저와 진리표 추론을 위해 LLM에게 문자열 매칭, 백트래킹, 오류 복구 가르치기
Teaching LLMs String Matching, Backtracking, and Error Recovery to Deduce Bases and Truth Tables for the Combinatorially Exploding Bit Manipulation Puzzles
이 논문은 비트 조작 퍼즐(Bit Manipulation Puzzles)에 초점을 맞춰 NVIDIA Nemotron 모델 추론 챌린지를 위한 알고리즘적 혁신을 제시한다. 이 과제에서 목표는 입력 이진 문자열을 출력으로 변환하는 숨겨진 논리 규칙을 발견한 뒤, 미공개 입력에 적용하는 것이다. 대규모 언어 모델(LLM)은 이 과제에서 악명 높게 어려움을 겪는데, 전통적인 방법은 복잡한 불리언 논리와 산술 연산을 시뮬레이션하도록 강제하여 환각(hallucination)을 초래한다. 또한 비트 연산(시프트, 회전, 논리 게이트의 조합)의 탐색 공간은 심각한 조합 폭발(combinatorial explosion) 문제를 겪는다. 이러한 계산적 난해성을 극복하기 위해, 우리는 산술 논리를 완전히 포기하고 문자열 유사도(string similarity), 구조적 탐색, 자율 오류 복구를 채택한 새로운 접근법을 제시한다. 핵심 기여는 다음과 같다: 1. 기저(Bases)와 진리표(Truth Table) 공식화: 논리 게이트 추론을 기저 선택 과제로 재구성하고, 문자열 유사도(최소 비트 플립)를 활용하여 기본 변환("기저")을 분리하고 복잡한 산술 없이 진리표를 추론한다. 2. 백트래킹 DFS와 오류 복구: 후보 기저를 테스트하고, 예시 전반의 논리적 충돌을 감지하며, 실패 시 백트래킹하여 견고한 오류 복구를 수행하는 탐색 과정을 형식화한다. 3. 비트 토큰화(Bit Tokenization)와 상호작용적 추론 SFT: 토크나이저가 이진 문자열을 개별 단일 비트 토큰으로 인코딩하도록 강제한다. 동적 마스킹을 사용하여 외부 오라클 피드백을 시뮬레이션하고, 모델이 자체적으로 가설 수립, 자기 평가, 백트래킹을 수행하도록 학습시킨다. 비트 조작 퍼즐에서 평가한 결과, 우리의 접근법은 96% 이상의 검증 정확도를 달성했다. 이는 해당 카테고리에서 최고 성능을 나타내며, 대회 전체 7위 달성에 기여했다.