PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.27917v1cs.LG

확산과 규모: 테스트-시간 예산 할당의 효용성을 결정하는 요인은 무엇인가

Spread and Scale: What Determines Whether Test-Time Budget Allocation Pays

신경 조합 최적화(Neural combinatorial optimization) 솔버는 난이도와 무관하게 모든 문제 인스턴스에 동일한 샘플 예산을 사용하여, 인스턴스당 여러 후보 해를 생성하고 그중 발견된 최선의 해를 보고합니다. 한 후속 연구에서는 고정된 예산을 더 어려운 인스턴스에 재할당함으로써 해의 품질을 향상할 수 있음을 보여주었으나, 이러한 개선을 측정하는 표준 방식에 편향이 존재함을 지적했습니다. 즉, 동일한 데이터에서 할당을 결정하고 평가하면 실제로는 이득이 없음에도 겉보기에 이득이 있는 것처럼 만들어낼 수 있다는 것입니다. 이로 인해 워크로드의 어떠한 특성이 재할당을 수행할 가치가 있는지를 결정하는지, 그리고 나머지 예산의 할당 방식을 결정하기 위해 예산의 일부를 소비하는 정책이 해당 비용을 감안한 후에도 여전히 유효한지(pays)에 대한 의문이 미해결 상태로 남았습니다. 본 논문은 외판원 문제(traveling salesman problem)에 대해 독립적으로 학습(training)된 세 가지 솔버와 더 어려운 워크로드를 구성하는 두 가지 방식을 대상으로, 데이터 수집 전에 분석 및 판정 기준을 확정한 사전 등록 확인 실험(pre-registered confirmatory experiments)을 통해 두 질문에 모두 답합니다. 우리가 연구한 워크로드 내에서 결정적인 특성은 워크로드의 평균 난이도가 아니라 워크로드 내 인스턴스들의 난이도가 얼마나 다양한지 여부입니다. 균일하게 쉽거나 균일하게 어려운 워크로드는 재할당의 여지가 거의 없는 반면, 난이도가 혼합된 워크로드는 상당한 여지를 제공합니다. 인스턴스 난이도에 대한 정보를 얻기 위해 자체 비용을 지불하는 예산 인식 정책은, 해당 정보가 무료라고 가정했을 때 얻을 수 있는 개선의 전부는 아니지만 대부분을 회수합니다. 모든 실험은 작성된 명세에 따라 독립적으로 재계산되었으며, 논문 자체의 주장을 약화시킨 두 가지 수정을 포함하여 이전 버전에 대한 모든 수정 사항은 결론이 바뀐 방향과 함께 보고됩니다. 본 논문은 구체적인 실증적 해답과 함께, 해당 해답이 측정 방식에 의해 발생한 인위적 결과(artifact)가 아님을 검증하기 위한 템플릿을 제공합니다.

arXiv:2607.23854v1cs.AI

학습과 탐색을 통한 조합 최적화에서 인간형 해법 이해

Understanding Human-like Solutions in Combinatorial Optimization via Learning and Search

인간은 고급 컴퓨터 알고리즘에게도 계산적으로 어려운 조합 최적화 문제에 대해 종종 좋은 해를 찾는다. 유클리드 여행 판매원 문제(TSP)에서 사람들은 시간과 계산에 심각한 제약이 있음에도 불구하고 거의 최적인 경로(tour)를 빠르게 생성한다. 경로를 인간형으로 만드는 요인은 무엇이며, 이러한 해를 어떻게 학습할 수 있을까? 본 연구에서는 유클리드 TSP에서 인간의 수행을 대규모 행동 및 계산 조사를 통해 이러한 질문에 답한다. 우리는 TSP 인스턴스의 넓은 공간을 샘플링하고, 인간의 해를 수집했으며, 유효한 경로에 대한 확률 분포를 정의하는 어텐션 기반 포인팅 메커니즘을 갖춘 순환 신경망인 Pointer Networks에 기반한 신경 정책과 이를 비교했다. 우리는 강화학습(RL), 최적 경로로부터의 지도학습, 인간 경로로부터의 지도학습, 그리고 최적 경로 지도학습 사전학습 후 RL 미세조정을 포함한 여러 목적 함수로 이러한 네트워크를 학습시켰다. 인간의 경로는 최적 경로와 동일하지는 않았지만, 거의 최적인 기하학적 분지(basin)를 차지했다: 최적 해와 많은 구조적 특성을 공유하면서도 체계적인 인간 특유의 편차를 유지했다. 인간 경로에 대한 최상의 설명은 최적 경로의 직접적 모방이 아니라, 최적 경로로 사전학습하고 RL로 미세조정한 뒤 $\text{Best-of-}N$ 샘플링을 통해 디코딩한 모델이었다. 이러한 결과는 인간형 해가 구조화된 지도학습, RL, 테스트 시점 탐색의 결합으로부터 창발할 수 있음을 시사하며, 많은 현대 인공지능 시스템의 기반이 되는 계산 원리와 공명한다.

arXiv:2607.12127v1cs.AI

구성에 의한 연결: 외판원 문제를 위한 다루기 쉬운 근사-투어 주변분포 학습

Connected by Construction: Learning Tractable Near-Tour Marginals for Traveling Salesman Problems

외판원 문제(TSP)에 대한 학습 기반 방법은 종종 디코딩(decoding)이나 탐색(search) 이후 생성된 투어로 평가되지만, 학습된 대상 자체는 히트맵(heatmap), 할당(assignment), 구성 정책(construction policy), 탐색 안내 점수(search-guidance score)와 같은 대리 공간(surrogate space)에 존재하는 경우가 많다. 이는 근본적인 질문을 가린다: 디코딩 이전에 실제로 어떤 해밀토니안(Hamiltonian) 구조가 학습되었는가? 본 연구에서는 대부분의 해밀토니안 구조를 최종 디코딩 단계에 맡기지 않고, 구조적으로 의미 있는 잠재 대상(latent object)을 통해 TSP를 직접 학습함으로써 이 질문에 답한다. 구성에 의해 연결된(connected-by-construction) 루트 $1$-트리 Gibbs family를 기반으로, 무비지도 학습 파이프라인 \emph{C2TSP}를 제안한다. 이 파이프라인은 암시적 미분(implicit differentiation)을 통해 편향 없는 TSP 비용으로부터 잔차 엣지 섭동(residual edge perturbation)을 학습한다. 구조적 보정을 위해, 평활화된 Held--Karp 층이 기대 차수 균형(expected degree balance)을 복원하고, 인증서 안내 샤프닝(certificate-guided sharpening)이 연결된 분포를 더 투어에 가까운 구조로 추가로 밀어준다. 실험 결과 C2TSP는 해석 가능한 구조 정보를 보존하면서 강한 디코딩 성능을 달성한다. 어블레이션(ablation)은 엣지 섭동과 인증서 안내 샤프닝이 투어 비용과 투어에 가까운 구조를 공동으로 개선함을 추가로 검증한다.

arXiv:2607.09708v1cs.AI

GES-TSP: TSP를 위한 그래프 엣지 희소화

GES-TSP: Graph Edge Sparsification for TSP

외판원 문제(TSP)의 대규모 인스턴스를 정확하게 푸는 것은 계산 비용이 많이 든다. 연구자들은 계산 효율성을 높이기 위해 그래프 희소화(sparsification) 방법을 자주 활용한다. 전통적인 희소화 방법은 주로 고정된 휴리스틱에 의존하며 인스턴스별 구조적 정보를 충분히 활용하지 못한다. 본 논문에서는 유클리드 TSP를 위한 학습 기반 희소화 접근법인 그래프 엣지 희소화(GES, Graph Edge Sparsification)를 제안한다. 기하학적 구조 정보와 조합 최적화 기술을 결합하여, 제안된 방법은 서로 다른 인스턴스에 대해 희소화 그래프를 적응적으로 생성하며, 그래프 크기를 크게 줄이고 풀이 과정을 가속화한다. 실험 결과, 본 희소화 방법은 MATILDA 데이터셋에서 엣지의 최대 95%를 가지치기하면서도 솔루션 갭을 최적값의 1% 이내로 유지함을 보여준다. 또한, 본 접근법은 TSPLIB 벤치마크에서 강력한 일반화 능력을 나타낸다. 일부 대규모 인스턴스에서는 가지치기 비율이 99%를 초과하면서도 최적성 갭이 1% 미만으로 유지된다.

arXiv:2606.19185v1cs.LG

AGDN: 이방성 그래프 확산 네트워크를 통한 외판원 문제(TSP) 해결 학습

AGDN: Learning to Solve Traveling Salesman Problem with Anisotropic Graph Diffusion Network

외판원 문제(TSP)는 조합 최적화의 핵심이며 다양한 실제 시나리오에서 발생합니다. TSP를 위해 그래프 기반 학습 접근 방식이 탐색되었지만, 그래프 구조를 더 효과적으로 활용하는 방법에 대한 문제는 여전히 열려 있습니다. 우리는 TSP를 해결하도록 설계된 새로운 그래프 신경망(GNN) 프레임워크인 이방성 그래프 확산 네트워크(AGDN)를 제시합니다. 우리의 방법은 두 가지 핵심적인 어려움을 해결합니다: (1) 완전 연결 TSP 그래프에서 유익한 위상학적 사전 정보(prior)의 부족, (2) 일반적으로 사용되는 그래프 희소화 기법을 적용한 후 최적 솔루션에서 연결된 노드가 손실되는 문제입니다. 이러한 문제를 극복하기 위해, 우리는 노드 유사도와 쌍별 거리를 병합한 MixScore 전이 행렬을 구성하고, 여러 홉(hop)에 걸쳐 효율적인 정보 교환을 지원하는 이방성 그래프 확산 전략을 개발했습니다. 다양한 인스턴스 크기와 노드 분포에 걸친 포괄적인 실험을 통해 AGDN이 계산 시간을 경쟁력 있게 유지하면서 기존 방법보다 일관되게 우수한 성능을 보임을 확인했습니다. 또한, AGDN은 학습(training) 중에 본 것을 넘어서는 문제 크기와 분포에 대해서도 잘 일반화됩니다. 구현은 https://github.com/LabRAI/AGDN에서 공개적으로 제공됩니다.