arXiv:1803.06062

Heuristics for vehicle routing problems: Sequence or set optimization?

Túlio A. M. Toffolo, Thibaut Vidal, Tony Wauters

제출 2018-03-16

원문 초록

We investigate a structural decomposition for the capacitated vehicle routing problem (CVRP) based on vehicle-to-customer "assignment" and visits "sequencing" decision variables. We show that an heuristic search focused on assignment decisions with a systematic optimal choice of sequences (using Concorde TSP solver) during each move evaluation is promising but requires a prohibitive computational effort. We therefore introduce an intermediate search space, based on the dynamic programming procedure of Balas & Simonetti, which finds a good compromise between intensification and computational efficiency. A variety of speed-up techniques are proposed for a fast exploration: neighborhood reductions, dynamic move filters, memory structures, and concatenation techniques. Finally, a tunneling strategy is designed to reshape the search space as the algorithm progresses. The combination of these techniques within a classical local search, as well as in the unified hybrid genetic search (UHGS) leads to significant improvements of solution accuracy. New best solutions are found for surprisingly small instances with as few as 256 customers. These solutions had not been attained up to now with classic neighborhoods. Overall, this research permits to better evaluate the respective impact of sequence and assignment optimization, proposes new ways of combining the optimization of these two decision sets, and opens promising research perspectives for the CVRP and its variants.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.23293v1cs.AI공통 태그 Computational Efficiency, Heuristic Search

마지막 고원(Final Plateau)에서 표준 A* 타이 브레이킹 전략에 따른 확장 횟수

Expansion Counts under Standard A* Tie-Breaking Strategies on the Final Plateau

A* 탐색 알고리즘에서 동일한 $f$-값을 갖는 노드에 대한 타이 브레이킹(tie-breaking, 동점 처리) 전략은 A*가 마지막 $f$-층(layer)에서 어떤 상태들을 확장할지 결정합니다. 9가지 표준 타이 브레이킹 전략에 대해, 일관적인 휴리스틱(consistent heuristic) 하에서 모든 전략 쌍마다 임의로 큰 가산적 확장 차이(additive expansion gap)로 상대 전략보다 특정 전략을 선호하게 만드는 양의 비용 인스턴스가 존재함을 보입니다. 매개변수화된 단위 비용 격자 예시 또한 FIFO 및 LIFO를 사용하는 low-$h$ 간에 무한한 확장 횟수 비율을 발생시킵니다. 목표가 아닌 상태에서 $h > 0$인 단위 비용 탐색에서, 목표 근처의 정확한 휴리스틱 값은 상호보완적인 극단적 결과로 이어집니다. 완벽 영역(perfect region) 내의 공통 형상(configuration)으로부터 남은 확장 횟수는 low-$h$가 최소화하는 반면, $h=1$인 모든 마지막 고원 상태가 목표 직전 상태(goal predecessor)일 때 전체 확장 횟수는 high-$h$가 최대화합니다. 마지막으로, 평가 함수 $f_{\alpha} = g + \alpha h$를 사용할 때 목표가 아닌 상태에서 $h>0$이면, 모든 휴리스틱 가중치(weight) $0 \leq \alpha<1$은 타이 브레이킹 민감도를 제거하며 모든 타이 브레이킹 전략이 동일한 상태 집합을 확장합니다.

arXiv:2609.23680v1cs.DS공통 태그 Computational Efficiency, Heuristic Search

비일관적 A*의 평활 분석

Smoothed Analysis of Inconsistent A*

A* 탐색은 인공지능에서 기본적인 경로 탐색 알고리리즘이다. 허용 가능하고 일관적인 휴리스틱은 각 상태를 최대 한 번만 확장함으로써 효율적인 성능을 보장하지만, 현대 탐색 응용에서는 기계 학습, 무작위 평가 등에서 유도된 강력하지만 비일관적인 휴리스틱을 자주 사용한다. 이러한 비일관적 휴리스틱 사용에 대한 오랜 이론적 장벽은 치명적인 노드 재확장(re-expansion) 위험이며, 이는 최악의 경우 $\Omega(2^n)$의 지수적 시간 복잡도를 초래한다. 그러나 경험적 관찰은 이 비관적 상한과 모순되며, 비일관적 A*가 실제로는 매우 효율적으로 동작함을 보여 준다. 이론과 실무 사이의 이 큰 격차를 메우기 위해, 본 논문은 비일관적 휴리스틱을 사용하는 A* 알고리리즘에 대한 최초의 평활 분석(smoothed analysis)을 제시한다. 우리는 최악 경우 탐색 그래프의 간선 가중치에 미세한 무작위 perturbation을 적용하여 전형적인 실세계 노이즈를 모델링한다. 주요 결과는 비일관적 A*의 기대 평활 시간 복잡도가 다항식으로 bounded됨을 증명하며, 구체적으로 총 반복 횟수가 $O(n^2 m \kappa)$임을 보인다. 여기서 $n$은 노드 수, $m$은 간선 수, $\kappa$는 무작위 perturbation의 규모를 조절한다. 또한 이 결과가 음수 가중치 그래프에서의 Dijkstra 알고리리즘과 기능적으로 동등한 문제로 자연스럽게 확장됨을 보인다.

arXiv:2609.26249v2cs.CL공통 태그 Computational Efficiency

PACE-dLLM: 확산 언어 모델을 위한 신뢰도 절벽 추정 기반 탄력적 블록 디코딩

PACE-dLLM: Elastic Block Decoding via Confidence Cliff Estimation for Diffusion Language Models

LLaDA와 Dream 같은 확산 언어 모델(dLLM)은 생성 품질에서 자기회귀(AR) LLM과 경쟁할 수준이 되었으며, 기본적으로 병렬 디코딩을 지원한다. 표준적인 가속 전략은 블록 단위 디코딩으로, 각 순전파에서 길이 B의 블록을 예측하고 신뢰도가 높은 토큰을 확정한다. 신뢰도 임계값 기반 확정은 어떤 토큰을 수용할지를 적응시키지만, 고정된 B는 여전히 예측 범위를 제한한다. 기존의 호라이즌 정책은 수동으로 정한 크기, 변동성 통계, 또는 후보 경계 점수를 사용한다. 이에 반해 우리는 모델 자체의 단계별 신뢰도를 사용한다. 윈도우 내 신뢰도는 대체로 문맥에 의존적인 절벽(cliff) 형태를 따르며, 이는 선행 호라이즌을 적응시키기 위한 직접적인 신호를 제공한다. 본 연구에서는 이 매개변수화된 절벽을 닫힌 형태로 주기적으로 다시 적합하고, 공유된 신뢰도 앵커에서 다음 호라이즌을 설정하며, 신뢰도 임계값 기반 토큰 확정을 유지하는 PACE-dLLM을 제안한다. iid이며 정책과 무관한 단조 프로파일을 갖는 포화 수율 추상화 하에서, 오라클 호라이즌은 최대 패스당 수율을 달성하는 가장 작은 값이며, 고정 블록이 양의 확률로 이에 미달할 때 점근적 순전파 비율을 개선한다. 두 개의 오픈소스 dLLM 백본에 대한 네 가지 추론 및 코드 벤치마크에서, PACE-dLLM은 평가된 디코더 중 두 백본 모두에서 가장 높은 평균 정확도를 달성하며, 가속하지 않은 반자기회귀 기준선 대비 LLaDA에서 평균 5.23배, Dream에서 3.06배(LLaDA MATH에서 최대 8.52배)의 처리량 향상을 얻어 품질–처리량 파레토 경계를 진전시킨다.

arXiv:2609.28870v3cs.DC공통 태그 Computational Efficiency

정교한 축출 정책이 실패할 때: LLM 접두 문맥 재사용을 위한 캐시 교체 정책의 재고

When Fancy Eviction Fails: Rethinking Cache Replacement For LLM Prefix Reuse

장시간 실행되는 LLM 애플리케이션과 자율 에이전트는 점점 늘어나는 컨텍스트를 반복적으로 전송하므로, 프리픽스 캐싱은 프리필 비용을 줄이는 데 매우 중요하다. 이는 수십 년간의 전통적인 캐시 관리 기법이 에이전트형 및 대화형 LLM 서빙에 그대로 적용되는가라는 근본적인 질문을 제기한다. 우리는 200억 개가 넘는 처리 토큰으로 구성된 실제 서비스 트레이스를 분석하고, 용량이 제한된 HBM 환경과 대규모 메모리 풀 환경에서 14가지 축출 알고리즘을 평가한다. 그 결과, 단순한 LRU(Least Recently Used)가 놀라울 정도로 견고하여 정교한 전통적 정책과 대등한 성능을 보이지만, 벨라디(Belady)의 최적 해와는 여전히 상당한 격차가 남아 있음을 확인한다. 그 이유는 구조적이다. 프리픽스 재사용은 활성 세션의 꾸준한 진행 속도에 의해 좌우되므로, 최근 사용 여부가 축출에 대해 이례적으로 강한 예측 변수가 된다. 그럼에도 프리픽스 캐싱은 최근성이 무시하는 측면에서 전통적 워크로드와 다르며, 특히 단일 턴 요청의 만연, 극단적인 세션 크기 편중, 어텐션 연산이 토큰 깊이에 따라 증가하기 때문에 발생하는 매우 불균일한 미스 비용이 그러하다. 최적과의 격차를 줄이기 위해, 우리는 프리픽스 캐시 관리를 위한 몇 가지 설계 원칙을 제시한다. 즉, 최근성을 기준선으로 유지하면서 일회성 프롬프트를 걸러내기 위한 신속한 강등, 비용이 큰 미스를 우선시하는 연산 인지형 축출, 용량 적응형 축출 단위를 함께 도입하는 것이다. 우리의 트레이스와 시뮬레이터는 공개되어 있다.

arXiv:2610.10854v2cs.LG공통 태그 Computational Efficiency

KDFP: 대규모 언어 모델의 지식 증류를 위한 제1원리적 접근법

KDFP: A first-principles approach to knowledge distillation in large language models

지식 증류(knowledge distillation)는 더 크고 성능이 뛰어난 교사 모델의 표현(representation)을 활용해 작고 효율적인 학생 모델을 학습(training)시킴으로써 그 역량을 향상시키는 잘 정립된 기법입니다. 대규모 언어 모델(LLM) 증류에 관한 최근 연구의 상당수는 지시사항 준수(instruction following), 사고의 연쇄(Chain-of-Thought) 추론, 도구 사용 등 사후 학습(post-training) 과정에서 습득된 능력을 증류하는 데 집중되어 왔습니다. 이로 인해 엣지 기기 배포에 적합한 효율적이고 프라이버시가 보장되는 시스템을 개발하는 데 필수적인 LLM의 일반 지식 증류 연구에는 큰 공백이 남게 되었습니다. 본 연구에서는 이전 연구들의 교훈을 평가하고 새로운 탐색을 수행하는 제1원리적(first-principles) 접근법을 취하여 현대 LLM에 적합한 증류 방법론을 개발합니다. 본 논문에서는 LLM의 화이트박스 일반 지식 증류를 위한 새로운 방법론인 KDFP를 제시합니다. 실험을 통해 KDFP가 임시 매개변수(parameter) 감축을 통해 학습 효율성을 최대 99.1%까지 향상시키면서, 9개 벤치마크 전반에서 기존 기법들을 1.6% $-$ 4.9% 능가함을 입증합니다.

arXiv:2609.24894v2cs.CV공통 태그 Computational Efficiency

SLICEChat: 전슬라이드 병리 언어 모델을 위한 점진적 인코더 내 토큰 가지치기

SLICEChat: Progressive In-Encoder Token Pruning for Whole-Slide Pathology Language Models

전슬라이드 병리 이미지(WSI)는 기가픽셀 규모의 시각 정보를 담고 있어, 슬라이드 수준 멀티모달 대규모 언어 모델(MLLM)의 확장성에 큰 난제를 만든다. 기존 접근은 수천 개의 패치 토큰을 처리하고, 보통 슬라이드 인코딩 이후에만 압축을 적용하여 멀티모달 어텐션이 계산적으로 비싸게 남는다. 우리는 하이브리드 Mamba–트랜스포머 슬라이드 인코더 안에 점진적 토큰 가지치기를 통합한 슬라이드 수준 MLLM인 SLICEChat을 제안한다. Mamba 레이어는 효율적인 장거리 전파를 가능하게 하고, 트랜스포머 레이어는 시퀀스가 점진적으로 짧아지는 동안 전역 상호작용을 유지한다. 단계 사이에서는 언어 지도 하의 영역 인식 가지치기가 제어된 유지율(keep-rate) 스케줄 하에서 공간적으로 일관된 저유용 영역을 제거하여, 멀티모달 융합 전에 압축된 슬라이드 표현을 만든다. SlideBench VQA에서 SLICEChat은 TCGA에서 79.84%, BCNB 코호트에서 59.09% 정확도를 달성해 기존 슬라이드 수준 병리 MLLM을 능가했으며, WSI-Bench 전체 지표에서도 최고 성능을 기록했다. 또한 평가된 모델 중 경쟁력 있는 메모리 사용량과 추론 지연 시간을 보였다. 이 결과는 기가픽셀 WSI에 대한 정확하고 계산적으로 효율적인 멀티모달 추론을 보여 준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.