arXiv:2210.10232

Application of Decision Tree Classifier in Detection of Specific Denial of Service Attacks with Genetic Algorithm Based Feature Selection on NSL-KDD

Deanna Wilborne

제출 2022-10-19

원문 초록

Using a Genetic Algorithm and Decision Tree Classifier, the features of the NSL-KDD dataset are reduced using combinatorial optimization to determine the minimum features required to accurately classify Denial of Service attacks within the NSL-KDD dataset.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13574v1cs.LG공통 태그 feature selection, Combinatorial Optimization

고차원 금융 회귀에서 몬테카를로 트리 탐색을 통한 $L_0$ 특징 선택

$L_0$ Feature Selection via Monte Carlo Tree Search in High-Dimensional Financial Regression

특징(feature) 선택은 수많은 엔지니어링된 변수와 예측 변수 간의 강한 상관관계로 인해 모델(model)의 안정성과 해석 가능성이 저하되는 고차원 금융 회귀에서 핵심적인 문제입니다. 희소 회귀(sparse regression)에는 $L_1$ 정규화(regularization)(Lasso)가 널리 사용되지만, 정보성 신호가 상관관계를 갖는 변수들에 걸쳐 분산되어 있을 때는 수축(shrinkage) 특성이 제약으로 작용할 수 있습니다. 정확한 희소 회귀(exact sparse regression)는 이러한 수축을 피하지만 계산상 다루기 어려운 조합 최적화(combinatorial optimization) 문제를 해결해야 하며, 일반적으로 표본 외(out-of-sample) 오차가 아닌 표본 내(in-sample) 오차를 최소화하도록 적합됩니다. 본 논문에서는 일반화된 중첩 롤아웃 정책 적응(GNRPA)을 적용한 몬테카를로 트리 탐색(Monte Carlo Tree Search) 기반의 특징 선택 프레임워크를 제시합니다. 특징 선택을 순차적 의사결정 과정으로 정식화하며, 후보 부분집합은 학습(training) 오차 대신 표본 외 검증(validation) 성능을 기준으로 점수가 매겨집니다. 또한 본 방법은 부분집합 크기와 다중공선성을 고려하는 사전식 순서화 목적함수(lexicographic objective)를 지원합니다. 저자들은 시장, 거시경제 및 팩터 데이터를 포괄하는 1,072개의 엔지니어링된 특징으로부터 NASDAQ-100 지수의 주간 수익률을 설명하는 동시적 설명 회귀(contemporaneous explanatory regression) 과제에서 이 접근법을 연구합니다. 이는 다중공선성 환경에서의 부분집합 선택의 가치를 별개의 문제인 예측적 전망(forecasting)과 분리합니다. 이 과제에서 제안된 방법은 최적화된 Lasso 기준선(baseline)보다 더 높은 표본 외 설명력을 가진 희소 특징 부분집합을 식별하여, Lasso의 0.6313 대비 0.6961의 표본 외 $R^2$에 도달합니다. 이러한 결과는 몬테카를로 트리 탐색이 금융 회귀의 희소 설명적 특징 선택에서 볼록 정규화(convex regularization)의 실용적인 대안임을 시사하며, 표본 외 적합도만큼 투명성이 중요한 팩터 귀속(factor attribution) 및 위험 분해에 잠재적 가치가 있습니다.

arXiv:2607.04765v1cs.NE공통 태그 feature selection, Combinatorial Optimization

최적 성능 점수 기반 대규모 희소 다목적 최적화 알고리즘

A Large-Scale Sparse Multiobjective Optimization Algorithm Based on Optimal Performance Scores

대규모 희소 다목적 최적화 문제(LSSMOPs)는 수많은 결정 변수를 포함하며, 파레토 최적해는 소수의 비영(nonzero) 변수만을 가진다. 그러나 결정 변수의 수가 증가함에 따라 비영 변수를 정확히 식별하는 것이 점점 어려워지고, 최적화 성능이 저하된다. 이러한 문제를 해결하기 위해 본 논문은 LSSMOPs를 위한 진화 알고리즘을 제안한다. 구체적으로, 변수의 중요도를 정확하게 반영하는 점수를 생성할 수 있는 새로운 초기화(initialization) 방법과 비영 변수를 찾아낼 수 있는 초기 마스크 벡터 템플릿을 제안하며, 이를 통해 고품질의 초기 집단을 생성한다. 또한, 각 변수에 대한 변이 확률을 계산하는 새로운 전략과 파레토 유도 정규 분포(Pareto-guided normal distribution)에 기반한 실수 변수의 새로운 최적화 방법을 도입하여, 집단이 지역 최적해에 갇히는 것을 방지하고 전역 최적해로 빠르게 수렴할 수 있도록 한다. 8개의 벤치마크 문제와 3개의 실세계 응용에 대한 실험 결과는 제안된 알고리즘이 최신 알고리즘들과 비교하여 우수한 성능을 달성함을 보여준다.

arXiv:2606.29516v1cs.LG공통 태그 feature selection, Combinatorial Optimization

전문가 정보를 활용한 베이지안 최적 부분집합 선택을 위한 수학적 최적화 접근법

A Mathematical Optimization Approach for Expert-Informed Bayesian Best Subset Selection

통계 모델링의 핵심 과제는 실제 회귀 모델에 속하는 특징의 부분집합을 식별하는 것이다. 최근 혼합 정수 최적화(MIO)를 통해 다루기 쉬워진 고전적인 최적 부분집합 선택 문제는 전역적으로 최적인 희소 해를 찾는다. 그러나 이 방법은 관측 데이터 이외의 어떠한 정보도 활용하지 않는다. 많은 응용 환경에서 도메인 전문가들은 후보 예측 변수의 관련성을 의미 있게 순위 매기거나 점수화할 수 있지만, 이러한 확률적 전문가 평가를 최적 부분집합 목적 함수에 직접 통합하는 기존 프레임워크는 존재하지 않는다. 본 논문은 최대 사후 확률(MAP) 프레임워크를 통해 특징 관련성에 대한 도메인 전문가의 확률 추정치를 MIO 최적 부분집합 문제에 통합하는 방법인 전문가 암묵적 베이지안 최적 부분집합(EBBS, Expert-Implied Bayesian Best Subsets)을 제시한다. 여러 응답자의 전문가 견해는 주변 확률 추정을 위한 포아송 이항 분포, 쌍별 비교를 위한 쌍별 승률, 또는 순서형 순위를 위한 정규화 평균 순위를 사용하여 각 특징에 대한 단일 사전 확률로 집계된다. 이 확률은 전문가 합의에 일치하게 각 특징의 선택을 부드럽게 장려하거나 억제하는 로그 오즈 페널티 항으로 목적 함수에 입력된다. 본 논문은 MAP 공식의 해석적 유도를 제공하고 이론적 특성을 규명한다. 제안된 모델은 모든 전문가가 견해를 갖지 않을 때 최적 부분집합(Best Subsets)으로 귀결된다. 합성 및 실제 데이터셋에 대한 실증적 결과는 추후 제공될 예정이다.

arXiv:2606.29878v1cs.LG공통 태그 feature selection, Combinatorial Optimization

예측-후-최적화 시스템에서의 결정 가치 귀인

Decision-Value Attribution in Predict-then-Optimize Systems

예측 모델이 운영적 의사결정에 점점 더 내재되고 있으나, 표준 설명 방법들은 일반적으로 예측이 유발하는 결정이 아닌 예측 자체를 설명한다. 이 구분은 예측-후-최적화(predict-then-optimize) 시스템에서 중요하다. 큰 예측 변화가 옵티마이저의 행동을 변경하지 않을 수 있는 반면, 작은 변화는 선택된 결정과 그 실현된 가치를 변경할 수 있다. 우리는 고정된 예측-최적화 파이프라인의 가치를 귀인하기 위한 Shapley 기반 프레임워크인 결정 가치 귀인(Decision Value Attribution, DVA)을 제안한다. 이 프레임워크는 보상이 하류(downstream) 결정 가치인 협력 게임을 정의하며, 플레이어가 정보 소스, 최적화 또는 설계 매개변수, 혹은 둘 다일 수 있도록 한다. 우리는 세 가지 변형을 제시한다: InfoDVA는 피처에 가치를 귀인하고, DesignDVA는 운영 구성에 가치를 귀인하며, Decision-Value Interactions(DVI)는 정보와 설계가 공동으로 어떻게 가치를 창출하는지를 정량화한다. 우리는 또한 실현된 결과를 사용하여 결정을 평가하는 post-DVA와 모델의 전체 예측 하에서 결정을 평가하는 pre-DVA를 구분한다. 이 구분은 귀인을 모델의 운영적 믿음이 실현된 성능과 일치하는지에 대한 결정 수준의 진단 도구로 전환한다. 결과적인 귀인은 운영 목표의 단위로 표현되며 기준선 대비 이득 또는 손실을 분해한다. 전력 저장 차익 거래와 응급 의료 서비스 커버리지에 대한 사례 연구는 예측적 설명이 운영 가치의 부적절한 대리 지표일 수 있음을, DVA가 목표 지향적 정보 제어 개입을 안내할 수 있음을, 그리고 최적화 구성이 예측 정보가 결정과 관련이 있는 시점을 결정함을 보여준다.

arXiv:2610.13503v2cs.CV공통 태그 Combinatorial Optimization

SplatQ: 2차 선택을 통한 3D 가우시안 스플래팅의 상호작용 인지 가지치기

SplatQ: Interaction-Aware Pruning of 3D Gaussian Splatting via Quadratic Selection

기존의 3D 가우시안 스플래팅(3DGS) 가지치기(pruning) 방법들은 주로 독립적인 중요도 점수에 기반한 전역 Top-K 선택에 의존하여, 영역별 예산 제어가 부족하고 공동 삭제 효과를 무시합니다. 결과적으로 전체 장면에 걸쳐 균형 잡힌 재구성 품질을 보장하지 못합니다. 본 논문에서는 고정된 예산 하에서 영역별 예산 할당과 공동 가우시안 선택을 조율하는 조합 가지치기 알고리즘인 SplatQ를 제안합니다. SplatQ는 공간적 근접성과 외형 유사성을 기준으로 가우시안을 크기가 제한된 블록으로 분할하여, 전역 선택 문제를 특정 크기의 하위 문제들로 분해합니다. 그런 다음 중요도 기반의 블록 유지 할당량을 평활화하여 과도한 예산 집중을 방지합니다. 마지막으로 가우시안 불투명도 변화에 대한 대표 픽셀 색상의 반응을 활용하여 공동 삭제 효과의 2차 근사를 구성합니다. 개별 반응, 쌍별 상호작용 및 할당량 페널티는 2차 비제약 이진 최적화(QUBO) 목적 함수에 통합되며, 모의 담금질(SA) 또는 코히런트 이징 머신(CIM)을 사용하여 이를 해결함으로써 가우시안을 공동으로 선택합니다. 5개 벤치마크에 대한 실험을 통해 SplatQ가 종합적인 재구성 품질, 공간적 품질 균형, 렌더링 속도 측면에서 최신 가지치기 방법들보다 우수한 성능을 보임을 입증합니다. 절제 연구(ablation)를 통해 예산 평활화가 국소적인 세부 표현 재구성을 향상시키는 한편, 상호작용 모델링이 고정된 예산 하에서 가우시안 선택 품질을 향상시킴을 확인합니다.

arXiv:2606.28109v3cs.NE공통 태그 Combinatorial Optimization

MMAO: 연속 및 이산 최적화를 위한 내인성 자원 할당 기반 대사적 다중 에이전트 옵티마이저

MMAO: A Metabolic Multi-Agent Optimizer with Endogenous Resource Allocation for Continuous and Discrete Optimization

전통적인 메타휴리스틱은 흔히 고정된 개체군 크기, 수동으로 선택한 탐색 스케일, 외부에 부착된 파라미터 제어 모듈에 의존한다. 본 논문은 개별-공공 대사 자원 순환으로부터 적응이 내생적으로 도출되는 교차 도메인 최적화 프레임워크인 대사 다중 에이전트 최적화기(MMAO)를 제시한다. 각 에이전트는 내부 에너지, 연속적인 역할 상태, 이동 또는 구조 기억, 국소 탐색 이력을 지니며, 개체군은 공동 자원 풀을 공유한다. 적합도 향상은 강건한 진행 스케일과 최근 성공 통계를 통해 정규화된 대사 이득으로 변환되고, 동일한 폐루프가 감지 강도, 탐색 진폭, 역할 변동, 분기, 가지치기, 재생성, 엘리트 재투자를 조절한다. 연속 환경에서 MMAO는 에너지로 조절되는 대칭 영차 탐침과 역할 보간 이동을 사용한다. 이산 환경에서는 동일한 제어 법칙이 구조적 감지, 국소 경로 개선, 유도된 섭동, 에너지 가중 간선 재사용을 통해 구현된다. 본 논문은 구현에 충실한 정식화와 CEC2017 부분집합(10D/30D, 20개 시드) 및 5개의 TSPLIB 인스턴스(이산 실행 총 100회)에 대한 재현 가능한 실험 연구를 결합한다. 현재의 증거는 MMAO를 보편적으로 우월한 최적화기로서가 아니라, 주로 파라미터 부담이 적고 자기 보정하는 최적화 프레임워크로서 뒷받침하며, 그 주된 검증된 독창성은 이질적인 탐색 행동 전반에 걸친 대사적으로 내생적인 자원 할당에 있다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.