A Stable Combinatorial Particle Swarm Optimization for Scalable Feature Selection in Gene Expression Data
원문 초록
Evolutionary computation (EC) algorithms, such as discrete and multi-objective versions of particle swarm optimization (PSO), have been applied to solve the Feature selection (FS) problem, tackling the combinatorial explosion of search spaces that are peppered with local minima. Furthermore, high-dimensional FS problems such as finding a small set of biomarkers to make a diagnostic call add an additional challenge as such methods ability to pick out the most important features must remain unchanged in decision spaces of increasing dimensions and presence of irrelevant features. We developed a combinatorial PSO algorithm, called COMB-PSO, that scales up to high-dimensional gene expression data while still selecting the smallest subsets of genes that allow reliable classification of samples. In particular, COMB-PSO enhances the encoding, speed of convergence, control of divergence and diversity of the conventional PSO algorithm, balancing exploration and exploitation of the search space. Applying our approach on real gene expression data of different cancers, COMB-PSO finds gene sets of smallest size that allow a reliable classification of the underlying disease classes.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
DiVid: 비디오 생성 모델의 차원별 다양성 붕괴 진단
DiVid: Diagnosing Dimension-Specific Diversity Collapse in Video Generation Models
괄목할 만한 발전에도 불구하고, 비디오 생성 모델은 동일한 프롬프트에서 반복적으로 샘플링할 때 매우 유사한 결과물을 생성하는 경우가 많아 창의적인 탐험(exploration)을 위한 유용성이 제한됩니다. 기존의 다양성 평가는 주로 전역적 스칼라 지표에 의존하여 비디오의 시공간 영역에서 다양성이 어느 부분에서 붕괴하는지를 모호하게 만듭니다. 본 논문에서는 비디오 생성 다양성을 의미(Semantic), 스타일(Style), 피사체(Subject), 장면(Scene), 모션(Motion), 카메라(Camera)의 6가지 해석 가능한 차원으로 분해하는 차원 수준의 진단 프레임워크인 DiVid를 소개합니다. 각 차원은 재현 가능한 컴퓨터 비전(CV) 파이프라인을 통해 측정되며, 잠재적인 트레이드오프를 검토하기 위해 품질 및 지시 충실도와 함께 분석됩니다. 대표적인 비디오 생성 모델들에 대한 체계적인 평가는 다양성이 매우 차원 특정적임을 보여줍니다. 즉, 전역적 다양성 점수가 높은 모델이라도 특정 요인, 특히 모션과 카메라 차원에서 여전히 붕괴를 보입니다. 이러한 순위는 충실하지 않은 생성 결과를 필터링한 후에도 유지되므로, 프롬프트를 벗어난 출력이 아니라 실제 능력 차이를 나타냅니다. 측정 외에도, 통제된 프롬프트 개입 실험을 통해 두 가지 근본적인 병목 현상을 규명했습니다. 개방형 프롬프트에서 모델이 지배적인 패턴으로 회귀하는 '기본 모드 수렴(default mode convergence)'과, 특히 시간적 요인에 대해 명시적으로 요청된 다양한 대안을 충실하게 구현하지 못하는 '구현 격차(realization gap)'입니다. 시간적 요인에 대한 더 큰 충실도 손실은 텍스트만으로 모션 및 카메라 변화를 제어하는 것의 어려움을 강조합니다. 따라서 DiVid는 다양성 연구의 초점을 다양성의 존재 여부 측정에서 다양성이 어디서, 왜 붕괴하는지 진단하는 것으로 전환하며, 차원 인식 학습(training) 목표 및 제어 신호에 대한 실행 가능한 방향을 제공합니다. 다양하고 제어 가능한 비디오 생성에 관한 향후 연구를 촉진하기 위해 본 프레임워크는 공개될 예정입니다.
자원 제약 환경에서의 다중 클래스 악성코드 분류 성능 향상
Enhancing Multiclass Malware Classification in Resource-Constrained Environments
랜섬웨어, 스파이웨어, 트로이 목마 등과 같은 다중 클래스(multi-class) 악성코드 공격의 출현은 사이버 보안, 특히 사물인터넷(IoT) 기기와 같은 자원 제약 환경에 점점 더 심각한 위협이 되고 있다. 기존 머신러닝 모델들은 이진 악성코드 분류에서 거의 완벽한 정확도를 달성했으나, 악성코드 패밀리 및 개별 악성코드를 분류하는 데에는 미치지 못하고 있다. 또한, 다중 클래스 탐지는 일반적으로 높은 연산 능력을 필요로 하므로, 이러한 다중 클래스 악성코드 공격의 복잡성은 자원 제약 환경에서의 탐지에 상당한 어려움을 초래한다. 본 연구는 다중 클래스 악성코드 분류의 탐지 정확도를 향상시키는 동시에 자원 제약 기기에서 효율적으로 실행될 수 있는 경량 모델을 개발함으로써 이러한 격차를 해소한다. 본 논문에서는 데이터 균형을 위한 SMOTE 오버샘플링 및 SOM-US 언더샘플링 기법과 유전 알고리즘(Genetic Algorithm)을 통한 정교한 특징(feature) 선택을 특징으로 하는 LightGBM 분류기 기반의 강력하고 가벼운 머신러닝 모델을 제안한다. 이 모델은 동일한 데이터셋에서 개발된 기존 최고 수준(state-of-the-art)의 모델들보다 우수한 성능을 보여, 악성코드 패밀리 분류(4개 클래스) 및 개별 악성코드 유형 분류(16개 클래스)에서 각각 89.1%와 76%의 정확도를 기록하였다. 이를 통해 자원 제약 환경에서 분류 정확도와 연산 효율성 간의 균형을 유지한다. 나아가, 악성코드 패밀리 분류에서 91.2%, 개별 악성코드 분류에서 78.7%의 정확도를 달성한 Random Forest 분류기를 활용한 또 다른 모델을 제안하며, 기존 최고 수준의 모델 대비 정확도 측면에서 상당한 향상을 입증한다.
Support-Compiled Feature Folding: 표 형식 파운데이션 모델 전반에서 더 적은 메모리로 더 많은 근거 확보
Support-Compiled Feature Folding: More Evidence at Lower Memory Across Tabular Foundation Models
표 형식(tabular) 파운데이션 모델은 특징(feature) 측면의 스케일링 딜레마에 직면해 있다. 전체 너비의 쌍별(pairwise) 혼합은 열(column) 수에 대해 2차적으로 증가하는 반면, 특징 선택은 근거를 버림으로써 메모리를 절약한다. 본 논문에서는 고정된(frozen) 백본을 변경하지 않고 이 딜레마를 해결하는, 학습이 필요 없는 추론(inference) 프레임워크인 Support-Compiled Feature Folding(SCFF)을 제안한다. SCFF는 서포트(support) 기준으로 순위를 매긴 특징을 네이티브 특징 인코더의 유한한(bounded) 리프(leaf)들로 라우팅하고, 잔여 근거를 서포트 기준으로 점검(support-check)한 뒤, 인코딩된 메시지들을 병합하여 단 한 번의 컨텍스트 기반 예측을 수행한다. 이를 통해 예측을 앙상블하거나 새로운 파라미터를 학습하지 않고도, 2차적인 특징 상호작용 연산을 유한한 국소 작업 집합(working set)을 갖는 너비에 대한 선형 연산으로 변환한다. 고정된 AMLB-29, TabZilla, TabArena 스냅샷의 전수 18개 데이터셋 와이드 테이블(wide-table) 슬라이스에서, SCFF는 평가한 6개 백본 모두에서 데이터셋 매크로 정확도와 NLL을 향상시킨다. 네 가지 동일 너비(matched-width) 비교 모두에서 고정된 폴드(locked folds)에 대한 95% 데이터셋 부트스트랩 구간이 유리하게 유지되며, 상대 오류 감소율은 최대 26.1%에 달한다. 쌍을 이룬 GPU 메모리 절감량의 중앙값은 2.09배에서 2.36배이며, 별도로 관측된 최대 피크 메모리의 비율은 34.3배에 이른다. 측정된 피크 메모리 상한이 주어진 조건에서 SCFF는 절약한 예산을 활용해 서포트 기준으로 선택된 더 많은 근거를 보존하며, TabICLv2와 TabPFN-3의 사전에 정의된(predeclared) 와이드 Core 층(strata)에서 실현 가능한 가장 넓은 단일 리프 대비 정확도를 각각 4.06포인트, 3.72포인트 향상시킨다.
RareLens: 분기하는 대규모 언어 모델 추론 정렬을 통한 종단 간 희귀질환 진료
RareLens: Towards End-to-End Rare Disease Care via Aligning Divergent Large Language Model Reasoning
희귀질환은 전체 인구의 추정 3.5%에서 5.9%에 영향을 미치지만, 70% 이상의 환자가 오진되며 많은 환자가 진단에 이르기까지 수년간 평가를 겪는다. 이는 초기 증상이 비특이적이고 관련 전문성이 부족하며 불균등하게 분포되어 있기 때문이다. 인공지능이 지원을 제공할 수 있지만, 기존 시스템은 진료의 고립된 단계, 주로 진단만 다룬다. 이들은 일반적으로 후속 검사 결과에 의존하며, 모델 간 변동성을 제거해야 할 노이즈로 취급한다. 여기서 우리는 이러한 변동성을 활용하여 희귀질환 전체 궤적에 걸친 임상 의사결정을 지원하는 시스템 RareLens를 제시한다. 이질적인 대규모 언어 모델들이 동일한 사례를 평가할 때, 분기하면서도 상호 보완적인 추론을 생성하며, RareLens는 이를 각 단계에서 단일한 수렴적이고 실행 가능한 결정으로 정렬하고 보정한다. 네 개의 조율된 모듈이 초진 위험 선별, 진단, 치료 계획 및 예후를 수행한다. 33개 Orphanet 카테고리 전체와 7,000개 이상의 질환에 걸친 157,525건의 실제 사례로 구성된 실세계 데이터셋 RareBench에서 개발 및 평가되었으며, RareLens는 GPT-5, DeepSeek-R1, Claude-3.7-Sonnet, Gemini-2.5-Pro를 포함한 테스트된 모든 최신 프론티어 모델을 각 단계에서 능가했다. 선별에서 0.917의 곡선 아래 면적(AUC)을, 진단과 치료에서 각각 65.5% 및 89.8%의 top-1 정확도를 달성했다. 1,287건의 사례와 23명의 의사에 걸친 외부 연구에서, 자율 RareLens와 RareLens 보조를 받은 의사 모두 무 보조 의사보다 상당히 우수한 성능을 보였다. 이러한 결과는 단일 모델의 스케일링보다 분기하는 모델 추론의 정렬이 고불확실성 임상 의사결정을 위한 일반화 가능한 전략을 제공함을 나타낸다.
Spatial Information Considered Network for Scene Classification
LLSF - Learning Label Specific Features for Multi-Label Classifcation
토론
이 논문과 연결된 포럼 글이 아직 없습니다.