arXiv:2306.01890

Mixed-type Distance Shrinkage and Selection for Clustering via Kernel Metric Learning

Jesse S. Ghashti, John R. J. Thompson

제출 2023-06-02

원문 초록

Distance-based clustering and classification are widely used in various fields to group mixed numeric and categorical data. In many algorithms, a predefined distance measurement is used to cluster data points based on their dissimilarity. While there exist numerous distance-based measures for data with pure numerical attributes and several ordered and unordered categorical metrics, an efficient and accurate distance for mixed-type data that utilizes the continuous and discrete properties simulatenously is an open problem. Many metrics convert numerical attributes to categorical ones or vice versa. They handle the data points as a single attribute type or calculate a distance between each attribute separately and add them up. We propose a metric called KDSUM that uses mixed kernels to measure dissimilarity, with cross-validated optimal bandwidth selection. We demonstrate that KDSUM is a shrinkage method from existing mixed-type metrics to a uniform dissimilarity metric, and improves clustering accuracy when utilized in existing distance-based clustering algorithms on simulated and real-world datasets containing continuous-only, categorical-only, and mixed-type data.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27074v1cs.CY공통 태그 Clustering, Metric Learning

초월·비밀교 영역의 정량화: 기계학습 방법을 이용한 힌두교와 불교 신격의 비교 연구

Quantifying the Occult: A Comparative Study of Hindu and Buddhist Deities Using Machine Learning Methods

본 연구는 이중 행렬(dual-matrix) 계산 아키텍처를 도입하여 196개의 힌두교 및 어긴러(Vajrayana) 불교 비밀교(密教) 신격의 형태학적·신학적 이질성을 수학적으로 정량화한다. 물리적 형태학은 새로운 "Cardinality Weighting" 알고리즘으로 강화된 이산 Gower 거리 행렬을 통해 평가되며, 신학적 기능은 대규모 언어 모델(LLM) 의미 확장에서 생성된 밀집 벡터 임베딩(dense vector embedding)을 통해 매핑되며, 순환 논증을 완화하기 위한 합성 대리(synthetic proxy)로 명시적으로 활용된다. 다중 모달 위상(topological) 투영은 "상징(iconographic) 위장(camouflage)"의 알고리즘적 검증을 제공하며, 서로 다른 시각적 형태가 구조적으로 공유되는 전통 간 기능을 어떻게 가리는지 보여준다. 또한 본 연구는 "Atin Effect"를 계산적으로 모델링한다—이는 순차적 인지 바이어스에 대한 심리학적 관찰이자 동시에 기계학습 벤치마크로 기능하며—고카디널리티(high-cardinality) 비밀교 닻(anchor)(예: 비나(veena) 또는 잘린 머리)이 체계적 신학적 차이를 압도하여 정통(orthodox) 및 탄트라(Tantric) 존재들을 수학적으로 클러스터링하는 방식을 보여준다. 전통 간 공간 분석은 힌두교 Chinnamasta와 불교 Chinnamunda 같은 최상위 비밀교 현현(manifestation)이 시각적($D_G = 0.288$) 및 의미적($D_C = 0.068$) 경계 모두에서 거의 동일한 수학적 좌표를 공유함을 확립하며, 이는 1:1 비밀교 전승(transfer)을 시사한다. 이 아키텍처를 오픈소스로 공개함으로써, 디지털 인문학(Digital Humanities) 학자와 비교 신학(comparative theology) 연구자가 질적 문화 코퍼스 전반의 잠재적 구조적 연속성을 엄밀하게 매핑할 수 있는 확장 가능한 비지도 기계학습 도구를 제공한다.

arXiv:2607.22919v1cs.CV공통 태그 Clustering, Attribute

텍스트 조건 변환을 통한 임베딩 공간 제어

Controlling Embedding Spaces with Text-Conditioned Transformations

CLIP과 같은 모델의 멀티모달 임베딩 공간은 의미적 유사도 검색 및 교차 모달 제로샷 분류와 같은 강력한 기능을 가능하게 한다. 이러한 임베딩은 고수준 의미를 단일 벡터로 압축하는데, 이는 주요 객체와 같은 지배적 의미를 주로 표현하면서 카메라 각도나 색조와 같은 다른 중요한 속성을 억제하는 대가를 치른다. 우리는 이러한 속성을 명시적으로 접근 가능하게 만드는 시각적 임베딩의 텍스트 조건 변환(text-conditioned transformation)을 제안한다. 속성 카테고리에 대한 자연어 설명(예: "색상" 또는 "예술 스타일")이 주어지면, 네트워크는 지정된 속성을 강조하는 아핀 변환(affine transformation)을 생성한다. 텍스트 조건화를 통해 많은 속성을 동시에 학습할 수 있으며, 추론 시 직관적인 인터페이스를 통해 이에 접근할 수 있다. 네트워크는 변환된 임베딩을 고정된 잠재 공간(latent space)과 정렬하도록 학습되어, 재인코딩 없이 기존 대규모 임베딩을 사용한 검색을 가능하게 한다. 전체 집합에 적용할 때, 동일한 메커니즘은 다중 클러스터링(multi-clustering)과 같은 속성 분리(attribute disentanglement) 작업을 위해 잠재 공간을 변환한다. 잠재 공간에서 직접 동작함으로써, 본 방법은 임베딩 공간을 제어하기 위한 통합적이고 효율적인 프레임워크를 제공하며, 거의 제로에 가까운 추론 비용으로 속성 기반 검색 및 다중 속성 조직화 작업 모두에서 최신(state-of-the-art) 성능을 보여준다. 프로젝트 페이지: https://joefioresi718.github.io/ControlEmbed_webpage/

arXiv:2607.15220v1cs.CV공통 태그 Clustering, Metric Learning

비지도 가시-적외선 사람 재식별을 위한 구조-의미 상호 학습

Structural-Semantic Reciprocal Learning for Unsupervised Visible-Infrared Person Re-Identification

비지도 가시-적외선 사람 재식별(USVI-ReID)은 큰 모달리티 격차와 교차 모달 신원 주석의 부재로 인해 어렵다. 점진적 연관(association) 패러다임이 간격을 점차 줄이기 위해 제안되었지만, 모호한 전역 표현에 대한 의존과 개방 루프(open-loop) 방식에서의 검증되지 않은 의사 라벨(pseudo-label) 노이즈 전파라는 두 가지 중요한 병목에 시달린다. 이를 해결하기 위해, 우리는 개방 루프 연관을 자기 교정형 폐쇄 루프(closed-loop) 시스템으로 변환하는 프레임워크인 구조-의미 상호 학습(SSRL)을 제안한다. 구조적으로, 우리는 모호한 전역 실루엣을 공간적으로 일관된 구조적 세부 정보로 보완하기 위해 판별력 있는 신체 부위 기본 요소를 신뢰할 수 있는 공간 앵커로 추출하는 세밀한 구조 분리(FSD)를 도입한다. 의미적으로, 우리는 각 에포크마다 공유 의미 프로토타입을 재구성하고 이를 학습 루프에 다시 주입하여 다음 클러스터링 주기 전에 의사 라벨 노이즈를 효과적으로 걸러내는 폐쇄 루프 의미 보정(CSC) 메커니즘을 설계한다. 구조 학습과 의미 학습 간의 상호 작용을 통해 SSRL은 견고한 교차 모달 표현을 달성한다. 광범위한 실험은 SYSU-MM01과 RegDB 모두에서 최신 USVI-ReID 방법 대비 SSRL의 경쟁력 있는 성능을 보여주며, RegDB에서 여러 지도 학습(supervised) 대안을 눈에 띄게 능가한다.

arXiv:2607.08374v1cs.CL공통 태그 Clustering, Metric Learning

성격 인식에서 프로토타입 네트워크를 위한 이론-무관 적응적 메트릭 정렬에서의 LLM-as-a-Judge

Large-Language-Models-as-a-Judge in Theory-Agnostic Adaptive Metric-Alignment for Prototypical Networks in Personality Recognition

성격 인식(Personality Recognition)은 전통적으로 이론-의존적 공식화에 의해 제한되어 왔으며, 이 방식에서는 모델이 공유된 기저 행동 구조를 발견하기보다는 사전 정의된 심리학적 분류 체계에 맞게 학습된다. 성격 자체는 이론-불변적(theory-invariant)으로 이해하는 것이 더 적합하지만, 기존 어노테이션은 동일한 잠재 특성에 대해 부분적이고 때로는 일관되지 않은 관점만을 반영하므로, 이는 일반화를 제한한다. 본 연구에서는 JAM((J)udge for (A)daptive (M)etric-Alignment)을 제안한다. JAM은 이론-무관 프레임워크로, 사전 정의된 성격 이론에 적응하는 학습 방식에서 벗어나 공유된 심리 구조를 포착하는 통합된 잠재 의사-세부 요인(pseudo-facets)을 발견하는 방향으로 학습을 전환한다. 학습 또는 추론 과정에서 모델을 특정 성격 분류 체계에 제한하는 대신, 이 프레임워크는 일반화 가능한 심리적 표현을 학습하고, 이론별 레이블 없이 텍스트 샘플로부터 직접 개인의 잠재 심리 프로파일을 추론할 수 있다. JAM은 임베딩 공간에서의 클러스터링을 통해 구조화된 표현을 학습하는 어텐션-풀링 그래프 프로토타입 네트워크(Attention-Pooled Graph Prototypical Network)와, 사전 정의된 레이블에 의존하지 않고 이종 데이터셋을 통합하기 위해 (i) 인간 유도 연결(Human-Guided Linkage)과 (ii) 기계 유도 합의(Machine-Induced Consensus)를 통합하는 교차-이론 조화(Cross-Theory Harmonization, CTH) 접근법을 통해 이를 달성한다. 강건성과 데이터 품질을 더욱 향상시키기 위해, (i) LLM-before-the-loop와 (ii) LLM-in-the-loop의 두 가지 구성으로 동작하는 LLM-as-a-judge 메커니즘을 도입하며, 이는 적응적 메트릭 학습을 유도하기 위해 모호한 샘플을 식별한다. 실험 결과, JAM은 교차-프레임워크 일반화 및 성능을 향상시켜 이론-무관 성격 추론을 향한 중요한 진전을 이루고 저자원(low-resource) 성격 이론을 지원함을 확인하였다. 관련 코드 저장소, 모델 가중치 및 아티팩트는 https://research.jingjietan.com/JAM 에서 확인할 수 있다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.