arXiv:2608.29001v1 cs.LG

텍스트 및 멀티미디어 데이터를 위한 효과적인 그래프·순위 기반 컨텍스트 임베딩

Effective Graph and Rank-based Contextual Embeddings for Textual and Multimedia Data

Thiago César Castilho Almeida, Gustavo Rosseto Letício, Lucas Pascotti Valem, André Freitas, Daniel Carlos Guimarães Pedronette

제출 2026-08-29

한국어 초록

데이터 기반 세계에서 객체 간 관계를 효율적으로 구성하고 매핑하는 것은 매우 중요하다. 그래프는 이러한 연결을 모델링하는 강력한 도구로, 소셜 네트워크, 통신, 생물학 등에 널리 사용된다. 그러나 그래프 기반 방법은 종종 높은 계산 비용, 특히 메모리 및 공간 사용 측면에서 부담을 겪는다. 이에 대응하기 위해 그래프 임베딩 기법, 즉 네트워크 표현 학습(Network Representation Learning)이라고도 불리는 방법은 구조적 측면을 보존하면서 그래프 정보를 저차원 표현으로 인코딩한다. 그러나 전통적인 방법은 해석 가능한 차원을 제공하지 못한다. RaDE(Rank Diffusion Embedding)는 순위 기반 정보를 활용하는 새로운 접근법을 제안하며, 핵심 단계로 대표적인 노드 부분집합을 선택하여 차원에 대한 해석 가능성을 부여하고 검색(retrieval) 작업을 개선한다. 잠재력에도 불구하고 RaDE의 원래 제안은 서로 다른 클래스에 걸친 대표 부분집합 선택의 효과를 충분히 탐구하지 않았고, 분류 및 클러스터링과 같은 작업에서 임베딩을 평가하지도 않았다. RaDE에서 영감을 받아, 본 연구는 GRaCE(Graph and Rank-based Contextual Embeddings)를 제안한다. 이는 대표 부분집합 선택 및 노드 임베딩을 위해 견고한 순위 기반 측도를 활용하여 해석 가능한 임베딩을 생성하는 완전 비지도 프레임워크이다. GRaCE는 텍스트 및 이미지 컬렉션을 포함한 다양한 데이터셋에서 RaDE와 원본 특징(Original Features)을 능가하며, 최신 트랜스포머 모델을 특징 서술자(feature descriptor)로, 분류 작업에서는 Graph Convolutional Networks 모델을 함께 고려할 때 검색, 분류, 클러스터링 작업에서 우수한 성능을 보인다.

원문 초록

In a data-driven world, efficiently organizing and mapping relationships between objects is crucial. Graphs are powerful tools for modeling these connections, being widely used in social networks, telecommunications, and biology. However, graph-based methods often face high computational costs, particularly in memory and space usage. To address this, graph embedding techniques, also referred to as Network Representation Learning, encode graph information into lower-dimensional representations while preserving structural aspects. Traditional methods, however, lack interpretable dimensions. RaDE (Rank Diffusion Embedding) introduces a new approach using rank-based information, with a key step being the selection of a representative subset of nodes to provide interpretability for its dimensions and improve retrieval tasks. Despite its potential, RaDE's original proposal did not fully explore the effectiveness of representative subset selection across different classes or evaluate embeddings in tasks like classification and clustering. Inspired by RaDE, this work introduces GRaCE (Graph and Rank-based Contextual Embeddings), a fully unsupervised framework that generates interpretable embeddings by leveraging robust rank-based measures for representative subset selection and node embedding. GRaCE surpasses RaDE and Original Features across diverse datasets, including textual and image collections, excelling in retrieval, classification, and clustering tasks, considering state-of-the-art Transformer models as feature descriptors and Graph Convolutional Networks models in classification tasks.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2608.29001v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.