엔티티 매칭은 동일한 실세계 엔티티를 가리키는 레코드를 식별하는 작업이다. 언어 모델은 bi-encoder, cross-encoder, generative matcher 아키텍처를 통해 이 작업에 적용할 수 있다. 그러나 선행 연구들은 종종 매처 아키텍처와 모델 백본, 모델 변형(서로 다른 사전학습 목표를 반영), 모델 크기의 차이를 혼동하여 성능 향상의 원인을 분리하기 어렵게 한다. 우리는 Qwen3 패밀리의 세 가지 매처 아키텍처, 세 가지 모델 변형, 세 가지 모델 크기, 그리고 아홉 개의 데이터셋에 걸친 통제된 요인 실험을 통해 이 문제를 해결하며, 총 1,215회의 미세조정 실행을 수행한다. 또한 데이터셋 간 전이 가능성과 계산 비용을 평가한다. 결과는 bi-encoder에서 모델 변형이 핵심적임을 보여준다: 임베딩 지향 변형은 더 강한 초기화와 하위 매칭 성능을 예측하는 더 유리한 표현 기하학을 제공한다. cross-encoder는 각 레코드를 독립적으로 표현하는 대신 레코드 쌍을 공동으로 인코딩하기 때문에 bi-encoder 대비 일관된 이점을 유지하며, 더 큰 모델이 이 격차를 부분적으로 줄이기는 한다. generative matcher는 보편적으로 cross-encoder를 능가하지 않는다. 대신 그들의 이점은 레코드 스키마의 미묘한 미관측 차이와 데이터셋 간 전이를 포함한 분포 이동(distribution shift) 하에서 집중된다. 우리는 더 큰 모델이 단축 학습(shortcut learning)에 더 크게 의존하므로 반드시 더 나은 성능을 내지는 않는다는 점도 추가로 밝힌다. 이러한 발견은 매처 아키텍처 간 성능 차이를 뒷받침하는 요인을 명확히 하고, 분포 이동과 데이터셋 간 전이 가능성을 명시적으로 평가하면서 아키텍처 선택과 모델 수준 요인을 더 잘 분리하는 미래 연구 및 벤치마크 설계를 촉진한다. 우리는 실험 결과, 코드, 학습 스크립트, 평가 데이터를 https://github.com/Jantory/llm-trained-matcher 에서 공개한다.
FlexTab은 표 형식 데이터의 문맥 내 학습(ICL)을 위해 단일 태스크 무관 인코더와 태스크별 디코더를 결합한 유연한 인코더-디코더 아키텍처로, 기존 모델의 타겟 의존적 표현 문제를 해결하여 target-agnostic 행 임베딩을 생성한다. 분류, 회귀, 이상 탐지, 클러스터링, 엔티티 매칭 등 여섯 가지 태스크에서 최첨단 또는 경쟁력 있는 성능을 달성하며, 단일 공유 인코더가 다양한 표 형식 예측 문제의 범용 백본으로 기능할 수 있음을 입증한다.
데이터 통합은 이질적인 데이터셋을 단일하고 일관된 표현으로 결합하는 작업이다. 데이터 통합은 스키마 매칭(schema matching), 값 정규화(value normalization), 엔티티 블로킹(entity blocking), 엔티티 매칭(entity matching), 데이터 융합(data fusion) 등 상호 의존적인 일련의 작업을 포함한다. 기존 벤치마크들은 이러한 단계들을 개별적으로 평가하거나, 특정 단계를 생략한 불완전한 데이터 통합 파이프라인만을 다룬다. 공개된 엔드투엔드 데이터 통합 벤치마크의 부재는 통합 프로세스 전체를 다루는 데이터 통합 방법론 연구를 저해하고 있다. 본 논문은 이러한 공백을 채우기 위해 MaDI-Bench(Mannheim Data Integration Benchmark)를 소개한다. MaDI-Bench는 통합 프로세스의 모든 단계를 포괄하는 관계형 테이블의 엔드투엔드 통합을 위한 최초의 벤치마크이다. MaDI-Bench는 (i) 스키마 매칭, 값 정규화, 엔티티 매칭, 충돌 해결 파이프라인 전체를 필요로 하는 여러 응용 도메인에 걸친 기본 엔드투엔드 데이터 통합 태스크 집합과, (ii) 데이터 통합 시스템의 발전에 따른 빠른 벤치마크 포화를 완화하는 태스크 변형 도출을 위한 범용 방법론을 제공한다. 본 벤치마크는 인간이 설계한 파이프라인, 최고 성능 조합 파이프라인, 대규모 언어 모델(LLM) 기반 파이프라인을 활용하여 검증되었다. 검증 결과는 데이터 통합 파이프라인의 단계별 성능 및 엔드투엔드 성능 측정에 있어 본 벤치마크의 유용성을 입증한다. 모든 벤치마크 아티팩트는 공개 다운로드로 제공된다.
최근의 대규모 언어 모델(LLM)은 태스크별 학습 데이터 없이도 개체 매칭(entity matching)에서 높은 성능을 달성한다. 그러나 이러한 모델을 대규모 후보 쌍 집합에 적용하면 속도가 느리고 비용이 많이 든다. 반면, RoBERTa와 같은 소규모 언어 모델(SLM)이나 전통적인 머신러닝 방법을 사용하는 개체 매처는 훨씬 빠른 추론을 제공하지만 태스크별 학습 데이터를 필요로 한다. 본 논문은 LLM이 교사 모델 역할을 하여 학습 쌍에 레이블을 부여하고, 이를 통해 더 작은 학생 모델을 학습시키는 지식 증류 워크플로를 활용함으로써 태스크별 학습 데이터 제공의 필요성을 없앨 수 있는지를 연구한다. 개체 매칭을 위한 지식 증류를 쌍 선택 전략, 교사 모델, 레이블 후처리 방법, 학생 모델의 네 가지 차원에서 분석한다. Abt-Buy, Walmart-Amazon, WDC Products, DBLP-ACM, DBLP-Scholar 벤치마크를 사용하여 워크플로를 평가하고, 기계 레이블 데이터로 학습된 학생 모델의 성능을 벤치마크 학습 세트로 학습된 동일 모델의 성능과 비교한다. 실험 결과, 기계 레이블 세트로 학습된 학생 모델은 벤치마크 학습 세트로 학습된 모델과 거의 동등한 성능을 보이며, 양방향의 나머지 차이는 F1 점수 2점 미만으로 유지됨을 확인했다. GPT-5.2를 사용하여 5개 벤치마크 전체의 학습 세트에 레이블을 부여하는 데 드는 비용은 미화 28.31달러에서 40.88달러인 반면, 동일한 학습 세트를 수동으로 레이블링하는 데는 약 470시간의 작업이 필요한 것으로 추정된다. 추론 시간 측면에서 Ditto는 LLM을 직접 사용하여 매칭 태스크를 수행하는 것보다 41.5배에서 534배 빠르다. 이러한 결과는 현재의 LLM이 적절한 쌍 선택 방법과 결합될 때, 개체 매칭을 위한 유스케이스별 학습 데이터 레이블링에 필요한 수작업을 대폭 줄이거나 완전히 없앨 수 있음을 보여준다.
저자원·도메인 인식 엔터티 매칭(EM) 프레임워크 BEACON의 Train–Validation Distribution Fitting(TVDF)을 중심으로, 라벨 가용성·대체 도메인 표현·도메인 비독립 다운샘플링 등 실제 조건 변화에서 분포 정렬(distribution alignment)이 성능과 동작에 미치는 영향을 실험적으로 분석한다. 일련의 목표 지향 실험을 통해 예산 제약 EMAD 설정에서 BEACON의 샘플링 메커니즘과 분포 인식 선택의 효과를 더 명확히 밝힌다.