arXiv:1911.08332

Neural Network based End-to-End Query by Example Spoken Term Detection

Dhananjay Ram, Lesly Miculicich, Hervé Bourlard

제출 2019-11-19

원문 초록

This paper focuses on the problem of query by example spoken term detection (QbE-STD) in zero-resource scenario. State-of-the-art approaches primarily rely on dynamic time warping (DTW) based template matching techniques using phone posterior or bottleneck features extracted from a deep neural network (DNN). We use both monolingual and multilingual bottleneck features, and show that multilingual features perform increasingly better with more training languages. Previously, it has been shown that the DTW based matching can be replaced with a CNN based matching while using posterior features. Here, we show that the CNN based matching outperforms DTW based matching using bottleneck features as well. In this case, the feature extraction and pattern matching stages of our QbE-STD system are optimized independently of each other. We propose to integrate these two stages in a fully neural network based end-to-end learning framework to enable joint optimization of those two stages simultaneously. The proposed approaches are evaluated on two challenging multilingual datasets: Spoken Web Search 2013 and Query by Example Search on Speech Task 2014, demonstrating in each case significant improvements.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2411.09484v5cs.CV공통 태그 Template Matching공식 코드 · Papers with Code

평면 기반 이미지 매칭 필터링 및 정제와 그 이상

Image Matching Filtering and Refinement by Planes and Beyond

이 논문은 일반적인 이미지 매칭 파이프라인에서 최신 필터링 및 정제 방법에 대한 일관되고 광범위한 평가를 제공한다. 이전 비교와 달리, 설계된 벤치마크는 카메라 내부 파라미터(camera intrinsics)를 알 수 없는 보다 일반적이고 현실적이며 실용적인 경우도 고려한다. 또한, 평면 제약(planar constraints)과 상호 상관(cross correlation)에 기반한 비딥(non-deep) 전통적 컴퓨터 비전(CV) 접근법을 결합한 새롭고 효과적인 전략을 제시한다. 실험 분석은 현재 응용 설계와 향후 연구 방향에 대한 여러 통찰을 제공한다. 특히, 적절한 평가 프로토콜의 선택은, 그렇지 않으면 평탄화되는 경향이 있는 비교 대상 솔루션들 간의 실질적 차이를 드러낸다. 또한, 제안된 전통적 알고리즘 접근법은 최근 딥러닝 기반 방법과 경쟁력이 있다. 딥러닝 기반 방법의 평가를 위해 전통적 컴퓨터 비전을 활용한 견고한 기준선을 제공하는 것 외에도, 이러한 지식은 딥러닝 기반 이미지 매칭 아키텍처를 개선하고 더 잘 이해하는 데 유용하다. 한편으로, 기하학 기반 필터링은 이상치가 존재할 때 이미 견고한 딥러닝 파이프라인을 저하시키지 않으면서 효과적이다. 다른 한편으로, 상호 상관 정제는 코너형 키포인트의 경우 유효하며, 딥러닝 파이프라인에서 부정확한 매칭을 기본적으로 바로 폐기하지 않고 유지·정제하여 장면의 더 나은 커버리지를 달성할 수 있게 한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.