Tri-Modal Motion Retrieval by Learning a Joint Embedding Space
원문 초록
Information retrieval is an ever-evolving and crucial research domain. The substantial demand for high-quality human motion data especially in online acquirement has led to a surge in human motion research works. Prior works have mainly concentrated on dual-modality learning, such as text and motion tasks, but three-modality learning has been rarely explored. Intuitively, an extra introduced modality can enrich a model's application scenario, and more importantly, an adequate choice of the extra modality can also act as an intermediary and enhance the alignment between the other two disparate modalities. In this work, we introduce LAVIMO (LAnguage-VIdeo-MOtion alignment), a novel framework for three-modality learning integrating human-centric videos as an additional modality, thereby effectively bridging the gap between text and motion. Moreover, our approach leverages a specially designed attention mechanism to foster enhanced alignment and synergistic effects among text, video, and motion modalities. Empirically, our results on the HumanML3D and KIT-ML datasets show that LAVIMO achieves state-of-the-art performance in various motion-related cross-modal retrieval tasks, including text-to-motion, motion-to-text, video-to-motion and motion-to-video.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
DSCH-Loss: 심층 의미 해싱을 위한 동적 의미 채널 목적 함수
DSCH-Loss: A Dynamic Semantic Channel Objective for Deep Semantic Hashing
고차원 데이터 공간에서 효율적인 근사 최근접 이웃 검색을 가능하게 하는 짧은 이진 해시 코드를 생성하는 의미 해싱 방법은 최근 몇 년간 광범위한 관심을 받아왔다. 심층 학습 기반 방법은 수동 특징 공학에 의존하는 전통적 접근법보다 더 나은 의미 포착 능력을 제공한다. 또한 이들은 다양한 데이터 모달리티에 걸친 의미 해싱에 대한 데이터 기반 접근을 가능하게 하며, 공유 해밍 공간 내에서 고품질 교차 모달 해시 코드를 생성한다. 이전 연구는 이 해밍 공간의 특성을 조사하고, 고정된 폭과 레이블 유사도에서 유도된 해밍 거리를 갖는 미리 정의된 소위 의미 채널에 기반한 손실 함수를 도입했다. 그러나 이러한 공식화는 손실 경관에 불연속성을 도입하기도 하여 최적화를 복잡하게 만들었다. 이러한 관찰에 기반하여, 우리는 손실 경관의 불연속성을 피하기 위해 동적으로 크기와 위치가 조정되는 의미 채널을 사용하는 새로 설계된 손실 함수인 동적 의미 채널 해싱(DSCH)을 제안한다. 또한, 해시 코드 거리의 이산성에서 발생하는 샘플 검색 순서의 모호성을 해결하기 때문에 tie-aware 평균 정밀도(mAP)를 평가 지표로 사용할 것을 권장한다. 마지막으로, 두 개의 인기 있는 데이터셋에서 수행되고 두 가지 서로 다른 모델 아키텍처를 포함하는 다양한 실험 설정은 DSCH 목적 함수를 사용한 학습이 다른 최신 손실 함수를 사용한 학습보다 우수함을 강력히 뒷받침한다. 총 40개의 교차 모달 및 모달 내 검색 작업 중 35개에서, DSCH로 학습된 모델은 테스트된 네 가지 해시 코드 길이 전반에 걸쳐 유의미하게 더 높은 tie-aware mAP 점수를 달성하며, 모델 아키텍처와 사용된 데이터셋 전반에 걸쳐 설득력 있는 결과를 보여준다. mAP 점수 향상은 일관되며, 각각의 2위 대비 최대 1.75퍼센트포인트에 이른다.
Dynamic Modality Interaction Modeling for Image-Text Retrieval
TRACE: 엔터프라이즈 LLM에서 지식을 보존하는 파라미터릭 도구 검색을 위한 비즈니스 규칙 기반 추론 커리큘럼
TRACE: Business Rule-Grounded Reasoning Curriculum for Knowledge-Preserving Parametric Tool Retrieval in Enterprise LLMs
파라미터릭 검색(parametric retrieval)은 각 API에 고유한 가상 토큰을 할당하고, 제약 빔 탐색(constrained beam search)을 통해 모델이 이를 생성하도록 학습함으로써 LLM이 도구를 암묵적으로 검색할 수 있게 한다. ToolSense는 이 방식이 두 가지 치명적인 단점을 갖는다고 보여준다: 학습(training) 중 파라미터릭 도구 지식을 파괴하고, 빔 탐색 디코딩이 실시간 배포에 너무 느리다는 것이다. 우리는 이러한 분리(dissociation)를 해소하는 2단계 커리큘럼인 TRACE(Tool Retrieval via Augmented Chain-of-thought and Enterprise rules)를 제안한다. 1단계는 ToolSense의 다중 형식 암기 SFT를 재사용하여 LoRA로 도구 지식을 시드(seed)한다. 2단계가 핵심 기여이다: 모델은 ToolSense의 RRB 쌍과 도메인 전문가가 큐레이션한 비즈니스 규칙을 대상으로 합성된 쿼리라는 두 가지 데이터 소스를 사용하며, 둘 다 추론 trace로 증강된 데이터로, 도구 토큰의 JSON 목록을 생성하기 전에 thinking trace를 출력하도록 학습된다. 이 학습 목표는 1단계 MCQ 및 QA 프로빙 정확도를 보존하면서 프로덕션 지연 시간에서 단일 빔 greedy 디코딩을 가능하게 한다. 두 엔터프라이즈 제품군에 걸친 8,300개 이상의 도구를 포함한 통합 엔터프라이즈 카탈로그에서 평가한 결과, 2단계 TRACE 학습은 도구 이해력을 보존할 뿐 아니라 향상시킨다: MCQ 정확도는 1단계 대비 +3.2 pp, QA 프로빙은 +9 pp 향상한다. 검색(retrieval)에서는 TRACE가 Domain A에서 ~86% 재현율, Domain B에서 ~60% 재현율을 달성한다—임베딩(embedding) 기준선(baseline) 성능 ~27% 및 ~52%와 비교—둘 다 단일 빔 greedy 디코딩으로, 프로덕션 지연 시간에서 직접 배포 가능하다.
RATED: 실행 역학을 통한 신뢰성 인식 AI 에이전트 도구 검색
RATED: Reliability-Aware AI Agent Tool Retrieval via Execution Dynamics
AI 에이전트(agent)의 외부 도구 의존도가 높아짐에 따라, 신뢰할 수 있는 동작을 위해서는 정확한 도구 검색이 필수적입니다. 기존 방식들은 의미적 관련성을 최적화하지만 실행 중 도구의 가용성은 대체로 무시합니다. 이러한 한계를 해결하기 위해, 본 논문에서는 강건한 의미적 매칭과 동적 신뢰성 적응을 결합한 검색 프레임워크인 RATED(Reliability-Aware Tool Retrieval via Execution Dynamics)를 제안합니다. RATED는 의미적 매칭을 위해 대조 미세조정(contrastive fine-tuning)이 적용된 고정된(frozen) 듀얼 인코더를 사용하며, 실시간 실행 피드백을 기반으로 후보군을 재순위화하는 경량 맥락적 밴딧(contextual bandit) 모듈을 사용합니다. 이러한 설계를 통해 모델의 값비싼 재학습 없이도 런타임 도구 실패에 신속하게 적응할 수 있습니다. 또한 오프라인 검색 및 동적 신뢰성 평가를 위해 5,172개의 실제 도구와 210,000개 이상의 쿼리-도구 쌍으로 구성된 벤치마크인 EcoAgent를 소개합니다. 실험 결과에 따르면, RATED는 실제 쿼리에서 ToolLLM API 검색기 대비 52.2%의 상대적 MRR 향상을 달성하고, 30%의 실패율을 보이는 심각한 API 장애 시나리오에서 오류 선택률을 86.2%에서 2.9%로 낮추는 동시에 인코딩 전용 추론(inference) 대비 1ms 미만의 미미한 지연 시간 오버헤드만을 발생시킵니다. 코드와 데이터셋은 https://github.com/Elliotes/EcoAgent 에서 확인할 수 있습니다.
READ-Bench: 시계열 진단을 위한 과거 사례 검색 벤치마크
READ-Bench: Benchmarking Historical Instance Retrieval for Time-Series Diagnosis
시계열 진단 시스템은 관련 과거 사례를 검색하는 방식에 거의 의존하지 않으며, 이를 활용하더라도 검색 성능은 다운스트림 예측을 통해서만 간접적으로 평가됩니다. 본 연구에서는 다변량 시계열을 중심으로 12개의 진단 데이터셋에 걸쳐 과거 사례 검색을 평가하는 벤치마크인 READ-Bench를 소개합니다. READ-Bench는 신호의 형태 대신 공유된 고장 또는 이벤트 유형을 기준으로 관련성을 정의하므로, 동일한 고장이라도 시각적으로 다른 파형은 관련 사례로 간주되는 반면, 서로 다른 고장의 유사하게 보이는 파형은 관련 사례로 간주되지 않습니다. 검색을 기본 검색기(base retriever)와 리랭커(reranker)의 결합으로 구성하여, 유의성 검정과 함께 지도 수준, 데이터 오염(pollution), 코퍼스 규모를 다양화하는 단일 프로토콜 하에서 고전적 거리 지표, 기호 기반 검색기, 자기지도학습 및 파운데이션 모델 임베더와 이들의 융합, 그리고 라벨 인지형 및 언어 모델 리랭커를 평가합니다. 공통의 채널 독립적 인터페이스에서 사전학습된 표현은 검색 단계 단독으로는 강력한 고전적 및 기호 기반 베이스라인 대비 통계적으로 유의미한 이점을 보이지 않았습니다. 결정적인 요인은 리랭킹 단계에서 해결된 사례에 대한 소량의 지도 학습, 즉 임베딩 공간에서 소수의 이웃 라벨을 전파하는 가우시안 프로세스(Gaussian-process) 리랭커의 활용이었으며, 이는 더 정교한 표현이나 언어 모델 추론보다 훨씬 더 큰 도움이 되었고 데이터 오염 및 전체 코퍼스 규모에서도 유효했습니다. 이러한 결과를 바탕으로, 본 연구는 상호 순위 융합(reciprocal-rank fusion)을 통해 정상 잔차 점수 기반 임베더와 동적 시간 워핑(dynamic time warping) 방식을 결합한 후 가우시안 프로세스 리랭커로 재순위화하여, 12개 데이터셋 전체에서 자체 검색 단계 대비 NDCG@10을 향상시켰으며(리랭킹으로 +0.11 향상), 가장 강력한 단일 기본 검색기 대비 +0.16의 향상을 달성했습니다.
압축 호환 희소 긴 문맥 LLM 추론을 위한 자체 색인 어텐션
Self-Indexing Attention for Compression-Compatible Sparse Long-Context LLM Inference
희소 긴 문맥(long-context) 추론에서는 프리필(prefill)과 디코드(decode) 단계 모두에서 효율적인 토큰 검색이 필요합니다. 기존 방식들은 종종 두 단계에 서로 다른 검색 전략을 사용하여, 추론 전반에 걸쳐 하나의 검색 표현을 재사용하지 못합니다. 본 논문에서는 공유된 변환 도메인 부호-크기(sign-magnitude) 표현을 기반으로 구축된 별도의 학습이 필요 없는(training-free) 프레임워크인 자체 색인 어텐션(Self-Indexing Attention)을 제안합니다. 키(key) 부호는 그룹화된 프리필 선택 및 디코드 검색을 위한 재사용 가능한 토큰 수준의 색인을 제공하며, 동일한 표현이 별도의 색인기 메타데이터 없이도 외부 KV 캐시 압축과 호환성을 유지합니다. 이 1비트 색인은 최신 가속기에서 널리 지원되는 비트 단위 연산을 통해 효율적인 검색을 가능하게 합니다. 5%의 어텐션 밀도에서 Self-Indexing Attention은 LongBench 및 RULER에서 밀집(dense) 어텐션에 근접한 성능을 유지하며, 프리필에서 최대 6.1배, 디코드에서 최대 10.3배의 어텐션 연산자 속도 향상을 달성합니다. TurboQuant 및 DeepSeekV4-Flash를 사용한 실험은 저비트 KV 캐시 압축 및 사전학습된 희소 어텐션 색인기와의 호환성을 추가로 입증합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.