HARMES 데이터셋에서 다중 모달 인간 활동 인식을 위한 융합 기법 비교
A Comparison of Fusion Techniques for Multi-Modal Human Activity Recognition on the HARMES Dataset
한국어 초록
웨어러블 센서 기반 인간 활동 인식(HAR) 분야의 최근 발전은 다중 모달 심층 학습 모델이 일관되게 단일 모달 대응 모델보다 우수한 성능을 보인다는 점을 보여주었다. 모달리티에는 IMU, RGB 카메라, 오디오 신호 등이 포함될 수 있다. 다중 모달 심층 학습의 중요한 측면 중 하나는 적용하는 센서 융합 접근법이다. 최근 몇 년 동안 다중 모달 HAR을 위한 여러 융합 패러다임이 제안되었다. 그러나 우리가 아는 한, 공통의 다중 모달 HAR 벤치마크 데이터셋에서 이러한 패러다임들을 정면 비교한 연구는 없다. 이 연구 공백을 메우기 위해, 우리는 IMU, 오디오, 주변 습도 데이터가 완전히 라벨링된 61시간 분량을 포함하는 최근 공개된 HARMES 데이터셋에서 7가지 최신 센서 융합 방법을 체계적으로 비교한다. 선택된 데이터셋은 15가지 가사 및 개인 위생 일상생활 활동(ADL)에 초점을 맞춘다. 최신 다중 모달 모델 아키텍처에 7가지 서로 다른 융합 기법을 적용한 결과, Gated Multi-modal Fusion이 가장 높은 macro F1-score(0.82)를 달성했으며, 참가자 1명 제외(leave-one-participant-out) 평가에서 연결 기반 late fusion HARMES 논문 기준선 0.76을 +6%p 초과함을 보인다. 실험에 사용된 모든 코드는 GitHub에 공개되어 있다.
원문 초록
Recent advances in Human Activity Recognition (HAR) from wearable sensors have shown that multi-modal deep learning models consistently outperform their uni-modal counterparts. Modalities can include IMUs, RGB cameras, audio signals, and others. One important aspect of multi-modal deep learning is the sensor fusion approach we apply. Over recent years, multiple fusion paradigms have been proposed for multi-modal HAR. However, to the best of our knowledge, no head-to-head comparison of these paradigms exists on a common multi-modal HAR benchmark dataset. To address this research gap, we systematically compare seven state-of-the-art sensor fusion methods on the recently released HARMES dataset, which comprises 61 hours of fully labeled IMU, audio, and ambient humidity data. The chosen dataset focuses on 15 household and personal hygiene activities of daily living (ADLs). By applying the seven different fusion techniques to a state-of-the-art multi-modal model architecture, we show that Gated Multi-modal Fusion achieves the highest macro F1-score (0.82), surpassing the concatenation-based late fusion HARMES paper baseline of 0.76 by +6pp under leave-one-participant-out evaluation. All code used in our experiments is made publicly available on GitHub.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.27886v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
행동 인식을 향상시키기 위한 확산 기반 합성 데이터 사전학습
Diffusion-Based Synthetic Data Pretraining for Enhancing Activity Recognition
인간 행동 인식(HAR)은 헬스케어, 웰빙 및 일상 모니터링 응용 분야에서 중요성이 점점 더 커지고 있으며, 이 중 식사 및 음용과 같은 섭취 행동을 감지하는 것은 식습관과 만성 질환 관리에 대한 실행 가능한 통찰을 제공할 수 있습니다. 그러나 HAR 시스템은 미세하거나 데이터가 부족한 소수 클래스에서 성능이 저하되는 경우가 많아 실제 식단 모니터링에서의 활용성이 제한됩니다. 본 연구는 스마트워치의 가속도계, 자이로스코프, 지자기 센서 데이터로부터 변별력 있는 시간적 패턴을 포착하도록 설계된 양방향 GRU 레이어, 멀티헤드 어텐션, 잔차 연결을 포함하는 합성곱 아키텍처인 CABiGRU를 기반으로 합니다. CABiGRU의 일반화 성능을 향상시키고 소수 클래스의 과소적합을 줄이기 위해, 확산 모델을 사용하여 합성 센서 데이터 윈도우를 활용하고 2단계 학습 전략을 채택합니다. 즉, 합성 데이터로 CABiGRU를 사전학습한 후 실제 데이터로 미세조정을 수행합니다. DEO(음용/식사/기타) 데이터셋에서 제안된 파이프라인은 90.6%의 균형 정확도(balanced accuracy)를 달성하여 강력한 지도학습 기준선 대비 성능을 향상시켰으며, 섭취 행동 인식에 대한 확산 기반 합성 사전학습의 이점을 보여주고 불균형 클래스를 다루는 데 있어 진전을 나타냅니다. 이러한 결과는 확산 모델로 생성된 데이터와 표적화된 미세조정을 결합하는 것이 식습관 행동의 강건한 인식을 향상시켜, 헬스케어 및 영양 모니터링 환경에서 보다 신뢰성 있는 배포를 지원함을 시사합니다.
Ego2World: 1인칭 시점 요리 영상을 신념 상태 계획 수립을 위한 실행 가능한 환경으로 컴파일하기
Ego2World: Compiling Egocentric Cooking Videos into Executable Worlds for Belief-State Planning
1인칭(Egocentric) 영상은 사람들이 일상 활동을 수행하는 방식을 포착하지만, 에이전트(agent)를 테스트하려면 에이전트가 스스로 선택한 행동의 결과를 평가해야 합니다. 본 연구에서는 주석이 달린 요리 활동을 부분 관측 환경에서의 실행 가능한 계획 수립(planning) 환경으로 변환하는 벤치마크인 Ego2World를 소개합니다. 이 시스템의 컴파일러는 원본 단계와 객체를 기호적 행동 규칙, 영속적 세계 상태, 명시적 작업 조건에 연결하여, 연구자가 에이전트가 제안한 행동을 실행하고 그 결과를 확인할 수 있도록 합니다. 세계 상태와 에이전트 신념(belief)은 별도로 유지되므로, 지속적인 작업 전반에 걸친 계획 수립 및 정보 재사용에 대한 통제된 연구가 가능합니다. 105개 작업에서 6개의 플래너를 평가한 결과, 승인된 작업이라도 작업 목표를 달성하지 못하는 경우가 많은 것으로 나타났습니다. 실행 추적과 조건 검사는 중단된 실행, 부분적 달성, 목표 달성 없는 완료 실행을 구분합니다. 별도의 대응쌍 Qwen-Plus 연구에서, 지속적인 신념 유지는 행동 유효성을 4.15%포인트 향상시키고 시각적 질의 시도를 90.27% 감소시켰으나, 토큰(token) 사용량이 늘어났고 감지 가능한 완료율 향상은 나타나지 않았습니다. Ego2World는 계획 수립 및 메모리 선택이 실행, 관측 수요, 작업 달성에 미치는 영향을 추적할 수 있는 재사용 가능한 테스트베드를 제공하여, 기록된 인간 활동을 상호작용형 에이전트의 개발 및 평가와 연결합니다.
ArrivalBench: 에이전트가 생성한 데이터 파이프라인은 단 한 번만 올바르고 시간에 따라 틀린다
ArrivalBench: Agent-Generated Data Pipelines Are Correct Once and Wrong Under Time
에이전트가 생성한 데이터 작업을 평가하는 기존 벤치마크는 고정된 스냅샷에 대해 파이프라인을 한 번 실행하여 채점합니다. 이와 달리 ArrivalBench는 적대적이지만 재현 가능한 전달 스케줄(지연, 중복, 순서 뒤바뀜, 재시도된 레코드) 하에서 에이전트가 남긴 파이프라인을 재실행하며, 최종 상태가 전체 로그에 대한 배치 재계산 결과와 동일할 것을 요구합니다. 오라클이 분류하는 대신 재계산하기 때문에, 잘못된 테이블과 비정상 종료(crash)는 명확히 구분된 판정으로 취급됩니다. 즉, 비정상 종료는 팀이 이미 운영 중인 모니터링을 통해 감지할 수 있지만 잘못된 테이블은 감지되지 않습니다. 저자들이 구축한 40개 작업에서 단일 실행 채점을 재구현한 결과 11개 모델이 생성한 파이프라인의 86~100%가 통과 판정을 받았으나, 동일한 산출물을 재실행하자 통과된 것 중 7.0~79.2%가 조용히 틀린 결과를 내는 것으로 나타났습니다. 이러한 격차는 복구 루프 때문에 발생하는 것이 아닙니다. 동일한 모델과 작업 내에서 스냅샷 테스트를 거쳐 수정된 파이프라인은 처음에 통과한 파이프라인과 거의 비슷한 빈도로 재실행에 실패합니다. 모든 모델에서 멱등성 위험(idempotency hazard)이 순서 관련 위험보다 더 자주 실패를 유발했습니다. 오답과 비정상 종료를 분리하는 것은 개입(intervention)의 해석 방식도 바꿉니다. 한 모델의 경우 위험 경고를 통해 무음 실패(silent failure)를 48.2%에서 10.5%로 줄였지만 비정상 종료율은 9.0%에서 37.0%로 증가하여 전체 실패율은 51.0%에서 44.0%로 소폭 이동하는 데 그쳤습니다. 11개 실험군 모두 독립적으로 재실행되었으며, 실패율 변동은 최대 5.9%포인트에 불과했습니다.
Build2SPARQL: 빌딩 지식 그래프 쿼리를 위한 대규모 Text-to-SPARQL 벤치마크 데이터셋
Build2SPARQL: A Large-Scale Text-to-SPARQL Benchmark Dataset for Building Knowledge Graph Querying
빌딩 자동화 시스템은 Brick 및 ASHRAE 223P와 같은 온톨로지를 사용하는 시맨틱 지식 그래프(KG)로 점점 더 많이 표현되고 있으며, 이는 인공지능 응용을 위한 기계 판독 가능한 기반을 형성합니다. 유망한 응용 분야 중 하나는 자연어 질문을 SPARQL로 변환하는 Text-to-SPARQL로, 빌딩 관리자가 언어 에이전트를 통해 이러한 그래프를 쿼리할 수 있게 해주지만 대규모 자연어/SPARQL 벤치마크의 부족으로 발전이 제한되고 있습니다. 본 논문에서는 지식 그래프 기반(KG-grounded) 파이프라인으로 생성된 빌딩 지식 그래프용 대규모 벤치마크인 Build2SPARQL을 제시합니다. 이 파이프라인은 SPARQL 쿼리를 전적으로 그래프 순회 코드로 생성 및 검증하는 반면, 대규모 언어 모델(LLM)은 자연어 질문만을 생성하도록 하여 쿼리의 정확성을 모델의 동작과 독립적으로 유지합니다. 해당 파이프라인은 선형 체인, 분기, UNION, 집계, OPTIONAL, 속성 필터링의 6가지 쿼리 패턴 패밀리를 추출하며, 각 쿼리를 5가지 어휘 레지스터에 걸쳐 표현합니다. 201개의 빌딩 지식 그래프(Brick 180개, ASHRAE 223P 21개)에 적용하여 6,136개의 실행 가능한 SPARQL 쿼리와 30,680개의 질문을 도출했습니다. 300개 질문에 대한 2인 평가자 인적 검증 결과 98.8%의 시맨틱 충실도, 98.8%의 자연스러움, 84.0%의 운영 타당성을 확인했습니다. 3개의 공개 가중치(open-weight) 언어 모델에 걸친 검색-증강 평가에서는 완전 일치(exact-match) 정확도가 0.2~20%(제로샷)에서 56~65%(3샷 검색)로 향상되었습니다.
아무것도 예측하지 않는 것이 SAM 3를 능가할 때: 비디오 객체 분할 평가의 재검토
When Predicting Nothing Beats SAM 3: Revisiting Evaluation in Video Object Segmentation
복잡하고 긴 비디오에서의 비디오 객체 분할(Video Object Segmentation, VOS)은 대상 객체가 긴 시간 지평 내에서 간헐적으로만 나타나는 경우가 많은 실제 응용 분야에서 점차 중요해지고 있습니다. 그러나 기존 벤치마크는 대부분 비디오의 대부분 동안 가시적으로 유지되는 시간적으로 두드러진 객체에 주로 초점을 맞추고 있습니다. 이러한 공백을 해결하기 위해 본 논문에서는 낮은 시간적 가시성 조건에서 VOS 방법을 평가하도록 설계된 벤치마크인 FaVOS(A Benchmark for Video Object Segmentation with Fractional Temporal Visibility)를 소개합니다. 우리는 이러한 조건에서 표준 J&F 지표가 대상이 존재하지 않는 프레임에 대한 빈 예측에 높은 보상을 부여하기 때문에 VOS 평가를 부재 분류(absence classification)로 전락시킬 수 있음을 보입니다. 그 결과, 자명한 빈 마스크 예측기조차 SAM 3와 같은 강력한 모델을 능가할 수 있으며, 이는 현재 지표와 실질적인 VOS 성능 간의 근본적인 불일치를 드러냅니다. 이 문제를 완화하기 위해 마스크 시퀀스를 시공간 볼륨으로 평가하고 분할 품질 및 시간적 구조에 대한 민감도를 유지하면서 대상 부재 보상의 지배력을 줄이는 Volumetric J&F를 제안합니다. 프로젝트 페이지: https://aidaslab.github.io/FaVOS.
ELMA: 장기 텍스트 기반 모션 생성을 위한 조응적 구성 벤치마킹
ELMA: Benchmarking Anaphoric Compositions for Long-Term Text-to-Motion Generation
텍스트 기반의 장기 인간 동작 생성은 지속적으로 작동하는 디지털 아바타와 같은 응용에 필수적이다. 짧은 클립에 대해서는 최근 진전이 있었음에도, 기존 모델은 이전 구간에서 설정된 제약이 시간에 걸쳐 유지되어야 하는 조응(anaphora)을 포함한 다중 구간 지시문에서 어려움을 겪는다. 본 논문에서는 이러한 조응적 구성으로부터의 장기 동작 생성이라는 새로운 과제를 도입한다. 이 격차를 해소하기 위해 구간 간 의존성을 보존하는 조밀한 구간 수준 주석을 갖춘 에피소드형 장기 동작 데이터셋 ELMA를 제시한다. 완전 자동화된 수집 및 필터링 파이프라인으로 구축된 ELMA는 실환경 영상에서 고품질의 연속적인 30초 클립을 추출하여 장거리 상태 모델링에 필요한 에피소드형 서사를 담는다. ELMA를 사용하여 독립적 지시문 설정과 조응적 지시문 설정에서 대표적인 장기 동작 생성 모델을 벤치마크하고, 맥락적 미세 조정이 장거리 상태 모델링을 향상시키는지 연구한다. 폭넓은 실험을 통해 기존 모델이 맥락 의존적 지시문을 처리하는 능력과 한계에 대한 통찰을 제공한다. 이러한 결과는 구간 간 의존성 모델링의 어려움을 부각하며, 더 일관되고 의미적으로 정합적인 장기 동작 생성 모델 개발을 위한 유의미한 방향을 제시한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.