Generalization of feature embeddings transferred from different video anomaly detection domains
원문 초록
Detecting anomalous activity in video surveillance often involves using only normal activity data in order to learn an accurate detector. Due to lack of annotated data for some specific target domain, one could employ existing data from a source domain to produce better predictions. Hence, transfer learning presents itself as an important tool. But how to analyze the resulting data space? This paper investigates video anomaly detection, in particular feature embeddings of pre-trained CNN that can be used with non-fully supervised data. By proposing novel cross-domain generalization measures, we study how source features can generalize for different target video domains, as well as analyze unsupervised transfer learning. The proposed generalization measures are not only a theorical approach, but show to be useful in practice as a way to understand which datasets can be used or transferred to describe video frames, which it is possible to better discriminate between normal and anomalous activity.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
EvEMTBench: 전력 시스템 보호를 위한 머신러닝 오픈 벤치마크
EvEMTBench: An Open Benchmark for Machine Learning in Power System Protection
머신러닝 기반 전력 시스템 보호에 관한 연구들은 과업 정의, 측정값 접근성, 데이터 분할, 평가 지표 및 일반화 조건이 서로 다른 경우가 많아 직접 비교하기 어렵습니다. EvEMTBench는 모델 설계는 자유롭게 유지하면서 이러한 평가 기준들을 고정한 공개적이고 실행 가능하며 버전 관리가 지원되는 벤치마크(benchmark)를 통해 이러한 간극을 해소합니다. 20~345 kV 범위에 걸친 4개 전력망을 대상으로, 24개의 점수 산정 과업으로 구체화된 12개의 보호 및 이벤트 분석 기능을 정의하며, 관측 가능성 조건, 사전 정의된 분포 변화(distribution shift), 제로샷(zero-shot) 및 파인튜닝(fine-tuning) 기반의 전력망 간 전이(cross-grid transfer) 전반에 걸친 구조화된 평가를 지원합니다. 확정된 데이터 분할, 데이터 누출(leakage) 제어, 재현 가능한 보고 체계는 향후 방법론들을 비교하기 위한 공통의 기준을 제공합니다. 기초적 베이스라인, 전통적 방식, 특징(feature) 기반 방식, 딥러닝 베이스라인을 아우르는 기준 평가 결과는 관측 가능성이 넓어진다고 해서 항상 유리한 것은 아니며, 분포가 변화된 조건에서는 내부 분포(in-distribution)에서 드러나지 않던 오류가 나타날 수 있고, 전력망 간 전이 성능은 고장 위치 추정보다 고장 감지에서 실질적으로 훨씬 더 강건하다는 점을 보여줍니다. 또한 보호 시스템 관점의 진단을 통해 주요 평가 지표만으로는 드러나지 않는 실패 모드를 식별합니다. 따라서 EvEMTBench는 머신러닝 기반 보호 분야의 일반화를 명시적이고 재현 가능한 평가 문제로 정립합니다.
저자원 언어 감성 분석에서의 제로샷 도메인 전이 향상: 마라티어 사례 연구
Enhancing Zero-Shot Domain Transfer in Low-Resource Sentiment Analysis: A Case Study in Marathi
감성 분석(sentiment analysis)은 텍스트 내 의견의 극성을 판별하는 자연어 처리(NLP)의 핵심 과제입니다. 마라티어와 같이 데이터가 제한되어 표준 통계적 방법론의 직접적인 적용이 어려운 저자원(low-resource) 언어의 경우, 모델은 주로 단일 도메인 데이터셋으로 학습됩니다. 이는 도메인 내(in-domain) 성능은 뛰어나지만, 보지 못한(unseen) 도메인에 대한 일반화 성능 저하로 이어집니다. 최근 연구들은 다중 도메인 모델링을 통해 다양한 실제 환경의 콘텐츠를 처리할 수 있는 도메인 견고형 시스템의 필요성을 강조하고 있습니다. 본 연구는 다중 도메인 학습이 보지 못한 마라티어 도메인에 대한 감성 분류를 어떻게 개선하는지 조사합니다. 모델은 단일 도메인, 2개 도메인 및 3개 도메인 데이터셋 조합을 사용하여 학습되었습니다. 실험 결과, 2개 도메인 학습은 단일 도메인 학습에 비해 보지 못한 도메인에 대한 정확도를 약 8% 향상시키는 것으로 나타났습니다. 세 번째 도메인을 추가하면 추가적인 개선이 이루어지지만, 그 증가 폭은 더 작아 일부 도메인에서는 평균 약 2% 수준이었습니다. 이러한 결과는 다중 도메인 데이터로 학습하는 것이 저자원 언어를 위한 더욱 견고한 감성 분석 모델을 구축하는 데 도움이 되지만, 도메인이 추가될수록 그 이득은 점차 줄어든다는 점을 시사합니다.
RARA: 로봇 조작을 위한 검색 고정 표상 정렬 기반의 강건한 정책 미세조정
RARA: Robust Policy Fine-Tuning through Retrieval-Anchored Representation Alignment for Robotic Manipulation
비전-언어-행동(VLA, Vision-Language-Action) 모델과 같은 사전학습된 로봇 정책은 범용 로봇 조작을 위한 강력한 기반을 제공하지만, 소수의 시연(demonstration)만으로 이를 새로운 태스크에 적응시키는 것은 여전히 어렵습니다. 사전학습된 정책을 직접 미세조정(fine-tuning)하면 대개 강력한 분포 내(in-distribution) 성능을 달성할 수 있지만, 사전학습 중에 학습된 표상을 왜곡하여 분포 외(out-of-distribution) 변화에 대한 모델의 일반화 능력을 약화시킬 수 있습니다. 우리는 이러한 문제를 해결하기 위해 2단계 적응 방식인 검색 고정 표상 정렬(RARA, Retrieval-Anchored Representation Alignment)을 제안합니다. 첫째, RARA는 유사한 태스크 의도 및 동작을 가진 사전학습 시기의 표상 특징을 검색하고, 타깃 시연에 대한 정책의 표상을 검색된 시연의 사전학습된 표상과 정렬합니다. 둘째, RARA는 미세조정 과정에서 검색된 시연에 대한 정책 표상이 변화하는 정도를 제한하면서 타깃 시연에 대해 정책을 미세조정합니다. 행동 학습 전 표상 불일치를 줄이고 적응 과정에서 사전학습된 지식을 보존함으로써, RARA는 미세조정 중 불필요한 표상 표류(representation drift)를 제한합니다. RoboTwin, RoboCasa의 13개 태스크 및 실제 로봇에서 Diffusion Policy와 GR00T를 사용해 진행한 실험 결과, RARA는 미세조정의 평균 성공률을 분포 내에서 9.5%p, 분포 외에서 13.6%p 향상시켰으며 비교 대상이 된 모든 베이스라인을 능가함을 보여줍니다. 프로젝트 페이지: https://shua-kang.github.io/RARA_robot/
자기 진화형 기술은 미학습 태스크에도 일반화되는가?
Do Self-Evolving Skills Generalize to Held-Out Tasks?
AI 에이전트(agent)는 이전 태스크에서 학습한 내용을 절차, 체크리스트, 코드 또는 기타 실행 가능한 아티팩트와 같은 재사용 가능한 기술(skills)로 외재화하여 새로운 태스크를 해결할 때 검색 및 재사용할 수 있습니다. 자기 진화형 기술(self-evolving skill) 방법은 학습(training) 태스크에 대한 연습을 거칠 때마다 이러한 기술을 지속해서 다시 작성하며, 이후 동일한 종류의 새로운 태스크에 해당 기술을 활용합니다. 본 논문에서는 기술이 학습 태스크에서 보인 개선 효과가 새로운 테스트 태스크로도 이어지는가라는 질문을 던집니다. 저자들은 모든 방법에 동일한 모델(model), 동일한 에이전트, 동일한 학습/테스트 분할을 적용하여 6개 벤치마크에서 5가지 자기 진화 방법과 원샷(one-shot) 기술을 테스트했습니다. 학습 태스크에서 성능 향상을 보인 21개 기술 중 5개는 테스트 태스크에서도 그 개선 효과를 온전히 유지했고, 13개는 일부만 유지했으며, 3개는 전혀 유지하지 못했습니다. 모든 영역에서 가장 뛰어난 기존 방법은 없었습니다. 기술 내용을 분석한 결과, 일반화 성능이 낮은 기술들은 열 이름이나 출력 파일과 같이 태스크에 종속되어야 하는 세부 사항을 고정해 버리거나, 단일 실패에 대한 해결책을 모든 태스크를 위한 규칙으로 일반화하는 경우가 많았습니다. 기술 내용을 읽는 LLM 판정자(judge)는 이러한 점을 포착할 수 있어, 86%의 쌍에서 테스트 결과와 동일한 방식으로 완성된 기술들의 순위를 매겼습니다. 그러나 단일 수정의 영향은 제대로 예측하지 못하므로, 수정 사항은 여전히 직접 실행하여 테스트해야 합니다. 이러한 발견을 바탕으로 본 논문에서는 기술 작성 가이드만 유지하고 태스크마다 새로운 기술을 작성하는 일반화 가능한 기술 최적화(GSO, Generalizable Skill Optimization)를 제안하며, 이 방법은 6개 벤치마크 모두에서 가장 높은 점수를 기록했습니다.
Cog-VADU: 비디오 이상 행동 탐지 및 이해를 위한 비학습 기반 인지 추론 프레임워크
Cog-VADU: A Training-Free Cognitive Reasoning Framework for Video Anomaly Detection and Understanding
비디오 이상 행동 탐지(VAD)는 비디오 내에서 비정상적인 사건을 시간적으로 특정하는 것을 목표로 합니다. 기존 접근법의 대부분은 데이터셋별 학습과 정제된 주석에 의존하므로 열린 집합(open-set) 시나리오에서의 일반화가 제한적입니다. 대규모 비전-언어 모델(LVLM)에 기반한 최근의 제로샷(zero-shot) 기법들은 이러한 의존성을 완화하지만, 시간적 연속성과 구조화된 추론이 부족한 경우가 많습니다. 본 논문에서는 VAD를 순차적 인지 추론 작업으로 재구성하는 완전한 비학습 기반(training-free) 프레임워크인 Cog-VADU를 제안합니다. Cog-VADU는 비디오 구간에 걸쳐 LVLM을 순환적 추론 체인으로 전개하는 이상 탐지 사고의 연쇄 프롬프팅(CoADTP)을 도입합니다. 시간의 흐름에 따라 구조화된 근거(rationale)를 전파함으로써 모델은 암묵적인 시간적 메모리를 유지하며, 복잡한 이상 행동과 움직임이 큰 정상 활동 간의 견고한 구분을 가능하게 합니다. 신뢰성을 더욱 향상시키기 위해, 텍스트 근거와 시각적 임베딩을 정렬하여 정교하고 안정적인 예측을 위한 의미적 일관성과 시간적 일관성을 강화하는 교차 모달 재순위화 단계를 설계했습니다. 여러 공개 VAD 벤치마크에 대한 광범위한 실험을 통해 Cog-VADU가 경쟁력 있는 제로샷 성능을 달성함을 입증합니다. 또한, 교차 모델 평가에서는 CoADTP가 모델에 구애받지 않는 방식으로 추론 기반 이상 탐지를 일관되게 향상시켜, 실제 응용 분야를 위한 해석 가능하고 일반화 가능한 이상 행동 이해를 제공함을 보여줍니다.
지리공간 임베딩은 고대림을 탐지하지만, 버퍼 공간 검증은 Sentinel 특징 대비 그 이점을 줄인다
Geospatial embeddings detect old-growth forests but buffered spatial validation narrows their advantage over Sentinel features
고대림은 인위적 교란이 거의 없는 상태에서 수세기에 걸쳐 형성되어 구조적으로 복잡하고 생물다양성이 높은 임분을 이룬다. 유럽에서는 이를 보호하려면 개별 임분 단위로 정확하면서도 대륙 전역에 배포 가능한 지도화가 필요하다. 지리공간 파운데이션 모델(GFM) 임베딩은 라벨이 부족한 토지 분류를 가능하게 하지만, 고대림 탐지에 대한 그 가치는 아직 알려져 있지 않다. 본 연구에서는 알프스 생물지리구(Alpine Biogeographic Region)에 전형적인 너도밤나무-가문비나무 경관인 루마니아 남부 카르파티아 211,893 ha에 걸쳐 고대림을 지도화한다. 고대림 및 비고대림 임분에 대한 고신뢰·전문가 기반 참조 라벨을 구축한다. 지형 및 인간 접근 예측변수로 구성된 공통 기준선에 AlphaEarth, TESSERA v2, Sentinel-1/2 특징을 추가한 뒤, 잔여 공간 자기상관을 줄이기 위해 10 km 학습-검증 버퍼 유·무에 따른 공간 블록 검증 하에서 이를 비교한다. 버퍼를 적용하면 GFM 및 Sentinel-1/2 예측변수가 기준선 대비 정밀도-재현율 AUC를 0.21–0.25 [95% CI: 0.15–0.34]만큼 높여, 스펙트럼 데이터에 공간적으로 견고한 고대림 신호가 포함됨을 시사한다. PR-AUC 0.84 [0.79–0.88]에서 TESSERA는 버퍼 없는 공간 검증 하에서 Sentinel-1/2(+0.08 [+0.05–+0.11]) 및 AlphaEarth(+0.08 [+0.04–+0.12])보다 우수하다. 그러나 10 km 버퍼에서는 이 우위가 각각 +0.04 [-0.01–+0.11] 및 +0.03 [-0.04–+0.10]로 줄어들어, 차이가 없음과 일치하는 구간이 된다. 10 m 해상도에서는 합성곱 신경망(CNN)이 픽셀 기반 XGBoost보다 이점을 주지 않는다. 국가·대륙 규모 제품 4종과의 비교는 비고대림 라벨의 중요성을 보여 주며, 현장 보정 지도와 본 연구 예측 간 81% 일치를 드러낸다. 고대림 탐지 모델을 보지 못한 경관으로 전이할 때 버퍼 공간 검증이 필수적임을 결론짓고, 후속 연구를 위해 라벨과 예측을 공개한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.