Toward Better Understanding of Saliency Prediction in Augmented 360 Degree Videos
원문 초록
Augmented reality (AR) overlays digital content onto the reality. In AR system, correct and precise estimations of user's visual fixations and head movements can enhance the quality of experience by allocating more computation resources on the areas of interest. However, there is inadequate research about understanding the visual exploration of users when using an AR system or modeling AR visual attention. To bridge the gap between the saliency prediction on real-world scene and on scene augmented by virtual information, we construct the ARVR saliency dataset with 12 diverse videos viewed by 20 people. The virtual reality (VR) technique is employed to simulate the real-world. Annotations of object recognition and tracking as augmented contents are blended into the omnidirectional videos. The saliency annotations of head and eye movements for both original and augmented videos are collected and together constitute the ARVR dataset. We also design a model which is capable of solving the saliency prediction problem in AR. Local block images are extracted to simulate the viewport and offset the projection distortion. Conspicuous visual cues in local viewports are extracted to constitute the spatial features. The optical flow information is estimated as the important temporal feature. We also consider the interplay between virtual information and reality. The composition of the augmentation information is distinguished, and the joint effects of adversarial augmentation and complementary augmentation are estimated. We generate a graph by taking each block image as one node. Both the visual saliency mechanism and the characteristics of viewing behaviors are considered in the computation of edge weights on the graph which are interpreted as Markov chains. The fraction of the visual attention that is diverted to each block image is estimated through equilibrium distribution on of this chain.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Hardware, Algorithms, and Applications of the Neuromorphic Vision Sensor: a Review
CASE: 클래스 민감한 설명을 위한 대조적 활성화
CASE: Contrastive Activation for Class-Sensitive Explanations
돌출도 기법(saliency method)은 모델의 예측과 관련이 있다고 여겨지는 입력 특징을 시각화하는 데 널리 사용됩니다. 그러나 이러한 시각적 그럴듯함은 중대한 한계점을 가릴 수 있습니다. 본 연구에서는 동일한 입력에 대해 서로 경쟁하는 클래스 레이블을 구별하는 기법의 능력인 클래스 민감도(class sensitivity)에 대한 진단 테스트를 제안합니다. 광범위한 실험을 통해, 널리 사용되는 많은 돌출도 기법이 클래스 레이블과 상관없이 거의 동일한 설명을 생성하여 그 신뢰성에 의문을 제기함을 보여줍니다. 우리는 이러한 클래스 둔감성(class-insensitive) 동작이 다양한 아키텍처와 데이터셋에 걸쳐 지속됨을 발견하였으며, 이는 이러한 실패 모드가 특정 모델에 국한된 것이 아니라 구조적임을 시사합니다. 이러한 발견에 착안하여, 우리는 예측된 클래스에 대해 고유하게 구별되는 특징을 분리하는 대조적 설명 기법인 CASE를 소개합니다. 제안된 진단과 섭동(perturbation) 기반 충실도(fidelity) 테스트를 사용하여 CASE를 평가하고, 기존 기법보다 충실하며 더 클래스 특정적인(class-specific) 설명을 생성함을 보여줍니다.
MEMFOF: High-Resolution Training for Memory-Efficient Multi-Frame Optical Flow Estimation
WAFT: Warping-Alone Field Transforms for Optical Flow
Multimodal Fusion SLAM with Fourier Attention
EndoMUST: Monocular Depth Estimation for Robotic Endoscopy via End-to-end Multi-step Self-supervised Training
토론
이 논문과 연결된 포럼 글이 아직 없습니다.