From Image to Language: A Critical Analysis of Visual Question Answering (VQA) Approaches, Challenges, and Opportunities
원문 초록
The multimodal task of Visual Question Answering (VQA) encompassing elements of Computer Vision (CV) and Natural Language Processing (NLP), aims to generate answers to questions on any visual input. Over time, the scope of VQA has expanded from datasets focusing on an extensive collection of natural images to datasets featuring synthetic images, video, 3D environments, and various other visual inputs. The emergence of large pre-trained networks has shifted the early VQA approaches relying on feature extraction and fusion schemes to vision language pre-training (VLP) techniques. However, there is a lack of comprehensive surveys that encompass both traditional VQA architectures and contemporary VLP-based methods. Furthermore, the VLP challenges in the lens of VQA haven't been thoroughly explored, leaving room for potential open problems to emerge. Our work presents a survey in the domain of VQA that delves into the intricacies of VQA datasets and methods over the field's history, introduces a detailed taxonomy to categorize the facets of VQA, and highlights the recent trends, challenges, and scopes for improvement. We further generalize VQA to multimodal question answering, explore tasks related to VQA, and present a set of open problems for future investigation. The work aims to navigate both beginners and experts by shedding light on the potential avenues of research and expanding the boundaries of the field.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
효과적이고 효율적인 체화 탐험을 위한 능동적 공간 검사
Active Spatial Inspection for Effective and Efficient Embodied Exploration
높은 작업 성공률과 효율성을 달성하는 것은 체화 탐험(Embodied Exploration)에서 핵심적인 목표로 남아 있다. 기존 프레임워크는 일반적으로 공간적으로 조악하고 간접적인 암시적 단서 및 방향 평가를 통해 에이전트(Agent) 행동을 유도하지만, 이러한 설계는 단서의 충분성과 추가 검사(inspection)의 필요성을 판단하는 데 어려움을 겪어 조기 종료나 과도한 지속으로 이어지고, 결과적으로 작업 성공률과 효율성을 저하시킬 수 있다. 본 연구는 공간적으로 명시적인 관점에서 체화 탐험을 재고하고, 근거 기반 지각(evidence-grounded perception)과 노출 정보 기반 이동(exposure-informed movement)을 결합하여 공간적으로 해상된 의사결정 패러다임을 확립하는 공간 검사 기반 능동 탐험(spatial-inspection-guided ACtive Exploration, ACE) 프레임워크를 제안한다. 근거 기반 지각은 세밀한 위치 추정(localization)과 집중적 검증(verification)을 통합하여 암시적 단서를 정확하고 결정적인 시각적 근거로 전환함으로써 추론적 타당성을 강화한다. 노출 정보 기반 이동은 전향적 우선순위화(prospective prioritization)와 후향적 억제(retrospective suppression)를 통해 방향 판단을 촉진하며, 효율적인 공간적 진행을 위해 유망한 방향을 선택한다. ACE는 조기 종료를 방지하는 것과 불필요한 지속을 피하는 것 사이의 긴장 관계를 완화한다. 광범위한 실험을 통해 ACE가 기존 최신(state-of-the-art) 베이스라인 대비 내비게이션(navigation) 작업 성공률을 18.0% 향상시키고, 질의응답(question answering)을 위한 탐험 효율성을 10.3% 향상시켜 효과적이고 효율적인 체화 탐험을 진전시킨다는 것을 입증한다.
LININ: Logic Integrated Neural Inference Network for Explanatory Visual Question Answering
Few-Shot Multimodal Explanation for Visual Question Answering
OVQA: A Clinically Generated Visual Question Answering Dataset
Focal Visual-Text Attention for Memex Question Answering
경로가 중요하다: KGQA에서 답변 정확도를 넘어선 소규모 언어 모델 평가
The Path Matters: Evaluating Small Language Models Beyond Answer Accuracy in KGQA
소규모 언어 모델(SLM)은 지식 그래프(KG)와 함께 사용되는 경우가 점점 늘고 있지만, 종단간(end-to-end) KG 질의응답은 그래프 접근, 탐색, 내비게이션, 추론, 답변 생성을 한데 뒤섞는다. 이러한 결합 때문에 SLM이 질문에 내포된 추론 경로를 충실하게 실행할 수 있는지를 판단하기도, 실패의 원인을 파이프라인의 다른 단계가 아닌 내비게이션에 귀속시키기도 어렵다. 우리는 THESEUS 내비게이션 및 추적성 프레임워크를 사용하고, 고정된(frozen) 기성 SLM을 로컬 행동 정책(local action policy)으로 활용하여 이 능력을 분리해 평가한다. 각 홉(hop)마다 환경은 실행 가능한 나가는 그래프 행동을 제시하고, 모델은 실행 가능한 그래프 행동 하나를 선택하며 중단할지 여부를 결정한다. 이 과정에서 과제별 매개변수 업데이트, 모델이 제어하는 빔 서치, 자유 형식 답변 생성은 사용하지 않는다. 이러한 통제된 설정을 통해 최종 답변 정확도를 Hits@1로, 경로 충실도(path fidelity)를 Path Edit Distance(PED)를 주요 궤적 지표로 사용하여 함께 평가할 수 있다. Kinship과 MQuAKE-ST KGQA 전반에서, 크기가 비슷한 로컬 모델들도 답변 정확도와 경로 충실도에서 크게 다르며, 두 지표가 서로 다른 모델을 선호하는 경우도 있다. 이러한 모델 의존적 양상은 프롬프팅에서도 나타나, 시연된 궤적 하나가 모델에 따라 내비게이션을 개선하거나 오히려 저하시킬 수 있다. 이러한 결과는 SLM의 그래프 추론을 최종 답변 정확도만이 아니라 그 너머까지 평가해야 함을 시사한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.