대규모 언어 모델(LLM)은 정보 추출(IE)에서 큰 잠재력을 보이지만, 기존의 반성(reflection) 기반 수정 방법은 구조화된 추출 출력과 종종 정렬되지 않는다. 자유 형식의 자기 반성(self-reflection)은 오류를 표시할 수는 있으나, 실패가 누락된 스팬(span), 잘못된 레이블, 경계 불일치, 유효하지 않은 관계 유형, 또는 뒤바뀐 인자 순서 중 어느 것인지는 거의 식별하지 못한다. 우리는 LA-RL(Label-Aware Reflective Reinforcement Learning, 레이블 인식 반성 강화학습)을 제안한다. 이는 작업에 기반한 진단 레이블로 IE 자기 수정을 안내하는 결과 지도(outcome-supervised) 프레임워크이다. 단일 백본(backbone)이 먼저 추출을 예측하고, 작업별 오류 레이블을 진단한 뒤, 진단 결과를 조건으로 출력을 수정한다. 학습은 주석 모델(annotation model)이 레이블을 부여한 진단 데이터로부터 콜드 스타트 지도 미세조정(SFT)을 시작하며, 프로세스 보상 모델 없이 최종 추출 품질, 형식 유효성, 1차 통과 정확성에 보상을 주는 두 단계의 GRPO를 거친다. 개체명 인식, 관계 추출, 이벤트 추출 실험에서 SFT 대비 동일 백본에서 일관된 성능 향상을 보였으며, SciER 관계 추출에서 평균 F1 6.83, 분포 외(out-of-distribution) 관계 추출에서 약 20 F1, DuEE1.0에서 트리거 F1 14.80과 인자 F1 17.50을 기록했다. 절제(ablation) 실험은 반성 구조가 작업에 민감함을 보여준다. 더 강한 제약은 관계 추출에 유리한 반면, 개체명 인식은 도메인 이동(domain shift) 하에서 덜 제한적인 수정이 필요하다.
메타인지는 효과적인 학습, 문제 해결, 의사결정, 소통 등에 있어 핵심적인 지능의 구성 요소다. 최근 몇 년간 메타인지는 유능하고 투명한 AI 시스템의 근간으로 점점 더 주목받고 있다. 그러나 대규모 언어 모델(LLM)이 다양한 실세계 과제에서 상당한 발전을 이루었음에도 불구하고, LLM이 효과적인 메타인지 능력을 언제, 어떻게, 어느 정도까지 발휘하거나 갖출 수 있는지, 또한 그러한 능력이 AI 시스템의 근본적인 역량, 신뢰성, 지능을 향상시키는 데 어떻게 활용될 수 있는지는 아직 명확하지 않다. 본 논문은 LLM의 메타인지에 관한 현재 지식 상태를 최초로 포괄적으로 개관함으로써 이 간극을 해소한다. 우리는 이 신흥 분야의 전반적인 연구 지형을 분석하고 분류하며, LLM의 메타인지 능력을 측정·평가하는 방법 및 벤치마크, LLM에서 메타인지를 유도·개선·적용하는 기법, 그리고 진행 중인 연구의 발견과 시사점을 포함한 최근의 기술적 발전을 요약한다. 또한 응용 사례, 미해결 문제와 도전 과제, 향후 연구의 유망한 방향도 논의한다. 본 논문의 목적은 이 주제에 대한 상세하고 최신의 리뷰를 제공하고 의미 있는 연구와 논의를 촉진하는 것이다. 정리된 논문 목록은 https://github.com/yale-nlp/LLM-Metacognition 에서 확인할 수 있다.
현재의 비전-언어 모델(VLM)은 일관되고 세밀한 추론을 요구하는 복잡한 시각적 태스크를 처리하는 데 어려움을 겪는 경우가 많다. 최근 방법들은 자기성찰적 추론, 즉 생성된 추론을 검토하고 개선하는 능력을 모델에 부여하기 위한 학습을 목표로 하지만, 대량의 주석 데이터를 필요로 하며 테스트 시점에서 명시적인 성찰 행동이 결여되어 있다. 이와 달리 인간은 역방향 예측, 즉 주어진 미래 상태에 앞서 현재 상태가 어떠했을지를 예측하는 메커니즘을 통해 명시적이고 효율적인 자기성찰을 수행한다. 본 연구는 신경과학에서 영감을 받아 이러한 과제를 해결하기 위한 새로운 방법을 제안한다. 우선 주류 VLM이 인간의 뇌와 유사하게 역방향 예측을 수행할 수 있다는 현상을 관찰하고 분석한다. 이를 바탕으로 복잡한 시각적 태스크에서 성찰적 추론을 강화하기 위해 역방향 예측 능력을 활용하는 레이블 없는 학습 프레임워크인 뇌 영감 비지도 자기성찰(BUS)을 제안한다. BUS는 역방향 예측을 기반으로 성찰적 추론의 자기검증을 가능하게 하여 비지도 조건에서 명시적인 학습 신호를 제공한다. 이를 통해 BUS는 주석 데이터에 대한 의존성을 제거하면서도 추론 성능을 향상시킨다. 모델에 독립적인 플러그인으로 설계된 본 프레임워크는 지도 미세조정(SFT) 및 강화학습(RL)과 같은 널리 사용되는 미세조정 방법과 호환된다. Qwen3-VL-8B를 초기 모델로 사용하여 HR-Bench-8K (+8.0%), HR-Bench-4K (+7.7%), V* Bench (+6.3%), MME-RealWorld-Lite (+5.8%)에서 성능 향상을 달성하였으며, 이는 역방향 예측이 성찰적 추론 발전의 핵심임을 입증한다.
Large language model (LLM)-based web agents reduce manual scripting for web data collection, yet on live websites, they often miss relevant pages, return incomplete multimodal outputs, or return media URLs that are not directly downloadable. We present BFS-and-Reflection Agent (BaRA), a framework for site-level collection under a fixed interaction budget. The framework combines bounded breadth-first search (BFS) traversal with history-based self-reflection. We evaluate BaRA on 50 synthetic websites with ground-truth reference sets. We additionally test on three public websites with cluttered or dynamic layouts. BaRA outperforms Pure LLM, SeeAct-Vision, and Browser-use on link discovery and downloadable multimodal extraction, with the largest gains in download-valid image and video recovery. Our code is available at https://github.com/MLAI-Yonsei/BaRA-Agent.
비전-언어 모델(VLM) 시대에 멀티모달 추론 능력을 고도화하는 것은 중요한 과제로 남아 있습니다. 특히 모호하거나 복잡한 시각적 입력을 처리할 때 초기 추론이 종종 환각이나 논리적 오류로 이어지기 때문입니다. 기존 VLM은 종종 그럴듯하지만 근거가 없는(ungrounded) 답변을 생성하며, "성찰(reflect)"하도록 프롬프트를 제시하더라도 수정 사항이 이미지 증거와 분리된 상태로 남을 수 있습니다. 이를 해결하기 위해 우리는 시각적 영역에 대한 성찰(Reflection On visual Regions)을 통한 멀티모달 반복적 추론을 위한 MIRROR 프레임워크를 제안합니다. 시각적 성찰을 핵심 메커니즘으로 통합함으로써, MIRROR는 초안(draft), 비평(critique), 영역 기반 검증, 수정(revision)으로 구성된 폐루프 프로세스로 공식화되며, 출력이 시각적으로 그라운딩될 때까지 이 과정이 반복됩니다. 이 모델의 학습을 지원하기 위해 우리는 **ReflectV**를 구축했습니다. 이는 명시적으로 성찰 트리거, 영역 기반 검증 행동, 시각적 증거에 기반한 답변 수정을 포함하는 멀티턴 지도(multi-turn supervision)를 위한 시각적 성찰 데이터셋입니다. 일반적인 비전-언어 벤치마크와 대표적인 비전-언어 추론 벤치마크 모두에서 수행된 실험 결과, MIRROR는 정확성을 향상시키고 시각적 환각을 줄이는 것으로 나타났습니다. 이는 성찰을 단순한 텍스트 기반 수정 단계가 아닌 증거를 추구하고 영역을 인식하는 검증 과정으로 학습하는 가치를 입증합니다.