arXiv:1808.02026

Active Learning based on Data Uncertainty and Model Sensitivity

Nutan Chen, Alexej Klushyn, Alexandros Paraschos, Djalel Benbouzid, Patrick van der Smagt

제출 2018-08-06

원문 초록

Robots can rapidly acquire new skills from demonstrations. However, during generalisation of skills or transitioning across fundamentally different skills, it is unclear whether the robot has the necessary knowledge to perform the task. Failing to detect missing information often leads to abrupt movements or to collisions with the environment. Active learning can quantify the uncertainty of performing the task and, in general, locate regions of missing information. We introduce a novel algorithm for active learning and demonstrate its utility for generating smooth trajectories. Our approach is based on deep generative models and metric learning in latent spaces. It relies on the Jacobian of the likelihood to detect non-smooth transitions in the latent space, i.e., transitions that lead to abrupt changes in the movement of the robot. When non-smooth transitions are detected, our algorithm asks for an additional demonstration from that specific region. The newly acquired knowledge modifies the data manifold and allows for learning a latent representation for generating smooth movements. We demonstrate the efficacy of our approach on generalising elementary skills, transitioning across different skills, and implicitly avoiding collisions with the environment. For our experiments, we use a simulated pendulum where we observe its motion from images and a 7-DoF anthropomorphic arm.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.00804v1cs.CV공통 태그 Metric Learning, Active Learning

Spotted: 카메라 트랩 조사에서 위치 정보를 활용한 하이에나 및 표범 재식별

Spotted: Location-informed Reidentification of Hyenas and Leopards in Camera Trap Surveys

카메라 트랩 조사에서의 동물 재식별(ReID)은 낮은 이미지 품질, 조명과 시점의 큰 변화, 개체별 관측 수의 심각한 불균형으로 인해 여전히 어려운 과제로 남아 있다. 이로 인해 현재 ReID 성능은 완전 자동화 사용에 충분하지 않은 경우가 많으며, 실용적인 워크플로우는 알고리즘이 제안한 후보 매칭에 대한 전문가 검토에 의존하는 경우가 일반적이다. 또한 기존 접근 방식의 대부분은 시각적 단서에만 집중하며, 이미지 타임스탬프나 카메라 트랩 위치처럼 현장 연구에서 일상적으로 활용 가능한 보조 정보를 간과한다. 우리는 카메라 위치로부터 도출한 시공간 실현 가능성 사전 확률(spatio-temporal feasibility prior)을 시각적 유사도와 통합하여 전문가 검토 부담을 줄이는, 위치 정보 기반의 인간 참여형(human-in-the-loop) 동물 ReID 프레임워크인 Spotted를 소개한다. 우리 방법은 (i) 두 탐지가 동일 개체에 해당하기 위해 필요한 최소 이동 속도에 기반한 이미지 모델 무관(agnostic) 실현 가능성 점수를 계산하고, (ii) 이 실현 가능성 단서를 의사 지도(pseudo-supervision)로 활용하여 동결된 시각적 기반 모델 위에 경량 헤드를 학습시키며, (iii) 적응된 시각적 유사도와 시공간 실현 가능성을 융합하여 견고한 쌍별 매칭 점수를 산출한다. 또한 불확실한 예측을 초기에 우선 처리하는 능동적 쌍 샘플링(active pair sampling) 전략을 통합하여 어노테이션을 가속화한다. 우리는 본 연구의 일환으로 공개하는 점박이 하이에나와 표범으로 구성된 세 가지 도전적인 카메라 트랩 ReID 데이터셋에서 Spotted를 평가한다. 우리 모델은 LeopardID102, SpottedHyenaID109, SpottedHyenaID415 데이터셋에서 각각 최고 기준선(baseline) 대비 평균 상위 5위 식별 정확도를 9pp, 2pp, 9pp 향상시킨다. 또한 우리의 인간 참여형 전략이 동등한 양성 매칭을 달성하면서 질의 비교 횟수를 최대 69pp 감소시킴을 보인다.

arXiv:2606.17233v1cs.LG공통 태그 Sensitivity, Active Learning

다항 카오스 전개와 다변량 능동 학습을 이용한 공학 구조물의 불확실성 정량화

Uncertainty Quantification of Engineering Structures by Polynomial Chaos Expansion and Multivariate Active Learning

많은 공학 응용 분야에서, 단일 고충실도 모델은 복잡한 물리 시스템의 유한 요소 모델과 같이 동일한 입력 매개변수 하에서 여러 관심량(QoIs)을 생성합니다. 직접 모델 평가의 높은 계산 비용을 완화하기 위해, 대리 모델(surrogate models)을 사용하여 모델 응답의 효율적인 근사를 구축하는 것이 일반적입니다. 당연히, 대리 모델의 정확도는 실험 설계(ED)의 품질에 크게 좌우됩니다. 그러나 단일 ED는 모든 출력에 대해 동시에 적절한 표현을 제공하지 못할 수 있으며, 이는 특히 서로 다른 출력이 입력 변수에 대해 상이한 민감도를 나타낼 때 두드러집니다. 간단한 해결책은 각 출력에 대해 별도의 샘플링을 수행하는 것이지만, 이는 샘플링 복잡도와 계산 비용의 증가를 초래합니다. 통계적 관점에서 이러한 접근 방식은 모든 출력 간의 잠재적 상관관계를 무시하며, 데이터 일관성을 훼손할 수 있습니다. 이 문제를 해결하기 위해, 다항 카오스 전개(Polynomial Chaos Expansion) 대리 모델 구축을 위한 적응형 순차 샘플링 방법을 벡터 값 관심량(QoIs)으로 일반화했습니다. 이 방법은 출력 분산에 대한 국부적 기여도를 기반으로 후보 풀에서 새로운 샘플을 순차적으로 선택하며, 입력 공간에 대한 거리 기반 탐험(exploration)과 모든 출력에 걸친 집계된 분산 정보의 활용(exploitation) 사이의 균형을 유지합니다. 공학 문제의 여러 수치 예제를 통해 비순차적 라틴 하이퍼큐브 샘플링(Latin Hypercube Sampling)과 성능을 비교했습니다. 수치 결과를 통해 제안된 전략은 대리 모델의 정확도와 안정성을 모두 향상시키며, 2차 통계량(second-order statistics)을 더 신뢰할 수 있게 추정할 수 있음을 입증했습니다.

arXiv:2607.14821v2cs.CV공통 태그 Metric Learning

모달 경계의 흐림: 단일 모달에서 다중 모달 인물 재식별(ReID)에 대한 통합 서벡

Blurring Modal Boundaries: A Unified Survey from Single- to Multi-Modal Person Re-ldentification

인물 재식별(ReID)은 지능형 감시 시스템의 핵심 구성 요소로, 분리된 카메라 네트워크 간 신원을 매칭하는 것을 목표로 한다. 전통적인 방법은 주로 단일 모달 RGB 영상에 의존하지만, 낮은 조도와 가림(occlusion)과 같은 환경적 도전 과제에 종종 제약을 받는다. 이러한 한계를 극복하기 위해 해당 분야는 교차 모달(cross-modal) 및 다중 모달(multi-modal) 패러다임으로 빠르게 발전하고 있다. 본 서벡은 이러한 전환에 대한 포괄적인 개요를 제시하며, 직접 가시성을 넘어 지각을 확장하는 신흥 비시선(NLOS, Non-Line-of-Sight) ReID를 포함하여 가시-적외선(VI-ReID), 텍스트-이미지(TI-ReID), 스케치 기반(Sketch-ReID) 등 주요 교차 모달 과제를 체계적으로 검토한다. 또한 3분광(tri-spectral) 및 다중 모달 융합 ReID를 살펴보고, 다양한 센서의 상보적 정보가 어떻게 견고성(robustness)을 향상시키는지 논의한다. 데이터셋, 과제, 방법론을 요약하는 것을 넘어, 모달리티 불변(modality-invariant) 특징을 효과적으로 포착하도록 설계된 가시-적외선 ReID용 트랜스포머 기반 기준선 프레임워크를 제안한다. 마지막으로, 현재 연구 환경을 바탕으로 향후 연구를 위한 여러 유망한 방향을 제시한다.

arXiv:2607.05268v5cs.CV공통 태그 Metric Learning

기하 구조가 실제로 작동하는가? 쌍곡 비전-언어 모델의 위계에 대한 작동점 감사

Is the Geometry Doing the Work? An Operating-Point Audit of Hierarchy in Hyperbolic Vision-Language Models

쌍곡 비전-언어 모델은 추상성을 기하학적으로 인코딩하도록 설계되어 있다. 일반적인 개념은 원점 근처에, 구체적인 개념은 더 먼 곳에 놓이며, 함의 원뿔(entailment cone)은 방향성 있는 순서를 나타낸다. 본 연구는 학습된 MERU, HyCoCLIP, PHyCLIP 모델이 이러한 메커니즘을 실제로 사용하는지 묻는다. 공개된 일곱 개의 체크포인트와 이에 대응하는 처음부터 학습한 개입 모델을 감사한다. 감사한 수렴 체크포인트는 모두 무차원 반경 $u=\sqrt{c}\rho$에서 거의 유클리드적인 상태에 머문다. 이미지 측에서 관측된 최댓값은 $0.37$로, 국소 계량 왜곡이 $10\%$에 이르는 $u\approx0.84$에 크게 못 미친다. 곡률 하한을 해제하면 곡률과 노름은 변하지만 이 영역은 바뀌지 않으며, 하위 과제 성능 변화는 일관되지 않고 대체로 미미하다. 학습된 함의 원뿔은 포화되었거나 거의 포화되어 있어, 낮은 위반율은 학습된 순서가 아니라 지나치게 넓은 원뿔에서 비롯될 수 있다. 사전 등록된 의미 순회는 가지 내부의 약한 순서는 검출하지만 전체 위계를 읽어 내는 작동 가능한 판독은 검출하지 못한다. 셔플 대조 검정은 공개된 체크포인트에서 쌍별 고유의 반경 순서를 검출하지 못하며, 대응하는 세 개의 ViT-B 시드 전체에서 일관된 양성 결과도 없다. 이 비검출은 민감도에 의해 제한된다. 이 진단은 셔플 대조 초과분이 약 13.5 pp일 때에야 검정력 $80\%$에 도달하는 반면, 공개 모델 중 가장 큰 격차는 약 5 pp이다. 우리는 이를 낮은 곡률 지름길로 추적한다. 곡률을 낮추면 순서를 학습하지 않고도 함의 원뿔이 넓어져 위반이 억제된다. 조사한 궤적에서 그래디언트 분해는 붕괴 중 곡률을 낮추는 지배적 압력이 함의 항임을 보여 준다. 그러나 함의를 제거해도 곡률은 수축하므로 이 지름길이 유일한 원인은 아니다. 우리의 진단 아래에서 감사한 정식화들은 작동하는 반경 기반 또는 원뿔 기반 위계를 입증하지 못한다. 우리는 이 감사를 향후 위계 주장을 평가하기 위한 다섯 개 수치의 기하 보고서로 정리한다.

arXiv:2606.20820v3cs.LG공통 태그 Active Learning

CELEUS: E-Process 기반 인증 가능하고 효율적인 LLM 평가

CELEUS: Certifiable and Efficient LLM Evaluation via E-Processes

평가 점수가 LLM의 실제 성능을 포착한다고 신뢰할 수 있는가? 인증 가능한 평가는 LLM의 참 성능을 높은 확률(예: 95%)로 포함하는 신뢰구간(CI)을 제공함으로써 이 질문에 답한다. 특히 기존 방법은 고정된 풀에서 평가 샘플을 순차적으로 선택하며, CI 폭이 목표 정밀도에 도달하는 등 특정 조건이 충족될 때까지 CI를 계속 갱신한다. 그러나 기존 방법은 일반적으로 언제든 유효(anytime-valid)하지 않다. CI를 반복적으로 갱신하고 중단 시점을 결정하는 데 사용하면 주장된 포괄 확률(예: 95%)이 성립하지 않을 수 있어, 이론적 엄밀성과 실제 사이에 간극이 남는다. 본 논문은 E-프로세스를 활용하여 언제든 유효한 CI를 구성하는, 효율적인 LLM 평가를 위한 인증 가능 프레임워크 CELEUS를 제안함으로써 이 간극을 메운다. 구체적으로 두 가지 요소를 결합한 새로운 신호를 제안한다. (i) 평가에 정보량이 많은 샘플을 선택하는 불확실성 유도 샘플링과, (ii) 평가되지 않은 샘플에 대한 대리 모델 지원 근사이다. 이 새로운 신호가 과거를 조건으로 할 때 평가 점수에 대해 불편성을 유지함을 증명하며, 이는 통계적으로 근거 있는 언제든 유효한 e-프로세스 CI를 가능하게 한다. 더 중요한 것은, 두 요소가 추정 분산을 줄이고 더 적은 수의 평가 샘플로 목표 정밀도에 도달하도록 돕는다는 점이다. 또한 CELEUS가 얻은 CI가 로그 인자를 제외하면 근모수적 속도로 수축할 수 있음을 증명하고, 경험적 불확실성 유도 방식의 동기가 되는 오라클 분산 최적 샘플링 규칙을 분석한다. 실험 결과 CELEUS는 언제든 유효한 포괄 확률을 유지하면서 기준 방법보다 54-62% 적은 평가 샘플로 목표 정밀도에 도달한다. 코드는 https://github.com/zyecs/celeus 에서 확인할 수 있다.

arXiv:2607.14817v2cs.LG공통 태그 Active Learning

인식론적 불확실성 평가: OOD 탐지와 능동 학습을 넘어서

Evaluating Epistemic Uncertainty: Beyond OOD Detection and Active Learning

현재 인식론적 불확실성의 평가는 분포 외 탐지, 능동 학습, 선택적 예측과 같은 과제에 의존한다. 그러나 상호 정보량이나 예측의 분산과 같은 일반적인 인식론적 불확실성 점수는 후회(regret), 즉 예측기가 베이즈 최적 예측기에 비해 갖는 초과 오류를 추정한다. 본 논문은 인식론적 거부 옵션 프레임워크를 바탕으로, 후회를 식별하는 능력으로 인식론적 불확실성을 평가하고 이 평가를 다른 과제들과 비교한다. 반복된 사람 레이블이 있는 데이터셋에서 표준 방법들을 벤치마킹한 결과, 과제마다 방법의 순위가 다르게 나타나며, 한 기준에서는 최상위이고 다른 기준에서는 최하위인 방법 간의 쌍별 순위 역전도 포함된다. 이러한 불일치는 각 과제가 서로 다른 점수를 요구하는 최적 상태에서 이미 나타난다. 선택적 예측을 커버리지, 기대 위험, 후회에 대한 제약 최적화로 정식화하여, 최적 점수가 실제 우연적 불확실성과 인식론적 불확실성의 볼록 결합임을 증명하며, 따라서 선택적 예측과 후회 과제는 하나의 과제 족의 두 끝점이 된다. 이에 분포 외 탐지, 능동 학습, 후회 과제는 어떤 방법이 인식론적 불확실성의 좋은 추정기인지에 대해 이론적으로나 경험적으로 서로 일치하지 않으며, 선택적 예측은 실제 위험과 후회가 입력의 순서를 다르게 매기는 지점에서 후회 과제와 갈라진다. 따라서 연구자들은 모델의 무지에 대한 일반적 개념에 의존하는 대신, 인식론적 불확실성 추정이 지원하고자 하는 하위 의사결정을 명시해야 한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.