4차원(4D) 레이더(Radar)는 조도 변화와 악천후 조건에서도 견고함을 유지하면서 거리, 방위각, 고각 및 도플러 측정값을 제공하여 환경 인식을 위한 핵심 센서로 부상했습니다. 그러나 일정한 오경보율(CFAR) 검출과 같은 기존의 레이더 전처리 방식은 주로 신호 수준의 기준에 따라 측정값을 선택하므로, 포인트 클라우드 생성 과정에서 다운스트림 인식에 유용한 정보를 폐기할 수 있습니다. 또한 기존의 4D 레이더 인식 파이프라인은 일반적으로 레이더 데이터 처리와 다운스트림 인식을 독립적으로 최적화하므로, 태스크 목표가 전처리 단계를 직접적으로 유도하지 못합니다. 이러한 한계를 해결하기 위해 본 논문에서는 엔드투엔드 학습(training) 프레임워크와 함께 장면 및 태스크 인지형 레이더(STAR) 전처리기를 제안합니다. STAR 전처리기는 장면 컨텍스트와 다운스트림 태스크 목표를 통합하여 태스크 관련 레이더 포인트를 생성함으로써, 레이더 표현이 인식에 맞춰 직접 최적화될 수 있도록 합니다. K-Radar 벤치마크에서 제안하는 방식은 74.3 AP를 달성하여 이전 최고 수준(SOTA)보다 5.6 AP 포인트 앞서는 성능을 보였습니다. 나아가 STAR로 생성된 태스크 관련 포인트를 다양한 기존 3D 검출기에 적용했을 때 대부분의 평가 설정에서 검출 성능이 향상되었으며, 기존 전처리로 생성된 포인트 클라우드 대비 전반적으로 긍정적인 평균 이득을 얻었습니다.
원자적 활동(atomic activity) 이해는 움직임 패턴과 도로 토폴로지(road topology)에 대한 그라운딩을 함께 인코딩하는 구조화된 교통 행동을 인식하고 위치를 파악하는 것을 목표로 한다. 기존의 행동 인식(action recognition)과 달리, 원자적 활동은 다중 에이전트(multi-agent), 다중 레이블(multi-label), 토폴로지 인지(topology-aware) 특성을 가진다: 다수의 활동이 동시에 발생하는 반면 많은 에이전트는 비활성 상태로 남아있다.
우리는 구조화된 행동 중심 표현 학습 프레임워크인 Action-Slot을 소개한다. 슬롯 어텐션(slot attention)은 객체 중심 분해(object-centric decomposition)에 널리 사용되지만, 그 순열 불변(permutation-invariant) 설계와 객체 수준의 귀납적 바이어스(inductive bias)는 원자적 활동의 의미론과 부합하지 않는다. 우리는 다음 세 가지 설계를 통해 슬롯 학습을 구조화된 활동 분해로 재구성한다: (1) 사전에 정의된 활동 카테고리에 슬롯을 고정시키는 카테고리 정렬 행동 슬롯(category-aligned action slots), (2) 전체적인 비디오 수준 추론을 위한 병렬 시공간 슬롯 업데이트, (3) 전경(foreground) 활동과 무관한 영역 간의 경쟁을 강제하는 배경 및 네거티브 슬롯 정규화(regularization). 이들은 함께 원본 비디오로부터 동시적이고 비동기적인 활동들을 직접적으로 분리해내는 활동 중심의 귀납적 바이어스를 확립한다.
인식을 넘어, 학습된 표현은 전이 가능한 시공간적 그라운딩 신호를 인코딩한다. 우리는 나아가 후보 영역 제거 전후의 어텐션 변화를 측정하여 거짓 양성(false positive)을 억제하는 어텐션 차이 기반 의사 마스크(pseudo mask) 선택 프레임워크를 제안하며, 이를 통해 밀집 주석(dense annotation) 없이도 약지도(weakly supervised) 위치 파악이 가능하다.
체계적인 평가를 지원하기 위해, 우리는 원자적 활동을 완전히 포괄하고 픽셀 수준 주석을 갖춘 균형 잡힌 합성 데이터셋(dataset)인 TACO를 소개한다. OATS, TACO, 그리고 주석이 달린 nuScenes에 대한 실험 결과는 우수한 인식 성능, 강력한 시뮬레이션-실제 전이(sim-to-real transfer), 그리고 최신 수준(state-of-the-art)의 약지도 위치 파악 성능을 보여준다.
다국어 장면 텍스트 인식(STR)은 대부분의 언어에 대한 학습(training) 데이터의 부족과 단일 모델 내에서 다양한 문자 체계(script)를 지원해야 하는 어려움으로 인해 여전히 까다로운 과제로 남아 있습니다. 기존 솔루션은 언어별 인식기를 개별 배포하여 비용을 증가시키고 오류 누적을 초래하거나, 비용이 많이 들고 여전히 많은 문자 체계에서 부정확한 대규모 비전-언어 모델(VLM)에 의존합니다. 본 연구에서는 언어별 전문가보다 단순하고, VLM보다 가벼우며, 두 방식 모두보다 정확한 올인원(all-in-one) 다국어 인식기를 추구합니다. 첫째, 10개 문자 체계와 229개 언어를 아우르는 대규모 합성 장면 텍스트 데이터셋인 TextMuSS-10M을 구축합니다. 이는 실제 데이터를 사용할 수 없는 환경에서 균형 잡히고 충분한 지도 신호를 제공합니다. 둘째, 문자 체계 인지 전문가 혼합(MoE) 아키텍처인 ScriptMoE를 제안합니다. 이는 단일 시각 인코더를 공유하며, 밀집 디코더를 희소 MoE 블록으로 대체합니다. 이 블록은 각 이미지를 상위 2개 문자 체계 맞춤 전문가로 라우팅하는 이미지 수준 라우터와 문자 체계 간 지식을 흡수하는 공유 전문가로 구성됩니다. 자체 구축한 TextMuSS-Bench(10개 문자 체계, 10,899개 이미지)에 대한 광범위한 실험 결과, ScriptMoE는 82.06%의 최고 정확도를 달성하여 가장 강력한 STR 기준선을 1.31% 능가함을 보여줍니다. CC-OCR 엔드투엔드 다국어 태스크에서는 PP-OCRv5의 인식기만 ScriptMoE로 교체했을 때 F1 점수가 65.71%에서 80.89%로 향상되어, 극히 일부분에 불과한 매개변수 수로도 최고 성능의 VLM(80.73%)을 소폭 앞섰습니다.
단일 이미지 기반 3D 객체 생성은 이제 고충실도(high-fidelity) 에셋을 생성할 수 있지만, 이들을 일관된 장면 레이아웃 내에 정확하게 배치하는 것은 여전히 미해결 과제로 남아 있습니다. 핵심적인 어려움은 객체 레이아웃을 표현하는 방식에 있습니다. 전체론적(holistic) 방식은 배치를 장면 수준의 생성 프로세스에 흡수시켜 객체 수준의 세부 표현을 희생합니다. 구성적(compositional) 방식은 기하학적 구조(geometry)와 레이아웃을 분리하여 객체 충실도를 보존하지만, 일반적으로 레이아웃을 희소하고 경계가 없는(unbounded) 포즈 변수로 매개변수화하므로 학습(training)하기 어렵고 희소한 장면 수준 지도하에서는 일반화 성능이 떨어집니다. 우리는 희소한 포즈 회귀를 조밀하고 유계된(bounded) 대응 관계 복원으로 대체하는 구성적 3D 장면 재구성 프레임워크인 Mira-Scene을 제시합니다. 그 핵심에는 가시적인 각 객체 픽셀을 객체의 유계된 표준 공간(canonical space) 내 표면 좌표로 매핑하는 픽셀 정렬 필드인 Canonical Coordinate Map(CCM)이 있습니다. 단안 기하학 추정에서 얻은 장면 공간 포인트 클라우드 맵(PCM)과 결합될 때, CCM은 강건한 기하학적 정렬(alignment)을 통해 객체 변환을 복원할 수 있는 조밀한 표준-장면 대응 관계를 유도합니다. CCM은 유계된 표준 공간에서 작동하기 때문에, 장면 수준의 레이아웃 주석 없이도 확장 가능한 객체 수준 3D 데이터로부터 학습할 수 있는 안정적인 예측 대상을 제공합니다. 나아가 Mira-Scene은 기하학-레이아웃 일관성을 촉진하기 위해 공유 어텐션(attention) 및 위치 인코딩을 갖춘 모달리티별 전문가 스트림을 사용하여 객체 기하학적 구조와 CCM을 공동으로 생성하는 멀티모달 디퓨전 트랜스포머(transformer)를 도입합니다. 실내, 실외, 합성 및 야생(in-the-wild) 장면에 대한 실험에 따르면, Mira-Scene은 제한된 오픈소스 학습 데이터를 사용하면서도 SAM3D 대비 3D-IoU에서 39.8%, 2D-IoU에서 16.5%의 상대적 향상을 달성하며 레이아웃 정확도 면에서 강력한 베이스라인들을 크게 능가함을 보여줍니다.
비전 기반 비포장도로 내비게이션에서 로봇은 회피해야 할 장애물뿐만 아니라 어떤 지형이 더 나은지도 파악해야 합니다. 첫 번째 문제는 여유 공간(freespace) 감지나 시맨틱 분할(semantic segmentation)로 처리됩니다. 두 번째 문제는 대개 주행 가능성 점수(traversability score)로 해결되지만, 이러한 점수에는 보편적인 정답(ground truth)이 존재하지 않아 인식이 시맨틱 클래스별로 미리 정의된 값이나 여유 공간 신뢰도에 의존하게 됩니다. 이러한 점수들은 특정 영역이 무엇인지를 나타낼 뿐, 로봇이 어떤 영역을 선호해야 하는지는 알려주지 못합니다. 이에 따라 본 연구에서는 이러한 선호도를 두 영역 간의 비교를 통해 지도(supervision)될 수 있는 가시적 지형 순서 지정인 시각적 주행 가능성 순위 지정(visual traversability ranking)으로 정식화합니다. 표준 어노테이션에는 선호도가 직접 라벨링되어 있지 않지만, 그 방향성이 내포되어 있습니다. 본 논문에서는 이러한 어노테이션을 정렬된 영역 쌍으로 변환하고, 동결된(frozen) 비전-언어 모델(VLM) 패치 토큰(token)에 작은 판독부(readout)를 이 쌍에 맞춰 적합시키는 TravPro를 제안합니다. 토큰은 고정된 프로토타입 뱅크로 한 번 클러스터링되며, 판독부는 프로토타입별 선호도 점수를 학습합니다. 그런 다음 판독부는 모든 패치에 적용되어 픽셀 단위 어노테이션 없이도 희소한 비교를 조밀한 선호도 유사 라벨(pseudo-label)로 변환하는 교사(teacher) 역할을 수행합니다. RGB 학생(student) 모델은 장애물과 배경을 순위 지정에서 제외하는 비지면(non-ground) 마스크와 함께 이 지도들을 조밀한 지형 선호도 맵으로 증류(distill)합니다. 5개의 미확인(unseen) 도메인에서 TravPro는 가장 강력한 기준선(baseline)의 0.783 대비 0.915의 평균 쌍별 정확도(mean pairwise accuracy)를 달성하여, 클래스별 수치로는 표현할 수 없는 노면 상태에 민감한 순서 지정을 생성합니다. 동일한 VLM과 동일한 지도 방식을 사용하더라도 VLM에 프롬프트(prompt)를 주고 지도를 조밀한 타깃으로 사용할 경우에는 이러한 순서가 도출되지 않으며, 중요한 것은 이들을 활용하는 방식입니다.
언어 기반 3D 위치 추정(localization)은 주변 객체와 그 공간적 관계에 대한 설명으로부터 목표 위치를 포함하는 포인트 클라우드 서브맵을 검색하는 작업이다. 기존 방법들은 일반적으로 질의(query)와 서브맵을 전역 디스크립터(global descriptor)로 압축하는데, 이는 객체 수준의 의미와 설명 간 공간적 일관성을 모호하게 만들 수 있다. 본 논문에서는 대략적인(coarse) 텍스트-투-포인트 클라우드 위치 추정을 위한 질의 위치 인식(query-position-aware) 프레임워크인 위치 조건부 증거 위치 추정(Position-Conditioned Evidence Localization, PosEviLoc)을 제안한다. 전역 매칭에 의존하는 대신, PosEviLoc은 명시적인 의미적 및 공간적 증거를 사용하여 각 후보 서브맵을 평가한다. 이 방법은 방향을 객체 위치와 가상의 질의 위치에 의해 공동으로 결정되는 관계로 모델링한다. 그 결과로 생성되는 질의-위치 공간 증거 필드(Query-Position Spatial Evidence Field, QSEF)는 각 가상 위치에서 지지되는 질의 설명의 비율을 측정하며, 증거 필드를 구성하는 데 실제(ground-truth) 질의 자세(pose)를 사용하지 않고도 설명들 간의 일치도를 명시적으로 포착한다. 다중 레벨 증거 판독(Multi-Level Evidence Readout, MER)은 이러한 증거를 압축된 표현으로 요약하며, 경량 MLP가 이를 검색 점수(retrieval score)로 변환한다. 다섯 개의 벤치마크(benchmark)에서 PosEviLoc은 재현율@1(Recall@1) 기준으로 MNCL을 평균 17퍼센트포인트(percentage point) 앞선다. 플러그 앤 플레이(plug-and-play) 재랭커(reranker)로 사용될 경우, MNCL을 평균 16퍼센트포인트 개선한다. 또한 PosEviLoc은 기존 방법들에 비해 훨씬 적은 파라미터(parameter)를 도입하며 더 빠른 추론(inference) 속도를 달성한다.
인간 중심 환경에서 동작하는 로봇은 일반적으로 명시적 지시를 수행하도록 설계되며, 대부분의 로봇 학습 데이터셋 역시 관측을 작업 지시나 저수준 행동과 짝지어 구성한다. 최근 연구들이 선제적(proactive) 체화 보조(embodied assistance)를 탐구하기 시작했지만, 기존 자원들은 서로 다른 설정과 행동 수준을 대상으로 하여 실세계의 인간 중심 멀티모달 의사결정은 여전히 충분히 탐구되지 않은 상태이다. 우리는 이 문제를 \textit{선제적 로봇 행동 추론}(\textit{ProRobo})으로 정식화하는데, 이는 로봇이 명시적인 행동 지시 없이 인간 및 환경의 멀티모달 단서에 기반하여 어떤 행동을 취할지 결정해야 하는 상위 인지적 의사결정 문제이다. ProRobo를 지원하기 위해, 우리는 다섯 가지 일반적인 장면 속 12가지 일상생활 시나리오에 걸쳐 시각적 관측, 오디오 신호, 텍스트 입력으로 구성된 1만 개(10K) 샘플을 포함하는 실세계 멀티모달 데이터셋 \textit{ProAction}을 소개한다. 인지적으로 근거 있는 상위 수준 행동 지도(supervision)를 구성하기 위해, 우리는 평가(appraisal) 기반 후보 생성과 정서적 마음 이론(Affective Theory-of-Mind) 기반 인간 정제를 결합한 2단계 인간 참여(human-in-the-loop) 파이프라인을 개발하였으며, 인간의 상태, 긴급성, 실행 가능성, 잠재적 위험에 대한 맥락적 판단을 행동 주석에 명시적으로 반영한다. 이러한 지도를 바탕으로, 우리는 대표적인 멀티모달 대규모 언어 모델(Multimodal Large Language Model, MLLM)들을 벤치마크하고, 멀티모달 관측에서 인지적으로 근거 있는 상위 수준 행동으로의 매핑을 암묵적으로 학습하는 참조 모델인 \textit{MMC2Act}를 소개한다. 모달리티 설정, 피험자 비중첩(subject-disjoint) 일반화, 데이터셋 간 전이, 그리고 인간 평가에 걸친 실험 결과, 범용 MLLM은 멀티모달 단서로부터 상위 수준 행동을 선제적으로 추론하는 데 어려움을 겪는 반면, \textit{ProAction}으로 학습할 경우 성능이 크게 향상됨을 보여준다.
정확한 큐볼 식별은 방송 스누커의 계량(metric) 분석에 필수적이다. 기존 시스템은 고정된 흰색 프로토타입에 대해 각 후보를 독립적으로 평가하고, 외관 임계값을 초과하는 후보를 배제한다. 방송 환경에서는 조명 변화로 유색 공이 흰색처럼 보일 수 있으며, 선수와 장비의 침입이 큐볼을 가리거나 경쟁 후보를 유발할 수 있다. 우리는 큐볼 식별을 규칙 제약 할당 문제로 formulation하여, 탐지된 후보를 한정된 스누커 인벤토리—큐볼 1개, 최대 15개의 레드, 알려진 위치의 6색 공—에 공동으로 할당한다. 큐볼은 각 후보를 흰색 슬롯에 할당할 때의 증분(incremental) 비용으로 선택되며, 기존의 외관 검사는 단일 슬롯 경우에 해당한다. 수작업 주석 419샷에서 본 방법은 식별 정확도를 88.1%에서 95.5%로, 홀드아웃(hold-out) 경기장에서는 80.5%에서 95.2%로 향상시킨다. 계량 상태 복구 시스템 CueLift 내에서 할당은 6,241개의 득점 가능 샷에 대해 커버리지를 36.2%에서 55.4%로 확대한다. 2,529샷에 대한 별도 평가에서 모든 샷에 추정치를 할당해도 이 이점이 유지된다.
확산 모델(diffusion model)은 고품질 이미지를 생성하지만, 거울 반사를 지배하는 물리 법칙을 흔히 위반한다. 반사는 위치 오프셋, 방향 불일치, 비율 불균형, 구조적 왜곡 등 기하학적 수차(aberration)를 자주 겪는다. 이러한 실패는 최신 최첨단 생성 시스템에서도 여전히 뚜렷하게 나타난다. 기존 방법들은 합성 데이터 스케일링(scaling)이나 보조적인 깊이(depth) 조건화를 통해 이 문제를 완화하지만, 잠재 공간(latent-space) 노이즈 재구성 손실을 암묵적 지도(supervision)로만 의존함으로써 반사 특유의 기하학적·지각적 제약을 직접적으로 강제하지 못한다. 이러한 격차를 메우기 위해, 우리는 매 학습 단계마다 예측된 클린 잠재(latent)를 픽셀 공간으로 디코딩하고 두 가지 상호 보완적인 미분 가능 목적함수를 통해 어닐링된(annealed) 지도를 적용하는 기하학 및 지각 유도 확산 프레임워크인 PhysReflect를 제안한다. 기하학적 손실(Geometric Loss)은 희소한 에피폴라(epipolar) 대응과 조밀한 경계 투영 정렬을 통해 거울에 의해 유도되는 공간적 일관성을 강제하며, 이때 SAM2 기반의 TwinTrack 메커니즘이 경계 인식 지도를 위한 안정적인 거울 내부 위치 추정을 제공한다. 지각적 손실(Perceptual Loss)은 DINOv2 특징을 통해 반사된 정체성과 외형을 유지하는 의미적 일관성 손실(Semantic Consistency Loss)과, 단안(monocular) 기하학 사전(prior) 하에서 깊이, 표면 법선(surface-normal), 조명 일관성을 정규화하는 조명 일관성 손실(Lighting Consistency Loss)을 결합하여 반사된 외형을 보존한다. 합성 및 실세계 벤치마크(benchmark) 실험 결과, PhysReflect는 기하학적, 지각적, 물리적 타당성 지표뿐만 아니라 정성적 시각 결과에서도 기존 거울 반사 방법들을 능가하는 것으로 나타났다.
사람-객체 상호작용(HOI) 검출은 상호작용하는 사람-객체 쌍을 그라운딩(grounding)하고 이들을 연결하는 동사를 인식해야 하며, 종종 심각한 롱테일(long-tail) 감독 하에서 수행된다. 최근 방법들은 더 강한 검출기와 비전-언어 사전지식으로 정확도를 높이지만, 많은 방법이 여전히 검출기 위에 무거운 트랜스포머 인코더, 복잡한 디노이징 스케줄, 또는 사후(post-hoc) 의미적 보정을 쌓아 올린다. 본 논문은 핵심 설계 원칙인 블렌딩에서 이름을 따온 효율적 HOI 검출기 \textbf{HOIBlender}를 제안한다. 검출기로 그라운딩된 시각 토큰, 공간적 주체-객체 추론, BLIP-2 의미 사전지식을 하나의 경량 디코딩 파이프라인 안에서 블렌딩한다. HOIBlender는 DINOv2 백본을 갖춘 RF-DETR/LW-DETR 스타일 기반 위에 구축되며, 다중 스케일 프로젝터에서 top-$K$ 이미지 조건부 토큰을 주체 및 객체 후보로 직접 선택하여, 이전 HOI 방법들이 유지하던 전용 인코더 단계를 제거한다. 이중 단계 디코더는 먼저 사람-객체 기하를 안정화한 뒤, 점진적 BLIP-2 사전지식 융합을 통해 동사 및 HOI 분류를 수행하며, 롱테일 카테고리를 위해 분류기 가중치는 BLIP-2 텍스트 임베딩(embedding)으로 초기화한다. 그룹 쿼리(grouped-query) 학습은 추론(inference) 비용을 늘리지 않으면서 최적화(optimization)를 더 풍부하게 한다. 세 가지 모델 규모(Nano, Small, 2XL)에 걸쳐 HOIBlender는 HICO-DET에서 SOV-STG-VLA 및 Hybrid-SOV-VLA를 일관되게 능가하며, 경쟁력 있는 지연(latency)과 매개변수 예산을 유지하면서 단 $9$회 학습 epoch만으로 Default Full mAP $44.49$에 도달한다. 이러한 결과는 경량 검출, 구조화된 공간-의미 디코딩, 깊이 통합된 비전-언어 사전지식을 단일의 효율적 HOI 파이프라인으로 블렌딩할 수 있음을 보여준다.
전산유체역학(CFD)은 재실 건물의 환기 및 오염 물질 이송을 평가하는 데 널리 사용되지만, 값비싼 스캐닝 하드웨어나 수동 CAD 모델링 없이 실내 형상을 획득하는 문제, 장면을 개별적으로 조작 가능한 객체로 분해하는 문제, 그리고 실내를 다시 촬영하지 않고도 대체 레이아웃에 맞춰 해당 객체들을 재구성하는 문제라는 세 가지 병목 현상으로 인해 대규모 배포가 제한됩니다. 본 연구에서는 단일 360도 실내 비디오를 개별 편집 및 시뮬레이션이 가능한 형상 에셋으로 변환하는 반자동 워크플로우를 제시합니다. 뉴럴 래디언스 필드(NeRF)를 사용해 조밀한 포인트 클라우드를 복원하고, 텍스트 프롬프트 기반 SAM 3 세그멘테이션으로 얻은 2D 인스턴스 마스크를 다중 뷰 일관성 및 심도 대역 필터링을 통해 3D로 투영합니다. 포인트들은 옥트리(octree)를 통해 객체 인스턴스로 분리되며, 가려짐으로 인한 결손 영역은 연결성 그래프를 통해 보충됩니다. 의자 템플릿은 ICP(Iterative Closest Point) 정렬을 통해 피팅되고, 테이블 형상은 절차적으로 생성됩니다. 브라우저 기반 에디터는 품질 보증과 대체 레이아웃 구성의 신속한 구축을 지원합니다. 이후 정상 상태 레이놀즈 평균(Reynolds-averaged) OpenFOAM 솔루션이 비정상 수동 스칼라 이송을 구동하며, 해당 설정은 격자 민감도 연구를 통해 검증되고 IEA Annex 20 벤치마크를 바탕으로 유효성이 입증됩니다. 본 워크플로우를 두 곳의 대학교 강의실과 계단식 계단 강의실에 적용했습니다. 캡처에서 형상 생성까지의 과정은 소비자용 워크스테이션에서 실당 2~5시간이 소요됩니다. 한 강의실에서 진행된 제어된 장애물 추가 시퀀스에서 가구가 추가됨에 따라 모델링된 반감 제거 시간(half-clearance time)은 비단조적으로 변하며, 공간 간 비교 결과 제거 특성을 공간 간에 신뢰성 있게 외삽할 수 없음을 보여줌으로써 공간별 형상 획득의 필요성을 입증합니다. 본 워크플로우는 이러한 형상 획득을 저비용으로 가능하게 함으로써 교실과 같은 공간에 대해 형상이 상세히 반영된 비교 환기 연구를 실용적으로 수행할 수 있도록 합니다.
텍스트 기반 3D 건물 생성은 엄청난 응용 잠재력을 지니고 있지만, 기존 생성 모델들은 일반적으로 분리할 수 없는 단일 메시(mesh)나 상호작용이 불가능한 렌더링된 표현을 출력합니다. 절차적 모델링(procedural modeling)은 계층 구조를 갖춘 편집 가능한 건물을 생성할 수 있으나 규칙 작성이 번거로우며, 대규모 언어 모델(LLM)의 도움을 받더라도 기하학적 제약 조건 하에서 절차적 규칙을 효과적으로 풀어내는 것은 여전히 어렵습니다. 본 논문에서는 구조화된 건물 생성을 위한 새로운 하이브리드 프레임워크인 ProxyBuild를 제안합니다. 우리는 건물 구성요소를 기하학적 셸(geometric shell)에 단단히 고정하는 새로운 중간 표현인 메시 앵커 기반 절차적 프록시(Mesh-Anchored Procedural Proxy, MAPP)를 도입하여, 생성 작업을 프록시 예측과 프록시-에셋 인스턴스화의 두 단계로 분리합니다. 먼저, MAPP 주석이 포함된 건물 데이터셋을 구축하여 우리가 설계한 면-엣지 이분 그래프(face-edge bigraph) 인코더를 학습시킵니다. 이 인코더는 이종 메시 그래프 상에서 위상 요소들의 특징 상호작용을 명시적으로 모델링함으로써 면과 엣지의 시맨틱 역할을 정확하게 추론합니다. 이후 LLM이 파싱한 텍스트 스타일과 속성 매개변수를 조건으로 하여, 엄격한 제약 조건을 갖춘 공간 배치 로직을 통합함으로써 높은 정밀도의 에셋 검색 및 조립을 완수합니다. 광범위한 실험을 통해 ProxyBuild는 과도한 평활화(over-smoothing), 구성요소 간 충돌, 구조적 손상과 같은 건물 생성의 일반적인 문제들을 크게 완화할 뿐만 아니라, 다양한 출처의 시맨틱 없는 셸을 정확하게 파싱함을 보여줍니다. 다양한 지표에서 기존 베이스라인들을 능가하는 우리의 방법은 텍스트로부터 구조가 명확하고 세부 묘사가 풍부하며 사후 편집이 가능한 3D 건물을 견고하게 생성할 수 있어, 가상현실(VR) 및 디지털 트윈과 같은 다운스트림 애플리케이션을 위한 신뢰성 있고 상호작용 가능한 콘텐츠 기반을 제공합니다.
복잡한 도시 환경에서 정확한 다중 사용자 위치 추정은 어려운 과제이다. 이러한 환경에서는 무선 측정값이 잡음(noise), 차단(blockage), 다중경로(multipath)로 인해 모호해질 수 있는 반면, 시각적 관측은 이를 보완하는 공간적 맥락을 제공한다. 본 논문은 파일럿 인덱싱된 채널 상태 정보(CSI)를 활용한 다중 사용자 위치 추정을 위한 비전-무선 융합 프레임워크를 제시한다. 직교 파일럿 인덱스는 CSI 토큰 시퀀스와 위치 추정 출력 내에서 통신 중인 UE(사용자 단말)의 식별 정보를 보존한다. 이 모델은 파일럿 인덱싱된 각 CSI 관측을 쿼리 토큰으로 인코딩하고, 교차 어텐션(cross-attention)을 사용하여 공간적 시각 메모리로부터 사용자별 정보를 검색한다. CSI 토큰 간의 셀프 어텐션(self-attention)은 사용자 간 상호작용을 추가로 포착하며, 그 결과로 얻어진 멀티모달 표현은 사용자별 위치 추정에 사용된다. 서로 다른 데이터셋에 대한 실험은 모델 기반, CSI 전용, 멀티모달 융합 베이스라인 대비 일관된 성능 향상을 보여준다. 추가 실험은 서로 다른 무선 및 시각 조건 하에서 모델을 평가한다.
거의 동일한 이미지 간의 세밀한 차이를 위치 특정하고 서술하는 것은 멀티모달 대규모 언어 모델(MLLM)에 중요하지만 아직 충분히 연구되지 않은 역량입니다. 기존 벤치마크는 대체로 충실한 서술과 물리적 위치 특정을 동시에 요구하지 않은 채, 의미론적 비교나 단일 이미지 그라운딩(grounding)을 개별적으로 평가합니다. 이러한 격차를 해소하기 위해, 본 논문에서는 그라운딩 기반의 미세 변화 이해를 위한 벤치마크인 MinCU를 소개합니다. MinCU의 각 샘플은 객체 범주, 속성, 개수 또는 공간적 위치에서 단 하나의 원자적 변화만 나타나는 이미지 쌍으로 구성되며, 모델은 변화 서술, 변경된 영역의 위치 특정, 변경된 개체 식별 능력을 평가받습니다. 나아가 본 논문에서는 예측을 '생각-위치 특정-서술(Think-Locate-Describe)' 시퀀스로 분해하는 구조화된 자기회귀 방식인 Semantic-Guided Implicit Spatial Anchors(SG-ISA)를 제안합니다. SG-ISA는 먼저 변경된 개념에 대한 의미론적 단서를 예측한 후, 이산 공간 앵커를 암묵적 위치 특정 스캐폴드로 활용하며, 최종적으로 그라운딩 박스와 함께 변화 서술을 생성합니다. 실험 결과, 가장 강력한 폐쇄형 MLLM과 최근의 R1 스타일 추론 모델조차 MinCU에서 어려움을 겪으며, 대부분 정확한 서술과 그라운딩 박스를 동시에 생성하는 데 실패하는 것으로 나타났습니다. 이전 사고의 연쇄(Chain-of-Thought) 방식과 비교했을 때, SG-ISA를 통한 미세조정은 추론 토큰 오버헤드를 약 26% 줄이면서도 그라운딩 정확도와 서술 품질 모두에서 상당한 공동 향상을 이끌어냈습니다. 이러한 결과는 그라운딩 기반의 듀얼 이미지 이해에서 모델 규모에만 의존하는 것보다 암묵적인 중간 공간 인터페이스가 더 효과적일 수 있음을 시사합니다.
긴 비디오 스트림 입력으로부터의 3D 재구성은 피드포워드 재구성 모델(FFRM)에게 딜레마를 제기하는데, 제한된 GPU 메모리 하에서는 전체 스트림에 대한 추론 컨텍스트를 유지할 수 없기 때문이다. 최근 연구들은 추론 컨텍스트의 완전성과 GPU 메모리 사용량 사이의 트레이드오프를 통해 이 문제를 해결하려 하나, 인위적으로 메모리 사용을 상한으로 제한함에 따라 급격한 메모리 팽창을 겪거나 컨텍스트 완전성이 저하되는 문제가 있다. 토큰의 초기 saliency가 스트림 전반에 걸친 장기적 중요도를 신뢰할 만하게 결정한다는 핵심 관찰에 기반하여, 우리는 들어오는 프레임의 토큰을 적극적으로 규제하는 학습 불필요(training-free) 토큰 규제 방법인 RegVGGT를 제안한다. 프레임당 최대 1%의 토큰만 컨텍스트 메모리 갱신에 허용함으로써, 본 방법은 스트림이 진행됨에 따라 메모리 팽창을 극적으로 억제한다. FlashAttention 호환 토큰 saliency 추정 방식을 갖춘 RegVGGT는 재구성 품질을 거의 희생하지 않고 소비자급 GPU에서 수천 프레임을 처리할 수 있다. 광범위한 실험을 통해 RegVGGT가 다양한 FFRM 예측 작업에 걸친 장기 벤치마크에서 최고 수준의 성능을 달성하며, 기존 FFRM 기반 스트림 재구성 베이스라인을 큰 마진으로 능가함을 보여준다.
피드포워드(feed-forward) 3D 가우시안 스플래팅(3D Gaussian Splatting)은 이제 포즈가 없고 캘리브레이션되지 않은 이미지로부터 렌더링 가능한 장면을 재구성합니다. 그러나 대부분의 모델은 측광 일관성(photometric consistency)만을 지도 학습하고 픽셀 단위로 가우시안을 예측하므로, 전역 구조가 취약해지며 프리미티브 수가 이미지 해상도 및 시점 수에 종속됩니다. 이를 해결하기 위해, GrapeSplat은 다중 시점 단서들을 복셀 정렬 장면 표현으로 통합하고 학습된 그리드로부터 직접 가우시안을 디코딩하여 장면별 최적화(optimization)나 후처리를 필요로 하지 않습니다. Atlas Encoder는 모든 시점을 예측된 3D 포인트에 고정된 픽셀 단위 기하학 및 외형 특징으로 변환합니다. PEACH-Vox는 정확한 닫힌 형태의 역함수(closed-form inverse)를 갖는 매끄러운 축별 매핑을 통해 무한한 장면을 유계된 희소 그리드로 압축-신장(compand)합니다. 이후 Sparse Decoder는 희소 합성곱(sparse convolution)으로 그리드를 통합하고 전체 장면을 점유된 셀당 다수의 가우시안으로 디코딩합니다. 이러한 통합 표현은 희소 복셀 점유를 활용하며, 여기서 가우시안 수는 점유된 셀을 따르고 시점이 장면을 커버함에 따라 포화되는 반면, 그리드 해상도가 그 상한을 설정합니다. GrapeSplat은 단 한 번의 순전파(forward pass)만으로 포즈 없는 이미지들을 렌더링 가능한 가우시안 장면으로 변환합니다. 8개 시점 시퀀스에서 2D 및 3D 지도 학습으로 훈련된 이 모델은 실내 및 무한한 장면에 걸쳐 4개에서 64개 시점까지 제로샷(zero-shot)으로 일반화됩니다. 코드와 학습된 가중치는 https://github.com/VAISR/GrapeSplat 에서 확인할 수 있습니다.
기존 카메라는 시야 내 모든 방향에서 오는 복사휘도(radiance)를 측정하기 위해 수백만 개의 픽셀을 사용한다. 본 논문에서는 구(sphere) 위의 모든 점에 입사하는 조도를 나타내는 조도 함수(irradiance function)를 측정하는 전방향(omnidirectional) 조도 카메라를 제시한다. 조도 함수는 구 표면에서 부드럽게 변화하므로 대역 제한(bandlimited)되어 있다. 우리는 이 함수를 주파수 영역에서 분석하여, 이 함수가 구면 조화 함수(spherical harmonics)의 처음 7차수까지의 가중합으로 잘 근사됨을 보였다. 그 결과, 조도 함수는 소수의 샘플만으로도 정확하게 복원될 수 있다. 이는 조도 카메라가 수백만 개의 검출기(픽셀)를 필요로 하지 않으며, 소수의 측정값만으로도 충분함을 의미한다. 이는 두 가지 주요 이점을 가져온다. 첫째, 카메라의 에너지 소비량이 매우 적어 검출기에 입사하는 빛만으로 완전히 구동될 수 있다. 둘째, 개인을 식별하는 데 필요한 시각적 세부 정보를 포착하지 않으므로 프라이버시가 보호된다. 우리는 구 표면에 배치된 49개의 검출기를 사용하여 FluxCam이라는 조도 카메라 프로토타입을 제작하였다. 조명이 충분한 실내 환경에서, FluxCam은 배터리, 케이블, 외부 전원 공급 장치 없이 자신에게 입사하는 빛으로부터 수확한 에너지만을 사용하여 초당 30프레임으로 측정값을 읽어내고 무선으로 전송할 수 있다. 우리는 FluxCam이 회전을 계산하는 광학 자이로스코프(optical gyroscope)로서, 작업 공간을 모니터링하는 용도로서, 디퓨즈 재조명(diffuse relighting)을 위한 무선(untethered) 광원 프로브(light probe)로서, 그리고 하늘 상태를 추정하고 태양광 패널의 최적 방향을 결정하기 위한 전방향 일사계(pyranometer)로서 사용될 수 있음을 보인다.
대규모 장면 재구성은 3D 매핑, 자율주행과 같은 로봇 자율 시스템에서 핵심적인 기반 기술이다. 최근 3D 가우시안 스플래팅(3D Gaussian Splatting, 3DGS)은 시각적 품질과 연산 효율성 모두에서 뛰어난 장점을 보이며, 대규모 장면 재구성을 위한 유망한 표현 방식으로 자리 잡았다. 그러나 대규모 장면에서는 과도한 메모리 소비와 UAV(무인 항공기) 촬영으로 인한 불균일한 시점 커버리지 등의 문제가 여전히 남아 있어 실제 응용을 제한하고 있다. 이를 해결하기 위해, 우리는 카메라 분포를 장면 모델링에 통합한 새로운 3DGS 프레임워크인 VDGS를 제안한다. VDGS는 감독(supervision) 강도를 정량화하기 위해 장면 앵커(anchor)에 대한 가시성 기반 통계를 도입한다. 이 통계는 장면 분할과 최적화가 부족한 영역에 대한 그래디언트 보정에 추가로 활용되어, 서로 다른 영역 간 균형 잡힌 최적화를 촉진한다. 여러 대규모 항공 장면 데이터셋에 대한 광범위한 실험을 통해, VDGS는 불균형한 시점 분포 상황에서 기존 방법들을 일관되게 능가하면서도, 시점 분포가 더 균일한 시나리오에서도 경쟁력 있는 성능을 유지함을 입증하였다.
본 논문에서는 산림 환경에서의 멀티모달(multi-modal), 멀티세션(multi-session) 지상-항공 장소 인식(ground-to-aerial place recognition)을 위한 최초의 벤치마크인 M3GA-Wild를 제시한다. M3GA-Wild는 기존의 산림 위치 추정(localization) 데이터셋을 통합 및 확장하여, 36km에 달하는 지상 주행 경로에서 동기화된 RGB 영상 및 LiDAR, 370헥타르를 포괄하는 정렬된 고해상도 항공 영상 및 다중 고도 LiDAR, 그리고 정밀한 평가를 위한 정확한 지리 참조(geo-referenced) 6-DoF 포즈를 제공하는 포괄적인 벤치마크이다. M3GA-Wild는 다양한 시점, 차폐, 환경 조건을 지닌 다채로운 산림 장면을 포착하여 시각(visual), LiDAR, 교차 모달(cross-modal) 및 멀티모달 방법론에 대한 체계적인 평가를 가능하게 한다. 기준선(baseline) 실험 결과에 따르면 극심한 시점 차이가 존재하는 상황에서 LiDAR 기반 접근법이 비전 전용 방법보다 성능이 현저히 우수했던 반면, 현재의 멀티모달 융합 전략은 미흡한 교차 모달 정렬로 인해 이득이 제한적인 것으로 나타났다. 또한, M3GA-Wild는 항공 RGB 영상과 지리 참조된 항공 LiDAR를 결합함으로써 산림 영상으로부터 3D 기하 정보를 얻는 저비용 원천으로서의 단안 깊이 추정(monocular depth estimation) 기반 파운데이션 모델(foundation model) 평가를 가능하게 하며, 초기 실험을 통해 현재 방법들의 한계를 밝혀냈다. 이러한 결과는 모달리티 불일치 및 극심한 도메인 격차(domain gap)를 포함한 크로스 플랫폼 위치 추정의 핵심 과제들을 부각한다. M3GA-Wild는 비정형 자연 환경에서의 강건한 멀티모달 위치 추정 및 장기 자율성을 위한 연구를 지원하는 새로운 벤치마크를 정립한다. 데이터셋과 코드는 논문 채택 시 공개될 예정이다.
개방형 환경(open-world) 시나리오에서 주행하는 자율주행 차량은 이국적인 동물이나 떨어진 화물과 같이 이전에 본 적 없는 객체에 불가피하게 직면하게 됩니다. 따라서 이러한 분포 외(OOD, Out-of-Distribution) 객체를 안정적으로 감지하고 분할(segmentation)하는 것은 안전한 환경 이해와 의사결정을 위해 매우 중요합니다. 대부분의 기존 접근 방식은 OOD 학습 샘플에 대한 접근, 세그멘테이션 백본(backbone)의 재학습, 또는 전용 보조 아키텍처를 필요로 하므로 실제 적용 가능성이 제한됩니다. 본 논문에서는 작업 특화된 미세조정(fine-tuning)이나 이상 데이터에 대한 접근 없이도, 파운데이션 세그멘테이션 모델의 신뢰도 예측으로부터 직접 조밀한(dense) OOD 점수를 도출하는 학습이 필요 없는(training-free) 방법을 제안합니다. OOD 세그멘테이션의 견고성을 향상하기 위해, 단안 깊이 추정(monocular depth estimation)을 통한 기하학적 정보를 의사결정 과정에 통합하여 불확실성 기반 예측에 상호보완적인 단서를 제공합니다. 제안된 방법을 SegmentMeIfYouCan 벤치마크에서 평가하고, 실제 인식 시스템의 시간적 특성을 반영하여 비디오 시퀀스에서의 OOD 추적 성능을 추가로 평가합니다. 이 방법은 도로 중심 벤치마크에서 강력한 성능을 발휘합니다.