arXiv:2606.26508v1 cs.HC

예산 친화적 키보드리스 상호작용

Budget-Aware Keyboardless Interaction

Quang-Thang Nguyen, Gia-Phuc Song-Dong, Minh-Triet Tran, Trung-Nghia Le

제출 2026-06-25

한국어 초록

컴퓨터와 상호작용하는 일은 일반적으로 키보드, 마우스, 모니터와 같은 전통적인 입력 장치에 의존하며, 이는 더 큰 이동성을 원하는 사용자에게 번거로울 수 있다. 이러한 한계를 해결하기 위해 가상 키보드가 연구되어 왔지만, 종종 복잡한 설정이나 값비싼 장비가 필요하다. 본 논문은 표준 카메라와 인쇄된 키보드 레이아웃이 있는 종이만을 활용하는 새로운 가상 키보드 시스템을 제안한다. 복잡한 보정이나 특수 조명 조건을 요구하는 기존 방법과 달리, 우리의 접근법은 현대적인 컴퓨터 비전 기술을 사용하여 표준 환경에서 동작할 수 있다. 최신 세그멘테이션 및 검출 모델과 전통적인 이미지 처리 알고리즘을 결합하여 키보드 영역을 효율적으로 식별한다. 터치 검출은 사용자 손톱 색상을 분석하는 알고리즘을 사용하여 수행된다. 실험은 실용적 응용을 위한 키보드 및 키 입력 검출에 대한 우리가 제안한 솔루션이 유망한 결과를 보였음을 입증했다. 사용자 연구에 참여한 참가자들 또한 제안된 시스템이 흥미롭다고 평가했다.

원문 초록

Interacting with computers typically relies on traditional input devices such as keyboards, mice, and monitors, which can be cumbersome for users seeking greater mobility. Virtual keyboards have been explored to address these limitations, but they often involve complex setups or expensive equipment. This paper proposes a novel virtual keyboard system that leverages only a standard camera and a paper with a printed keyboard layout. Unlike previous methods requiring complex calibration or special lighting conditions, our approach can work on standard environment using modern computer vision technologies. Combining modern segmentation and detection models with traditional image processing algorithms, we efficiently identify the keyboard region. Touch detection is performed using an algorithm analyzing the color of the user's fingernail. Experiments demonstrated a promising results our proposed solution of keyboard and keystroke detection for practical applications. Participants attended our user study also found the proposed system interesting.

요약

표준 카메라와 인쇄된 키보드 레이아웃이 있는 종이만으로 동작하는 저비용 가상 키보드 시스템을 제안하며, YOLOv8 세그멘테이션·검출과 호모그래피 변환으로 키 영역을 식별하고 손톱 색상 분석으로 터치를 검출한다. 실험에서 키보드 검출 AP 92%, 키 검출 AP 70%를 달성했으나 터치 검출 정확도는 조명 영향으로 약 36%에 그쳤고, 사용자 연구 참가자들은 종이와 카메라만으로 입력할 수 있다는 점을 흥미롭게 평가했다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.26508v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.24492v2cs.CV공통 태그 Activity Recognition, Object Detection

롱샷 윈드서핑 영상의 동일성 일관 분석: 도메인 특화 오프라인 추적 시스템

Identity-Consistent Analysis of Long-Shot Windsurfing Video: A Domain-Specific Offline Tracking System

롱샷 윈드서핑 영상은 작은 표적, 큰 카메라 팬, 장시간 겹침, 빠르게 변하는 배경이 결합된다. 원하는 출력은 일반적인 MOT 궤적이 아니라 각 서퍼마다 분리되고 안정적인 라이더 기준 상대 영상이며, 한 번의 잘못된 동일성 병합만으로도 그 외에는 유용한 결과 전체를 무효화할 수 있다. 우리는 서퍼를 검출하고, 보수적인 로컬 tracklet을 구성하며, 카메라 보상 운동과 전경 마스크 기반 돛 색상 descriptor로 전역 연결하고, rig의 두 포즈 키포인트로 라이더 기준 가상 카메라를 구동하는 오프라인 분석 시스템을 제시한다. 추적 단계는 41,004개의 유지 관측을 포함하는 수동 재구성 개발 영상 21편에서 평가했다. 이 고정 관측 프로토콜에서 프로덕션 시스템은 쌍별 정밀도 0.957, 재현율 0.918, F1 0.937을 달성했으며, OC-SORT의 F1 0.792, BoT-SORT의 0.828과 비교된다. OC-SORT 대비 fragmentation excess는 845에서 42로 줄였지만, 95개 출력 트랙 중 9개가 라이더 동일성을 혼합했고 이 오류는 21편 중 7편에 영향을 준다.

arXiv:2609.24031v2cs.CV공통 태그 Activity Recognition, Object Detection

Video-STLayout 사전학습

Video-STLayout Pre-training

최근 몇 년간 사전학습(pre-training)은 효과적인 비디오 표현을 학습하는 데 핵심적인 요소로 자리 잡았으며, 이를 통해 다운스트림 과제로의 강력한 전이가 가능해졌다. 사전학습에서 널리 쓰이는 프레임워크는 비디오 인코더의 특징을 언어나 오디오와 같은 다른 모달리티의 특징과 정렬하는 방식이다. 우리는 객체 바운딩 박스의 시공간적 레이아웃(spatio-temporal layout) 정보를 활용하여 풍부한 비디오 표현을 얻기 위한 새로운 전략인 Video-STLayout 사전학습을 제안한다. 객체 레이아웃은 비디오 프레임에 기성(off-the-shelf) 객체 검출기를 적용하여 손쉽게 얻을 수 있다. 우리의 방법은 대조 손실(contrastive loss)을 사용하여 비디오 특징을 학습된 레이아웃 인코더의 레이아웃 특징과 정렬한다. 우리는 복잡한 장면에서의 행동 인식(activity recognition) 과제를 통해 본 접근법의 효과를 입증한다.

arXiv:2609.26924v1cs.CV공통 태그 Segmentation, Object Detection

nnFoundation: 방사선학을 위한 3D 파운데이션 모델

nnFoundation: 3D Foundation Models for Radiology

방사선 인공지능은 빠르게 발전했으나, 대부분의 시스템은 여전히 좁은 범위의 과제에 특화되어 있고 데이터 집약적이며 도메인 이동(domain shift) 환경에서 취약하다. 파운데이션 모델은 더 전이 가능하고 데이터 효율적인 해결책을 약속하지만, 기존 접근은 규모가 제한적이고 평가 범위가 좁으며, 종종 단일 사전학습 모델이 다양한 다운스트림 과제를 지원할 수 있다고 가정한다. 본 연구에서는 상보적인 합성곱 및 트랜스포머 기반 3D 방사선학 파운데이션 모델 nnFoundation을 제시한다. Human Radiome Project(THRP) 내에서 개발된 nnFoundation은 125개의 기관 및 공개 데이터셋으로부터 2.1백만 건의 CT, MRI, PET 영상 볼륨으로 학습되었다. 세그멘테이션, 검출, 분류, 리포트 생성, 이미지 검색에 이르는 108개 과제에서 이를 평가했으며, 도메인 이동 하에서의 평가, 외부 파트너에 의한 평가, 저데이터 및 저연산 환경에서의 평가를 포함한다. 모든 과제 유형에서 합성곱 및 트랜스포머 기반 nnFoundation 모델은 기존 3D 파운데이션 모델과 처음부터 학습하는 방법 모두를 일관되게 능가하여 방사선 영상 분야 최신(state-of-the-art) 성능을 확립했다. 다만 성능은 일관된 과제 의존적 구조를 따른다. 합성곱 nnFoundation 모델은 공간적으로 국한된 과제에서 우세하고, 트랜스포머 기반 nnFoundation 모델은 전역적 의미 추론이 필요한 과제와 고정 특징(frozen-feature) 설정에서 뛰어나다. 사후적으로 파운데이션 모델 토폴로지를 데이터셋 특성에 동적으로 정렬하면 이질적인 3D 환경에서의 전이를 더욱 개선한다. 이러한 결과는 전이 가능한 3D 방사선학 성능이 단일 범용 모델이 아니라 확장 가능한 사전학습, 상보적 아키텍처, 데이터셋 인지 적응의 상호작용에 의해 좌우됨을 보여준다. nnU-Net 및 nnDetection에 통합된 nnFoundation 모델을 공개하여 기존 방사선학 워크플로에 즉시 적용할 수 있게 한다.

arXiv:2609.28078v1cs.CV공통 태그 Segmentation, Object Detection

LiAM-SAM: 견고한 SAM2 기반 MOT를 위한 생명주기 인식 메모리

LiAM-SAM: Lifecycle-Aware Memory for Robust SAM2-Based MOT

세그멘테이션 기반 다중 객체 추적(MOT)은 SAM2와 같은 파운데이션 비디오 모델로 강한 위치 추정 품질을 제공하지만, 혼잡한 실세계 장면에서는 여전히 취약하다. 검출기 프롬프트 기반 SAM2 파이프라인에서는 실패가 일반적으로 객체 생명주기의 세 단계에서 발생한다: (i) 잘못된 또는 중복된 트랙 초기화, (ii) 밀접한 상호작용 중 메모리 드리프트, (iii) 긴 가림(occlusion) 또는 재진입 후 신뢰할 수 없는 재식별(re-identification). 이러한 오류는 객체 메모리를 손상시키고 시간이 지남에 따라 누적되어 장기 추적을 불안정하게 만든다. 본 논문에서는 MOT를 생명주기 메모리 무결성 문제로 재정의한다. 세 가지 실패 모드 각각에 대해 목표화된 메커니즘을 갖춘 생명주기 인식 메모리(LiAM) 프레임워크인 LiAM-SAM을 제안한다. 트랙 생성 시점에 잘못된 또는 중복된 초기화를 방지하기 위해, 각 프롬프트를 기존의 인근 추적 인스턴스에 조건화하는 대조적(contrastive) 트랙 초기화를 적용한다. 강한 상호작용 동안 메모리 무결성을 유지하기 위해, 상호작용 혼동을 해소하고 드리프트를 억제하는 운동 및 기하학 기반(gr geometry-grounded) 메모리 보정을 도입한다. 소실 후 신뢰할 수 있는 재식별을 위해, 다양하고 신뢰할 만한 참조를 장기 정체성 앵커로 활성화하는 적응형 컨텍스트 메모리를 유지한다. 마지막으로, 유사도 인식 공간 가지치기를 통해 교차 어텐션 시점에 보존할 메모리 토큰을 선택적으로 고르고, 정확도 손실을 최소화하면서 효율을 개선한다. LiAM-SAM은 모듈식이고 검출기 비의존적인 SAM2 기반 MOT 시스템으로, 평가된 벤치마크에서 최첨단 HOTA 및 IDF1을 달성한다. 연관(association)이 어려운 환경에서 ablation 결과 LiAM이 검출기+SAM2 기준선 대비 HOTA +10.5, AssA +17.4를 개선하고 identity switch를 96% 감소시킨다.

arXiv:2609.26381v1cs.CL공통 태그 Segmentation, Object Detection

GROBID를 위한 레이아웃 유도 마스킹: 대규모 학술 PDF 수집에서의 경량 구조적 성능 향상

Layout-Guided Masking for GROBID: Lightweight Structural Gains in Large-Scale Scientific PDF Ingestion

학술 PDF를 기계 판독 가능한 전문(fulltext)으로 변환하는 작업은 대규모 정보 시스템에서 여전히 병목 현상으로 남아 있습니다. 최근의 비전 기반 파서는 정확도를 향상시키지만, GPU가 필요하며 추출된 텍스트에 노이즈를 유입시킬 수 있습니다. CPU에서 실행되는 모듈형 폰트 스트림 파서인 GROBID는 과학 논문의 구조화에 있어 사실상의 표준(de-facto standard)이며, 가장 큰 오픈 학술 코퍼스 여러 개의 기반을 이루고 있습니다. 본 연구에서는 이를 그림, 표, 파라텍스트(헤더, 푸터, 페이지 번호) 영역을 위치 특정(localising)하는 경량 CPU 검출기와 결합합니다. 이 영역들은 유형화된 영역(typed-area) 마스크로 인코딩되어 해당 토큰이 GROBID의 특화된 모델로 라우팅되거나 폐기됩니다. 섹션 인식 구조 프로토콜을 사용하여 JATS를 기준으로 점수를 매긴 두 개의 PMC 코퍼스인 생물정보학(Bioinformatics, 1,926편의 논문) 및 재료과학(Materials Science, 2,595편)에서, 본 확장 모델은 대부분의 지표(NS $+0.025$/$+0.013$, 재료과학에서 문단 재현율(recall) $+0.086$, $d_z{=}1.08$)에서 기존 GROBID 대비 성능을 향상시키며, 두 코퍼스 모두에서 캡션과 연결된 그림 복원이 개선됩니다. 외부 Table-BRGM 벤치마크에서는 표 검출 F1 점수가 $0.16 \to 0.94$로 회복되고 표 구조 파악도 뒤따릅니다(GriTS-Top $0.27 \to 0.78$, 가장 강력한 GPU 시스템보다는 낮음). 본문 텍스트의 경우, 4개의 비전 기반 시스템(Docling, MinerU, olmOCR, dots.ocr)과 비교했을 때 두 코퍼스 모두에서 최고의 문단 정밀도(precision)를 달성하고, 재료과학에서 최고의 섹션 검출 성능을 보이며, 문자 오류율(character error rate)은 최고 성능의 GPU 파서 대비 0.004 이내입니다. CPU 기반의 엔드투엔드(end-to-end) 실행 시, 가장 저렴한 GPU 시스템(Docling)보다 $2.7$--$3.2\times$, 생성형 파서보다 $10$--$14\times$ 더 적은 비용이 듭니다.

arXiv:2609.23450v1cs.CV공통 태그 Activity Recognition, Object Detection

방송 스누커 큐볼 식별을 위한 규칙 제약 할당

Rule-Constrained Assignment for Cue-Ball Identification in Broadcast Snooker

정확한 큐볼 식별은 방송 스누커의 계량(metric) 분석에 필수적이다. 기존 시스템은 고정된 흰색 프로토타입에 대해 각 후보를 독립적으로 평가하고, 외관 임계값을 초과하는 후보를 배제한다. 방송 환경에서는 조명 변화로 유색 공이 흰색처럼 보일 수 있으며, 선수와 장비의 침입이 큐볼을 가리거나 경쟁 후보를 유발할 수 있다. 우리는 큐볼 식별을 규칙 제약 할당 문제로 formulation하여, 탐지된 후보를 한정된 스누커 인벤토리—큐볼 1개, 최대 15개의 레드, 알려진 위치의 6색 공—에 공동으로 할당한다. 큐볼은 각 후보를 흰색 슬롯에 할당할 때의 증분(incremental) 비용으로 선택되며, 기존의 외관 검사는 단일 슬롯 경우에 해당한다. 수작업 주석 419샷에서 본 방법은 식별 정확도를 88.1%에서 95.5%로, 홀드아웃(hold-out) 경기장에서는 80.5%에서 95.2%로 향상시킨다. 계량 상태 복구 시스템 CueLift 내에서 할당은 6,241개의 득점 가능 샷에 대해 커버리지를 36.2%에서 55.4%로 확대한다. 2,529샷에 대한 별도 평가에서 모든 샷에 추정치를 할당해도 이 이점이 유지된다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.