arXiv:1811.07125

Integrating domain knowledge: using hierarchies to improve deep classifiers

Clemens-Alexander Brust, Joachim Denzler

제출 2018-11-17

원문 초록

One of the most prominent problems in machine learning in the age of deep learning is the availability of sufficiently large annotated datasets. For specific domains, e.g. animal species, a long-tail distribution means that some classes are observed and annotated insufficiently. Additional labels can be prohibitively expensive, e.g. because domain experts need to be involved. However, there is more information available that is to the best of our knowledge not exploited accordingly. In this paper, we propose to make use of preexisting class hierarchies like WordNet to integrate additional domain knowledge into classification. We encode the properties of such a class hierarchy into a probabilistic model. From there, we derive a novel label encoding and a corresponding loss function. On the ImageNet and NABirds datasets our method offers a relative improvement of 10.4% and 9.6% in accuracy over the baseline respectively. After less than a third of training time, it is already able to match the baseline's fine-grained recognition performance. Both results show that our suggested method is efficient and effective.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.09816v4cs.LG공통 태그 Data Augmentation, General Classification

RUBRIC: 불균형 분류를 위한 사실성-효용 균형 순위화

RUBRIC: Realism--Utility Balanced Ranking for Imbalanced Classification

클래스 불균형은 사기 탐지 및 의료 진단과 같이 소수 클래스 샘플이 희소하지만 정확한 분류에 결정적인 위험 민감 응용 분야에서 근본적인 문제를 야기합니다. 기존 오버샘플링(oversampling) 기법들은 클래스 분포의 균형을 맞추기 위해 합성 샘플을 생성하지만, 결정 경계를 왜곡하거나 인위적 아티팩트를 도입하는 저품질 후보를 대량 생성하여 과적합과 일반화 성능 저하를 초래하는 경우가 많습니다. 본 연구에서는 합성 샘플 선택을 '양보다 질' 최적화 문제로 정형화하는 생성기 무관(generator-agnostic) 필터링 프레임워크인 \textbf{RUBRIC}을 소개합니다. RUBRIC은 사실성-효용 트레이드오프를 활용하여 후보들의 순위를 매깁니다. 사실성은 각 후보가 실제 소수 클래스 샘플과 닮은 정도로부터 신경 밀도비 판별자(neural density-ratio discriminator)를 통해 추정되며, 효용은 오목한 마진 기반 점수 함수 $g_-(t)=-\log(1+e^{-t/τ})$를 통해 결정 경계와의 근접성을 포착합니다. 판별자는 모든 벤치마크에서 동일한 아키텍처와 학습 프로토콜을 사용하며, 각 데이터셋의 실제 소수 클래스 대 합성 풀에 대해 독립적으로 적합됩니다. 본 연구에서는 온건한 정규성 조건 하에서, 제안된 필터링 프레임워크가 분포 변화(distribution shift)를 줄이고 준음성 꼬리(near-negative tail) 기여를 억제함으로써 마진 기반 분류기의 일반화 한계(generalization bound)를 단조롭게 강화함을 보입니다. 표준 공개 불균형 분류 벤치마크에 대한 광범위한 실험을 통해, RUBRIC이 여러 데이터 생성기에 걸쳐 전반적인 판별 능력을 유지하면서 소수 클래스 재현율을 향상시킴을 입증합니다. $λ$ 및 선택 예산 $K$에 대한 민감도 분석은 순위화 품질 중심의 성능 트레이드오프를 더욱 명확히 규명합니다.

arXiv:2609.24384v1cs.CV공통 태그 Data Augmentation, General Classification

손으로 그린 기하학적 도형의 실시간 인식을 위한 경량 합성곱 신경망

A Lightweight Convolutional Neural Network for Real-Time Recognition of Hand-Drawn Geometric Shapes

손으로 그린 기하학적 도형을 인식하는 것은 스케치 인식의 기초적인 하위 문제로, 교육, 인간-컴퓨터 상호작용(HCI), 다이어그램 디지털화 등에 응용될 수 있다. 본 논문에서는 소형 합성곱 신경망(CNN)을 사용하여 원, 정사각형, 직사각형, 삼각형의 네 가지 기본 손그림 기하학적 도형을 인식하는 데스크톱 애플리케이션의 설계, 구현 및 평가를 제시한다. 라벨링된 28x28 픽셀 크기의 도형 이미지 2,000개로 구성된 데이터셋을 독립적으로 수집하여 공개하였다. 분류기는 맥스 풀링을 포함하는 3개의 합성곱 블록(16, 32, 64개 필터), 모델 내 데이터 증강 단계(무작위 좌우 반전, 회전 및 확대), 드롭아웃 정규화가 적용된 128개 유닛의 완전 연결층, 그리고 4방향 선형 출력층으로 구성되어 총 97,956개의 학습 가능한 파라미터를 가진다. 해당 신경망은 로짓(logits)에서 직접 계산되는 희소 범주형 교차 엔트로피(sparse categorical cross-entropy) 목적 함수를 바탕으로 Adam 옵티마이저를 통해 학습된다. 80/20의 학습-검증 분할에서 이 모델은 0.1437의 검증 손실과 함께 94.80%의 학습 정확도 및 96.01%의 검증 정확도를 달성한다. Tkinter 기반 그래픽 인터페이스를 통해 사용자는 마우스로 도형을 그리고 신뢰도 점수와 함께 즉각적인 클래스 예측 결과를 확인할 수 있다. 본 연구에서는 이 시스템을 보다 광범위한 스케치 및 도형 인식 문헌에 위치시키고, 관련 손그림 도형 분류 연구들과 정확도를 비교하며, 소규모 단일 기여자 데이터셋에 내재된 한계점을 논의한다. 재현성을 지원하기 위해 전체 소스 코드, 학습된 모델, 클래스별 데이터셋을 공개한다.

arXiv:2607.00642v3cs.AI공통 태그 Data Augmentation

인터랙티브 게임플레이를 위한 코칭 가능한 에이전트

Coachable Agents for Interactive Gameplay

강화학습은 게임 플레이(Silver et al., 2016; 2017; Wurman et al., 2022)에서 로보틱스(Levine et al., 2016; Andrychowicz et al., 2020; Luo et al., 2025; D\"urr et al., 2026), 파운데이션 모델(Ouyang et al., 2022; Noukhovitch et al., 2024; Sun et al., 2024; Guo et al., 2025)에 이르기까지 첨단 AI 및 로봇 시스템을 만드는 데 유용한 도구임이 입증되었다. 이러한 AI 시스템은 시행착오를 통해 과제를 해결하는 단일한 근사 최적 행동을 학습하는 것이 일반적이다. 그러나 학습이 끝난 후에 과제를 해결하는 방식을 어느 정도 제어하고자 하는 사용 사례가 많다. 우리는 핵심 과제에 대한 이러한 수정을 스타일이라 부른다. 우리는 범용 가치 함수 근사기(UVFA)를 신중하게 선택한 학습 시나리오, 학습 알고리즘, 데이터 증강과 결합하여 복잡한 도메인에서 스타일을 보이는 에이전트를 코칭하기 위한 프레임워크를 만든다. 이 프레임워크의 적용을 AAA 비디오 게임인 Horizon Forbidden West와 Gran Turismo, 그리고 오픈소스 휴머노이드 테스트 도메인에서 시연한다. 자동차 레이싱, 양식화된 게임 전투, 휴머노이드 보행이라는 도메인의 상이한 성격에도 불구하고, 각 에이전트는 해당 도메인의 주요 과제를 충족하면서도 스타일 요청에 대한 강한 일관성을 보인다. 중요하게도 본 논문에서 설명한 기법은 최종 사용자가 실행 시점에 최종 행동을 선택할 수 있게 하여, 최종 수행 성능에 대한 유연한 제어를 제공한다.

arXiv:2607.20790v2cs.CV공통 태그 Data Augmentation

가상현실을 위한 안구 검증

Ocular Verification for Virtual Reality

가상현실(VR) 헤드셋(예: Meta Quest, Apple Vision Pro)은 시뮬레이션 환경에서 물리 세계와 빠르고 마찰 없는 상호작용을 제공하여 매끄러운 사용자 경험을 제공한다. 이러한 헤드셋에서 사용자 인증은 홍채와 같은 생체 단서에 의존한다. 그러나 기존의 홍채 인식 프로토콜은 VR 기반 데이터의 전형적 특성인 비제약 환경 획득의 경우에는 충분하지 않을 수 있다. 본 연구에서는 세 가지 핵심 측면을 검토한다. (1) VRBiom 데이터셋에서 ISO/IEC 29794-6 홍채 품질 지표를 평가하고 그 한계를 분석하며, (2) 생성 모델을 사용하여 축 이탈 시선, 불균일 조명, 정반사와 같은 데이터 특유의 문제를 해결하고, (3) 단일 모달(홍채, 눈 주위) 인식과 다중 모달 점수 수준 융합(홍채 + 눈 주위)을 수행한다. 일부 지표(예: 마진 적절성)는 VR로 획득한 데이터에서 실패하는 반면, 이미지 보정은 주로 눈 주위 인식에 도움이 되며, 다중 모달 융합은 단일 모달 홍채 인식 성능 대비 EER을 약 11% 낮춘다는 것을 관찰하였다. 재현성을 위해 논문 채택 시 평가 스크립트를 공개할 예정이다.

arXiv:2610.15761v1cs.CL공통 태그 Data Augmentation

도메인 적응형 사전학습 및 데이터 증강 접근법을 활용한 강건한 마라티어 감성 분석

Robust Marathi Sentiment Analysis using Domain-Adaptive Pre-training and Data Augmentation Approaches

자원이 부족한 언어의 경우, 주석이 달린 데이터의 부족과 텍스트 출처 전반에 걸친 강한 도메인 가변성으로 인해 감성 분석(Sentiment Analysis)이 여전히 까다로운 문제로 남아 있습니다. 마라티어(Marathi)는 널리 사용되는 언어임에도 불구하고 포괄적인 다중 도메인 감성 분석 연구가 부족합니다. 최근 L3Cube의 연구를 통해 마라티어 다중 도메인 데이터셋이 도입되면서 도메인을 고려한 감성 분류 연구가 더욱 원활해졌습니다. 본 연구에서는 사전학습된 MahaBERT 모델을 사용하여 서로 다른 도메인에 걸친 마라티어 감성 분류 성능을 개선합니다. 각 개별 도메인 데이터셋으로 모델을 학습(training)하고 마스크 언어 모델링(masked language modeling)을 활용한 도메인 적응형 사전학습(domain-adaptive pretraining)을 적용하여 모델이 도메인 특화 언어를 더 잘 이해하도록 지원합니다. 또한, 학습 데이터의 다양성을 높이기 위한 데이터 증강(data augmentation) 기법으로 역번역(back-translation)을 활용합니다. 실험 결과, 이러한 방법들이 모든 도메인에서 일관된 정확도 향상으로 이어짐을 보여줍니다. 성능 향상 폭은 데이터셋에 따라 최소 약 0.12%에서 최대 약 1.74%에 이릅니다. 이러한 결과는 도메인 적응형 사전학습과 데이터 증강이 감성 분석 모델 개선에 효과적인 전략임을 입증합니다. 이는 서로 다른 도메인 전반에서 더욱 강건한 성능을 달성하는 데 기여하며, 마라티어와 같은 저자원 언어에 이 접근 방식을 더욱 적합하게 만듭니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.