심층 학습(deep learning)은 복잡한 데이터로부터 의미론적(semantic) 정보를 추출하는 능력을 바탕으로 원격 탐사 이미지 분류에서 점차 중요해지고 있습니다. 분류 작업에는 클래스 간의 의미론적 관계를 나타내는 사전 정의된 레이블 계층 구조가 포함되는 경우가 많습니다. 그러나 이러한 계층 구조는 자주 간과되며, 대부분의 접근법은 세분화된(fine-grained) 분류 체계에만 집중합니다. 본 논문에서는 심층 신경망 아키텍처 내에 계층 레벨별 분류 헤드를 통합하고 교차 레벨 확률 프로젝터를 통해 이들의 출력을 결합하는 새로운 의미론 인식 계층적 일치성(Semantics-Aware Hierarchical Consensus, SAHC) 접근 방식을 제안합니다. 직접 예측값과 투영된 예측값은 기하학적 일치성 분포로 융합되며, 이는 자기 일관적 학습(self-consistent training) 및 선택적인 계층 인식 추론(inference)에 사용됩니다. 이 메커니즘은 계층적 분류 작업의 고유한 구조를 활용하는 기하학적 앙상블 역할을 합니다. 프로젝터는 사용자 정의 분류 체계(즉, 계층적 레이블 구조)로부터 초기화되며, 최적화 과정에서 적응적으로 정제될 수 있습니다. 제안된 SAHC 방법은 다양한 분광 및 공간 해상도를 고려하여 서로 다른 작업에서 다양한 수준의 계층적 복잡성을 가진 두 개의 벤치마크 데이터셋에서 평가됩니다. 실험 결과는 신경망 학습을 유도하는 제안된 접근 방식의 효과성과 원격 탐사 이미지 분류 작업을 위한 계층적 일치성의 견고함을 모두 보여줍니다. 소스 코드는 https://github.com/rslab-unitrento/sahc 에서 확인할 수 있습니다.
쌍곡 비전-언어(vision-language) 모델(VLM)은 계층 구조에 자연스럽게 적합한 기하학적 공간에서 이미지와 텍스트 특징을 표현하지만, 다운스트림 작업으로의 적응은 주로 고정된 프롬프트(prompt)에 의존해 왔습니다. 반면 기존의 프롬프트 학습 방법들은 클래스 레이블을 평면적인 집합으로 다루며 활용 가능한 분류 체계(taxonomic) 구조를 활용하지 못합니다. 본 논문에서는 고정된(frozen) 쌍곡 VLM을 위한 계층적 프롬프트 학습 플러그인을 통해 이러한 간극을 해결합니다. 고정된 오프라인 부모-클래스 계층 구조가 주어지면, 클래스 프롬프트 학습기에 별도의 부모 프롬프트 학습기, 부모 수준의 지도(supervision), 쌍곡 함의 정규화(regularization), 그리고 부모 피드백 로짓(logit) 융합을 추가하여 확장합니다. 본 연구는 이 방식을 CoOp, CoCoOp, MaPLe에 적용하여 각각 HyPLO, CoHyPLO, MaHyPLO를 구현했습니다. 표준 11개 데이터셋(dataset) 벤치마크 전반에서 모든 변형 모델은 베이스-신규(base-to-new) 일반화 및 데이터셋 간 전이 성능을 향상시키며, 도메인 시프트(domain shift) 상황에서도 기존 프롬프트 학습 베이스라인과 대등한 성능을 유지합니다. 6가지 계층적 지표와 임베딩(embedding) 분석 결과, 본 방법이 분류 체계 측면에서 더 일관된 예측을 생성하며 쌍곡 공간에서 부모, 클래스, 이미지 임베딩 간의 계층 일관적인 구조화를 유도함을 보여줍니다. 성능 향상은 새로운 클래스를 고정된 분류 체계 내에 배치해야 할 때 가장 컸으며, 형제 클래스 간의 미세한 혼동이나 이미지 분포에만 영향을 미치는 시프트의 경우에는 가장 작았습니다.
FaceMesh2HPO는 임상 진단 지원을 위해 2D 이미지에서 추출한 3D 얼굴 메시(478개 랜드마크)와 인간 표현형 온톨로지(HPO) 계층 구조를 결합한 계층적 PointNet 기반 파이프라인으로, 연쇄적 특징 제거(cascading feature elimination)를 통해 107개 HPO 용어에 해당하는 얼굴 표현형을 분류한다. 124명의 임상의 어노테이션으로 학습된 최적 모델은 교차 검증에서 평균 AUROC 0.750을 달성했으며, 상위 노드일수록 높은 성능을 보였으나 희귀 리프 용어에서는 성능이 제한적이었다.
Common Weakness Enumeration(CWE) 분류 체계를 사용한 사이버보안 취약점 분류는 극심한 클래스 불균형과 취약점 카테고리 간 강한 계층적 종속성 때문에 어렵다. 소수 클래스 합성 오버샘플링 기법(SMOTE) 및 적응형 합성 샘플링(ADASYN)과 같은 오버샘플링 기법은 클래스 불균형 완화에 널리 쓰이지만, 계층적 CWE 텍스트 분류에서의 효과는 거의 검토되지 않았다. 본 논문은 학습 가능한 부모 클래스 임베딩을 통해 CWE 구조 정보를 명시적으로 통합하고 분류 체계적 일관성을 보존하는 계층 인식(Hierarchy-Aware) RoBERTa 프레임워크를 제안한다. 실험 결과, 고차원 임베딩 공간에서의 합성 보간은 CWE 계층의 고유한 부모-자식 제약을 위반하며, 고전적 ML 모델에는 미미한 이점만 주는 반면 심층 학습 아키텍처의 성능은 일관되게 저하시킨다. CWE Research Concept 데이터셋에서 평가한 제안 모델은 데이터 증강 없이 가중 F1-score 0.76을 달성해 모든 기준선을 능가했으며, BERT 기준선 대비 F1-score가 0.40에서 0.60으로 향상된 Class 카테고리를 포함한 소수 클래스에서 뚜렷한 개선을 보였다. 이 결과는 구조화된 취약점 분류에서 계층 인식 표현 학습이 오버샘플링보다 더 원칙적인 대안임을 시사한다.
연구자들은 문헌 관리 도구에서 수집한 논문을 개인 폴더 계층 구조로 정리하고, 새로운 논문이 들어올 때마다 적절한 폴더로 라우팅한다. 이 작업은 표준 계층적 텍스트 분류(classification)와 다르다. 사용자의 폴더 계층 구조는 고정된 공유 분류 체계가 아니라, 폴더 의미가 주제 기반, 약칭, 발표 장소 기반, 또는 프로세스 지향적일 수 있는 사적이고 진화하는 개인 분류 체계(folksonomy)이며, 그 의미는 이미 저장된 논문들에 의해 정의되는 경우가 많다. 우리는 이 설정을 개인화된 계층적 논문 라우팅(PHPR, personalized hierarchical paper routing)으로 공식화한다: 사용자별 학습(training) 없이 사용자 고유 계층 구조의 폴더에 입력 논문을 할당하는 것이다. 우리는 폴더 이름만이 아니라 폴더 내 구성원 논문에 라우팅 결정을 근거하는 학습 불필요 LLM 에이전트(agent)인 PaperRouter-Agent를 제안한다. 이 에이전트는 먼저 후보 계층 구조를 좁히고, 폴더별 증거를 검색하며, 구성원 논문을 검사하여 적합성을 검증하고, 과거 사용자 거절 이력으로부터 유사도 게이팅 피드백을 반영한다. 실제 개인 문헌 라이브러리에 대한 형성적 연구에서 PaperRouter-Agent는 전체 Recall@1을 0.39에서 0.61로, Recall@3을 0.57에서 0.83으로 향상시켰으며, 발표 장소나 연도 등 메타데이터로 정의된 조직적 폴더에서 가장 큰 성능 향상을 보였다(Recall@1 0.09에서 0.50). 단일 시도 방법이 이러한 폴더에서 무력화되는 반면, 공개 LaMP-2 벤치마크(benchmark)에서는 동일한 접근법이 단일 시도 기준선(baseline) 대비 정확도를 44.5%에서 51.5%로 향상시켰으며(매크로-F1 +9.0), 실용적 사용에 적합한 낮은 비용을 유지하였다.
관세 분류, 수출 통제 분류, 표준 기반 장비 코딩과 같은 태스크는 명시적인 규제 계층 구조 하에서 입력 인스턴스를 세밀한(fine-grained) 클래스에 할당할 것을 요구한다. 표준 텍스트 분류와 달리, 이러한 태스크에서 정답 레이블은 의미적 유사도만으로 결정되지 않으며, 규칙으로 정의된 경계, 임계 조건, 제외 조항, 정의, 그리고 국소적 예외에 의해 결정된다. 그 결과 매우 유사한 두 입력이 서로 다른 레이블을 요구할 수 있고, 관련성 있어 보이는 검색된 구절이 적용 규칙 하에서는 여전히 적용 불가능할 수 있다. 기존의 평면 분류기(flat classifier), 계층적 텍스트 분류 방법, 검색-증강 생성(RAG) LLM 시스템은 계층적 유효성, 규칙 일관성, 세밀한 경계 추론을 함께 적용하도록 설계되어 있지 않다. 본 논문에서는 이 설정을 규제 기반 세밀 계층 분류(regulation-driven fine-grained hierarchical classification)로 정식화하며, 이 설정에서 외부 인스턴스는 규제 계층 내의 유효한 경로를 통해 세밀한 클래스에 할당되고 감사 가능한 증거에 의해 뒷받침되어야 한다. 우리는 규제 집약적인 대표 시나리오들로부터 네 개의 벤치마크 데이터셋을 구축하고, 전문가 참여(expert-in-the-loop) 프로세스를 통해 어노테이션을 검증한다. 또한 규제 문서를 탐색 가능한 트리로 변환하고, 유효한 로컬 후보 노드만을 검색하며, 구조화된 규제 필드와 증거 스니펫을 활용하여 각 다음 단계 결정을 안내하는 제약 인식 계층적 탐색(constraint-aware hierarchical search) 프레임워크를 제안한다. 실험 결과, 우리의 방법은 네 개의 데이터셋 모두에서 최고의 평균 정확도를 달성하고 해석 가능한 결정 경로를 제공하며, 세밀한 인접 카테고리와 규칙 기반 경계 조건이 포함된 사례에서 가장 큰 성능 향상을 보인다.
계층적 분류에서 기존 멀티태스크 학습의 한계인 계층 간 범주 상관관계 미활용 문제를 해결하기 위해, 레이블 계층 전이 행렬을 명시적으로 학습하는 전이 네트워크와 confusion loss로 구성된 LHT(Label Hierarchy Transition) 프레임워크를 제안한다. 공개 벤치마크 및 피부 병변 진단 과제에서 기존 최신 기법을 상회하는 성능을 달성하였으며, 기존 딥러닝 분류 네트워크에 최소한의 수정으로 적용 가능하다.
멀티모달 대조 학습은 이미지를 텍스트 범주와 정렬하여 제로샷(zero-shot) 시각 분류를 가능하게 했다. 그러나 계층적으로 구조화된 레이블 공간에서는 기존 방법들이 분류학적 수준 전반에 걸쳐 일관되지 않은 예측을 내는 경우가 많다. 예를 들어, 모델은 세밀한 범주와 상위 수준 레이블을 동시에 예측할 수 있으나, 예측된 세밀한 범주의 부모 범주가 동시에 예측된 상위 수준 레이블과 모순될 수 있다. 분석 결과, 이 문제는 대조 비교가 여러 분류학적 수준을 포함할 때 발생하는 거짓 음성(false negative) 레이블에서 기인한다. 이를 위해 우리는 대조 비교를 동일한 분류학적 수준 내의 범주로 제한하는 것을 제안한다. 또한 각 분류학적 수준이 충분한 최적화를 받도록 하는 그룹 균형(group-balanced) 설계를 채택한다. 그 결과, 제안된 프레임워크는 거친 세분성부터 세밀한 세분성까지 계층적 일관성과 분류 정확도를 모두 향상시킨다. 우리는 BioCLIP 기반 TreeOfLife-10M으로 모델을 학습하고 여러 계층적 분류 벤치마크에서 평가하며, 모델이 유클리드 공간과 쌍곡(hyperbolic) 공간 모두에서 계층적 일관성이 유의미하게 개선됨을 보인다. 특히 iNaturalist 2021(iNat21)에서 우리 방법은 기준선 대비 수준별 평균 정확도를 30.47% 향상시켜, 계층적 제로샷 분류에 대한 효과를 보여준다.