arXiv:2112.15411

Disjoint Contrastive Regression Learning for Multi-Sourced Annotations

Xiaoqian Ruan, Gaoang Wang

제출 2021-12-31

원문 초록

Large-scale datasets are important for the development of deep learning models. Such datasets usually require a heavy workload of annotations, which are extremely time-consuming and expensive. To accelerate the annotation procedure, multiple annotators may be employed to label different subsets of the data. However, the inconsistency and bias among different annotators are harmful to the model training, especially for qualitative and subjective tasks.To address this challenge, in this paper, we propose a novel contrastive regression framework to address the disjoint annotations problem, where each sample is labeled by only one annotator and multiple annotators work on disjoint subsets of the data. To take account of both the intra-annotator consistency and inter-annotator inconsistency, two strategies are employed.Firstly, a contrastive-based loss is applied to learn the relative ranking among different samples of the same annotator, with the assumption that the ranking of samples from the same annotator is unanimous. Secondly, we apply the gradient reversal layer to learn robust representations that are invariant to different annotators. Experiments on the facial expression prediction task, as well as the image quality assessment task, verify the effectiveness of our proposed framework.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.12375v1cs.CV공통 태그 regression, Image Quality Assessment

IQA-T1: 이미지 품질 평가를 위한 도구 기반 시각적 증거 추론

IQA-T1: Tool-based Visual Evidence Reasoning for Image Quality Assessment

오픈 월드 환경에서의 이미지 품질 평가(IQA)는 일반화와 해석 가능성의 한계로 인해 여전히 어려운 과제이다. 최근 멀티모달 대규모 언어 모델(MLLM)에 기반한 접근법들은 품질 예측을 위해 텍스트 추론을 도입했지만, 그 판단은 의미적으로 편향된 내부 표현에 크게 의존하여 저수준 지각적 열화에 둔감하다. 우리는 MLLM 추론을 명시적 지각 관측으로 보강하는 도구 기반 시각적 증거 추론 프레임워크인 IQA-T1을 제안한다. 추론 중 모델은 전문 분석 도구를 자율적으로 호출하여 노이즈 잔차 맵, 그래디언트 통계, 주파수 스펙트럼 등의 구조화된 시각적 증거를 생성하고, 이를 점진적으로 추론 과정에 통합한다. 이 패러다임을 지원하기 위해, 도구 생성 증거에 기반한 1.1만 개의 멀티모달 추론 체인을 포함하는 데이터셋 Q-Tool을 구축한다. 7개 IQA 벤치마크에 대한 광범위한 실험 결과, IQA-T1은 데이터셋 전반에 걸쳐 최고의 종합 성능을 달성하면서 해석 가능하고 증거에 기반한 품질 평가를 생성한다. 코드와 데이터셋은 https://github.com/zibuyu-02/IQA-T1 에서 제공된다.

arXiv:2607.08109v1cs.LG공통 태그 regression, Image Quality Assessment

대조 순서 학습: 순서형 회귀를 위한 범용 프레임워크

Contrastive Order Learning: A General Framework for Ordinal Regression

우리는 대조 학습과 순서 학습의 강점을 통합한 순서형 회귀(ordinal regression)를 위한 대조 학습 프레임워크인 대조 순서 학습(ConOrd)을 제안한다. 대조 학습은 배치 내 모든 샘플을 효과적으로 활용하지만, 일반적으로 순위 레이블 간의 내재적 순서를 무시한다. 반면, 순서 학습은 레이블 순서성을 명시적으로 모델링하지만 마진 기반의 국소적 비교에 의존하는 경우가 많아 전역 순서 구조를 포착하는 능력이 제한된다. ConOrd는 순위 차이에 기반한 소프트 친화도 및 불일치 가중치를 갖는 대조 순서 손실을 도입함으로써 이러한 한계를 극복하며, 배치 내 모든 샘플 쌍에 걸쳐 순서 관계를 세밀하게 모델링할 수 있게 한다. 얼굴 나이 추정, 블라인드 이미지 품질 평가, 블라인드 비디오 품질 평가를 포함한 다양한 순서형 회귀 태스크에 대한 광범위한 실험을 통해 ConOrd가 일관되게 최고 수준의 성능을 달성하고 다양한 순서형 회귀 시나리오에서 우수한 일반화 성능을 보임을 입증한다. 소스 코드는 https://github.com/cwlee00/ConOrd에서 공개되어 있다.

arXiv:2607.00416v1cs.CV공통 태그 regression, Image Quality Assessment

DroneIQA-VLE: 비전-언어 앙상블을 통한 멀티태스크 드론 이미지 화질 평가

DroneIQA-VLE: Multi-Task Drone Image Quality Assessment via Vision-Language Ensemble

저고도 UAV 이미지에 대한 타겟 인식 화질 평가를 주제로 한 ICME 2026 Drone-IQA Grand Challenge의 솔루션인 DroneIQA-VLE를 제안한다. 이 프레임워크는 두 개의 상호 보완적인 파이프라인을 앙상블하여 전역(global), 타겟(target), 배경(background) 화질 점수를 공동으로 예측한다: (1) 멀티태스크 회귀 헤드를 갖춘 SigLIP2 비전 인코더, (2) 화질 점수 회귀를 위해 LoRA로 적응된 Qwen3.5-9B 멀티모달 대규모 언어 모델(LLM). 최종 전역 화질 예측은 두 파이프라인의 출력을 산술 평균하여 얻는다. 제안 방법은 챌린지에서 2위를 달성하여 그 효과를 입증하였다. 코드는 https://github.com/sunwei925/DroneIQA-VLE 에서 확인할 수 있다.

arXiv:2607.07888v2cs.LG공통 태그 regression

OLS 회귀를 위한 데이터 분할에 대한 분산 스케칭

Distributed Sketching on Data Partitions for OLS Regression

본 논문은 분산 스케치에 기반한 최소제곱(OLS) 회귀의 확장 가능한 접근법을 연구한다. 대규모 데이터 집합의 작은 스케치를 여러 워커에 분산하고, 각 워커가 자신의 스케치로부터 로컬 OLS 추정량을 구성하며, 로컬 추정량들을 평균하여 전역 추정량을 얻는다. 기존 연구는 각 스케치가 전체 데이터로부터 생성된다고 가정하지만, 이 스케치 단계는 계산 비용이 높아 때로는 표준 OLS보다 더 높다. 이에 우리는 데이터를 분할한 부분집합으로부터 각 스케치를 생성할 것을 제안하며, 이로써 워커 수가 늘어날수록 스케치 비용이 감소한다. 고정 설계 설정에서 전역 추정량의 정확한 초과 손실을 규명한다. 이 손실은 기존 연구에서 확립된 손실보다 크지만, 부분집합 공분산 간의 평균 Burg 발산이 작을 때는 그에 가깝게 유지된다. 제안한 분할 설계에서는 워커가 많을수록 발산이 커지는 경향이 있으므로, 이는 추정량의 계산 효율성과 통계적 효율성 사이의 상충 관계를 드러낸다.

arXiv:2609.26822v2cs.LG공통 태그 regression

HARN: 이벤트 기반 다중 시간대 예측을 위한 계층적 연상 공명 네트워크

HARN: Hierarchical Associative Resonance Network for Event-Driven Multi-Timeframe Forecasting

실시간 금융 예측은 오래되었거나 사용할 수 없는 정보를 사용하지 않으면서 시간 프레임 간 비동기적인 봉 완성을 동기화해야 한다. 우리는 HARN(Hierarchical Associative Resonance Network)을 소개한다. 이는 각 이벤트를 설정된 가장 세밀한 시간 프레임에 고정하고, 시간 수준 전반에 걸쳐 지속적 상태와 행렬 값 연상 메모리를 유지하는 이벤트 기반 아키텍처이다. 타임스탬프 마스킹 전이는 완성된 봉의 타임스탬프가 현재 앵커와 일치할 때만 해당 수준을 갱신하여, 비활성 표현을 보존한다. HARN은 인과적 다중 스케일 인코딩, 잔차 기반 게이트 연상 쓰기, 전수 교차 수준 공명, 순서화된 상향식 증거 집계를 통합하여 각 시간 수준에서 예측을 생성한다. 예측은 베이시스 포인트 변화로 표현되며 평가를 위해 가격 스케일로 복원된다. 우리는 주식, 외환, 금에 걸친 네 가지 자산(AAPL, EURUSD, USDCHF, XAUUSD)에서 시간순 70/15/15 분할, 32봉 룩백, 1단계 예측 구간, 세 개의 랜덤 시드를 사용하여 HARN을 평가한다. HARN은 네 자산 모두에서 평가된 단일 시간 프레임 PatchTST 및 TimeXer 기준선보다 낮은 앵커 시간 프레임 테스트 평균 절대 오차(MAE)를 얻는다. HARN의 MAE는 각각 0.508, 0.000306, 0.000263, 2.552이며, PatchTST는 2.074, 0.000759, 0.000638, 9.563, TimeXer는 2.882, 0.010838, 0.014144, 15.297을 기록한다. 이러한 기술적 비교는 입력, 목표 정식화 또는 학습 절차의 차이로부터 아키텍처의 효과를 분리하지 못한다. AAPL과 EURUSD에 대한 단일 실행 구성요소 절제 실험은 작고 비단조적인 차이를 보인다. 이 결과는 비동기 다중 시간 프레임 예측에 대한 HARN의 실현 가능성을 보여주는 한편, 상대적 이점과 구성요소 기여를 규명하기 위한 통제된 비교와 더 폭넓은 절제 실험의 필요성을 시사한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.