A Coupled Evolutionary Network for Age Estimation
원문 초록
Age estimation of unknown persons is a challenging pattern analysis task due to the lacking of training data and various aging mechanisms for different people. Label distribution learning-based methods usually make distribution assumptions to simplify age estimation. However, age label distributions are often complex and difficult to be modeled in a parameter way. Inspired by the biological evolutionary mechanism, we propose a Coupled Evolutionary Network (CEN) with two concurrent evolutionary processes: evolutionary label distribution learning and evolutionary slack regression. Evolutionary network learns and refines age label distributions in an iteratively learning way. Evolutionary label distribution learning adaptively learns and constantly refines the age label distributions without making strong assumptions on the distribution patterns. To further utilize the ordered and continuous information of age labels, we accordingly propose an evolutionary slack regression to convert the discrete age label regression into the continuous age interval regression. Experimental results on Morph, ChaLearn15 and MegaAge-Asian datasets show the superiority of our method.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
MAGE-Vein: 손가락 정맥 이미지 기반 다중 인스턴스 연령·성별 추정
MAGE-Vein: Multi-Instance Age and Gender Estimation from Finger Vein Images
손가락 정맥 이미지를 이용한 연령 추정은 공개 데이터셋의 심각한 인구통계학적 편향과 성별과 같은 생리학적 교란 요인으로 인해 실용적이지 않다고 널리 여겨져 왔다. 이러한 한계를 극복하기 위해, 우리는 새로운 다중 인스턴스, 다중 과제 학습(multi-task learning) 프레임워크인 MAGE-Vein을 제안한다. 우리의 접근법은 세 손가락의 하이브리드 특징 수준(feature-level) 융합을 통해 견고한 구조적 노화 징후를 추출하여 국소 영상 노이즈를 효과적으로 억제한다. 또한 성별 분류를 동시에 최적화함으로써 네트워크가 성별 특이적 혈관 변이를 효과적으로 제거하도록 유도한다. 인구통계학적으로 균형 잡힌 402명의 피험자 데이터셋에서 평가한 결과, MAGE-Vein은 평균 절대 오차 6.12년과 상관계수 0.880을 달성한다. 우리의 결과는 손가락 정맥 모달리티의 한계에 관한 기존 합의를 뒤집을 뿐만 아니라, 이전 추정 실패가 주로 편향된 공개 데이터셋에서 기인한 인공물이었음을 보여준다. 코드는 https://github.com/gsisaoki/MAGE-Vein 에서 제공된다.
대조 순서 학습: 순서형 회귀를 위한 범용 프레임워크
Contrastive Order Learning: A General Framework for Ordinal Regression
우리는 대조 학습과 순서 학습의 강점을 통합한 순서형 회귀(ordinal regression)를 위한 대조 학습 프레임워크인 대조 순서 학습(ConOrd)을 제안한다. 대조 학습은 배치 내 모든 샘플을 효과적으로 활용하지만, 일반적으로 순위 레이블 간의 내재적 순서를 무시한다. 반면, 순서 학습은 레이블 순서성을 명시적으로 모델링하지만 마진 기반의 국소적 비교에 의존하는 경우가 많아 전역 순서 구조를 포착하는 능력이 제한된다. ConOrd는 순위 차이에 기반한 소프트 친화도 및 불일치 가중치를 갖는 대조 순서 손실을 도입함으로써 이러한 한계를 극복하며, 배치 내 모든 샘플 쌍에 걸쳐 순서 관계를 세밀하게 모델링할 수 있게 한다. 얼굴 나이 추정, 블라인드 이미지 품질 평가, 블라인드 비디오 품질 평가를 포함한 다양한 순서형 회귀 태스크에 대한 광범위한 실험을 통해 ConOrd가 일관되게 최고 수준의 성능을 달성하고 다양한 순서형 회귀 시나리오에서 우수한 일반화 성능을 보임을 입증한다. 소스 코드는 https://github.com/cwlee00/ConOrd에서 공개되어 있다.
OLS 회귀를 위한 데이터 분할에 대한 분산 스케칭
Distributed Sketching on Data Partitions for OLS Regression
본 논문은 분산 스케치에 기반한 최소제곱(OLS) 회귀의 확장 가능한 접근법을 연구한다. 대규모 데이터 집합의 작은 스케치를 여러 워커에 분산하고, 각 워커가 자신의 스케치로부터 로컬 OLS 추정량을 구성하며, 로컬 추정량들을 평균하여 전역 추정량을 얻는다. 기존 연구는 각 스케치가 전체 데이터로부터 생성된다고 가정하지만, 이 스케치 단계는 계산 비용이 높아 때로는 표준 OLS보다 더 높다. 이에 우리는 데이터를 분할한 부분집합으로부터 각 스케치를 생성할 것을 제안하며, 이로써 워커 수가 늘어날수록 스케치 비용이 감소한다. 고정 설계 설정에서 전역 추정량의 정확한 초과 손실을 규명한다. 이 손실은 기존 연구에서 확립된 손실보다 크지만, 부분집합 공분산 간의 평균 Burg 발산이 작을 때는 그에 가깝게 유지된다. 제안한 분할 설계에서는 워커가 많을수록 발산이 커지는 경향이 있으므로, 이는 추정량의 계산 효율성과 통계적 효율성 사이의 상충 관계를 드러낸다.
HARN: 이벤트 기반 다중 시간대 예측을 위한 계층적 연상 공명 네트워크
HARN: Hierarchical Associative Resonance Network for Event-Driven Multi-Timeframe Forecasting
실시간 금융 예측은 오래되었거나 사용할 수 없는 정보를 사용하지 않으면서 시간 프레임 간 비동기적인 봉 완성을 동기화해야 한다. 우리는 HARN(Hierarchical Associative Resonance Network)을 소개한다. 이는 각 이벤트를 설정된 가장 세밀한 시간 프레임에 고정하고, 시간 수준 전반에 걸쳐 지속적 상태와 행렬 값 연상 메모리를 유지하는 이벤트 기반 아키텍처이다. 타임스탬프 마스킹 전이는 완성된 봉의 타임스탬프가 현재 앵커와 일치할 때만 해당 수준을 갱신하여, 비활성 표현을 보존한다. HARN은 인과적 다중 스케일 인코딩, 잔차 기반 게이트 연상 쓰기, 전수 교차 수준 공명, 순서화된 상향식 증거 집계를 통합하여 각 시간 수준에서 예측을 생성한다. 예측은 베이시스 포인트 변화로 표현되며 평가를 위해 가격 스케일로 복원된다. 우리는 주식, 외환, 금에 걸친 네 가지 자산(AAPL, EURUSD, USDCHF, XAUUSD)에서 시간순 70/15/15 분할, 32봉 룩백, 1단계 예측 구간, 세 개의 랜덤 시드를 사용하여 HARN을 평가한다. HARN은 네 자산 모두에서 평가된 단일 시간 프레임 PatchTST 및 TimeXer 기준선보다 낮은 앵커 시간 프레임 테스트 평균 절대 오차(MAE)를 얻는다. HARN의 MAE는 각각 0.508, 0.000306, 0.000263, 2.552이며, PatchTST는 2.074, 0.000759, 0.000638, 9.563, TimeXer는 2.882, 0.010838, 0.014144, 15.297을 기록한다. 이러한 기술적 비교는 입력, 목표 정식화 또는 학습 절차의 차이로부터 아키텍처의 효과를 분리하지 못한다. AAPL과 EURUSD에 대한 단일 실행 구성요소 절제 실험은 작고 비단조적인 차이를 보인다. 이 결과는 비동기 다중 시간 프레임 예측에 대한 HARN의 실현 가능성을 보여주는 한편, 상대적 이점과 구성요소 기여를 규명하기 위한 통제된 비교와 더 폭넓은 절제 실험의 필요성을 시사한다.
미관측 교란 변수에 강건한 위험 점수 학습
Learning Risk Scores Robust to Unobserved Confounders
미관측 교란의 영향을 받는 역사적 관찰 데이터로부터, 희소 자원이나 개입 대상 개인의 우선순위를 정하기 위한 위험 점수를 학습하는 문제를 다룬다. 누가 희소 자원을 받을지에 대한 결정은 설문 응답과 같이 기록된 특성에 기반한 위험 점수에 의해 종종 안내된다. 이러한 위험 점수는 개인의 특성, 배분 결정, 결과에 대한 역사적 기록인 관찰 데이터로부터 직접 학습되는 경우가 점점 늘고 있다. 역사적 배분 정책이 도입한 바이어스를 보정하는 역 성향 가중치(inverse propensity weighting, IPW)와 같은 표준 방법은, 역사적 결정 과정이 기록된 특성으로 완전히 설명될 수 있다면 정확한 위험 점수를 학습하는 데 사용될 수 있다. 그러나 실무에서는 역사적 결정이 종종 기록되지 않은 정보에 의존하여, 학습된 위험 점수가 과거 우선순위를 이끌었던 기록되지 않은 상황을 가진 개인들을 정확히 체계적으로 과소 우선순위화하게 만든다. IPW를 기반으로, 이러한 종류의 미관측 교란에 강건한 위험 점수를 학습하는 방법을 제안한다. 미관측 교란 하에서는 성향 가중치를 신뢰할 수 있게 추정할 수 없으므로, 대신 관측 가능한 데이터와 교란 정도에 대한 도메인 정보 기반 추정치로 결정되는 불확실성 집합에 속하는 것으로 취급하며, 인과 추론(causal inference)의 민감도 분석(sensitivity analysis)과 Wasserstein 분포적 강건 최적화(Wasserstein distributionally robust optimization)를 결합한다. 그 결과 강건 위험 점수 학습 문제는 표본 기반 근사를 허용하며, 이를 기성 솔버와 호환되는 지수 원뿔 프로그램(exponential cone program)으로 재공식화한다. UCI Machine Learning Repository의 데이터셋에서 파생된 반합성(semi-synthetic) 데이터에서 접근법의 효과를 입증한다. 제안 방법은 다른 지표를 손상하지 않으면서, 전통적 벤치마크 대비 보정(calibration)을 최대 29.2%까지, 최신(state of the art) 대비 최대 11.1%까지 개선한다.
IID를 넘어서: 표 형식 파운데이션 모델은 실제로 얼마나 일반적인가?
Beyond IID: How General Are Tabular Foundation Models, Really?
표 형식 데이터에 대한 예측 기계학습용 파운데이션 모델은 최근 학계와 산업계에서 큰 주목을 받고 있다. 여러 분야의 연구 커뮤니티가 다양한 데이터셋과 과제에서 표 형식 파운데이션 모델을 점점 더 많이 평가하고 있다. 그러나 벤치마크 소프트웨어와 평가 프로토콜이 파편화되어 있어, 이러한 과제별·분야별 평가는 모델 연구자가 거의 접근할 수 없다. 그 결과 모델 연구자는 표준 벤치마크에 의존하는데, 이는 대부분 표 형식 파운데이션 모델이 이미 뛰어난 과제를 대상으로 정의되어 있다. 가장 어려운 시나리오는 제외되어, IID 데이터에서의 미미한 개선에 집중하고 더 폭넓고 까다로운 과제를 소홀히 함으로써 이 분야의 의미 있는 진전을 제한한다. 이를 극복하기 위해 우리는 다양한 과제 유형(IID, 시간, 그룹), 표본 크기와 특징 차원 규모, 다양한 특징 유형(텍스트 포함, 높은 카디널리티 포함)을 폭넓은 분야에 걸쳐 지원하는 표 형식 데이터용 최초의 통합 총체적 벤치마크 BeyondArena를 소개한다. 표준 벤치마크를 넘어선 통합 벤치마킹을 가능하게 하기 위해, 예측 기계학습용 표 형식 데이터셋을 큐레이션하는 파이썬 프레임워크이자 메타데이터 스키마인 DataFoundry를 소개한다. 11개 모델과 142개의 선별된 데이터셋에 걸친 결과는, 현재의 오픈소스 표 형식 파운데이션 모델이 최대 10만 행의 데이터셋에서 경쟁력이 있거나 뛰어난 반면, 그룹형 또는 대규모 데이터에서는 전통적인 트리 기반 모델과 딥러닝 모델이 여전히 우세함을 보여준다. BeyondArena는 표 형식 데이터의 가장 까다로운 과제를 위한 모델 연구를 이끌어, 진정한 파운데이션 표 형식 모델로 나아가는 진전을 가능하게 한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.