Denoising ESG: quantifying data uncertainty from missing data with Machine Learning and prediction intervals
원문 초록
Environmental, Social, and Governance (ESG) datasets are frequently plagued by significant data gaps, leading to inconsistencies in ESG ratings due to varying imputation methods. This paper explores the application of established machine learning techniques for imputing missing data in a real-world ESG dataset, emphasizing the quantification of uncertainty through prediction intervals. By employing multiple imputation strategies, this study assesses the robustness of imputation methods and quantifies the uncertainty associated with missing data. The findings highlight the importance of probabilistic machine learning models in providing better understanding of ESG scores, thereby addressing the inherent risks of wrong ratings due to incomplete data. This approach improves imputation practices to enhance the reliability of ESG ratings.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
조건부 텐서 확산: 분포적 반사실 학습 및 추론
Conditional Tensor Diffusion: Distributional Counterfactual Learning and Inference
인과 추론은 운영 및 관리 의사결정을 이끌지만, 고차원 패널 또는 텐서 설정에서는 여전히 어렵고, 이때 의사결정은 누락된 통제(control) 결과의 결합 조건부 분포에 의존할 수 있다. 본 연구는 처리(treatment) 마스크와 잠재 Tucker 구조를 조건부 확산에 통합하여, 관측된 통제 결과가 주어졌을 때 저차원 코어에서의 효율적인 비선형 score 학습을 통해 이 분포를 복구하는 Counterfactual Tucker Diffusion(CFTDiff)를 제안한다. 마스킹된 Tucker score는 텐서 모드 간 의존성을 유지하면서, 비선형 score 학습의 차원을 모드 차원의 곱에서 Tucker rank의 곱이라는 훨씬 작은 규모로 줄인다. Tucker rank, 최대 모드 차원, 요인 강도(factor-strength)로 조정된 누락 결과 수에 의존하는 조건부 score 추정의 고확률(high-probability) 오차 상계를 확립하고, 이 상계가 누락된 통제 결과의 조건부 분포 복구 보장으로 어떻게 이어지는지 보인다. 다양한 누락률에서의 시뮬레이션은 일반적인 인과 패널 및 행렬/텐서 completion 방법보다 더 정확한 점(point) 복구를 보여 주며, 중첩 확산 명세와의 비교는 마스킹 조건화와 Tucker 차원 축소의 이득을 추가로 뒷받침한다. 노르웨이 iFlex 실험에서 CFTDiff는 경쟁 방법보다 누락 결과를 더 정확하게 복구한다. 인과 분석에 적용하면 추정된 조건부 분포로부터 반사실(counterfactual) 예측 구간과 목표 달성 확률을 얻을 수 있어, 가격 개입을 수요 감소 규모와 신뢰성(reliability) 측면에서 평가할 수 있다.
모달리티 결측 RGBT 추적을 위한 시공간 조건부 디노이징 트랜스포머
Spatio-Temporal Conditional Denoising Transformer for Modality-Missing RGBT Tracking
RGBT 추적에서 모달리티가 누락되면 불완전하고 불안정한 다중모달 특징 표현으로 이어져 성능이 크게 저하되는 경우가 많다. 기존 방법은 일반적으로 이용 가능한 모달리티로부터 누락된 모달리티를 복구하려 하지만, 어려운 시나리오에서 생성된 데이터의 품질이 만족스럽지 않을 수 있다. 또한 현재 접근법은 결측 데이터와 완전한 데이터를 모두 처리하는 데 유연성이 제한적이다. 이러한 한계를 극복하기 위해, 우리는 공간 단서와 시간적 문맥을 통합하여 누락된 모달리티의 정보 재구성과 약한 모달리티의 특징 강화를 통합 프레임워크 내에서 적응적으로 수행함으로써 견고한 모달리티 결측 RGBT 추적을 달성하는 시공간 조건부 디노이징 트랜스포머(SCDT)를 제안한다. 특히 SCDT는 최근 과거 프레임의 단기 시간적 단서를 활용하여 세밀한 시간적 상관관계를 포착하고, 모달리티 진화를 인코딩하는 장기 시간적 단서를 통해 전역 문맥을 포착한다. 장단기 시간적 문맥을 조건으로 공동 활용함으로써, SCDT는 이용 가능한 모달리티의 노이즈가 섞인 특징을 점진적으로 유도하여 신뢰할 수 있고 시간적으로 일관된 다중모달 표현을 학습한다. 또한 SCDT는 모달 가용성에 따라 동작을 동적으로 조절하는 노이즈 변조 적응(noise-modulated adaptation) 메커니즘을 도입하여, 아키텍처나 파라미터를 변경하지 않고도 모달리티 결측 및 완전한 시나리오 모두에서 특징 학습을 단일 프레임워크로 통합할 수 있게 한다. 세 개의 공개 벤치마크 데이터셋에 대한 광범위한 실험을 통해, 제안 방법이 최신(state-of-the-art) 방법들을 일관되게 능가함을 보인다. 코드는 여기에서 제공된다.
SeT-Diff: HPC 텔레메트리 및 시계열을 위한 의미 기반 파운데이션 모델
SeT-Diff: Towards Semantic Foundation Models for HPC Telemetry and Time-Series
데이터센터와 그 컴퓨트 노드는 워크로드, 환경 매개변수, 물리적 지표 간의 복잡한 상호작용을 모델링할 수 있는 정확하고 유연한 디지털 트윈이 필요하다. 현재 HPC 및 그 텔레메트리를 위한 머신러닝 접근법은 일반적으로 단일 작업에 맞춰진 익명의 고정 위치 센서 변수의 정적 부분집합에 의존한다. 결과적으로, 목표 작업이 변경되거나 센서 지표가 달라지면 이러한 모델은 더 이상 유효하지 않게 된다. 우리는 컴퓨트 노드 텔레메트리 및 시계열을 위한 최초의 파운데이션 모델인 SeT-Diff를 제안한다. 경직된 아키텍처와 달리, 우리의 확산(diffusion) 기반 접근법은 각 센서의 의미적 설명에 생성 과정을 조건화하여 시스템 역학을 데이터셋의 구조로부터 분리한다. 실제 슈퍼컴퓨터 데이터셋에 대한 실험은 재구성 작업에서 평균 절대 오차(MAE) 0.0470을 보여준다. SeT-Diff는 제로샷(zero-shot) 순열 안정성을 보이며, 센서 순서가 섞여도 정확도를 미미한 저하만으로 유지한다. 단일 사전학습 모델이 데이터 보간(imputation), 예측(forecasting), 가상 센싱(virtual sensing)을 효과적으로 수행하며 — 열 추론에서 0.033 MAE를 달성 — SeT-Diff를 HPC 시스템을 위한 효과적인 데이터 기반 디지털 트윈으로 만든다.
RadioTrace: 배포 시점 미세조정 없는 송신기 인식 확산 기반 라디오 맵 추정
RadioTrace: Transmitter-Aware Diffusion for Radio Map Estimation without Deployment-Time Fine-Tuning
라디오 맵(RM) 추정은 희소 측정값으로부터 수신 신호 강도(RSS)와 같은 무선 신호 특성의 공간 분포를 재구성하는 것을 목표로 하며, 이는 현대 무선 네트워크에서 스펙트럼 관리, 간섭 완화, 위치 추정에 핵심적인 과제이다. 전통적인 접근법인 보간법과 심층 학습은 복잡한 전파 효과를 포착하기 어렵거나, 새로운 샘플링 패턴마다 대규모 재학습이 필요하여 일반화 능력이 제한된다. 최근에는 사전 기반 방법들이 사전학습된 생성 모델과 측정값을 결합하여 배포 시점 모델 미세조정의 필요성을 줄이고 있으나, 일반적으로 사전 분포(prior)를 단순한 정규화(regularizer)로 취급하며 명시적인 송신기 인식 통합이 부족하다. 본 논문에서는 배포 시점 미세조정 없이 희소 RSS 측정값과 고정된 사전학습 확산 사전 분포를 긴밀히 통합하는 새로운 RM 추정 프레임워크인 RadioTrace를 제안한다. RadioTrace는 송신기(Tx) 위치 추정을 디노이징 루프에 직접 통합하여, 재구성 품질에 기반해 Tx 좌표를 반복적으로 정제함으로써 생성 과정을 안내한다. 견고성을 더욱 향상시키기 위해, Tx 업데이트에서 불량한 국소 최솟값을 완화하고 기하학적으로 일관된 시작점을 제공하는 전파 유도 K-means 초기화를 도입한다. 또한 Tx 좌표 정제 구성 요소에 대한 확률적 안정성 분석을 제공하여, Tx 업데이트가 확산 샘플링과 Tx-맵 완화(relaxation)에 의해 유발되는 섭동 하에서도 안정적으로 유지됨을 보인다. 광범위한 실험을 통해 RadioTrace가 무작위 샘플링 하에서 최첨단 학습 기반 방법들과 경쟁력 있는 성능을 달성하고, 제한 구역 샘플링 하에서도 강력한 재구성 품질을 유지함을 보여주며, 이는 적응성, 견고성, 실용적 관련성을 강조한다.
StrideDiffusion: 시계열 생성을 위한 확산 모델 가속
StrideDiffusion: Accelerating Diffusion Models for Time-series Generation
확산 모델은 시계열 생성에서 경쟁력 있는 생성기가 되었지만, 추론 시 필요한 순차적 디노이징 단계가 많아 실용적 사용이 제한된다. 기존의 빠른 샘pler는 보통 고정되거나 일반적인 타임스텝 일정을 사용하며, 시계열 확산의 독특한 특성을 간과한다: 역과정 동안 서로 다른 스펙트럴 대역이 서로 다른 속도로 진화한다는 점이다. 우리는 StrideDiffusion을 제안한다. 이는 학습 없이 스펙트럴을 인식하는 샘pler로, 대역 수준 활동에 따라 디노이징 stride를 적응적으로 선택한다. 각 단계에서 StrideDiffusion은 상대적 대역 에너지, 로그 파워 drift, 위상 속도를 모니터링하여 고주파 역학이 여전히 활성인지, 아니면 궤적이 안정적인 저주파 구조에 의해 지배되는지 판별한다. 그런 다음 빠르게 변하는 대역이 활성일 때는 세밀한 단계를, 거친 성분만 남았을 때는 더 큰 점프를 취한다. 대역별 안정성 분석은 비활성 주파수 대역이 결정론적 아핀 역 업데이트 하에서 점프 크기에 대해 선형적으로만 변함을 보여주며, 단계 크기 지표로서의 스펙트럴 활동에 대한 국소적 정당화를 제공한다. 6개의 무조건적 시계열 생성 벤치마크에서 StrideDiffusion은 500/1000 디노이징 단계 대신 14-66회의 함수 평가만 사용하여, 생성 품질을 유지하거나 개선하면서 최대 18.9배의 실측 시간 가속을 달성한다. 조건부 보간(imputation) 및 예측(forecasting)에서도 비교 가능한 예측 정확도로 5-14배의 평균 가속을 추가로 제공한다. 이러한 결과는 스펙트럴 진화가 빠른 시계열 확산 샘플링을 위한 실용적이고 원칙적인 신호를 제공함을 보여준다. 코드는 https://anonymous.4open.science/r/stridediff-ts 에서 이용 가능하다.
모든 모달리티는 동등하지만, 비디오는 더 동등하다: 공동 비디오 생성에서 크로스-어텐션 격차 줄이기
All modalities are equal, but video is more equal: Closing the Cross-Attention Gap in Joint Video Generation
비디오는 외형, 기하학, 모션, 시간적 변화를 포착하여 물리적 사건을 풍부하게 표현합니다. 3D 신체 모션이나 오디오와 같은 다른 모달리티(modality)는 동일한 사건의 더 좁은 측면만을 인코딩합니다. 본 연구에서는 공동 멀티모달 확산 트랜스포머(joint multimodal diffusion transformer)가 교차 모달 대응(cross-modal correspondence)에서 그에 상응하는 비대칭성을 보임을 발견했습니다. 즉, 동반 모달리티는 비디오에 대해 강한 대응성을 형성하지만, 이들이 비디오를 제약하는 상호 대응성(reciprocal correspondence)은 실질적으로 훨씬 약하게 유지됩니다. 저자들은 두 방향을 비디오 토큰(token)에 대한 비교 가능한 대응 분포로 표현하고, 이들의 불일치를 상호 대응 격차(reciprocal correspondence gap)로 정의합니다. 또한 상호 교차 모달 어텐션 정규화(Reciprocal Cross-modal Attention Regularization)를 뜻하는 RecCAR를 제안합니다. 이는 이미 잘 확립된 비디오-모달리티 간 대응을 고정된 참조 기준으로 삼고, 더 취약한 모달리티-비디오 간 대응을 이에 맞춰 정렬하는 KL 정규화(regularizer) 기법입니다. 공동 비디오-모션 및 비디오-오디오 생성 전반에 걸쳐, RecCAR는 전반적인 생성을 개선하면서도 Human Anatomy 점수를 0.69에서 0.75로 향상시키고 오디오-비디오 비동기화(desynchronization)를 0.804에서 0.752로 감소시킵니다
토론
이 논문과 연결된 포럼 글이 아직 없습니다.