arXiv:2306.10656

Virtual Human Generative Model: Masked Modeling Approach for Learning Human Characteristics

Kenta Oono, Nontawat Charoenphakdee, Kotatsu Bito, Zhengyan Gao, Hideyoshi Igata, Masashi Yoshikawa, Yoshiaki Ota, Hiroki Okui, Kei Akita, Shoichiro Yamaguchi, Yohei Sugawara, Shin-ichi Maeda, Kunihiko Miyoshi, Yuki Saito, Koki Tsuda 외 2명

제출 2023-06-19

원문 초록

Identifying the relationship between healthcare attributes, lifestyles, and personality is vital for understanding and improving physical and mental well-being. Machine learning approaches are promising for modeling their relationships and offering actionable suggestions. In this paper, we propose the Virtual Human Generative Model (VHGM), a novel deep generative model capable of estimating over 2,000 attributes across healthcare, lifestyle, and personality domains. VHGM leverages masked modeling to learn the joint distribution of attributes, enabling accurate predictions and robust conditional sampling. We deploy VHGM as a web service, showcasing its versatility in driving diverse healthcare applications aimed at improving user well-being. Through extensive quantitative evaluations, we demonstrate VHGM's superior performance in attribute imputation and high-quality sample generation compared to existing baselines. This work highlights VHGM as a powerful tool for personalized healthcare and lifestyle management, with broad implications for data-driven health solutions.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27110v2cs.CV공통 태그 Attribute

Undertone: 소수의 평점으로 고정된 VLM 미적 판정기를 개인화하기

Undertone: Personalizing Frozen VLM Aesthetic Judges from Few Ratings

이미지 품질 평가는 평균 의견 점수(MOS)를 예측하지만, 이미지 미학에서는 평균이 개인을 가리므로 개인화된 평가는 새 사용자가 평가한 소수의 이미지에서 출발해야 한다. 평점 열 개로 각 사람을 처음부터 적합시키면 실패하며, 사람별로 파인튜닝한 네트워크는 새로운 종류의 이미지로 잘 전이되지 않는다. 본 논문은 Undertone-P를 제안한다. 이는 다른 평가자들로부터, 고정된 시각-언어 모델(VLM) 판정기의 판독값, 즉 확률 가중 평점과 점수 토큰에서의 은닉 상태에 대한 사람별 회귀 가중치의 가우시안 사전분포를 학습한다. 사람들이 군중과 다른 방식은 다른 평가자들이 드러내므로, 소수의 평점은 그 방식들 중 하나를 고르기만 하면 된다. 새 사용자에게는 닫힌 형태의 풀이 한 번이 필요할 뿐이며 네트워크는 학습되지 않는다. Ryu와 Yanaka의 PARA 벤치마크에서 사전분포만으로 스피어만 상관계수 .640에 도달하여, 기존에 발표된 최고의 10개 및 100개 평점 결과(.581 및 .620)를 상회하며, 사람의 평점 10개와 100개를 사용하면 각각 .648과 .676으로 상승한다. 이러한 평점은 취향이 군중과 다른 곳에서 가장 큰 이득을 준다. 평점 100개 기준으로 군중과 가장 덜 일치하는 평가자들에서는 +.067, LAPIS 미술 작품에서는 +.206이며 전체 평균은 +.037이다. 라벨 없이도 판정기의 기대 점수는 PARA의 MOS를 .835로 예측한다(우리가 실행한 발표 모델 중 최고: .694). PARA로 학습된 네트워크는 PARA의 원래 프로토콜에서는 여전히 앞서는데, 이는 더 강력한 종단 간 MOS 모델 때문일 가능성이 있다.

arXiv:2606.11319v3cs.LG공통 태그 Attribute

심하게 손상된 입력으로 학습하면 신경망은 중심점 분류기가 된다

Neural networks become centroid classifiers when trained on heavily corrupted inputs

불완전한 데이터로부터의 학습은 기계학습의 핵심 주제로, 강인성(robustness)에 관한 실용적 질문을 학습 가능성(learnability)에 관한 근본적 질문과 연결합니다. 여기서 우리는 속성 노이즈(attribute noise)를 조사합니다: 레이블은 그대로 유지하면서 손상된 입력으로부터 학습하는 것으로, 레이블 노이즈(label-noise) 대응 경우보다 분석적 관심이 상당히 덜 받아온 설정입니다. 우리는 두 가지 유형의 손상 모델을 고려합니다: 가산 노이즈(additive noise)와 대체 노이즈(replacement noise). 손상된 분류(classification) 데이터셋에서 다층 퍼셉트론(MLP)을 통한 실험을 통해, 우리는 신경망이 여전히 강인함을 유지하며, 입력이 90% 이상 손상되었을 때에도 우연 수준보다 훨씬 높은 정확도를 유지함을 발견했습니다. 이는 인간 인식 능력을 훨씬 뛰어넘는 것입니다. 이러한 강인성을 이해하기 위해, 우리는 평균장(mean-field) 영감을 받은 접근법을 사용하여 심한 손상(heavy-corruption) 영역에서 무한 너비 신경망을 분석하고 분류 결과에 대한 주요 결정 규칙을 도출했습니다: 신경망은 프로토타입 규칙인 최근접 클래스 평균(nearest-class-mean)을 구현하여, 각 테스트 포인트를 학습 세트 평균과 가장 유사한 클래스에 할당합니다. 이 주요 결정 규칙은 광범위한 MLP 아키텍처에 걸쳐 보편적이며, 모든 깊이와 넓은 범위의 활성화 함수 및 노이즈 분포에 대해 성립합니다. 동일한 중심점(centroid) 메커니즘은 우리의 실험에서 유한 너비 신경망의 동작과 밀접하게 일치하며, 개별 학습(training) 예제가 거의 신호를 전달하지 않을 때에도 학습이 성공할 수 있는 이유에 대해 해석 가능하고 분석적으로 다루기 쉬운 설명을 제공합니다.

arXiv:2610.13350v1cs.LG공통 태그 Imputation

임상 머신러닝에서의 숨겨진 데이터 문제

Hidden Data Challenges in Clinical Machine Learning

전자의무기록(EHR)에 널리 재사용되는 전처리 파이프라인은 정보가 언제 사용 가능해졌는지, 레이블이 어떤 임상 에피소드를 나타내는지, 그리고 결측(missingness)이 무엇을 의미하는지에 대한 가정을 내재할 수 있다. 이러한 가정은 체계적으로 검증되는 경우가 드물며, 전처리 파이프라인이 재사용되거나 변형될 때 후속 연구들로 전파될 수 있다. 우리는 MIMIC-IV를 사례 연구로 사용하여, 전처리 정합성(alignment)의 세 가지 상호보완적 형태—시간적(temporal), 의미적(semantic), 모집단(population) 정합성—에 대한 위반을 식별하고 정량화하며, 이는 시간적 유출(temporal leakage), 특징-과제 불일치(feature-task misalignment), 편향된 결측치 대체(biased imputation)로 나타난다. 우리는 타임스탬프 의미론, 에피소드 정의, 엔드포인트 구성, 모달리티 선택, 결측치 처리 방식의 모호성이 모델이 이용할 수 있는 정보를 어떻게 바꾸고 그 예측의 해석에 어떻게 영향을 미치는지를 보여준다. MIMIC-IV 데이터 분석과 실증적 사례 연구를 통해, 우리는 이러한 선택들이 집계된 예측 성능(aggregate predictive performance)에서는 대체로 드러나지 않으면서도 모델이 의존하는 신호(signal)는 변화시킬 수 있음을 입증한다. 우리는 MIMIC-IV 및 관련 전자의무기록 데이터셋에 대해 시간적으로 유효하고, 임상적으로 정합하며, 재현 가능한 전처리를 위한 실용적인 권고안을 도출한다. 제안하는 전처리를 포함한 실험 코드는 https://github.com/m2l-lab/mimic-iv-preprocess 에서 확인할 수 있다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.