arXiv:2107.08311

Heterogeneous Face Frontalization via Domain Agnostic Learning

Xing Di, Shuowen Hu, Vishal M. Patel

제출 2021-07-17

원문 초록

Recent advances in deep convolutional neural networks (DCNNs) have shown impressive performance improvements on thermal to visible face synthesis and matching problems. However, current DCNN-based synthesis models do not perform well on thermal faces with large pose variations. In order to deal with this problem, heterogeneous face frontalization methods are needed in which a model takes a thermal profile face image and generates a frontal visible face. This is an extremely difficult problem due to the large domain as well as large pose discrepancies between the two modalities. Despite its applications in biometrics and surveillance, this problem is relatively unexplored in the literature. We propose a domain agnostic learning-based generative adversarial network (DAL-GAN) which can synthesize frontal views in the visible domain from thermal faces with pose variations. DAL-GAN consists of a generator with an auxiliary classifier and two discriminators which capture both local and global texture discriminations for better synthesis. A contrastive constraint is enforced in the latent space of the generator with the help of a dual-path training strategy, which improves the feature vector discrimination. Finally, a multi-purpose loss function is utilized to guide the network in synthesizing identity preserving cross-domain frontalization. Extensive experimental results demonstrate that DAL-GAN can generate better quality frontal views compared to the other baseline methods.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2606.27305v1cs.CV공통 태그 Generative Adversarial Network, Face Generation

NeRF 기하 조형: 3D 인식 얼굴 GAN의 인간 선호 미세조정

Sculpting NeRF Geometry: Human-Preference Fine-Tuning of a 3D-Aware Face GAN

3D 생성을 위한 인간 피드백 강화학습(RLHF)은 여러 연구에서 이미 정착되었지만, 기존 파이프라인 대부분은 명시적 표면 표현을 최적화하며, 흔히 radiance field를 메시로 변환하고 표면 감독 데이터 위주로 학습한다. 우리는 대신 외부에서 제공되는 메시나 형상 prior 없이, radiance field 밀도($\sigma$) 값에 대한 학습된 보상으로 사전학습된 3D 인식 생성 모델을 직접 미세조정한다. 보상 모델은 사전학습이 필요 없고, 소량의 선호 샘플로 쉽게 학습되며, 3D 기하에서 견고한 개선을 이끈다. 무조건부 3D 인식 얼굴 GAN(EG3D)을 대상으로, 우리의 보상은 신경 radiance field(NeRF)의 연속 3D 밀도 필드를 직접 읽어 기하 전용 학습 신호를 제공하며, 텍스트 조건화, 메시 추출, 다중 시점 렌더링이 모두 필요하지 않다. 밀도 일관성 제약은 기하가 재형성되는 동안 2D 외관을 질적으로 유사하게 유지하며, 측정 가능하나 제한된 분포 비용(FID-50k가 4.09에서 6.66으로 증가)을 수반한다: 개념 증명으로 단일 어노테이터의 선호만으로 미세조정된 생성기를 학습했을 때, pairwise 비교의 74.4%에서 사용자가 선호하는 얼굴 기하를 생성한다.

arXiv:2505.08854v2cs.CV공통 태그 Generative Adversarial Network공식 코드 · Papers with Code

자율주행을 위한 생성형 AI: 최전선과 기회

Generative AI for Autonomous Driving: Frontiers and Opportunities

생성형 인공지능(GenAI)은 콘텐츠 생성, 추론, 계획, 멀티모달 이해를 위한 비할 데 없는 역량을 통해 산업을 재편하는 변혁적인 기술 물결을 형성하고 있습니다. 이러한 혁신적인 힘은 공학 분야의 가장 큰 난제 중 하나인 신뢰할 수 있는 완전 자율주행의 달성, 특히 레벨 5 자율주행의 실현을 향한 가장 유망한 경로를 제공합니다. 본 서베이 논문은 자율주행 스택 전반에 걸친 생성형 AI의 부상하는 역할을 포괄적이고 비판적으로 종합하여 제시합니다. 먼저 VAE, GAN, 확산 모델(Diffusion Models), 대규모 언어 모델(LLM)을 아우르는 현대 생성 모델링의 원리와 트레이드오프를 정리합니다. 이어서 이미지, LiDAR, 궤적, 점유(occupancy), 비디오 생성뿐만 아니라 LLM 기반 추론 및 의사결정에서의 최전선 응용 사례를 조망합니다. 또한 합성 데이터 워크플로우, 엔드투엔드(end-to-end) 주행 전략, 고충실도 디지털 트윈 시스템, 지능형 교통 네트워크, 체화된 AI(embodied AI)로의 도메인 간 전이 등 실질적인 적용 분야를 분류합니다. 희귀 사례에 걸친 포괄적 일반화, 평가 및 안전성(safety) 검증, 예산 제약 기반 구현, 규제 준수, 윤리적 문제, 환경적 영향과 같은 주요 장애물과 가능성을 식별하는 동시에, 이론적 보증, 신뢰 메트릭, 교통 통합, 사회기술적 영향에 걸친 연구 계획을 제안합니다. 이러한 흐름을 통합함으로써, 본 서베이는 생성형 AI와 첨단 자율 이동성의 수렴을 탐색하는 연구자, 엔지니어, 정책 입안자들에게 미래지향적인 참고자료를 제공합니다. 인용된 연구들을 적극적으로 관리하는 저장소는 https://github.com/taco-group/GenAI4AD 에서 확인할 수 있습니다.

arXiv:2411.19537v4cs.CV공통 태그 Generative Adversarial Network공식 코드 · Papers with Code

생성 AI 시대의 딥페이크 미디어 생성 및 탐지: 서베이와 전망

Deepfake Media Generation and Detection in the Generative AI Era: A Survey and Outlook

딥페이크 생성 및 탐지 기법을 조사하며, 이미지, 동영상, 오디오, 멀티모달 콘텐츠 등 모든 딥페이크 미디어 유형을 다룬다. 다양한 종류의 딥페이크를 식별하고 딥페이크 생성 및 탐지 방법의 분류 체계를 구축하여 주요 방법군을 설명한다. 다음으로, 딥페이크 탐지에 사용되는 데이터셋을 수집하고 가장 널리 사용되는 데이터셋에서 최고 성능의 탐지기에 대한 최신 순위를 제공한다. 또한 분포 외(out-of-distribution) 콘텐츠에 대해 딥페이크 탐지기를 평가하기 위한 새로운 멀티모달 벤치마크를 개발한다. 결과는 최신(state-of-the-art) 탐지기가 이전에 보지 못한 생성기가 만든 딥페이크에 일반화하지 못함을 보여준다. 프로젝트 페이지와 새 벤치마크는 https://github.com/CroitoruAlin/biodeep 에서 확인할 수 있다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.