arXiv:2012.10657

Self-Supervision based Task-Specific Image Collection Summarization

Anurag Singh, Deepak Kumar Sharma, Sudhir Kumar Sharma

제출 2020-12-19

원문 초록

Successful applications of deep learning (DL) requires large amount of annotated data. This often restricts the benefits of employing DL to businesses and individuals with large budgets for data-collection and computation. Summarization offers a possible solution by creating much smaller representative datasets that can allow real-time deep learning and analysis of big data and thus democratize use of DL. In the proposed work, our aim is to explore a novel approach to task-specific image corpus summarization using semantic information and self-supervision. Our method uses a classification-based Wasserstein generative adversarial network (CLSWGAN) as a feature generating network. The model also leverages rotational invariance as self-supervision and classification on another task. All these objectives are added on a features from resnet34 to make it discriminative and robust. The model then generates a summary at inference time by using K-means clustering in the semantic embedding space. Thus, another main advantage of this model is that it does not need to be retrained each time to obtain summaries of different lengths which is an issue with current end-to-end models. We also test our model efficacy by means of rigorous experiments both qualitatively and quantitatively.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.10695v1cs.CV공통 태그 Clustering, Generative Adversarial Network

노이즈 잔차 클러스터링을 통한 효과적인 합성 이미지 탐지

Effective Synthetic Image Detection via Noise Residual Clustering

생성형 인공지능(AI)의 빠른 발전으로 합성 이미지가 놀라울 정도로 사실적이 되면서 허위정보 및 사기와 같은 보안 위협이 증가하고 있다. 수동적이고 블라인드 방식의 이미지 인증으로 합성 이미지를 탐지하는 것이 중요하다. 기존 탐지기 대부분은 대규모 레이블 데이터셋을 사용한 지도 학습에 의존하여 높은 비용이 발생하고 알려지지 않은 생성 모델에서 성능이 저하된다. 이러한 결함을 완화하기 위해 학습이 필요 없는 탐지 방법을 제안한다. 구체적으로, 노이즈 잔차 핑거프린트를 간단하면서도 효과적인 사전학습된 Noiseprint++ 모델로 먼저 추출한다. 이후 고정된 Vision Transformer(ViT)를 통해 해당 잔차로부터 다중 스케일 특징을 추출하고 적응형 가중 융합을 적용한다. 소수의 실제 이미지 샘플만으로 비지도 K-Means의 클러스터 중심을 초기화하여 학습 없이 실제 이미지와 합성 이미지를 구별한다. 네 개의 벤치마크 데이터셋에 대한 광범위한 평가 결과, 제안 방법이 평균 정확도 82.2%를 달성하여 일반화 능력에서 최신 탐지기들을 능가하는 것으로 나타났다. 확산 방식의 합성 이미지에서 우수한 성능을 보이며, 각 모듈의 효과는 에블레이션 연구를 통해 검증되었다. 소스 코드는 https://github.com/multimediaFor/NoiseCluSID 에 공개될 예정이다.

arXiv:2607.21426v2cs.LG공통 태그 Clustering

건설적·협력적 멀티태스킹을 위한 의미 인식 태스크 클러스터링

Semantic-Aware Task Clustering for Constructive and Cooperative Multi-Tasking

협력적 멀티태스크 의미 통신(cooperative multi-task semantic communication, CMT-SemCom)은 공유 표현을 활용하여 태스크 실행 성능을 향상시킨다. 그러나 [1]에서 보인 바와 같이, 협력적 멀티태스킹은 태스크 간 의미적 관계에 따라 건설적일 수도 있고 파괴적일 수도 있다. 건설적 협력을 보장하기 위해, 우리는 CMT-SemCom을 위한 의미 인식 태스크 클러스터링 방법을 제안한다. 짧은 초기 학습 단계 이후 의미적으로 정렬된 태스크가 한 번 클러스터링되고, 이후 발견된 그룹 내에서만 엔드투엔드(end-to-end, E2E) 공동 학습이 수행되는 순차적 다단계 최적화 문제를 수식화했다. 구체적으로, 이 문제는 두 단계로 분해된다: (i) 계층적 밀도 기반 공간 클러스터링(hierarchical density-based spatial clustering)을 활용한 의미 클러스터링 문제, (ii) 클러스터 내 E2E CMT-SemCom 학습 문제. 시뮬레이션 결과는 제안된 프레임워크가 파괴적 협력과 부정적 전이(negative transfer)를 효과적으로 완화하며, 클러스터링되지 않은 멀티태스킹 및 개별 학습 기준선 대비 정확도 향상을 달성함을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.