PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.27115v1cs.CV

Damnatio Memoriae: 얼굴 인식 모델의 임베딩 공간에서 정체성을 적대적·선택적으로 망각하기

Damnatio Memoriae: Adversarially and Selectively Forgetting Identities in the Embedding Space of Face Recognition Models

얼굴 인식 모델은 한 사람이 서로 다른 시점에 촬영된 두 이미지의 임베딩 유사도가 운용 임계값을 넘으면 이를 동일인으로 연결한다. 우리는 모델이 나머지 집단에 대해서는 계속 사용되는 동안, 선택된 정체성들을 서로 다른 시점 간에 연결 불가능하게 만드는 문제를 다룬다. 해당 이미지를 삭제하고 재학습하는 것으로는 이를 달성할 수 없는데, 모델이 학습에서 한 번도 관찰되지 않은 정체성도 인식하기 때문이다. 따라서 이러한 정체성들에 대해 임베딩 공간을 변경해야 하며, 이 과정을 오픈셋 적대적 망각(open-set adversarial forgetting)이라고 부른다. 우리는 세 가지 손실 함수를 제안한다. 하나는 한 정체성의 임베딩을 그 중심(centroid)에서 분산시키는 것이고, 두 개는 각 이미지를 고유한 근직교(near-orthogonal) 타깃에 매핑하는 것으로, 분류기 헤드와 함께 학습하거나 사전에 거의 직교 정규(almost-orthonormal) 프레임으로 고정할 수 있다. 각 손실은 각 정체성 이미지의 부분집합에 대해 분류 목표와 함께 파인튜닝된다. 검증(verification)과 식별(identification)에서 선행 연구의 네 가지 방법과, 두 가지 망각 규모, 세 가지 백본에서 이를 평가한다. 임베딩 기하에 작용하는 모든 손실은 망각 대상 정체성을 거의 식별 불가능하게 만든다. 직교 정규 프레임만으로도 강한 망각을 달성하며, 해당 부분집합의 이미지가 비교에 개입하는 모든 경우에 성립하고 서로 다른 망각 정체성들을 연결 불가능한 상태로 둔다. 또한 더 높은 유지(retain) 비율에서 동시기 비지도 방법을 능가한다.

arXiv:2606.12609v1cs.LG

바이러스 단백질이 드러낸 단백질 언어 모델의 기하학

Viral Proteins Reveal Geometry of Protein Language Models

불균형 데이터셋으로 학습된 단백질 언어 모델(pLM)의 임베딩 공간을 바이러스 단백질을 통해 분석한 결과, 세포 단백질부터 무작위 서열까지 정렬되는 지배적인 nativeness 축이 존재함을 확인했습니다. 모델 스케일링에도 불구하고 임베딩은 바이러스 특이적 신호를 유지하여 pLM 표현이 일반적인 nativeness 구조와 생물학적 그룹별 정보를 동시에 보존함을 시사합니다.

arXiv:2602.03282v3cs.CV

비전 표현에는 전역 기하학만으로는 충분하지 않다

Global Geometry Is Not Enough for Vision Representations

표현 학습에서 일반적인 가정은 전역적으로 잘 분포된 임베딩이 견고하고 일반화 가능한 표현을 지원한다는 것입니다. 이러한 초점은 학습 목표와 평가 프로토콜 모두에 영향을 미쳤으며, 전역 기하학을 표현 능력의 대리 지표로 암묵적으로 간주해 왔습니다. 전역 기하학은 어떤 요소가 존재하는지는 효과적으로 인코딩하지만, 요소들이 어떻게 구성되는지에 대해서는 종종 민감하지 않습니다. 우리는 다양한 비전 인코더 제품군에 걸쳐 기하학적 메트릭이 구성적 결합을 예측하는 능력을 테스트하여 이러한 한계를 조사합니다. 그 결과, 표준 기하학 기반 통계는 구성적 결합과 거의 0에 가까운 상관관계를 보임을 발견했습니다. 대조적으로, 입력-출력 야코비안으로 측정된 기능적 민감도는 이러한 능력을 신뢰할 수 있게 추적합니다. 또한 우리는 이러한 차이가 목적 함수 설계에서 비롯됨을 보여주는 해석적 설명을 제공합니다. 기존 손실 함수는 임베딩 기하학을 명시적으로 제한하지만, 국소적 입력-출력 매핑은 제한하지 않기 때문입니다. 이러한 결과는 전역 임베딩 기하학이 표현 능력의 일부만 포착함을 시사하며, 합성 구조를 모델링하는 데 있어 기능적 민감도를 중요한 보완 축으로 확립합니다.