arXiv:1907.07507

Differentiable Disentanglement Filter: an Application Agnostic Core Concept Discovery Probe

Guntis Barzdins, Eduards Sidorovics

제출 2019-07-17

원문 초록

It has long been speculated that deep neural networks function by discovering a hierarchical set of domain-specific core concepts or patterns, which are further combined to recognize even more elaborate concepts for the classification or other machine learning tasks. Meanwhile disentangling the actual core concepts engrained in the word embeddings (like word2vec or BERT) or deep convolutional image recognition neural networks (like PG-GAN) is difficult and some success there has been achieved only recently. In this paper we propose a novel neural network nonlinearity named Differentiable Disentanglement Filter (DDF) which can be transparently inserted into any existing neural network layer to automatically disentangle the core concepts used by that layer. The DDF probe is inspired by the obscure properties of the hyper-dimensional computing theory. The DDF proof-of-concept implementation is shown to disentangle concepts within the neural 3D scene representation - a task vital for visual grounding of natural language narratives.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.11870v2cs.CL공통 태그 Word Embeddings, Visual Grounding

Augustinian BabyLM: 시범적 정의가 소형 언어 모델에 가르칠 수 있는 것과 없는 것

Augustinian BabyLM: What Ostensive Definition Can and Cannot Teach a Small Language Model

언어 모델은 보통 무작위 단어 임베딩으로 학습을 시작한다. 'banana'가 무엇을 의미하는지는 반드시 학습 코퍼스에서 배워야 한다. 나는 성 아우구스티누스의 단어 학습 관—지시(ostension)를 통한 의미 부여—를 1천만 단어로 학습한 소형 마스크드 언어 모델(DeBERTa)에 구현한다. 학습 전에 시각적으로 그라운딩된 토큰은 자신이 라벨하는 이미지 영역에서 유도한 임베딩을 받고, 다른 토큰은 무작위로 시작한다. 시각적 초기화는 학습 종료 시점까지 지속되는 측정 가능한 흔적을 남긴다. 한편 추상적 문법 지식을 탐색하는 대부분의 BabyLM 벤치마크에서는 그 효과가 드러나지 않으며, 시각적 초기화는 그곳에서 성능에 영향을 주지 않는다. 유일한 제로샷 예외는 객체-속성 지식(COMPS)으로, 모든 구성에서 시딩(seeding)이 도움이 된다. 이 결과를 이어가기 위해, 색·재질·크기·형태 지식을 시험하고 항목별 학습 빈도와 시드 여부를 포함한 Visual-Property Swap 벤치마크의 코퍼스 맞춤 버전을 구축한다. 여기서 시각 시드(vision-seeded) 모델은 지속적이고 시드가 재현되는 이점을 보인다. 기능어와 추상 어휘도 강한 시각 시드를 받아 학습 내내 유지하며, 학습 목적 함수가 이를 활용한다. 모든 시드에서 이 단어들에 대한 홀드아웃 마스크 예측 손실이 감소한다. 그러나 내가 실행한 어떤 벤치마크도 이를 포착하지 못한다. 이를 잡아낼 평가가 무엇인지는 여전히 열린 질문이다.

arXiv:2607.24017v1cs.CV공통 태그 Disentanglement, Visual Grounding

어텐션 매니폴드에서 의미적 어텐션과 구조적 바이어스 분리

Disentangling Semantic Attention from Structural Bias in the Attention Manifold

다중모달 대규모 언어 모델(MMLM)에서 어텐션 메커니즘의 경험적 성공은 종종 그에 내재된 미묘한 결함을 가려버린다. 구체적으로, MMLM은 일관되게 특정 의미적으로 무정보적인 시각 토큰에 과도한 어텐션을 보이며, 이 현상은 "register" 또는 "Visual Attention Sinks"라고 불린다. 기존 추론 개입 방법들은 이러한 sink 토큰을 식별하고 어텐션 가중치를 재분배하려 시도하지만, 이러한 접근법은 일반적으로 이러한 토큰을 고립적으로 다루며 계산 비효율성을 겪는다. 대신, 우리는 이 현상을 고립된 sink 토큰을 넘어 확장되는 시각 특징에 가해지는 일반화된 텍스트적 바이어스로 재구성한다. 이 관점에서, 만연한 구조적 바이어스는 의미적 시각 신호의 희석을 초래하며, 모델이 유효한 시각적 증거보다 언어적 사전(prior)을 우선시함에 따라 다중모달 환각을 촉발한다. 이 한계를 해결하기 위해, 우리는 학습 없이 플러그 앤 플레이 방식의 개입인 Saliency-guided Purification and Adaptive Redistribution(SPAR)을 제안한다. SPAR은 구조적 노이즈를 정화하고, 이후 회수된 어텐션 예산을 가장 정보가 풍부한 시각 영역에 재분배함으로써 이러한 일반화된 텍스트적 바이어스를 완화한다. 다양한 환각 벤치마크에 걸친 포괄적 평가는 SPAR이 무시할 수 있는 수준의 계산 오버헤드로 진정한 시각적 그라운딩을 효과적으로 복원함을 보여준다.

arXiv:2607.12602v1cs.CV공통 태그 Disentanglement, Visual Grounding

분리와 추론: 3D 흉부 CT에서 자유 텍스트 소견의 해부학적 가이드 2단계 복셀 수준 그라운딩

Decouple and Reason: Anatomically Guided Two-Stage Voxel-Level Grounding of Free-Text Findings in 3D Chest CT

3D 흉부 컴퓨티드 토모그래피(CT) 영상에서 자유 텍스트 소견을 복셀 수준으로 그라운딩하는 것은 임상적 해석 가능성에 매우 중요하다. 그러나 대규모 3D 볼륨의 복잡한 공간적 복잡성과 자유 텍스트 소견의 이질성으로 인해 이 과제는 여전히 매우 어렵다. 기존 end-to-end 접근법은 정확한 3D 분할에 필요한 국소 특징 표현과 텍스트 정렬에 필요한 복잡한 의미 이해를 동시에 학습하는 데 어려움을 겪는 경우가 많아, 그라운딩 성능이 최적에 미치지 못한다. 이 근본적 한계를 극복하기 위해, 우리는 문제를 두 개의 전문화된 단계로 분리하는 새로운 분리형 프레임워크를 제안한다: (1) 클래스 무관 병변 분할 및 (2) 텍스트-볼륨 추론. 이 구조적 분리는 모델이 잠재적 이상 소견을 국소화하여 후보 부분 볼륨을 먼저 추출할 수 있게 한다. 이후 집중적인 크로스모달 추론을 수행하여 이러한 국소화된 부분 볼륨을 자유 텍스트 의료 소견과 정렬한다. 국소 영역에 내재된 공간적 모호성을 해결하기 위해, 추론 모듈은 상대적 공간 좌표와 폐엽 사전 정보를 활용한 명시적 해부학적 가이드를 보강한다. ReXGroundingCT 벤치마크에서 평가한 결과, 우리 방법은 공식 리더보드에서 전체 그라운딩 품질 기준 최첨단 성능을 달성한다. 이 결과는 검출과 추론을 분리하는 것이 3D 의료 시각 그라운딩의 복잡성을 다루는 데 매우 효과적인 패러다임임을 보여준다. 우리 코드는 https://github.com/khuhm/DAGG 에서 공개적으로 이용할 수 있다.

arXiv:2606.30152v1cs.CL공통 태그 Word Embeddings, Disentanglement

제어 및 자연 문맥에서 문맥적 임베딩의 문법적 성별 방향 추정

Estimating Grammatical Gender Directions in Contextual Embeddings under Controlled and Natural Contexts

문맥적 언어 모델은 스페인어와 같은 성별 언어에서 문법적 성별과 사회적 의미 바이어스를 혼용한다. 기존의 성별 바이어스 제거 접근법은 정적 단어 임베딩에만 적용되어, 이 두 차원의 성별 분리를 위한 문맥적 표현은 탐구되지 않은 상태로 남아 있다. 이 문제를 해결하기 위해, 우리는 문맥적 임베딩에서 문법적 성별을 의미론적 오염으로부터 분리하는 최초의 시도를 수행한다. 우리는 제어된 템플릿과 자연 Wikipedia 문맥을 모두 구성하여 무생물 명사의 균형 잡힌 데이터셋을 구축하고, 중심점(centroid), 서포트 벡터 머신(SVM), 선형 판별 분석(LDA) 성별 방향 추정기와 오염 인식 가중치 전략을 갖춘 프레임워크를 설계한다. 무생물 명사에 대한 문법적 성별 누출 억제와 직업 용어에 대한 의미론적 성별 구분 보존 간의 균형을 맞추기 위한 이중 목적 평가 지표 세트를 제안한다. 결과는 가중치를 적용하지 않은 제어 문맥이 가장 순수한 문법적 성별 방향을 산출하며, 중심점 추정기가 판별 기반선보다 더 나은 성능을 달성함을 보여준다.

arXiv:2606.17389v1cs.CV공통 태그 Disentanglement, Visual Grounding

시각 정보는 거짓말을 하고, 일관성은 말을 한다: 비전-언어 모델에서 신뢰성과 공간적 어텐션의 분리

Visuals Lie, Consistency Speaks: Disentangling Spatial Attention from Reliability in Vision-Language Models

멀티모달 파운데이션 모델은 점차 추론 에이전트로 사용되고 있으며, 이로 인해 모델이 언제 환각을 일으킬 수 있는지 아는 것, 즉 신뢰성이 중요해졌습니다. 우리가 '어텐션-신뢰도 가정(Attention-Confidence Assumption)'이라고 부르는 일반적인 직관은 신뢰성이 "구조적" 시각 지각에서 비롯된다고 봅니다. 관련 영역에 대한 집중된 어텐션은 신뢰할 수 있는 답변을 나타내고, 분산된 어텐션은 혼란을 나타내야 한다는 것입니다. 우리는 최신 비전-언어 모델(VLM)의 신뢰성 신호에 대한 체계적인 교차 패밀리 연구인 VLM Reliability Probe (VRP)를 통해 이를 반박합니다. 우리는 비전 인코더의 시선을 정량화하기 위해 구조적 어텐션 메트릭인 클러스터 수(C_k)와 공간 엔트로피(H_s)를 도입하고, 층 전체에 걸친 그 변화(Delta H_s)를 추적합니다. 이는 "기호적 분리(Symbolic Detachment)"를 보여줍니다. 모델은 종종 시각적 특징을 "조기 잠금(Early Lock)"했다가 나중에 어텐션을 확산시켜, 초기 지각과 최종 생성을 단절시킵니다. 그라운딩 가설과 달리, 우리는 "클러스터 실패(Cluster Failure)"를 발견했습니다. 공간적 어텐션은 정확도와 거의 0에 가까운 상관관계(R 약 0.001)를 가집니다. 대신, 신뢰성은 생성 역학 및 내부 상태 분포의 현상입니다. 샘플링된 추론 경로 간의 일치율인 자기 일관성(Self-Consistency)이 진실을 가장 잘 예측하는 지표입니다(R = 0.429). 인과적 개입을 스케일링하면 급격한 아키텍처적 차이가 드러납니다. LLaVA는 예측을 취약한 후기 단계 병목점에 잠그는 반면, PaliGemma와 Qwen2-VL은 신뢰성을 전역적으로 분산시켜 가장 예측력이 높은 층의 50% 이상이 파괴되더라도 강건성을 유지합니다. 현재 VLM의 경우 신뢰성 신호는 시각적 그라운딩 맵과 분리되어 있으며, 생성 시점 역학 및 히든 상태 프로브에서 추론하는 것이 가장 좋습니다.

arXiv:2609.38840v3cs.LG공통 태그 Disentanglement

scTrilemma: 단일 세포 표현 학습에서 정체성, 불변성, 충실도의 균형 잡기

scTrilemma: Balancing Identity, Invariance, and Fidelity in Single-Cell Representation Learning

단일 세포 RNA 시퀀싱(single-cell RNA-seq) 표현 학습은 근본적으로 레이블이 없습니다(label-free). 즉, 세포 정체성(cell identity), 상태(state), 맥락(context)이 고정된 학습(training) 목표가 아니므로, 무엇이 신호(signal)이고 방해 요인(nuisance)인지는 분석 목적에 따라 달라집니다. 따라서 단일 표현은 생물학적 정체성과 상태를 보존하고, 방해 요인이 되는 맥락에 강건해야 하며, 유전자 발현 분석에 필요한 유전자 수준의 변이를 유지해야 합니다. 본 연구에서는 이 세 가지 요구 사항을 '표현 트릴레마(representation trilemma)'라고 부릅니다. 이 문제를 해결하기 위해, 모든 발현 기반 변이를 하나의 임베딩(embedding)으로 강제 통과시키는 대신 임베딩, 디코더, 사전 분포(prior)로 라우팅하는 잠재 병목 VAE인 scTrilemma를 소개합니다. scTrilemma는 단일 재구성 목표 아래에서 대상 어노테이션이나 보조 표현 손실 없이, 발현량에 따라 유전자 토큰을 게이팅하고, 세포 표현을 디코더로 라우팅하며, 레이블이 지정되지 않은 유사 벌크(pseudo-bulk) 맥락에 따라 사전 분포를 조건화합니다. 연속적인 CZ CELLxGENE Census 릴리스에 대한 릴리스 기반 제로샷(zero-shot) 평가에서, scTrilemma는 세 가지 요구 사항을 동시에 모두 선도하며 여러 질병 환경 전반에 걸쳐 생물학적 상태, 차등 발현(differential-expression) 및 경로(pathway) 구조를 보존합니다. 잠재 변수 개입(latent intervention) 실험은 다른 요구 사항에 거의 영향을 주지 않고 맥락을 제거할 수 있음을 추가로 보여주며, 정체성과 충실도 간의 관계만이 상충 관계(tension)로 남음을 입증합니다. 코드는 https://github.com/yunhak0/scTrilemma 에서 공개적으로 이용 가능합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.