Multi-party Response Generation with Relation Disentanglement
원문 초록
Existing neural response generation models have achieved impressive improvements for two-party conversations, which assume that utterances are sequentially organized. However, many real-world dialogues involve multiple interlocutors and the structure of conversational context is much more complex, e.g. utterances from different interlocutors can occur "in parallel". Facing this challenge, there are works trying to model the relations among utterances or interlocutors to facilitate response generation with clearer context. Nonetheless, these methods rely heavily on such relations and all assume that these are given beforehand, which is impractical and hinders the generality of such methods. In this work, we propose to automatically infer the relations via relational thinking on subtle clues inside the conversation context without any human label, and leverage these relations to guide the neural response generation. Specifically, we first apply a deep graph random process to fully consider all possible relations among utterances in the conversational context. Then the inferred relation graphs are integrated with a variational auto-encoder framework to train a GAN for structure-aware response generation. Experimental results on the Ubuntu Internet Relay Chat (IRC) channel benchmark and the most recent Movie Dialogues show that our method outperforms various baseline models for multi-party response generation.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
시선 고정 소셜 넷: 공동 모델링을 통한 암묵적 관계 해독
Gaze-Anchored Social Net: Decoding Implicit Relations via Joint Modeling
인간의 시선은 시각적 대상을 가리키는 것 이상의 역할을 하며, 정적 이미지 내에서 사회적 의도의 미묘한 지표로 작용한다. 반면 표준 모델은 일반적으로 개인을 독립적으로 처리하며, 시선을 i.i.d. 양으로 취급하거나 사회적 의미를 고립된 상태에서 예측한다. 최근 다인(multi-person) 방법들이 이를 해결하려 시도하지만, 사회적 관계를 시선 추정 과정과 분리된 경직된 사후(post-hoc) 분류로 취급하는 경우가 많다. 이러한 과단순화는 사회적 의도의 미묘한 특성을 포착하지 못한다. 사회적 의도는 부차적인 범주형 출력이 아니라 시선 행동의 근본적 동인으로 작용하기 때문이다. 우리는 이러한 한계를 해결하기 위해 ANCHOR를 제안한다. 시각적 어텐션과 잠재적 암묵적 관계의 공동 분포를 모델링함으로써 시선 고정(gaze-anchored) 사회적 의도를 해독하도록 설계된 대상 중심(target-centric) 패러다임이다. 우리 접근법은 이러한 의존성을 시선 행동의 잠재적 구조적 골격으로 드러낸다. 아키텍처는 관계형 어텐션 메커니즘을 활용하여 세밀한 대인관계 연결을 포착하고, 단일 비전 백본에서 효율적인 다인 파싱을 위해 특징(feature)별 변조를 활용한다. 이 결합된 공식화의 학습을 안정화하기 위해, 공간적 시선 정확도와 잠재적 사회적 추론 간의 고유한 충돌을 해결하는 최적화 시너지를 구현한다. 이 접근법은 경쟁하는 태스크 그래디언트를 조화시키면서 안정적이고 평평한(flat) 최솟값을 추구함으로써 견고한 일반화를 보장한다. 우리는 밀집 다인 주석과 새로운 사회적 영향력 순위를 포함하는 확장된 벤치마크에서 프레임워크를 검증한다. 결과는 최신(state-of-the-art) 성능을 보여주며, 암묵적 사회적 위계가 정적 시선 패턴으로부터 직접 견고하게 분리(disentangle)되어 학습될 수 있음을 보여주는 최초의 정량적 증거를 제공한다.
Enhancing Homophily-Heterophily Separation: Relation-Aware Learning in Heterogeneous Graphs
Coherence-Guided Pyramid Self-Contrastive Disentanglement for Adaptive IQ Signal Denoising in Synthetic Aperture Ultrasound
제약 기반 잠재 상태 모델링: 상충하는 제약 조건 하에서의 표현 학습에 대한 통합적 관점
Constrained latent state modeling: A unifying perspective on representation learning under competing constraints
시계열, 다중 모달(multimodal) 및 부분 관측 데이터로부터 잠재 표현(latent representation)을 학습하려면 잠재 상태가 어떤 정보를 유지하고 버리며 체계화해야 하는지 명시해야 합니다. 기존 접근 방식들은 이러한 요구 사항을 이종의 목적 함수를 통해 인코딩하므로, 방법론 간의 비교가 어렵고 학습된 표현을 해석하기 어렵게 만듭니다. 본 논문에서는 잠재 상태를 예측 충분성, 최소성, 시간적 일관성, 관측 호환성, 방해 요인에 대한 불변성, 구조적 제약이라는 6가지 상호보완적 특성으로 규정하는 개념적 프레임워크인 제약 기반 잠재 상태 모델링(CLSM)을 제안합니다. CLSM은 이러한 특성들을 이를 유도하는 데 사용되는 대리 목적 함수 및 이를 평가하는 데 사용되는 진단 지표와 분리하며, 제약 조건들의 조합이 허용 가능한 표현 공간을 제한함으로써 식별 가능성(identifiability)을 어떻게 향상시킬 수 있는지 명확히 합니다. 저자들은 이 공통 설계 공간을 통해 주요 표현 학습 계열들을 재해석하고, 제어된 합성 벤치마크를 통해 프레임워크를 설명합니다. 실험 결과는 예측 목표, 대리 공식화, 매개변수화 및 최적화에 따라 목적 함수들이 어떻게 서로 다른 잠재 체계화와 경험적 트레이드오프를 생성하는지 보여줍니다. 참조 구현체, 재현 가능한 실험, 문서 및 모델 카드가 포함된 관련 저장소: https://github.com/gwenole-quellec/clsm
scTrilemma: 단일 세포 표현 학습에서 정체성, 불변성, 충실도의 균형 잡기
scTrilemma: Balancing Identity, Invariance, and Fidelity in Single-Cell Representation Learning
단일 세포 RNA 시퀀싱(single-cell RNA-seq) 표현 학습은 근본적으로 레이블이 없습니다(label-free). 즉, 세포 정체성(cell identity), 상태(state), 맥락(context)이 고정된 학습(training) 목표가 아니므로, 무엇이 신호(signal)이고 방해 요인(nuisance)인지는 분석 목적에 따라 달라집니다. 따라서 단일 표현은 생물학적 정체성과 상태를 보존하고, 방해 요인이 되는 맥락에 강건해야 하며, 유전자 발현 분석에 필요한 유전자 수준의 변이를 유지해야 합니다. 본 연구에서는 이 세 가지 요구 사항을 '표현 트릴레마(representation trilemma)'라고 부릅니다. 이 문제를 해결하기 위해, 모든 발현 기반 변이를 하나의 임베딩(embedding)으로 강제 통과시키는 대신 임베딩, 디코더, 사전 분포(prior)로 라우팅하는 잠재 병목 VAE인 scTrilemma를 소개합니다. scTrilemma는 단일 재구성 목표 아래에서 대상 어노테이션이나 보조 표현 손실 없이, 발현량에 따라 유전자 토큰을 게이팅하고, 세포 표현을 디코더로 라우팅하며, 레이블이 지정되지 않은 유사 벌크(pseudo-bulk) 맥락에 따라 사전 분포를 조건화합니다. 연속적인 CZ CELLxGENE Census 릴리스에 대한 릴리스 기반 제로샷(zero-shot) 평가에서, scTrilemma는 세 가지 요구 사항을 동시에 모두 선도하며 여러 질병 환경 전반에 걸쳐 생물학적 상태, 차등 발현(differential-expression) 및 경로(pathway) 구조를 보존합니다. 잠재 변수 개입(latent intervention) 실험은 다른 요구 사항에 거의 영향을 주지 않고 맥락을 제거할 수 있음을 추가로 보여주며, 정체성과 충실도 간의 관계만이 상충 관계(tension)로 남음을 입증합니다. 코드는 https://github.com/yunhak0/scTrilemma 에서 공개적으로 이용 가능합니다.
연속 시간 잠재 동역학의 얽힘 풀기: 확산 변화를 통한 잠재 SDE의 식별가능성
Disentangling Continuous-Time Latent Dynamics: Identifiability of Latent SDEs via Diffusion Shifts
시계열을 위한 인과 표상 학습(causal representation learning)은 이산 시간 잠재 인과 모델에서 강력한 식별가능성(identifiability) 결과를 발전시켜 왔으나, 연속 시간 잠재 확률미분방정식(SDE) 모델에서의 식별가능성은 여전히 대부분 미해결 상태로 남아 있습니다. 본 연구에서는 환경에 의해 유도된 확산 공분산(diffusion covariance)의 변화를 활용하여 이 간극을 해결합니다. 저자들은 공유된 드리프트(drift)를 가지지만 환경별로 서로 다른 확산 공분산을 갖는, 미지의 비선형 미분동형사상(diffeomorphism)을 통해 관측되는 가산 노이즈 잠재 SDE를 연구합니다. 드리프트에 대한 어떠한 희소성(sparsity) 가정 없이도, 좌표별 분산 비율이 서로 다른 두 개의 대각 확산 영역(regime)이 주어지면 치환(permutation), 좌표별 스케일링, 그리고 가능한 상수 이동(constant shift) 수준까지 잠재 좌표를 식별할 수 있음을 보입니다. 먼저 선형 오룬슈타인-울렌벡(Ornstein-Uhlenbeck) 시스템에 대해 이 결과를 증명한 후, 이를 일반적인 가산 노이즈 잠재 SDE로 확장합니다. 완만한 매끄러움(smoothness) 조건 하에서, 순간적인 드리프트-야코비안(drift-Jacobian) 인과 그래프 또한 동일한 치환 수준까지 식별 가능합니다. 저자들은 잠재 표현 얽힘 풀기(disentanglement) 및 선택적 그래프 복원을 위한 2단계 추정기를 제안합니다. 합성 시스템에 대한 실험을 통해 예측된 식별가능성 경계를 확인하였으며, 하르당에르교(Hardanger Bridge) 모니터링 데이터에 적용하여 실제 센서 궤적에 대한 접근법의 효용성을 입증합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.