A Dataset Independent Set of Baselines for Relation Prediction in Argument Mining
원문 초록
Argument Mining is the research area which aims at extracting argument components and predicting argumentative relations (i.e.,support and attack) from text. In particular, numerous approaches have been proposed in the literature to predict the relations holding between the arguments, and application-specific annotated resources were built for this purpose. Despite the fact that these resources have been created to experiment on the same task, the definition of a single relation prediction method to be successfully applied to a significant portion of these datasets is an open research problem in Argument Mining. This means that none of the methods proposed in the literature can be easily ported from one resource to another. In this paper, we address this problem by proposing a set of dataset independent strong neural baselines which obtain homogeneous results on all the datasets proposed in the literature for the argumentative relation prediction task. Thus, our baselines can be employed by the Argument Mining community to compare more effectively how well a method performs on the argumentative relation prediction task.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Semi-supervised Time Series Classification by Temporal Relation Prediction
자율 주행을 위한 관계적으로 그라운딩된 잠재 세계 모델
Relationally Grounded Latent World Models for Autonomous Driving
잠재 세계 모델은 자율 주행을 위한 예측적 표현을 학습하지만, 이러한 상태가 보존하는 관계적 의미는 종종 암묵적으로 남아 있다. 우리는 교통 장면 그래프가 잠재 세계 표현에 대한 특권적 의미 감독으로 기능할 수 있는지 조사한다. LAW를 기반으로 nuScenes 3D 주석으로부터 액터 중심 장면 그래프를 구성하고, 동결된 텍스트 임베딩 모델로 직렬화된 관계 구조를 인코딩하며, 학습 중 시각적 잠재 표현을 이 의미적 목표와 정렬한다. 추론 시 감독 분기를 제거하므로 장면 그래프나 3D 주석이 필요하지 않으며 테스트 시간 계산도 추가하지 않는다. nuScenes에서 우리 방법은 재학습한 LAW 기준선 대비 평균 궤적 L2 오류를 0.661에서 0.622(5.9%)로, 충돌률을 0.456에서 0.217(52.4%)로 낮춘다. 또한 비구조화된 캡션 스타일 의미 목표보다 우수하여, 잠재 세계 모델 표현 학습에서 명시적 관계 구조의 이점을 뒷받침한다.
EasySpider: A No-Code Visual System for Crawling the Web
DeepDrug: A General Graph-Based Deep Learning Framework for Drug Relation Prediction
Hierarchical Neighbor Propagation With Bidirectional Graph Attention Network for Relation Prediction
게이트는 항상 닫힌다: 동결된 비전-언어 모델에 보조 신호를 주입하는 것에 대하여
The Gate Always Closes: On Injecting Auxiliary Signals into Frozen Vision-Language Models
VLM의 보조 신호 경로에는 최적화기가 신호를 얼마나 받아들일지 결정할 수 있도록 학습 가능한 게이트가 일상적으로 적용된다. 본 연구는 최적화기가 무엇을 결정하는지, 그리고 모델이 이후 그 신호를 실제로 사용하는지를 쌍곡 시각 관계 그래프를 실험 수단으로 삼아 연구한다. 교차 엔트로피 미세조정 하에서 최적화기는 0을 선택하며, 우리가 학습시킨 모든 설계에서 게이트가 닫힌다는 것을 확인하였다. 이는 LLaVA-1.5-7B에서의 다섯 가지 주입 설계, 네 가지 과제군에 걸친 Qwen2-VL-7B의 15회 중 15회 실행, InternVL3-8B의 3개 시드 중 3개, 그리고 모든 선형 계층에 LoRA를 적용한 경우에서 모두 나타났다. 우리는 이 억제 현상을 두 가지 체제로 설명한다. 하나는 이미지에서 유래한 신호의 캡션 불변성을 통해 정식화하고 직접 측정한 기울기 소실 체제이며, 다른 하나는 보조 신호가 손실을 오히려 악화시키는 음의 효용 체제이다. 게이트가 닫혀 있다고 해서 그 경로가 비활성 상태인 것은 아니므로, 실제 영역 제안을 사용하는 단일 프로토콜 하에서 추론 시 각 경로를 절제하였다. 그 결과 노름 정렬 설계는 행동 면에서 닫혀 있는 반면(학습된 게이트에서 변화가 최대 1.5pp), 정규화되지 않은 게이트 프리픽스는 열려 있으며 해롭다. 학습된 게이트 값 +0.005에서 관계형 GQA에서 6.7pp의 손실을 초래하면서 SugarCrepe에는 도움이 된다. 모든 구성을 단일 추론 모드로 평가한 결과, 활성화된 주입 경로는 관계형 GQA에서 최대 15pp, 분포 외 VSR에서 7-12pp의 손실을 초래하고, 경로를 제거하면 기하학적 학습 손실은 분포 내에서 측정 가능한 이득을 주지 않으며, 유클리드 포함 관계 대조군이 쌍곡 방식과 대등한 성능을 보인다. 임베딩 노름 정렬은 생성을 보존하는 프리픽스 주입에 여전히 필요하다. 우리는 게이트 값이나 어텐션 질량을 읽는 대신 절제를 통해 신호 사용 여부를 검증할 것을 권고한다. 모든 표의 기반이 되는 구현, 체크포인트, 결과 파일을 https://github.com/mrfarazi/the-gate-always-closes 에 공개한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.