arXiv:2305.17600

NashFormer: Leveraging Local Nash Equilibria for Semantically Diverse Trajectory Prediction

Justin Lidard, Oswin So, Yanxia Zhang, Jonathan DeCastro, Xiongyi Cui, Xin Huang, Yen-Ling Kuo, John Leonard, Avinash Balachandran, Naomi Leonard, Guy Rosman

제출 2023-05-28

원문 초록

Interactions between road agents present a significant challenge in trajectory prediction, especially in cases involving multiple agents. Because existing diversity-aware predictors do not account for the interactive nature of multi-agent predictions, they may miss these important interaction outcomes. In this paper, we propose NashFormer, a framework for trajectory prediction that leverages game-theoretic inverse reinforcement learning to improve coverage of multi-modal predictions. We use a training-time game-theoretic analysis as an auxiliary loss resulting in improved coverage and accuracy without presuming a taxonomy of actions for the agents. We demonstrate our approach on the interactive split of the Waymo Open Motion Dataset, including four subsets involving scenarios with high interaction complexity. Experiment results show that our predictor produces accurate predictions while covering $33\%$ more potential interactions versus a baseline model.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2606.26661v1cs.RO공통 태그 Diversity, Trajectory Prediction

LAMP: 실행 가능한 궤적 예측을 위한 차선 정렬 움직임 프리미티브

LAMP: Lane-Aligned Motion Primitives for Feasible Trajectory Prediction

움직임 예측은 복잡한 주행 시나리오에서 안전한 의사결정과 계획을 가능하게 하기 위해 자율주행 시스템에 필수적이다. 기존 예측기는 표준 변위 오차를 최소화하는 데는 뛰어나지만, 다중모드 예측의 차선 토폴로지 준수, 특히 낮은 확률의 모드에 대해서는 종종 간과한다. 그 결과, 예측된 궤적이 물리적·논리적 제약을 위반할 수 있어, 예측 집합이 안전이 중요한 계획에 신뢰할 수 없게 된다. 본 논문에서는 차선 토폴로지에 정렬된 구조화된 움직임 프리미티브에 다중모드 예측을 고정하는 토폴로지 인식 예측 프레임워크인 LAMP(Lane-Aligned Motion Primitives)를 제안한다. 구체적으로, VQ-VAE를 사용해 형태 인식 움직임 프리미티브를 이산 의도 쿼리로 학습하여, 종단점 기반 의도를 넘어서는 시공간 패턴을 포착한다. 또한 차선 토폴로지 사전 확률로 학습된 실행 가능성 인식 의도 선택기를 도입하여 도달 불가능한 의도 쿼리를 필터링하고, 디코더가 행동 다양성을 유지하면서 토폴로지 일관된 의도를 우선하도록 안내한다. Argoverse 2 데이터셋에 대한 광범위한 실험을 통해 LAMP가 최신 기준선과 비견 가능한 예측 정확도를 달성하면서 실행 가능성 및 다양성 지표에서 이를 능가함을 보여준다.

arXiv:2605.25796v4cs.CR공통 태그 Diversity

SAMark: 단락 수준 패러프레이즈 견고성을 갖춘 자기 고정(self-anchored) 텍스트 워터마킹

SAMark: A Self-Anchored Text Watermarking with Paragraph-Level Paraphrase Robustness

의미 수준 워터마킹(SWM)은 문장을 기본 단위로 취급하여 텍스트 수정에 대한 견고성을 향상시킨다. 그러나 단락 수준 패러프레이즈(paraphrasing)에 대한 견고성은 여전히 어려운 문제로 남아 있다. 이러한 공격은 문장 순서를 변경함으로써 워터마크 신호를 전역적으로 교란하기 때문이다. 본 연구에서는 SAMark를 제안한다. 이는 의미 공간(semantic space)에 단계 독립적(step-independent) green region을 설정함으로써 문장 순서에 대한 의존성을 제거하는 자기 고정(self-anchored) 워터마킹 프레임워크이다. 탐지성(detectability)을 향상시키기 위해, 워터마크 신호를 증폭하면서 약하게 정렬(aligned)된 후보에서 발생하는 노이즈를 억제하는 다채널 쌍곡(hyperbolic) 스코어링 메커니즘을 도입한다. 또한 단순 n-gram 반복 필터를 넘어 의미적 중복(semantic redundancy)을 다루기 위해 hard filtering과 soft 정규화(regularization)를 결합한 다양성 인식(diversity-aware) 필터링 전략을 제안한다. 실험 결과, SAMark는 일반적인 단락 수준 패러프레이즈 공격 하에서 최대 90.2% TP@FP1%를 달성하며, 평균적으로 가장 강력한 선행 기준선(baseline)보다 30% 이상 우수한 성능을 보인다. 동시에 워터마크가 없는 텍스트와 경쟁할 만한 생성 품질을 유지하며, 기존 방법을 제한하던 견고성-품질 트레이드오프(robustness-quality trade-off)를 깬다. 코드는 https://github.com/Z1zs/SAMark 에서 공개될 예정이다.

arXiv:2606.12247v2cs.CY공통 태그 Diversity

3인칭 감사를 넘어서: 사용자 중심 LLM 바이어스 연구를 위한 상황화된 상호작용 감사

Beyond Third-Person Audits: Situated Interaction Auditing for User-Centered LLM Bias Research

대규모 언어 모델(LLM)의 편향 연구는 모델이 인구 집단을 외부 대상으로서 어떻게 표상하거나 평가하는지를 연구하는 3인칭 감사에 주로 초점을 맞추어 왔다. 그러나 이 패러다임은 감사에 사용자가 부재하다는 구조적 사각지대를 간과한다. 실제로 LLM은 개방적이고 개인적인 상호작용에서 사용되며, 이때 모델은 사용자를 암묵적으로 표상하고 그에 맞춰 응답을 조정한다. 동일한 요청이 누가 묻느냐에 따라 다른 응답을 낳는다면, 편향은 모델이 타인을 서술하는 방식이 아니라 대화 상대를 대하는 방식에서 나타난다. 1인칭 편향에 대한 실증 연구가 늘고 있으나, 서로 다른 단서, 결과 지표, 타당화 방식을 사용하여 결과를 비교하기 어렵다. 본 논문은 이러한 문헌을 위한 공통 진단 프레임워크인 상황 기반 상호작용 감사(SIA)를 제안한다. SIA는 이름과 표면적 표지, 글쓰기 스타일과 방언, 명시된 정체성이라는 사용자 프로필 신호의 유형론을 설계 원칙 및 결과 지표와 함께 도입하여 연구를 비교하고 누적할 수 있게 한다. 우리는 이 프레임워크를 아홉 개 과업 영역과 세 가지 모델에 걸친 칠레인의 이름과 성에 대한 사례 연구로 구현하고, 실무자를 위한 지침과 연구자를 위한 미해결 질문으로 마무리한다.

arXiv:2510.04532v3cs.AI공통 태그 Trajectory Prediction

보이는 것 그 이상인가? 비전-언어 주행 모델 학습에서 추론과 계획 간의 단절 규명

More Than Meets the Eye? Uncovering the Reasoning-Planning Disconnect in Training Vision-Language Driving Models

비전-언어 모델(VLM) 기반 주행 에이전트는 자연어 추론을 먼저 생성한 뒤 궤적 계획을 예측함으로써 설명 가능한 엔드투엔드 자율주행을 실현할 것으로 기대받고 있습니다. 그러나 계획이 이러한 추론에 의해 인과적으로 구동되는지는 매우 중요하지만 검증되지 않은 가정으로 남아 있습니다. 이를 조사하기 위해, 본 연구에서는 nuPlan으로부터 자동 생성된 계획 정렬 사고의 연쇄(CoT)를 포함하는 대규모 주행 시각적 질의응답(VQA) 코퍼스인 DriveMind를 구축합니다. 본 데이터 생성 과정은 센서와 어노테이션을 정형화된 입력으로 변환하며, 특히 사전 정보(prior)와 추론 대상 신호를 분리하여 명확한 정보 절제(ablation)를 가능하게 합니다. DriveMind를 사용하여 지도 미세조정(SFT) 및 그룹 상대 정책 최적화(GRPO)로 대표적인 VLM 에이전트를 학습시키고 nuPlan 메트릭으로 평가합니다. 안타깝게도 실험 결과는 추론-계획 간의 일관된 인과적 단절을 나타냅니다. 자차(ego)/내비게이션 사전 정보를 제거하면 계획 점수가 크게 하락하는 반면, CoT를 제거해도 점수 변화는 미미합니다. 어텐션 분석 또한 계획 단계가 CoT보다는 주로 사전 정보에 집중함을 보여줍니다. 이러한 증거를 바탕으로, 본 연구는 학습을 통해 산출된 추론이 인과적 매개체가 아니라 부수적인 부산물에 불과하다고 상정하는 '추론-계획 분리 가설(Reasoning-Planning Decoupling Hypothesis)'을 제안합니다. 효율적인 진단을 위해, 사소한 입력 섭동에 대한 계획 강건성을 평가하여 에이전트의 사전 정보 의존도를 측정하는 새로운 학습 무관(training-free) 프로브를 도입합니다. 요약하자면, 본 연구는 향후 모델의 인과적 충실성을 평가할 수 있는 새로운 데이터셋과 진단 도구를 커뮤니티에 제공합니다.

arXiv:2606.03021v5cs.CL공통 태그 Diversity

LLM 추론을 위한 힌트 유도 다양화 정책 최적화

Hint-Guided Diversified Policy Optimization for LLM Reasoning

최근 대규모 언어 모델(LLM)의 발전은 인상적인 추론 능력을 보여주었으며, 검증 가능한 보상을 활용한 강화학습(RLVR)은 유망한 성능 향상 전략으로 주목받고 있다. 그러나 기존 보상 메커니즘은 결과 수준의 정확성에 국한되어 있어, 모델이 다양한 해법을 고려하도록 유도하는 명시적인 신호가 부족하다. 대조적으로, 인간의 문제 해결은 일반적으로 여러 잠재적 접근법을 평가하고 가장 신뢰할 수 있는 해법을 선택하는 과정을 거치지만, 현재의 RLVR 프레임워크는 이러한 인지 과정을 명시적으로 유도하지 않는다. 이에 영감을 받아, 본 연구에서는 모델이 먼저 모든 잠재적 후보 해법의 개요를 힌트로 나열한 다음 추가 추론을 위해 가장 신뢰할 수 있는 해법을 선택하도록 하는 힌트 유도 다양화 정책 최적화(HDPO)를 제안한다. HDPO는 구조화된 추론을 위한 콜드 스타트(Cold Start for Structured Reasoning)와 힌트 유도 다양화 강화학습(Hint-Guided Diversified Reinforcement Learning)의 두 단계로 구성되어, 모델이 '제안-선택-사고(propose-select-think)' 궤적을 따라 다양하고 신뢰할 수 있는 해법을 생성하도록 장려한다. 실험 결과는 HDPO가 LLM의 추론 성능을 효과적으로 향상시키고, 후보 해법의 다양성뿐만 아니라 신뢰할 수 있는 해법을 식별하는 LLM의 능력 또한 향상시킴을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.