arXiv:2610.00947v1 cs.AI

ABDA-NL: 논증 기반 추론을 위한 자연어 시나리오 탐색기

ABDA-NL: A Natural-Language Scenario Explorer for Argument-Based Reasoning

Shawn Bowers, Martin Caminada, Haoyang Liu, Bertram Ludäscher

제출 2026-10-01

저자 비고

arXiv Comments

9 pages, 3 figures. Extended version of a demonstration abstract in the Proceedings of COMMA 2026. Code at https://github.com/idaks/ABDA-NL and live demo at https://demo.abda-nl.org

한국어 초록

ABDA-NL은 접지된 의미론(grounded semantics) 기반의 ASPIC- 지식 베이스를 활용하여 논증 기반 토론을 수행하는 시스템인 ABDA에 자연어 인터페이스를 추가합니다. 사용자는 어떤 결론이 수용(accepted), 기각(rejected), 또는 미결정(undecided)되었는지 확인하고, 접지된 토론 게임의 대화형 렌더링을 열어 그 이유를 파악할 수 있습니다. 또한 가정과 규칙을 유예하거나 선호도를 변경하여 가정적 대안(what-if alternatives)을 탐색하고, 시나리오의 참조 문서로부터 답변을 얻는 질문을 던질 수 있으며, 쉬운 영어(plain English)로 새로운 사실, 가정, 규칙을 작성할 수 있습니다. 대규모 언어 모델(LLM)은 자연어와 형식주의 간의 가교 역할을 하여, 문서 및 시나리오의 현재 상태를 바탕으로 질문에 답하고 쉬운 영어로 작성된 수정을 후보 형식 명제로 변환합니다. 결정론적 ABDA 엔진은 논증, 공격, 수용 레이블의 유일한 원천으로 유지되며, 모델의 모든 제안은 적용되기 전에 사용자가 검증하고 확인합니다.

원문 초록

ABDA-NL adds a natural-language interface to ABDA, a system for argument-based discussion using ASPIC- knowledge bases under grounded semantics. Users see which conclusions are accepted, rejected, or undecided, open an interactive rendering of the grounded discussion game to learn why, explore what-if alternatives by suspending assumptions and rules or changing preferences, ask questions that are answered from a scenario's reference documents, and author new facts, assumptions, and rules in plain English. A large language model provides the bridge between language and formalism: it answers questions from the documents and the current state of the scenario, and it translates plain-English edits into candidate formal statements. The deterministic ABDA engine remains the sole source of arguments, attacks, and acceptance labels, and every proposal of the model is validated and confirmed by the user before it takes effect.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.00947v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.13594v2cs.AI공통 태그 human-in-the-loop

SAFETY SENTRY: EXECUTE-ASK-REFUSE 라우팅을 통한 문맥 인식 인간 개입

SAFETY SENTRY: Context-Aware Human Intervention via EXECUTE-ASK-REFUSE Routing

대규모 언어 모델(LLM) 에이전트(agent)는 도구 호출을 통해 실제 환경에서 행동하며, 단 한 번의 잘못된 판단으로 인한 행동도 비가역적인 피해를 초래할 수 있습니다. 표준적인 안전장치는 제안된 각 행동을 안전함(safe) 또는 위험함(unsafe)으로 분류하는 가드 모델(guard model)이지만, 이러한 이분법적 관점은 행동 자체가 유해한지 여부와 사용자의 문맥을 고려했을 때 적절한지 여부라는 두 가지 별개의 결정을 혼동합니다. 또한 개별 인스턴스가 아닌 행동 범주 수준의 단위로 작동하므로, 자율성을 저해하고 사용자가 가장 중대한 경고조차 무심코 승인하도록 유도하는 일상적인 개입을 유발합니다. 본 연구에서는 이 문제를 {EXECUTE, ASK, REFUSE}에 대한 인스턴스별 3방향 라우팅 결정으로 재정의하고, 단 한 번의 디코딩 호출로 추론(inference)이 수행되는 경량 가드 모델인 Safety Sentry로 이를 구현합니다. 단일 디코딩 시점 임계값을 통해 재학습 없이도 위험 감수 수준이 서로 다른 다양한 배포 환경에 맞춰 하나의 고정된 체크포인트(checkpoint)를 재배치할 수 있습니다. Safety Sentry는 전반적인 정확도와 안전 관련 재현율(recall) 면에서 광범위한 공개 가중치(open-weight) 모델 및 프론티어 독점 폐쇄형(closed-source) 베이스라인보다 우수한 성능을 보이면서, 양방향 오류율을 동시에 제어합니다. 코드와 데이터는 https://github.com/safesentry/SAFETY-SENTRY 에서 확인할 수 있습니다.

arXiv:2609.20659v2cs.RO공통 태그 human-in-the-loop

HIL-UMI: 범용 조작 인터페이스(Universal Manipulation Interface)를 활용한 비전-언어-행동 모델의 인간 참여형 사후 학습

HIL-UMI: Bringing Human-in-the-Loop Post-Training of Vision-Language-Action Models to Universal Manipulation Interface

대규모 비전-언어-행동(VLA, Vision-Language-Action) 모델은 로봇 조작을 위한 강력한 사전 지식을 제공하지만, 특정 실제 환경에 이를 적용하는 것은 여전히 어려운 과제입니다. 태스크별 시연 데이터에 대한 지도 미세조정(SFT)은 배포를 위한 한 걸음을 제공하지만 두 가지 지속적인 한계에 직면합니다. 정적 데이터는 분포 외(OOD, out-of-distribution) 상태에 대한 커버리지가 제한적이며, 표준 모방 학습 목적 함수는 진전을 보이는 행동과 덜 유용한 데이터를 구별하지 못합니다. 대화형 사후 학습(interactive post-training)은 이러한 한계를 해결할 수 있지만, 일반적으로 물리적 로봇에서 반복적인 정책 실행 및 인간의 개입을 필요로 합니다. 본 논문에서는 로봇 없이도 인간 참여형(human-in-the-loop) VLA 사후 학습을 가능하게 하는 정책 기반 범용 조작 인터페이스(UMI, Universal Manipulation Interface) 프레임워크인 HIL-UMI를 소개합니다. 휴대형 UMI 시연 도중, HIL-UMI는 정책의 예측을 직접 실행하지 않으면서 동일한 관측 스트림에 대해 현재 정책을 쿼리합니다. 에너지 점수(Energy Score)는 인간의 행동 궤적과 정책 추론을 비교하여, 그 불일치가 분포 외 영역을 나타낼 때 데이터 수집을 유도합니다. 별도의 피드백 루프에서는 낮은 온라인 어드밴티지(advantage) 예측을 통해 진행도 기반 어드밴티지 추정기를 개선하는 데 필수적인 세그먼트를 식별합니다. 이렇게 업데이트된 추정기는 기본 시연 데이터와 새로운 정책 데이터의 균형 잡힌 혼합을 사용하여 어드밴티지 조건부 행동 복제(behavioral cloning)를 안내합니다. 이러한 설계는 데이터 수집을 로봇 배포와 분리하면서도 인간 참여형 학습의 반복적이고 정책 인식적인 특성을 유지합니다. 긴 수평선(long-horizon) 및 정밀 조작을 아우르는 4가지 실제 환경 태스크에 대한 실험 결과, HIL-UMI는 SFT 대비 일관된 성능 향상을 달성하며 목표 지향적 수집과 어드밴티지 개선 모두에서 이점을 얻음을 보여줍니다. 또한 HIL-UMI는 Clean Up Table 태스크에서 더 낮은 프레임당 수집 시간으로 HG-DAgger보다 우수한 성능을 보여, 다양한 작업자와 위치 전반에서 확장 가능한 VLA 사후 학습 경로를 제시합니다.

arXiv:2610.01452v1cs.CV공통 태그 human-in-the-loop

불확실성 유도 핸드셰이크: 수술 등급 신경교종 분할을 위한 효율적인 인간 참여형 정제

Uncertainty-Guided Handshake: Efficient Human-in-the-Loop Refinement for Surgical-Grade Glioma Segmentation

의료 이미지 분할(image segmentation)을 위한 최신 자동화 모델은 높은 평균 성능을 달성하지만, 특히 신경종양학 분야에서 안전한 임상 적용을 가로막는 국소적이고 치명적인 실패를 빈번하게 겪습니다. 대화형 분할 프레임워크는 인간의 감독을 통합하여 이를 완화하지만, 전통적으로 임상의가 오류를 직접 찾아내도록 요구함으로써 과도한 인지적 및 시간적 부담을 초래합니다. 본 연구에서는 자동화된 기준선(baseline) 성능과 수술 등급 정밀도(precision) 사이의 간극을 메우는 효율적인 하이브리드 구조적-우연적 인간 참여형(Human-in-the-Loop) 신경교종 분할 프레임워크를 제시합니다. 이 프레임워크는 큐레이션된 벤치마크에서 2.0 mm 미만의 HD95를 달성하는 동시에 실제 임상 데이터 전반의 구조적 실패에 대한 안전망 라우팅을 제공합니다. 복셀 단위의 테스트 시점 증강(TTA) 불확실성을 추출하고 계층적 위상 필터링을 적용함으로써, 본 제안 방법은 고위험 구조적 이상치를 선제적으로 격리합니다. 연구진은 까다로운 분포 외(out-of-distribution) 임상 스트레스 테스트 코호트(N = 362)를 대상으로 본 접근법을 종합적으로 평가했습니다. 시뮬레이션된 인간 오라클(Human Oracle) 환경에서 본 프레임워크는 전체 종양(WT) Dice 점수를 0.891에서 0.914로 향상시켰고, 95번째 백분위수 하우스도르프 거리(HD95)를 5.82 mm에서 4.76 mm로 단축했습니다. 수술 안전성에 매우 중요하게도, 시스템은 종양 핵심(TC) 영역의 심각한 경계 오류를 복구하여 평균 HD95를 17.96 mm에서 14.83 mm로 감소시켰습니다(절대 TC Dice는 0.356으로 향상). 이러한 공간적 복구는 목표 체적의 11.3%에 불과한 중앙값 대화형 작업량만 요구하면서 달성되었습니다. 이것이 실제 인지적 마찰이 배제된 시뮬레이션상의 상한선이라는 점을 인정하더라도, 본 프레임워크는 임상 AI를 안전하게 배포하기 위한 매우 파레토 효율적인(Pareto-efficient) 경로를 입증합니다.

arXiv:2609.27418v1cs.CL공통 태그 human-in-the-loop

EviStreams: 의학 분야 체계적 문헌고찰을 위한 인간 참여형(Human-in-the-Loop) AI 데이터 추출

EviStreams: Human-in-the-Loop AI Data Extraction for Systematic Reviews in Medicine

체계적 문헌고찰은 임상 지침의 기반이 되지만, 그 데이터 추출 단계는 프로토콜화된 워크플로에 얽매여 있어 주요한 전문가 노동 병목 구간으로 작용합니다. 즉, 두 명의 검토자가 각 연구를 독립적으로 추출하고, 조정자(adjudicator)가 불일치를 해결하며, 연구팀은 모든 값이 어떻게 도출되었는지에 대한 감사 가능한 기록을 유지해야 합니다. 대규모 언어 모델(LLM)이 추출을 지원할 수 있으나, 이러한 지원은 확립된 고찰 프로토콜에 부합하고 재현성을 유지해야 합니다. 본 연구에서는 검토 팀이 프로그램 설계(코드 실행 전 승인되는 구조화된 분해), 필드 명세(파일럿을 통해 보정된 타입이 지정된 필드 정의), 추출된 예측값(조정을 거치는 검토자 블라인드 이중 검토)이라는 세 가지 핵심 단계에서 AI 지원 추출을 직접 제어할 수 있도록 하는 실시간 오픈소스 노코드 웹 플랫폼인 EviStreams를 소개합니다. 도메인 전문가는 폼 빌더(form builder)를 통해 프롬프트 대신 타입이 지정된 필드를 정의하고, 업로드된 PDF를 대상으로 추출을 실행하며, 근거가 되는 원문 구절과 함께 각 값을 검사하고, 검토자 블라인드 이중 검토를 해결하여 감사 가능한 합의 결과물로 내보냅니다. 시스템과 함께 공개된 4개의 임상 코퍼스 및 3개의 프론티어 모델 계열에 걸친 평가 결과는 추출 품질이 모델의 선택보다 필드 명세에 의해 훨씬 더 크게 좌우됨을 보여줍니다. EviStreams는 https://evistreams.com/demo 에서 실시간으로 제공되며 Apache-2.0 라이선스로 공개되었습니다.

arXiv:2609.27175v1cs.MM공통 태그 argumentation

이의 제기 경험의 기억 통합을 통한 자기 진화형 멀티미디어 검증

Self-Evolving Multimedia Verification through Memory Consolidation of Contestation Experiences

멀티미디어 검증은 정확한 판단뿐 아니라 추적 가능한 증거, 신뢰할 수 있는 인간의 수정, 그리고 선행 경험의 안전한 재사용을 요구한다. 기존 시스템은 종종 중간 추론을 수정하거나 유해한 지식 전이를 방지하는 명시적 메커니즘을 갖추지 못한다. 본 논문은 SEMV(Self-Evolving Multimedia Verification)를 제안한다. 이는 자기 진화형 다중 에이전트 프레임워크로, 출처 정보를 담은 논증(argument)을 증거, 추론, 인간의 이의 제기(contestation), 기억(memory) 사이의 인터페이스로 다룬다. SEMV는 아레나 기반 정량적 이분 논증(A-QBAF), 인과적·범위 제한(scoped) 수정, 검증 게이트가 있는 기억 통합 및 명시적 갈등 보존을 결합한다. COSMOS 벤치마크에서 SEMV는 91.88% 정확도를 달성하며, 이는 비교 가능한 최강 기준선의 89.10%를 상회한다. 검증된 기억은 부정적 전이를 5.7%에서 0.2%로 줄인다. 리뷰어 이의 제기로 구성된 CTR 벤치마크에서 범위 제한 인과 수정은 초기 오류의 96.7%를 교정하면서 연산량 52.8%를 절감한다. MV2026 Grand Challenge 데이터셋은 증거 기반의 시간적으로 일관된 보고를 추가로 뒷받침한다. 이러한 결과는 SEMV가 검증된 경험을 통해 진화할 수 있으면서, 축적된 지식과 이후 결정을 추적 가능하고, 수정 가능하며, 이의를 제기할 수 있게 유지할 수 있음을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.