arXiv:2308.00505v4 cs.AI

FREIDA: 정성적 전문가 지식을 기반으로 정량적 행위자 기반 모델을 개발하기 위한 프레임워크

FREIDA: A Framework for developing quantitative agent based models based on qualitative expert knowledge

Frederike Oetker, Vittorio Nespeca, Rick Quax

제출 2023-07-21

저자 비고

arXiv Comments

38 pages + Appendix, 7 figures, 16 tables

한국어 초록

행위자 기반 모델(ABM)은 정량적 데이터가 부족하거나 정량적 데이터만으로는 실제 시스템의 복잡성을 완전히 포착하기에 불충분한 시스템을 다루는 경우가 많습니다. 인터뷰, 민족지학적 연구, 역사적 기록 또는 참여형 워크숍 등을 통해 얻은 전문가 지식과 정성적 통찰은 이러한 모델 내에서 현실적인 행동 규칙, 상호작용 및 의사결정 프로세스를 구축하는 데 매우 중요합니다. 그러나 전체 모델링 주기에 걸쳐 정성적 데이터와 정량적 데이터를 모두 통합할 수 있는 체계적인 접근 방식은 부족한 실정입니다. 이를 해결하기 위해, 본 논문에서는 특히 데이터가 희소한 환경에서 ABM을 개발, 학습 및 검증(validation)하기 위한 체계적인 혼합 방법론 프레임워크인 FREIDA를 제안합니다. 이 프레임워크에서 도입된 주요 기술적 혁신은 정성적 데이터로부터 모델 시뮬레이션을 통해 평가되는 검증 가능한 진술인 '예상 시스템 행동(ESB)'을 추출하는 것입니다. 모델 캘리브레이션을 위한 캘리브레이션 진술(CS)과 모델 검증을 위한 검증 진술(VS)로 나뉘는 ESB는 정량적 데이터와 동등한 수준의 엄격한 평가 메커니즘을 뒷받침합니다. FREIDA는 정성적 통찰을 명시적인 모델 제약 조건으로 구조화함으로써 민감도 분석(SA) 및 불확실성 정량화(UQ)와 같이 확립된 모델링 실무를 적용할 수 있는 투명한 기반을 마련하여, 모델러가 매개변수(parameter) 영향도, 모델 강건성 및 잔여 불확실성을 체계적으로 평가할 수 있도록 합니다. 이를 통해 정성적 통찰은 모델 명세뿐만 아니라 매개변수화, 검증, 그리고 모델 신뢰성과 목적 적합성의 지속적인 개선에도 정보를 제공할 수 있어 행위자 기반 모델링의 오랜 난제를 해결합니다. 본 논문에서는 네덜란드의 코카인 범죄 네트워크 사례 연구를 통해 FREIDA의 적용 사례를 설명합니다.

원문 초록

Agent Based Models (ABMs) often deal with systems where there is a lack of quantitative data or where quantitative data alone may be insufficient to fully capture the complexities of real-world systems. Expert knowledge and qualitative insights, such as those obtained through interviews, ethnographic research, historical accounts, or participatory workshops, are critical in constructing realistic behavioral rules, interactions, and decision-making processes within these models. However, there is a scarcity of systematic approaches that are able to incorporate both qualitative and quantitative data across the entire modeling cycle. To address this, we propose FREIDA, a systematic mixed-methods framework to develop, train, and validate ABMs, particularly in data-sparse contexts. The main technical innovation introduced within this framework is the extraction of what we call Expected System Behaviors (ESBs) from qualitative data, which are testable statements evaluated through model simulations. Divided into Calibration Statements (CS) for model calibration and Validation Statements (VS) for model validation, ESBs underpin a rigorous evaluation mechanism on the same footing as quantitative data. By structuring qualitative insights as explicit model constraints, FREIDA creates a transparent foundation for applying established modelling practices such as Sensitivity Analysis (SA) and Uncertainty Quantification (UQ), allowing modellers to assess parameter influence, model robustness, and remaining uncertainties in a systematic manner. Through this, qualitative insights can inform not only model specification but also parameterization, validation, and continuous improvement of model reliability and fitness for purpose, addressing a long-standing challenge in agent-based modeling. We illustrate the application of FREIDA through a case study of criminal cocaine networks in the Netherlands.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2308.00505v4

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27144v2cs.LG공통 태그 Uncertainty Quantification, Sensitivity

미관측 교란 변수에 강건한 위험 점수 학습

Learning Risk Scores Robust to Unobserved Confounders

미관측 교란의 영향을 받는 역사적 관찰 데이터로부터, 희소 자원이나 개입 대상 개인의 우선순위를 정하기 위한 위험 점수를 학습하는 문제를 다룬다. 누가 희소 자원을 받을지에 대한 결정은 설문 응답과 같이 기록된 특성에 기반한 위험 점수에 의해 종종 안내된다. 이러한 위험 점수는 개인의 특성, 배분 결정, 결과에 대한 역사적 기록인 관찰 데이터로부터 직접 학습되는 경우가 점점 늘고 있다. 역사적 배분 정책이 도입한 바이어스를 보정하는 역 성향 가중치(inverse propensity weighting, IPW)와 같은 표준 방법은, 역사적 결정 과정이 기록된 특성으로 완전히 설명될 수 있다면 정확한 위험 점수를 학습하는 데 사용될 수 있다. 그러나 실무에서는 역사적 결정이 종종 기록되지 않은 정보에 의존하여, 학습된 위험 점수가 과거 우선순위를 이끌었던 기록되지 않은 상황을 가진 개인들을 정확히 체계적으로 과소 우선순위화하게 만든다. IPW를 기반으로, 이러한 종류의 미관측 교란에 강건한 위험 점수를 학습하는 방법을 제안한다. 미관측 교란 하에서는 성향 가중치를 신뢰할 수 있게 추정할 수 없으므로, 대신 관측 가능한 데이터와 교란 정도에 대한 도메인 정보 기반 추정치로 결정되는 불확실성 집합에 속하는 것으로 취급하며, 인과 추론(causal inference)의 민감도 분석(sensitivity analysis)과 Wasserstein 분포적 강건 최적화(Wasserstein distributionally robust optimization)를 결합한다. 그 결과 강건 위험 점수 학습 문제는 표본 기반 근사를 허용하며, 이를 기성 솔버와 호환되는 지수 원뿔 프로그램(exponential cone program)으로 재공식화한다. UCI Machine Learning Repository의 데이터셋에서 파생된 반합성(semi-synthetic) 데이터에서 접근법의 효과를 입증한다. 제안 방법은 다른 지표를 손상하지 않으면서, 전통적 벤치마크 대비 보정(calibration)을 최대 29.2%까지, 최신(state of the art) 대비 최대 11.1%까지 개선한다.

arXiv:2610.15930v1cs.AI공통 태그 Decision Making, Uncertainty Quantification

LightGBM을 활용한 지능형 국경 통제를 위한 다중 호라이즌(Multi-Horizon) 설명 가능 대기열 예측과 자원 인지형 의사결정 지원

Multi-Horizon Explainable Queue Forecasting and Resource-Aware Decision Support for Intelligent Border Control Using LightGBM

국경 통과 지점(border crossing point)은 교통 수요, 여행자 범주, 등록 상태, 검사 요건, 인력 배치, 차선 가용성이 여러 시간 척도에서 상호작용하는 확률적 서비스 시스템이다. 본 논문은 Light Gradient Boosting Machine(LightGBM) 모델을 기반으로 하는 구현 지향적인 다중 호라이즌(multi-horizon) 예측 및 의사결정 지원 아키텍처를 도입함으로써 기존의 멀티모달 대기열 관리 프레임워크를 확장한다. 단일 예측 블록과 달리, 제안된 접근법은 15분, 30분, 60분, 120분 예측을 위한 호라이즌별(horizon-specific) 회귀 모델(regressor)을 구성하고, 미래의 대기 시간(waiting time)과 대기열 길이(queue length)를 함께 추정한다. 이 모델들은 시간적으로 지연(lag)된 교통, 서비스, 밀도, 대기열 특징(feature)을 기반으로 작동하며, 운영층(operational layer)은 차선 호환성, 담당관 가용성, 저하될 수 있는 자원, 여행자 범주, 사전등록 정보, 인간 승인 제약을 반영한다. 분위수(quantile) LightGBM 모델은 대기 시간 예측에 대해 95% 예측 구간(prediction interval)을 제공한다. 예측을 넘어, 이 프레임워크는 국경 자원 관리 및 의사결정 지원 시스템에 적합한 기계 판독 가능한(machine-readable) 권고안, 경보, 종합 핵심성과지표(KPI), 신뢰도 정보, 통합 출력을 생성한다. 이 결과는 재현 가능한 합성 데이터 기준선(baseline)과, 실제 국경 통과 운영 데이터를 이용한 후속 검증(validation)을 위한 실용적 인터페이스를 수립한다.

arXiv:2610.15948v1cs.AI공통 태그 Decision Making, Uncertainty Quantification

비전: "사용자 선호에 대해 내가 모르는 것은 무엇인가?" 불확실성 추정이 능동형 어시스턴트 정렬을 향상시키는 방법

Vision: "What Don't I Know About User's Preferences?" How Uncertainty Estimation Improves Proactive Assistant Alignment

능동형 스마트 어시스턴트(Proactive Smart Assistant, PSA)는 사용자가 선호할 행동을 예측하기 위해 일반 지식, 그룹 수준 데이터에서 학습된 패턴, 개별 사용자 데이터의 패턴, 그리고 최근 센서 관측값을 점점 더 많이 활용하고 있다. 기존 시스템은 일반적으로 예측된 사용자 선호 가능도(likelihood)로부터 행동을 선택하지만, 이러한 가능도만으로는 예측이 얼마나 신뢰할 수 있는지, 어떤 근거가 이를 지지하는지, 또는 왜 모호성이 남아 있는지를 드러내지 못한다. 본 비전 논문에서 우리는 불확실성 추정(uncertainty estimation)이 이러한 누락된 정보를 제공할 수 있으며, 이후의 적절한 행동을 상당히 변화시킬 수 있다고 주장한다. 홈 어시스턴트의 예를 사용하여, 우리는 불확실성 추정이 답하고자 하는 질문들을 소개한다. 즉, 어시스턴트가 예측된 선호 가능도에 대해 얼마나 확신하는지, 그 확신이 그룹 수준의 가정에서 오는 것인지 아니면 개별 사용자의 데이터에서 오는 것인지, 그리고 가능도의 모호성이 사용자의 본질적인 선호 변동성을 반영하는 것인지 아니면 특정 상황에 대한 데이터 부족을 반영하는 것인지이다. 우리는 또한 인간 궤적 예측(human trajectory prediction), 개인화된 행동 인식(personalized activity recognition), 정보 수집(information-collection), 모델 기반 제어(model-based control)와 같은 인접 분야에서의 불확실성 추정 응용 사례를 소개한다. 마지막으로, 우리는 인접 분야의 통찰을 바탕으로 미래의 불확실성 인지(uncertainty-aware) 능동형 어시스턴트가 능동형 상호작용에서의 주요 과제들을 어떻게 해결할 수 있을지를 전망한다.

arXiv:2610.13821v1cs.CL공통 태그 Decision Making, Uncertainty Quantification

언어 모델은 언제 답변을 보류해야 하는지 학습할 수 있는가? 정책 학습과 보정된 답변 선택

Can Language Models Learn When to Abstain? Policy Learning and Calibrated Answer Selection

유용한 언어 모델은 언제 답변해야 하고 언제 "모른다"고 말해야 하는지 알아야 한다. 모델 자체를 학습시키거나 모델의 답변을 검증하는 별도의 구성요소를 학습시킴으로써 이러한 결정을 개선할 수 있을까? 우리는 사실 기반 질문에 대해 Qwen3-14B를 대상으로 두 가지 접근법을 모두 연구하며, 정답에는 보상을 주고 오답에는 벌점을 부과하며 답변 보류를 허용하는 점수를 사용한다. 세 가지 학습 시드와 두 가지 held-out 신뢰도 임계값(confidence threshold)에 걸쳐, 학습된 답변 선택기(answer selector)는 원래 모델의 보정된 신뢰도 필터(calibrated confidence filter)보다 임계값 평균 유용성(threshold-averaged utility)을 향상시킨다. TriviaQA에서 평균 커버리지(coverage)는 20.2%에서 30.9%로 증가하며, exact-match 채점 기준으로 점수가 매겨진 답변 중 통합 오류율(pooled error rate)은 23.0%에서 14.5%로 감소한다. 테스트된 강화학습(RL) 변경들은 일관된 성능 향상을 보이지 않는다. NQ-Open에서는 선택기가 필터보다 임계값 평균 유용성을 향상시키지만, 여전히 항상 답변을 보류하는 것보다 성능이 낮다. 부분적인 사람 검토 기반 감사(human-reviewed audit)에서도 TriviaQA에서의 결과는 유지된다. 우리의 결과는 이러한 설정에서 답변 선택을 학습하는 것을 지지하는 동시에, 데이터셋 전반에 걸친 신뢰할 수 있는 답변 보류(abstention)는 여전히 해결되지 않은 문제임을 보여준다.

arXiv:2610.10808v1cs.LG공통 태그 Decision Making, Uncertainty Quantification

3채널 점수 충돌에서의 통제된 정보 획득과 판단 보류

Controlled Acquisition and Abstention in Three-Channel Score Conflicts

오디오, 비디오, 텍스트가 서로 일치하지 않을 때, 정확도만으로는 추가 소스를 획득해야 할지 또는 판단을 보류해야 할지 알 수 없다. 우리는 통제된 3점수 벤치마크에서 이러한 선택을 연구한다: 정책(policy)은 부호가 있는 두 개의 점수를 관찰하고, 비용을 들여 세 번째 점수를 요청할 수 있으며, 판단을 보류할 수도 있다. 주요 보상은 메커니즘에 특화되어 있다: 보류는 하나의 지정된 모호성(ambiguity) 메커니즘에 대해서만 정답으로 인정되며, 혼합 손상(mixed corruption) 상황에서는 불이익을 받는다. 매칭된 대조군(matched controls)은 임계값 정책(threshold policy)이 더 적은 요청으로도 항상 요청하는 방식과 동등한 성능을 보인다는 것을 보여준다; 항상 응답하는 융합(fusion) 방식에 대한 임계값 정책의 우위는 해당 모호성에 부여된 보상에 따라 달라진다. 부분적으로 홀드아웃된 합성 분할(synthetic split)에서, 임계값 정책은 83개의 시드(seed)에 걸쳐 목표 결정 정확도(targeted decision accuracy) 0.789 ± 0.006과 유틸리티(utility) 0.481 ± 0.014를 달성한다. 3점수 다수결 참조(majority reference)는 0.626 ± 0.008과 0.252 ± 0.016을 달성하지만, 더 많은 정보를 사용한다. 매칭된 예산(matched-budget) 테스트에서, 학습 전용(train-only) 가치 선택기(value selector)는 10%와 25% 예산에서 쿼리 없음(no-query) 및 매칭된 무작위(matched-random) 정책보다 유틸리티를 개선하는 반면, 쌍별 불확실성(pair uncertainty)은 모든 예산에서 더 높은 유틸리티를 보인다. 50%와 63.7% 예산에서는, 비모호(non-ambiguous) 정확도가 약간 더 높음에도 불구하고 선택기가 유틸리티를 낮춘다. 모든 보류가 오답으로 채점될 경우, 다수결이 유틸리티 측면에서 임계값 정책을 능가한다. 중심 시간적 설정(central temporal setting)에서, 전체 트레이스 대조군(full-trace controls)은 신경망 모델(neural models)과 일치하는 반면, 위치 교란(position perturbations)은 이들을 구분한다. 홀드아웃된 배우(actor)의 감정 클립에서, 8프레임 융합(eight-frame fusion)은 두 인코더 쌍(encoder pairs)에 대해 서로 반대 부호의 정확도 차이를 보이며, 두 배우 구간(actor intervals) 모두 0을 포함한다; 매칭된 요청 라우팅(matched-request routing)의 이득은 작고 불확실하다. 이러한 결과는 전체 모달리티(full-modality) 정확도와 요청 전 선택 가치(pre-request selection value)를 구분하며, 선택 가치가 예산과 관찰된 쌍(observed-pair) 순위에 따라 달라짐을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.