PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.24876v1cs.AI

사회적 능동 추론에서의 파트너별 정서적 정밀도

Partner-Specific Affective Precision in Social Active Inference

다중 에이전트 사회적 맥락에서는 관계마다 모델 신뢰성이 달라진다. 타인이 무엇을 할지 추론하는 것을 넘어, 에이전트는 그 추론이 각 관계에 대해 정책 선택을 얼마나 확신 있게 이끌어야 하는지 보정해야 한다. 한 파트너에 대해서는 잘 검증된 모델을, 다른 파트너에 대해서는 취약한 모델을, 또 다른 파트너에 대해서는 수정 중인 모델을 유지할 수 있으며, 이를 단일 신뢰도 추정으로 묶으면 정책 선택에 관련된 정보가 사라진다. 따라서 우리는 정서적 정밀도를 현재 파트너 모델에 대한 신뢰의 관계 특이적 메타인지적 추정으로 형식화한다. 각 파트너의 행동 증거는 국소 신뢰도 추정을 갱신하고, 이는 선택 시 정책 정밀도를 조절하여 그 신념의 내용을 바꾸기보다는 정책에서 현재 신념이 얼마나 강하게 표현되는지를 조절한다. 다중 파트너 등급 신뢰 게임에서의 시뮬레이션은 파트너 국소 정서적 정밀도가 행동에 주로 파트너 상태 추론의 직접적 개선보다는 정책 확약을 통해 영향을 미침을 보여준다. 이 메커니즘이 실현된 보상이 아니라 파트너 반응의 예측 가능성을 추적하기 때문에, 더 큰 신뢰는 반드시 더 높은 보상을 낳지 않으면서도 더 날카로운 정책 확약을 만든다. 사회적 행동의 급격한 변화 아래에서는 이전에 신뢰할 만했던 예측에서 축적된 신뢰가 관계가 바뀐 뒤에도 행동적으로 활성 상태로 남을 수 있어, 신뢰 수정이 사회적 변화 뒤처질 수 있음을 보여준다. 마지막으로 정밀도 이득과 사전분포를 달리하면 서로 다른 신뢰 보정 역학이 나타나, 신뢰의 축적과 수정이 모델 매개변수에 어떻게 의존하는지를 보여준다. 종합하면, 이러한 결과는 관계 특이적 정서적 정밀도가 사회적 예측과 사회적 정책 확약을 어떻게 구분할 수 있는지를 보여준다.

arXiv:2606.20605v1cs.CY

건강 정보 소비를 위한 생성형 AI에 대한 신뢰와 학습된 의존의 효과: 실험 연구

Trust in Generative AI for Health Information Consumption and the Effect of Learned Dependency: An Experimental Study

생성형 인공지능은 건강 정보 분야에서 점점 더 많이 사용되고 있지만, 부정확한 출력은 신뢰 보정(trust calibration)과 과도한 의존(overreliance)에 대한 우려를 불러일으킨다. 본 연구는 생성형 인공지능에 대한 학습된 의존이 AI 생성 건강 정보에 대한 신뢰에 영향을 미치는지, 그리고 시각적 어텐션(attention) 단서가 잘못된 출력에 대한 과도한 신뢰(overtrust)를 줄이는지 조사한다. 338명의 참가자를 대상으로 정보 정확도와 시각적 어텐션 단서를 조작한 무작위 2×2 실험을 수행했다. 신뢰와 의존은 설문 척도로 측정했으며, 선형 회귀 모델로 주효과와 상호작용 효과를 검증했다. 정보 정확도는 신뢰를 높였고, 학습된 의존은 신뢰와 양의 상관관계를 보였다. 정확도와 의존 간의 상호작용은 유의미했으며, 이는 의존도가 높은 사용자에서 신뢰 보정이 더 약함을 나타낸다. 시각적 어텐션 단서는 신뢰에 유의미한 영향을 미치지 않았고, 의존의 효과를 조절하지도 않았다. 연구 결과는 학습된 의존이 신뢰 보정을 약화시키고 잘못된 AI 생성 건강 정보에 대한 취약성을 높인다는 것을 시사한다.