사람들이 금융 조언을 위해 생성형 AI를 이용하면서, 이러한 시스템은 소통 방식과 전달 내용을 개인화할 수 있다. 이러한 형태의 개인화가 의사결정에 서로 다르게 영향을 미치는지는 아직 불분명하다. 우리는 사전 등록된 2×2 피험자 간 요인설계 실험(N=240)을 수행했다. 참가자들은 비슷한 수준으로 타당한 세 종목 주식의 순위를 매긴 뒤 AI와 논의하고 다시 순위를 매겼다. 참가자들은 두 형태의 개인화를 모두 인지했지만, 맥락 기반 개인화만이 순위 행동을 일관되게 바꿨다. 이는 재검토를 늘리고 순위를 AI가 배정한 추천 쪽으로 이동시켰다. 참가자들은 AI를 더 정확하거나, 신뢰할 만하거나, 지능적이거나, 호감이 가거나, 고품질이라고 판단하지 않으면서도 더 영향을 받았다고 느꼈다. 처음에 그 추천과 더 멀었던 사람들은 조언을 덜 정확하다고 판단하면서도 더 많이 그쪽으로 이동했으며, 탐색적 분석은 전문성이 낮은 참가자일수록 더 큰 수용성을 시사한다. 이러한 결과는 개인화된 AI가 최소한의 평가적 흔적만으로도 정당화 가능한 선택지들 사이에서 의사결정을 유도할 수 있음을 보여 주며, 개인화된 의사결정 지원의 설계와 거버넌스에 대한 우려를 제기한다.
데이터 시각화의 설득력은 잘못된 방향으로 작용할 수 있다. 예를 들어, 설명 가능 AI(XAI) 맥락에서 시각화는 예측 모델에 대한 과도한 신뢰(over-trust)를 유발할 수 있다. 본 논문에서는 크라우드소싱 연구를 통해, 모델 설명에 정확하지만(불필요하거나 무관한) 데이터를 제공하는 것이 실제로 모델이 명백히 차별적이고 불공정한 경우에도 불구하고 모델에 대한 부당한 신뢰 및 기타 긍정적 믿음을 초래할 수 있음을 보인다. 우리의 결과는 XAI 설계자와 개발자들이 자신의 작업에 내재되거나 명시적인 수사를 고려해야 하며, 시각화가 모델에 근거 없는 신뢰를 불어넣을 수 있는 잠재력에 주의해야 함을 시사한다.
인간-로봇 상호작용(HRI) 시스템에서 기술 지표 향상이 실제 사용자 인식 차이로 이어지는지 검증하기 위해, Whisper·Florence-2·LLaMA 3.1 기반 베이스라인(성공률 75%)과 Grounding DINO+SAM·Qwen 3.5 9B로 모듈을 교체한 개선 시스템(성공률 90%)을 24명 참여자 대상 within-subject 실험으로 비교했다. 참여자의 70.83%가 개선 시스템을 선호했으며, 지각 속도·신뢰성·유능함 및 유창성 세 가지 지표 모두 통계적으로 유의미하게 높은 평가를 받아(p < 0.001), 기술적 개선이 실제 인터랙션에서도 사용자에게 지각 가능한 수준임이 확인됐다.