arXiv:2309.10448v5 cs.AI

인간-AI 상호작용과 사회적 함정

Human-AI Interactions and Societal Pitfalls

Francisco Castro, Jian Gao, S\'ebastien Martin

제출 2023-09-19

한국어 초록

생성형 인공지능(AI)을 사용할 때 사용자는 생산성 향상을 얻을 수 있지만, AI가 생성한 콘텐츠는 사용자의 선호와 정확히 일치하지 않을 수 있다. 이러한 효과를 연구하기 위해, 우리는 이질적인 사용자가 출력 충실도와 소통 비용 사이의 상충 관계에 직면하여 AI와 얼마나 많은 정보를 공유할지 선택하는 베이지안 프레임워크를 도입한다. 우리는 이러한 개인 수준의 결정과 AI 학습 사이의 상호작용이 사회적 문제로 이어질 수 있음을 보인다. 특히 AI가 AI 생성 콘텐츠로 학습될 때 출력이 더 동질화될 수 있으며, 이는 동질화 죽음의 소용돌이를 촉발할 가능성이 있다. 또한 AI의 편향은 전파되어 사회적 편향이 될 수 있다. 동질화와 편향 문제의 해결책은 인간-AI 상호작용의 마찰을 줄이고 사용자가 유연하게 정보를 공유할 수 있도록 하여, 생산성을 희생하지 않고 개인화된 출력을 얻는 것이다.

원문 초록

When working with generative artificial intelligence (AI), users may see productivity gains, but the AI-generated content may not match their preferences exactly. To study this effect, we introduce a Bayesian framework in which heterogeneous users choose how much information to share with the AI, facing a trade-off between output fidelity and communication cost. We show that the interplay between these individual-level decisions and AI training may lead to societal challenges. Outputs may become more homogenized, especially when the AI is trained on AI-generated content, potentially triggering a homogenization death spiral. And any AI bias may propagate to become societal bias. A solution to the homogenization and bias issues is to reduce human-AI interaction frictions and enable users to flexibly share information, leading to personalized outputs without sacrificing productivity.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2309.10448v5제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.