arXiv:2503.08074

Hedonic Adaptation in the Age of AI: A Perspective on Diminishing Satisfaction Returns in Technology Adoption

Venkat Ram Reddy Ganuthula, Krishna Kumar Balaraman, Nimish Vohra

제출 2025-03-11

원문 초록

The fast paced progress of artificial intelligence (AI) through scaling laws connecting rising computational power with improving performance has created tremendous technological breakthroughs. These breakthroughs do not translate to corresponding user satisfaction improvements, resulting in a general mismatch. This research suggests that hedonic adaptation the psychological process by which people revert to a baseline state of happiness after drastic change provides a suitable model for understanding this phenomenon. We argue that user satisfaction with AI follows a logarithmic path, thus creating a longterm "satisfaction gap" as people rapidly get used to new capabilities as expectations. This process occurs through discrete stages: initial excitement, declining returns, stabilization, and sporadic resurgence, depending on adaptation rate and capability introduction. These processes have far reaching implications for AI research, user experience design, marketing, and ethics, suggesting a paradigm shift from sole technical scaling to methods that sustain perceived value in the midst of human adaptation. This perspective reframes AI development, necessitating practices that align technological progress with people's subjective experience.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2412.04236v3cs.LG공통 태그 Ethics공식 코드 · Papers with Code

콜롬비아 70년 철학의 지도화: Ideas y Valores의 동적 토픽 모델링

Mapping Seven Decades of Philosophy in Colombia: Dynamic Topic Modelling of Ideas y Valores

데이터 기반 접근법은 철학 분야의 역사를 연구하는 유용한 도구로 부상하였다. 그러나 이 영역의 대부분의 연구는 특정 지역과 하위 분야의 제한된 수의 학술지에 초점을 맞추어 왔다. 우리는 동적 토픽 모델링 기법을 적용하여 콜롬비아와 라틴아메리카의 철학사를 탐구함으로써 이 연구의 범위를 확장한다. 본 연구는 1951년에 창간되어 현재 이 지역에서 가장 영향력 있는 철학 학술지 중 하나인 콜롬비아 철학 학술지 Ideas y Valores를 검토한다. 학술지의 역사 전반에 걸친 토픽의 변화를 분석함으로써, 콜롬비아 및 라틴아메리카 맥락의 철학 담론에서 나타나는 다양한 경향과 특정한 역학을 식별한다. 연구 결과, 가장 두드러진 토픽은 (윤리학, 정치철학, 미학을 포함하는) 가치론, 인식론, 과학철학임이 드러난다. 또한 새로운 입장을 제시하기보다 특정 철학자의 저작을 해석하는 데 초점을 둔 논문의 변화를 추적하며, 학술지 존속 기간 전반에 걸쳐 여러 토픽에서 칸트, 후설, 헤겔과 같은 독일 철학자들이 두드러지게 강조됨을 확인한다. 보다 독창적이고 주석 중심이 아닌 철학을 지향한 학술지의 창간 취지를 고려하여, 주석적 토픽이 시간이 지나면서 상대적으로 덜 두드러지게 되었는지를 조사한다. 우리의 분석은 그러한 토픽의 유의미한 감소가 없음을 시사한다. 마지막으로, 이 연구를 다른 라틴아메리카 학술지로 확장하기 위한 아이디어를 제안하고 비영어권 언어의 자연어 처리 워크플로 개선 방안을 제시한다.

arXiv:2502.11266v2cs.CL공통 태그 Marketing공식 코드 · Papers with Code

대규모 언어 모델 시대에 축소되는 언어 다양성의 지형

The Shrinking Landscape of Linguistic Diversity in the Age of Large Language Models

언어는 단순한 의사소통 도구를 넘어 개인의 정체성, 심리 상태, 사회적 맥락에 관한 풍부한 정보를 담으며, 심리학·마�eting·의료 등 다양한 분야에 유용한 통찰을 제공한다. 서로 다른 도메인의 일곱 데이터셋과 88만 건 이상의 텍스트에 걸친 세 가지 연구를 통해, 대규모 언어 모델(LLM)이 쓰기 보조 도구로 널리 채택되는 것이 언어 다양성 감소와 연관되어 있으며, 언어가 제공하는 사회·심리적 통찰을 훼손함을 보인다. LLM이 텍스트를 다듬고 재작성할 때 핵심 내용은 유지되지만, LLM은 또한 문체를 동질화하여 데이터셋과 모델 전반에서 통계적으로 유의미하게(p <= .05) 문장 복잡도 분산을 21–50% 줄이고, 지배적 특성과 연관된 패턴은 강화하면서 다른 패턴은 억제하여 개성보다 순응을 강조한다. 이러한 경향은 서로 다른 LLM, 프롬프트, 맥락에서도 일관되며, 진단 과정, 개인화, 채용 평가, 문화 보존 등에 잠재적 함의를 갖는다.

arXiv:2505.19212v2cs.CL공통 태그 Ethics공식 코드 · Papers with Code

윤리와 보상이 갈라질 때: 도덕적으로 민감한 사회적 딜레마에서의 LLM 에이전트

When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas

최근 LLM의 발전으로 인간이나 다른 에이전트와의 의사결정을 포함하는 복잡한 에이전트 역할에 LLM을 활용할 수 있게 되면서, 윤리적 정렬(alignment)이 중요한 관심사가 되었다. 기존 연구는 LLM의 도덕적 판단과 전략적 행동을 각각 따로 다루어 왔지만, 도덕적 명령이 이익 추구와 직접 충돌할 때 LLM이 어떻게 행동하는지에 대한 이해는 제한적이다. 우리는 \msimfull (\msim)을 도입하여, 9개 모델에 걸쳐 도덕적 프레이밍, 상대 행동, 생존 압력을 변화시키며 도덕적으로 민감한 맥락에 내재된 죄수의 딜레마(prisoner's dilemma)와 공공재 게임(public goods game)에서 LLM이 어떻게 행동하는지 평가한다. 행동 측정을 넘어, 평균 처리 효과(ATE)를 통해 각 요인의 인과 효과를 추정하고, 에이전트 자체의 추론 trace를 분석하여 선택 뒤에 있는 동기를 특성화한다. 어떤 모델도 일관되게 도덕적이지 않으며, 협력률은 7.9\%에서 76.3\%까지 분포한다는 것을 발견했다. 게임 구조와 도덕적 프레이밍이 도덕적 행동의 가장 강한 인과적 동인이며, 추론 trace 분석은 모델마다 뚜렷한 동기 프로필을 드러낸다. 이는 주로 보상 최대화(payoff-maximizing)부터 도덕적·평판 지향적 성향까지 다양하다. 이 결과들은 현재 LLM의 도덕적 행동이 상황에 따라 쉽게 흔들린다는 점과, 이익 추구가 윤리적 지침과 충돌하는 환경에 LLM을 배치할 때의 위험을 드러낸다.

arXiv:2505.11454cs.CV공통 태그 Ethics공식 코드 · Papers with Code

HumaniBench: A Human-Centric Framework for Large Multimodal Models Evaluation

대규모 멀티모달 모델(LMM)은 현재 많은 비전-언어 벤치마크에서 뛰어난 성과를 보이고 있으나, 공정성, 윤리성, 공감능력, 포용성 등 인간 중심의 기준에서는 여전히 어려움을 겪고 있으며, 이는 인간의 가치와 정렬하는 데 핵심적인 요소입니다. 본 논문에서는 HumaniBench를 소개합니다. HumaniBench는 3만 2천 개의 실제 이미지-질문 쌍으로 구성된 종합 벤치마크로, 확장 가능한 GPT4o 지원 파이프라인을 통해 주석이 달렸으며 도메인 전문가들에 의해 철저히 검증되었습니다. HumaniBench는 공정성, 윤리성, 이해력, 추론, 언어 포용성, 공감능력, 견고성 등 7가지 인간 중심 AI(HCAI) 원칙을 평가하며, 개방형 및 폐쇄형 시각 질문 응답(VQA), 다국어 QA, 시각적 그라운딩, 공감적 캡셔닝, 견고성 테스트 등 7가지 다양한 과제를 포함합니다. 15개의 최신 LMM(오픈소스 및 폐쇄소스)을 벤치마킹한 결과, 독점 모델이 대체로 우위를 보이나 견고성과 시각적 그라운딩에서는 약점을 드러냈습니다. 일부 오픈소스 모델은 정확성과 인간 정렬 원칙 준수 간의 균형을 맞추는 데 어려움을 겪고 있습니다. HumaniBench는 HCAI 원칙을 중심으로 설계된 최초의 벤치마크로, 정렬 격차를 진단하고 LMM이 정확하면서도 사회적으로 책임 있는 행동을 하도록 안내하는 엄격한 테스트베드를 제공합니다. 데이터셋, 주석 프롬프트, 평가 코드는 https://vectorinstitute.github.io/HumaniBench 에서 확인하실 수 있습니다.

arXiv:2505.07775cs.CL공통 태그 Marketing공식 코드 · Papers with Code

Must Read: A Systematic Survey of Computational Persuasion

설득은 커뮤니케이션의 근본적인 측면으로, 일상적인 대화부터 정치, 마케팅, 법률과 같은 중대한 시나리오에 이르기까지 다양한 맥락에서 의사결정에 영향을 미칩니다. 대화형 AI 시스템의 부상은 설득의 범위를 크게 확장시켰으며, 기회와 위험을 동시에 가져왔습니다. AI 기반 설득은 유익한 애플리케이션에 활용될 수 있지만, 비윤리적인 영향력을 통해 위협을 가할 수도 있습니다. 또한 AI 시스템은 설득을 수행하는 주체(Persuader)일 뿐만 아니라 설득의 대상(Persuadee)이 되기도 하여, 적대적 공격과 편향 강화에 취약해질 수 있습니다. AI가 생성하는 설득형 콘텐츠의 급격한 발전에도 불구하고, 설득이 본질적으로 주관적이고 문맥 의존적인 특성을 지니고 있어 무엇이 설득을 효과적으로 만드는지에 대한 이해는 여전히 제한적입니다. 본 서베이(Survey)에서는 세 가지 핵심 관점을 중심으로 설득에 대한 포괄적인 개요를 제공합니다: (1) AI 생성 설득형 콘텐츠와 그 응용 분야를 탐구하는 설득 주체로서의 AI(AI as a Persuader); (2) 영향력과 조작에 대한 AI의 취약성을 조사하는 설득 대상으로서의 AI(AI as a Persuadee); (3) 설득 전략을 평가하고 조작을 감지하며 윤리적인 설득을 보장하는 AI의 역할을 분석하는 설득 판독자로서의 AI(AI as a Persuasion Judge). 우리는 설득 연구를 위한 분류 체계(Taxonomy)를 도입하고, 점점 더 강력해지는 언어 모델이 초래하는 위험을 해결하는 동시에 AI 기반 설득의 안전성, 공정성 및 효과를 높이기 위한 미래 연구의 주요 과제를 논의합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.