arXiv:2602.02624v2 cs.SI

X의 추천 시스템이 사용자의 이념적 성향을 의도치 않게 프로파일링하는 현상

Recommender system in X inadvertently profiles ideological positions of users

Paul Bouchaud, Pedro Ramaciotti

제출 2026-02-02

한국어 초록

여러 데이터 보호법은 관리자의 의도와 관계없이 정치적 견해를 드러내는 데이터 처리를 제한합니다. 그러나 추천 시스템이 관련성 최적화의 부산물로 이러한 처리를 수행하는지는 아직 측정된 바 없습니다. 본 연구에서는 프랑스의 자원봉사자 682명에게 제공된 250만 건의 '팔로우 추천(Who to Follow)' 데이터를 바탕으로, X의 추천 시스템이 26,509개 계정에 사용한 임베딩(embedding)의 근사치를 재구성하고 설문조사 기반으로 보정된 이념 점수를 산출출했습니다. 이 임베딩의 한 방향은 연령, 성별, 인기도를 추적하는 방향과는 뚜렷하게 구별되며, 좌우 정치 성향에 따라 사용자를 정렬합니다(피어슨 상관계수 rho = 0.887). 연구진은 이러한 척도가 실제로 존재하며 해당 임베딩을 통해 계산되는 추천 결과에 영향을 미친다는 점을 보여줍니다. 이 성향 축을 제거하자 정확도 저하는 미미한 수준에 그치면서도 추천의 다양성은 향상되었습니다. 본 논문은 현재의 프로파일링(profiling) 정의에서는 명확히 다루지 못하는, 중대한 형태의 창발적(emergent) 정치적 표현 표상을 실증적으로 규명합니다.

원문 초록

Several data protection laws restrict processing that reveals political opinions, irrespective of the controller's intent. Whether recommender systems do so as a by-product of optimizing relevance has not been measured. From 2.5 million ``Who to Follow'' recommendations shown to 682 volunteers in France, we reconstructed an approximation of the embedding used by X's recommender for 26,509 accounts, computing survey-calibrated ideology scores. One direction in this embedding orders users by Left-Right position (Pearson rho = 0.887), distinct from directions tracking age, gender or popularity. We show this scale exists and affects the recommendations computed from the embedding. Removing it diversified recommendations at a limited cost in accuracy. We document a consequential form of emergent political representation that current definitions of profiling do not clearly address.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2602.02624v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.24927v1cs.AI공통 태그 Fairness, Recommendation Systems, Privacy Preserving

Et Tu, Brute? 개인 AI 에이전트의 경제적 정렬 오류

Et Tu, Brute? Economic Misalignment in Personal AI Agents

개인 AI 에이전트(personal AI agent)는 항공권 구매, 건강보험 선택, 대학원 프로그램 선정 등 고위험 경제적 상황에서 사용자를 대신해 추천을 제공하고 행동을 수행한다. 이 에이전트는 사용자에게 최적화된 개인화 결정을 내릴 목적으로 이메일 수신함이나 개인 속성에 대한 구조화된 프로필 등 사용자의 개인 맥락(personal context)에 접근할 수 있다. 우리는 이러한 개인 맥락을 제공하는 것만으로도 에이전트가 명시적인 지시 없이 추론된 부(wealth)에 따라 추천을 유도한다는 것을 보여준다. 항공권, 건강보험, 대학원 프로그램이라는 세 가지 유형의 경제적 결정에 걸쳐 13개 에이전트를 대상으로 32만 5천 건의 실험을 수행한 결과, 동일한 요청에 대해 8개 모델이 더 부유한 사용자에게 체계적으로 더 비싼 옵션을 선택한다는 것을 확인했다. 이러한 유도는 사용자가 명시한 목표와 직접 상충하는 경우에도 계속된다. 즉, 가장 저렴한 옵션을 찾도록 명시적으로 지시받은 경우에도 일부 에이전트는 자신이 추론한 부 프로필에 따라 행동한다. 이는 과제와 무관한 이메일과 같은 주변 데이터(ambient data)로부터 부가 추론되는 경우에도 나타난다. 또한 특정 속성을 차단하는 개인정보 보호 제어 하에서도 지속된다. 재무 관련 속성을 차단하면 격차가 대체로 사라지지만, 다른 속성을 차단하면 격차는 그대로 유지되거나 보험의 경우 최대 40%까지 증가할 수 있는데, 이는 에이전트가 남은 신호에 의존해 부를 추론하기 때문이다. 더 크고 성능이 뛰어난 모델이라고 해서 더 낫지 않으며, Claude Opus 4.8이 가장 큰 효과를 보인다. 우리는 이러한 정렬 오류(misalignment)를 "적대적 위임(adversarial delegation)"이라고 명명한다. 이는 개인 AI 에이전트를 유용하게 만드는 바로 그 조건, 즉 개인 정보에 대한 접근이 오히려 사용자의 이익에 반해 행동하도록 만드는 것을 뜻한다.

arXiv:2607.13328v1cs.CR공통 태그 Fairness, Recommendation Systems, Privacy Preserving

개인화와 프라이버시의 균형을 맞춘 프라이버시 보존 추천 시스템

Privacy Preserving Recommender Systems Balancing Personalization with Privacy

개인화 추천 시스템은 현대 이커머스 및 소매 플랫폼의 핵심이지만, 일반적으로 상세한 사용자 상호작용 데이터의 중앙집중식 저장에 의존하여 상당한 프라이버시 및 규제 문제를 야기한다. GDPR, CCPA, CPRA와 같은 규정의 요구가 증가함에 따라, 조직은 추천 품질을 크게 저하시키지 않으면서 사용자 프라이버시를 보존하는 추천 시스템을 개발해야 한다. 본 연구는 연합 학습(federated learning), 차등 프라이버시(differential privacy), 코호트 수준 모델링(cohort-level modeling), 프라이버시 인식 지능형 에이전트(privacy-aware intelligent agents)를 결합한 프라이버시 보존 추천 프레임워크를 제시하고 평가한다. 이 프레임워크는 원시 사용자 데이터를 분산 상태로 유지하면서 모델 업데이트에 수학적으로 제한된 노이즈를 도입한다. 고객 클릭스트림 및 구매 행동을 모사하는 합성 소매 데이터셋(dataset)에서 실험을 수행했다. 추천 품질은 여러 차등 프라이버시 예산에 걸쳐 클릭률(CTR), 정밀도@K(Precision@K), 재현율@K(Recall@K), 정규화 할인 누적 이득(NDCG@K)으로 평가했다. 다양한 프라이버시 제약 하에서 행렬 분해(matrix factorization), 신경망 협업 필터링(neural collaborative filtering), GRU4Rec을 평가하고 프라이버시와 유틸리티(utility) 간의 트레이드오프를 분석한다. 추천 성능, 순위 안정성, 프라이버시-유틸리티 트레이드오프, 공정성(fairness) 지표를 시각화하는 대화형 Streamlit 대시보드를 개발했다. 결과는 제안 프레임워크가 중간 수준의 프라이버시 예산(약 ε≈5)에서 경쟁력 있는 추천 품질을 유지함을 보여주며, 강력한 프라이버시 보장이 추천 효과에 제한적인 영향만으로 달성될 수 있음을 입증한다. 본 연구는 개인화, 규제 준수, 비즈니스 목표의 균형을 맞추는 프라이버시 보존 추천 시스템 배포를 위한 실용적 프레임워크를 제공하며, 차세대 AI 기반 소매 플랫폼을 위한 확장 가능한 접근법을 제시한다.

arXiv:2609.22601v1cs.ET공통 태그 Fairness, Privacy Preserving

AI 에이전트를 위한 공정 보상 분산 정보 검색 및 증강

Fairly Compensated Distributed Information Retrieval and Augmentation for AI Agents

자율 AI 에이전트가 외부 및 분산 지식 소스에 점점 더 의존하면서, 탈중앙화 정보 마켓플레이스에는 근본적인 난제가 생긴다. 검색 에이전트는 구매 전에 데이터의 품질과 관련성을 평가해야 하지만, 데이터 제공자는 보장된 보상이 이루어지기 전에는 가치 있는 정보를 노출하지 않아야 한다. 이 역설은 중앙화된 중개자가 당사자 간 공정성을 강제할 수 없는 신뢰 불필요(trustless) 다중 에이전트 환경에서 특히 중요해진다. 본 논문에서는 자율 에이전트 네트워크에서 분산 정보 검색 및 증강을 위한 공정 보상 프로토콜을 제안한다. 우리 프레임워크는 검색 에이전트가 후보 문서의 평문 내용을 알지 못한 채 안전하게 평가하고 순위를 매길 수 있게 하며, 데이터 제공자는 유효한 정보가 성공적으로 전달된 경우에만 보상받도록 보장한다. 또한 악의적 적대자에 대한 프로토콜의 보안 특성을 분석하고, 구현을 통해 실용적 타당성을 평가한다. 실험 결과는 제안 설계가 기밀성, 정확성, 무결성, 공정성을 유지하면서 현재 암호학 인프라에서 실용적임을 보여준다. 이러한 메커니즘이 미래 AI 에이전트 생태계를 위한 신뢰할 수 있고 경제적으로 지속 가능한 탈중앙화 지식 마켓플레이스의 중요한 암호학적 기반을 제공한다고 본다.

arXiv:2607.22935v1cs.LG공통 태그 Fairness, Recommendation Systems

정적·시간 가변 노출 하한을 갖는 불일치 반올림 공정 밴딧

Discrepancy-Rounded Fair Bandits with Static and Time-Varying Exposure Floors

최소 노출 제약은 추천, 콘텐츠 큐레이션, 규제된 할당에서 각 공급자, arm, 또는 그룹이 집계적으로만이 아니라 기간 내에 보장된 노출을 받아야 할 때 발생한다. 우리는 정확한 노출 하한을 갖는 확률적 밴딧(stochastic bandits)을 연구하고, 핵심 대상은 반올림 문제임을 보인다. 분수 공정 스케줄이 정수 pull로 실현되며, 노출 오차는 정확히 불일치 벡터(discrepancy vector)이다. 주요 기여는 시간 가변 하한을 갖는 블록 단위 모델이다. BDQ-UCB는 모든 블록 하한을 결정적으로 만족하며, horizon $T$가 아닌 비필수 예산 $R$에 의해 지배되는 공정 regret을 갖고, 높은 확률에서 regret $O(\sqrt{KR\log(KT)})$를 달성한다. MOSS 잔차(residual) 변형은 $O(\sqrt{KR})$를 달성하고, 일치하는 하한이 양의 필수 노출(mandatory exposure)에서도 minimax rate $Θ(\sqrt{KR})$를 제공한다. kl-UCB$^{++}$ 잔차 규칙은 instance-dependent 최적성을 추가한다. 이 정식화는 겹치는 그룹 하한에 필수적이다. arm별 반올림은 그룹 크기에 대해 $Ω(s)$만큼 그룹 제약을 위반할 수 있는 반면, Beck--Fiala 영공(null-space) 반올림은 블록 예산 내에서 모든 그룹 하한을 만족하며 위반을 arm degree $t$ 미만으로 유지하고, 동일한 $R$-매개변수 regret과 UCB를 결합한다. 학습된 그룹 계획에 대해, 우리는 disjoint system을 $\widetildeΘ(\sqrt{KT})$에서 닫고, 겹침 하에서 naive index 규칙이 실패하는 이유를 설명하는 이중 원장(dual-ledger) 분해를 제시하며, 초기 cover-slack 조건 하에서 pathwise feasible한 plan-sampling 규칙을 증명하고 조건부 $\widetilde O(\sqrt{KT})$ 보장을 달성하되, 조건 없는 겹침 rate는 열어둔다. 합성 하한, MovieLens-100k 장르 노출, 배포 스트레스 테스트에 대한 실험은 penalty tuning 없이 정확한 feasibility를 보여주며, tuned Lagrangian baseline과 경쟁력 있는 regret을 보인다.

arXiv:2607.22665v1cs.AI공통 태그 Recommendation Systems, Privacy Preserving

Obliviate: 추천 시스템에서의 효율적 언러닝

Obliviate: Efficient Unlearning in Recommender Systems

머신 언러닝(machine unlearning)은 데이터 프라이버시 규제 맥락에서 점점 더 중요해지고 있으며, 특히 사용자 상호작용 데이터로 직접 학습되는 추천 시스템에서 그렇다. 본 연구의 목표는 요청된 상호작용 데이터와 그 하류 영향을 학습된 모델에서 제거하면서 추천 품질을 유지하고, 전체 재학습(full retraining)에 따르는 상당한 계산 비용 없이 이를 달성하는 것이다. 기존 접근법은 언러닝 완전성의 한계와 추천 성능 저하, 그리고 상당한 계산 오버헤드 등 여러 한계를 보인다. 본 논문에서는 추천 시스템을 위한 효율적인 2단계 언러닝 프레임워크인 Obliviate를 제안하며, 이는 높은 언러닝 완전성을 달성하면서도 좋은 유틸리티(utility)를 유지한다. 1단계에서는 Low-Rank Unlearning Adapter(LUA)를 도입하며, 이는 경량 헤시안 프록시를 사용하여 전체 파라미터가 아닌 국소적 저랭크 어댑터를 통해 곡률 인식(curvature-aware)적이고 효율적인 언러닝을 가능하게 한다. 2단계에서는 Locality-Aware Calibration(LAC)을 제안하며, 이는 경량 정제 단계로 어댑터 파라미터만 업데이트하여 랭킹 기반 목적 함수를 통해 언러닝을 강제하고 지식 증류를 통해 유틸리티를 유지함으로써 성능을 개선한다. 광범위한 실험 평가를 통해 Obliviate가 추천 품질의 최소한의 손실로 높은 수준의 망각(forgetting)을 달성하고 계산 비용을 크게 줄였음을 보여주며, 대규모 추천 시스템을 위한 실용적이고 확장 가능한 해결책을 제공한다.

arXiv:2607.21647v1cs.LG공통 태그 Fairness, Privacy Preserving

지능형 서비스를 위한 드리프트 안정 양자 연합 학습

A Drift Stable Quantum Federated Learning for Intelligent Services

양자 연합 학습(quantum federated learning)은 분산 클라이언트가 로컬 데이터를 공유하지 않고 양자 신경망(quantum neural networks)을 학습할 수 있게 하며, 이는 프라이버시를 고려한 지능형 서비스에 유망한 접근법이다. 이 맥락에서 지능형 서비스는 사기 탐지와 유전체 분류와 같이 프라이버시에 민감한 분산 의사결정 시스템을 가리키며, 여기서는 신뢰할 수 있고 공정한 클라이언트 수준 학습이 집계 모델의 정확도만큼 중요하다. 그러나 이질적인 클라이언트 데이터와 노이즈가 많은 양자 최적화(optimization)는 종종 불안정한 로컬 업데이트, 클라이언트 드리프트(client drift), 그리고 클라이언트 간 불공정한 성능을 야기한다. 본 논문은 deep-unfolded 로컬 최적화에 기반한 드리프트 안정 양자 연합 학습 프레임워크인 DUQFL-Prox를 제안한다. 고정된 로컬 옵티마이저를 사용하는 대신, 각 클라이언트는 적응형 unfolded SPSA 업데이트를 수행하며, proximal term은 로컬 모델을 글로벌 모델에 가깝게 유지한다. 경량 컨트롤러는 집계 후 성능을 개선하기 위해 단계별 최적화 매개변수를 학습한다. 금융 사기 탐지 및 유전체 분류 작업에 대한 실험은 DUQFL-Prox가 표준 QFL(양자 연합 학습) 베이스라인 대비 안정성, 일반화, 클라이언트 공정성을 개선함을 보여준다. 결과는 deep-unfolded 양자 연합 학습이 이질적인 분산 환경에서 더 신뢰할 수 있고 공정한 지능형 서비스를 지원할 수 있음을 시사한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.