PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.30801v1cs.CL

대규모 개인화 알고리즘 블랙박스 감사 자동화를 위한 AI 에이전트 활용

Using AI Agents to Automate Black-Box Audits of Personalization Algorithms at Scale

개인화 알고리즘은 온라인 플랫폼에서 사용자가 접하는 콘텐츠를 결정한다. 독립적인 감사자는 알고리즘에 블랙박스 방식으로만 접근할 수 있으며, 개인화는 사용자의 속성, 행동, 그리고 변화하는 상호작용 이력에 의존하기 때문에 이러한 시스템을 감사하는 것은 어렵다. 기존 감사 방법은 트레이드오프에 직면해 있다. 실제 사용자를 대상으로 한 연구는 현실적인 행동을 포착하지만 비용이 많이 들고 통제하기 어려운 반면, 소위 '양말 인형(sock-puppet)' 감사는 더 쉽게 확장할 수 있으나 현실성을 제한하는 스크립트 기반 행동에 의존하는 경우가 많다. 이에 더해, 두 접근법 모두 사용자 속성과 사용자 행동을 분리하는 데 어려움을 겪어, 개인화를 인과적으로 이해하는 능력을 제한한다. 이 간극을 해소하기 위해, 우리는 생성형 AI 에이전트를 합성 계정의 행동 엔진으로 활용하는 개인화 알고리즘 블랙박스 감사 프레임워크를 소개한다. 각 에이전트는 인구통계 및 정치적 설문 데이터에 기반한 고정된 페르소나(persona)로 초기화되며, 플랫폼의 콘텐츠에 대해 추론하고 행동을 선택함으로써 상호작용한다. 행동은 각 페르소나 내에서 고정되는 반면, 연령·성별·위치 등 플랫폼에 노출되는 신호는 실험적으로 변경할 수 있기 때문에, 우리의 설계는 플랫폼이 사용자 속성에 반응하는 방식에 대한 반사실적(counterfactual) 감사를 가능하게 한다. 사례 연구로서, 우리는 2024년 미국 대선 직후 X에 1,120개의 에이전트를 배포하여 14개의 페르소나와 세 가지 반사실적 조건을 포괄하며 20만 건 이상의 콘텐츠 노출 데이터를 수집하였다. 분석 결과, X의 알고리즘 피드는 시간순 피드에 비해 독성적이고, 양극화되고, 정치적이며 우편향적인 콘텐츠를 증폭시키며, 그 증폭 정도는 사용자의 이념에 따라 크게 달라지는 것으로 나타났다. 반사실적 분석에 따르면 인구통계 신호는 페르소나에 따라 다른 방식으로 콘텐츠 전달에 영향을 미치며, 통합된 효과는 대체로 유의하지 않은 반면 하위 집단 수준의 효과는 방향과 크기 모두에서 차이를 보였다. 본 연구는 생성형 AI 기반 에이전트를 알고리즘 감사의 새로운 도구로 확립한다.

arXiv:2601.16398v3cs.CY

White-Box Sensitivity Auditing with Steering Vectors

블랙박스 입출력 테스트에만 의존하는 기존 대규모 언어 모델(LLM) 감사의 한계를 극복하기 위해, 활성화 스티어링(activation steering) 기반의 화이트박스 민감도 감사 프레임워크를 제안한다. 사법 판결·신용 평가·대학 입시·의료 진단 등 4가지 고위험 의사결정 시뮬레이션에서 이 방법은 블랙박스 평가가 편향이 없거나 미미하다고 판정하는 경우에도 보호 속성에 대한 실질적인 의존성을 일관되게 탐지했다.