Characterizing and modeling harms from interactions with design patterns in AI interfaces
원문 초록
The proliferation of applications using artificial intelligence (AI) systems has led to a growing number of users interacting with these systems through sophisticated interfaces. Human-computer interaction research has long shown that interfaces shape both user behavior and user perception of technical capabilities and risks. Yet, practitioners and researchers evaluating the social and ethical risks of AI systems tend to overlook the impact of anthropomorphic, deceptive, and immersive interfaces on human-AI interactions. Here, we argue that design features of interfaces with adaptive AI systems can have cascading impacts, driven by feedback loops, which extend beyond those previously considered. We first conduct a scoping review of AI interface designs and their negative impact to extract salient themes of potentially harmful design patterns in AI interfaces. Then, we propose Design-Enhanced Control of AI systems (DECAI), a conceptual model to structure and facilitate impact assessments of AI interface designs. DECAI draws on principles from control systems theory -- a theory for the analysis and design of dynamic physical systems -- to dissect the role of the interface in human-AI systems. Through two case studies on recommendation systems and conversational language model systems, we show how DECAI can be used to evaluate AI interface designs.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Listing k-cliques in Sparse Real-World Graphs
Template-Driven Machine Learning Standardization for Large Model Fleets
만족을 넘어서: 콘텐츠, 리뷰, 웰빙 간의 연관성 학습
Beyond Satisfaction: Learning Associations Between Content, Reviews, and Well-Being
LiteTopK: 장문맥 희소 어텐션용 통합 Indexer-TopK 커널을 위한 차원의 저주 활용
LiteTopK: Exploiting the Curse of Dimensionality for a Fused Indexer-TopK Kernel in Long-Context Sparse Attention
LittleLearner: 교육학적으로 제어된 지식 노출 환경에서의 언어 모델
LittleLearner: Language Models Under Pedagogically Controlled Knowledge Exposure
현대 언어 모델은 이종의 웹 규모 텍스트 말뭉치로 학습됩니다. 결과적으로 관련 콘텐츠에 대한 사전 노출을 명확히 규정하기 어렵기 때문에, 지식 및 기술 습득을 연구하는 데 한계가 있습니다. 이러한 문제를 해결하기 위해, 본 연구에서는 미국 초등학교 교육 자료에 맞추어 5학년을 초과하는 학년에서 가르치는 개념, 사실 및 어휘를 명시적으로 제외하고 구축한 880억(88B) 토큰 규모의 사전학습 말뭉치인 LittleCurriculum을 소개합니다. LittleCurriculum을 기반으로 50억(5B) 매개변수 대규모 언어 모델(LLM)을 처음부터 학습(scratch)시켜, 개방형 평가를 수행하기에 충분한 언어 능력을 갖추면서도 해석 가능한 교육과정 지침에 부합하는 명확한 지식 및 능력 경계를 지닌 모델인 LittleLearner를 도출했습니다. 잘 정의된 학습 범위 내에서 모델이 데이터를 어떻게 습득하고, 표현하며, 활용하는지 연구할 수 있도록 발달적으로 제한된 샌드박스로 LittleCurriculum과 LittleLearner를 공개합니다. 또한 사후 학습(post-training)과 문맥 내 학습(ICL)을 통해 새로운 지식을 주입하는 첫 번째 일련의 실험을 통해 이 샌드박스의 유용성을 입증합니다. 이러한 방식은 LittleLearner가 기존 지식을 더 잘 활용할 수 있도록 돕지만, 범위를 벗어난 능력을 향상시키지는 못합니다. 본 연구 결과는 향후 연구를 위한 이러한 통제된 환경의 가치를 강조합니다.
ELF: 임베딩 언어 흐름(Embedded Language Flows)
ELF: Embedded Language Flows
확산(diffusion) 및 흐름 기반(flow-based) 모델은 이미지와 동영상 등의 도메인에서 연속 데이터를 생성하는 사실상의 접근법이 되었다. 그 성공은 언어 모델링(language modeling)에 이를 적용하려는 관심을 점점 더 끌어들이고 있다. 이미지 도메인의 대응 모델과 달리, 오늘날 선도적인 확산 언어 모델(diffusion language models, DLMs)은 주로 이산 토큰(discrete tokens) 위에서 동작한다. 본 논문에서는 이산 도메인에 대한 최소한의 적응만으로 연속 DLM을 효과적으로 만들 수 있음을 보인다. 우리는 연속 시간 Flow Matching에 기반한 연속 임베딩 공간에서의 확산 모델 클래스인 Embedded Language Flows(ELF)를 제안한다. 기존 DLM과 달리 ELF는 마지막 시간 단계까지 주로 연속 임베딩 공간 내에 머무르며, 이 단계에서 공유 가중치(shared-weight) 네트워크를 사용하여 이산 토큰으로 매핑한다. 이 구성은 이미지 도메인 확산 모델에서 확립된 기법, 예를 들어 classifier-free guidance(CFG)를 적응시키기 쉽게 만든다. 실험 결과 ELF는 선도적인 이산 및 연속 DLM을 크게 능가하며, 더 적은 샘플링 단계로 더 나은 생성 품질을 달성한다. 이 결과는 ELF가 효과적인 연속 DLM을 향한 유망한 경로를 제공함을 시사한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.