보완대체의사소통(AAC) 기술은 두 가지 형태로 분류된다. 하나는 음성 생성 시스템 같은 외부 장치를 사용해 표준화된 출력을 생성하는 보조기기 기반 AAC이고, 다른 하나는 자연스러운 표현을 위해 신체 기반 제스처에 의존하지만 상호 이해가 필요한 도구 없는 AAC이다. 우리는 도구 없는 AAC의 속도와 자연스러움을 활용하면서 보조기기 기반 AAC의 명료성을 유지하도록 두 접근을 결합하는 방법을 연구하며, 이는 의사소통 및 운동 장애가 있는 사람들에게 대체로 탐구되지 않은 영역이다. AAC 사용자와 함께한 18개월간의 참여적 설계를 통해 핵심 과제와 기회를 파악하고, 손목 착용형 IMU와 스마트폰 앱을 짝지은 웨어러블 시스템인 AllyAAC을 개발하였다. 14명의 참가자를 대상으로 한 현장 연구에서 AllyAAC을 평가하였고, 비정형 제스처를 포함하는 600,000개 이상의 멀티모달 데이터 포인트로 이루어진 데이터셋을 구축하였으며 이는 최초의 사례이다. 연구 결과는 개인화되고 특이한 제스처를 인식하는 데 따르는 어려움을 보여주며, 서로 다른 사전학습 전략을 가진 트랜스포머 기반 대규모 기계학습(ML) 모델로 이를 해결하는 방법을 제시한다. 종합하면, 우리는 보조기기 기반 AAC와 도구 없는 AAC를 결합한 적응형 개인화 시스템을 위한 설계 원칙과 참조 구현을 제공한다.
설명 가능한 인공지능(XAI)은 AI가 사회와 고위험 분야에서 점점 더 큰 영향력을 갖게 됨에 따라, AI의 예측을 이해 가능하고 투명하며 책임 있게 만들어야 한다는 문제의식에서 출발한다. XAI의 평가 및 최적화 기준은 XAI 알고리즘이 기대하는 목표를 달성하도록 하는 관문 역할을 하므로 엄밀한 검증을 견뎌야 한다. XAI의 과학적 엄밀성을 높이기 위해 본 연구는 일반적인 XAI 기준인 그럴듯함(plausibility)에 대해 최초로 포괄적이고 비판적인 검토를 수행한다. 그럴듯함은 AI의 설명이 인간에게 얼마나 설득력 있는지를 평가하며, 보통 특징 위치 파악이나 특징 상관관계에 대한 지표로 정량화된다. 검토 결과, 그럴듯함은 설명 가능성에 대한 타당하지 않은 척도이며, 인간의 설명은 XAI의 정답(ground truth)이 될 수 없다. 두 가지 모두 설명에 필요한 가정을 무시하기 때문이다. 근본적인 가정 중 하나는 AI의 설명이 잠재적 문제를 찾아내는 감사자나 의사의 역할과 유사하게 적대적으로 작동해야 한다는 것이다. 더 그럴듯한 설명을 생성하도록 XAI를 평가하거나 최적화하는 것은 감사자나 의사가 더 긍정적인 보고서를 작성하도록 유인(즉, 매수)하는 것과 유사하며, 이는 AI 모델이 더 그럴듯한 특징을 학습하도록 장려하는 것(기업이나 환자가 행동이나 건강을 개선하도록 장려하는 것에 해당)과는 다르다. 검토는 또한 그럴듯함을 XAI 기준으로 사용할 때의 결과를 보여 준다. 여기에는 사용자를 조작하는 오해의 소지가 있는 설명의 증가, AI 시스템에 대한 사용자 신뢰의 악화, 인간 자율성의 훼손, 인간과 AI의 상호 보완적 과제 수행 달성 불가, 이해 가능성을 높이는 다른 가능한 접근법의 포기가 포함된다. 측정의 타당성 부족과 윤리적 문제로 인해, 본 논문은 AI 커뮤니티가 XAI 알고리즘을 평가하고 최적화하는 기준으로 그럴듯함을 사용하는 것을 중단해야 한다고 주장한다.
자동 수면 단계 분류 모델은 주로 건강한 수면자를 대상으로 개발되어, 수면이 단절된 임상 집단에는 일반화가 잘 되지 않는다. 세 코호트(뇌졸중 환자, 특발성 REM 수면 행동장애 환자, 기타 수면 장애 환자)에서 우리는 건강한 수면자에 비해 시간당 각성이 2~3배 많고, N1이 거의 두 배이며, REM 수면이 적음을 관찰했다. 우리는 웨어러블 규모의 수면 단계 분류를 위한 레이블 효율적 교사-학생 프레임워크를 제안한다. 학습 환자의 25%에서 얻은 레이블로 적응시킨 SleepGPT(1억 3,600만 파라미터)가 EEG, EOG 또는 둘 다에 대해 실시간으로 단계를 분류하는 인과적 CNN-GRU(3만 1천 파라미터, 122 KB)를 지도한다. 우리는 새로운 블랙박스 전이 인식 증류 손실인 Gcv-TAD를 도입한다. 이 손실은 레이블된 환자로부터 추정한 사전 분포를 사용하여 드문 단계 전이를 강조하고 환자마다 달라지는 전이는 낮게 반영한다. 환자 단위 10-겹 교차 검증에서 Gcv-TAD는 동일한 레이블로 한 지도 학습 대비 환자별 macro F1을 평균 +3.2에서 +7.6점 향상시킨다. 향상은 N1에서 가장 크며, 성능은 전체 레이블 학습에 근접한다.
원격 협업 플랫폼은 집단 아이디어 발상을 지원하기 위해 생성형 AI를 점점 더 통합하고 있다. 이러한 플랫폼은 공간적 매개, 상호작용 방식, AI 출력 형식, 기여를 집단에 가시화하는 메커니즘이 배포된 시스템의 속성으로서 함께 변하는 사회기술적 구성이다. 본 논문은 이러한 구성이 창의적 작업 중 참가자의 협업과 AI와의 관여를 어떻게 형성하는지 살펴본다. 우리는 서로 대조되는 구성을 구현한 상용 플랫폼 두 가지, 즉 텍스트 기반 AI가 통합된 평면 공유 캔버스와 공유 공간에 간결한 AI 출력이 삽입된 몰입형 가상현실 작업 공간을 비교한 연구를 보고한다. 여성으로만 구성된 14개의 3인 집단이 인간 단독 아이디어 생성, AI 지원 아이디어 확장, 집단 수렴으로 이루어진 구조화된 아이디어 발상 과제를 수행했다. 우리는 협업 패턴, AI 생성 아이디어의 선택, 지각된 아이디어 품질, 작업 부하, 현존감, 그리고 어휘적 특성을 분석했다. 몰입형 구성은 더 큰 공간적 현존감을 보였고, 공간적 자유가 탐색을 가능하게 하는 동시에 집단 응집성을 분절시키는 참여 역설을 낳았다. 또한 수렴 단계에서 역할 분배가 더 균형 있게 나타났으나 신체적 요구가 더 높다는 대가가 따랐다. 두 구성 모두에서 AI는 아이디어 풀을 크게 늘렸으며, AI를 이용할 수 있는 상태에서 집단이 작성한 아이디어는 참가자 자신의 아이디어보다 높게 평가되었다. AI 출력 형식은 아이디어당 평면 캔버스에서 약 21단어, 몰입형 작업 공간에서 3단어였다. 참가자가 AI 생성 아이디어를 어떻게 평가했는지, 그리고 이를 수정 없이 최종 후보로 얼마나 자주 선택했는지를 추적했다. 어느 구성도 AI의 기여를 집단에 가시적이거나 귀속 가능하게 만들지 못했으며, 참가자들은 두 구성 모두에서 AI를 개별적으로 그리고 비동기적으로 호출했다. 우리는 AI 출력 형식, 집단에 보이는 AI 호출, 수렴을 위한 공간적 지원에 대한 설계 시사점을 도출한다.
다중 언어 화자는 주제와 대화 상대에 따라 언어를 선택한다. 대규모 언어 모델(LLM)은 이러한 언어들을 불균등하게 지원한다. 대화형 AI와의 코드 스위칭에 관한 연구는 대부분 자원이 풍부한 언어로 이루어진 이중 언어 쌍을 다루어 왔다. 퀴라소와 아루바에서는 많은 사람이 네덜란드어, 영어, 스페인어, 그리고 저자원 크리올어인 파피아멘투/오를 사용한다. 사전 등록된 연구에서 대학생 42명이 각각 5분씩 챗봇과 두 차례 대화를 했으며, 하나는 대학 생활, 다른 하나는 지역 음식과 문화에 관한 것이었다. 설문으로 언어 배경, AI 사용, 전환 편안함을 평가했다. 퀴라소의 국제 학생 20명이 비교 표본을 이루었다. 참가자들은 턴 사이에서 언어를 전환했고 한 메시지 안에서 언어를 섞는 경우는 드물었다. 두 대화 모두에서 영어가 우세했다. 참가자들은 문화 대화에서 더 자주 언어를 전환했으며, 이 대화에서 파피아멘투/오와 스페인어는 메시지의 15%에서 24%로 늘었다. 자기 보고에 따르면 챗봇과 전환할 때의 편안함은 사람과 전환할 때보다 낮지 않았다. 대화형 에이전트는 턴마다 바뀌는 언어 변화를 따라가고 지역의 저자원 언어를 잘 다루어야 한다.
선행 연구는 대규모 언어 모델(LLM)이 채용이나 지능 평가처럼 주목도가 높은 일회성 의사결정 상황에서 암묵적 편향을 드러낸다는 점을 보여 왔다. 그러나 사람들이 일상적인 업무에서 자신을 대신해 결정을 내리는 자율적 LLM 기반 AI 에이전트를 점점 더 많이 사용함에 따라, 사회인구학적 가정에 기반한 암묵적 편향이 폭넓은 일상 의사결정 상황 전반에서 어떻게 나타나는지 이해하는 것이 매우 중요하다. 우리는 미국 시간 사용 조사(ATUS)의 일상 활동 17개 영역을 사용하여, 서로 다른 인종, 성 정체성, 정치 이념을 나타내는 페르소나를 부여한 LLM이 유의미한 암묵적 편향을 드러낸 506개 의사결정 시나리오의 아틀라스를 생성했다. 이어 크라우드소싱 감사에서 참가자 500명이 어떤 암묵적 편향 의사결정 시나리오를 더 검토해야 하는지에 대해 8,010건의 이진 선택을 했다. 참가자들은 폭넓은 관련성이 있는 시나리오(예: 음식 선택), 위험도가 높은 시나리오(예: 건강), 그리고 모의된 사회인구학적 집단의 모든 구성원이 만장일치로 결정을 내린 시나리오(고정관념의 명확한 징후이기 때문)를 우선시했다. 관찰된 격차의 크기나 시나리오가 나타내는 구체적인 ATUS 영역에는 덜 영향을 받았다. 우선순위 선택의 근거를 살펴보았을 때, 참가자들은 종종 격차를 인구집단의 특성으로 해석하고 그 특성이 그럴듯해 보이는지를 판단했으며, 이는 흔히 자신이 내면화한 고정관념에 기반했다. 개인화된 AI 에이전트, 디지털 트윈, 사회 시뮬레이션, 그리고 크라우드소싱 편향 감사의 활용에 대한 시사점을 논의한다.
The CAPSARII project advances a cyber-secure, ultra-low-power wearable platform and Internet of Battlefield Things (IoBT) framework to support real-time monitoring of military personnel and data-driven decision support. The architecture integrates smart-textile sensing, a body/squad area mesh, edge-deployed AI on secure RISC-V microcontrollers, and cloud/federated analytics for cross-mission learning and comparative studies. Two representative use cases--pilot fatigue and warfighters operating in harsh environments--guide requirements, validation, and interface design (including HUD and haptic feedback). As an initial step toward embedded models, we benchmark stress classification on a public wearable dataset: tree-ensemble baselines achieve state-of-the-art performance for accuracy and F1 (e.g., XGBoost: $\mathrm{Accuracy}=0.901\!\pm\!0.023$, $\mathrm{F1}=0.920\!\pm\!0.019$), while a feature-based Transformer attains the highest AUC ($0.963\!\pm\!0.025$), informing feature-engineering and compression choices for edge deployment. Building on these results, CAPSARII employs HW/SW co-design, model compression (pruning, quantization, distillation), and precision tuning to meet stringent energy and memory budgets; it further investigates Processing-in-Memory accelerators for future efficiency gains. A structured gap analysis highlights the remaining challenges: establishing validation standards for physiological signal quality and textile durability; achieving low-latency, scalable BAN/SAN communications under mobility and interference; and deploying hybrid lightweight/post-quantum cryptography with robust device identity and side-channel resilience on constrained endpoints. By consolidating these elements into a coherent, secure IoBT stack, CAPSARII delineates a practical roadmap from laboratory baselines to mission-ready soldier monitoring in both training and operational scenarios.
정확한 보행자 네트워크 데이터는 도시 접근성, 경로 탐색, 인프라 계획의 토대이지만, 이러한 데이터는 여전히 부족하며 대규모로 생성하기도 어렵다. 자동 추출 파이프라인은 컴퓨터 비전을 활용하여 항공 영상에서 보도 네트워크를 도출함으로써 상당한 진전을 이루었으며, 비용 효율적인 인벤토리 구축 방안을 찾는 지자체에서 실제로 도입되고 있다. 그러나 이러한 파이프라인은 연결이 끊긴 구성 요소, 끝이 끊어진 간선, 누락된 연결, 잘못 형성된 교차로와 같은 위상 오류를 지속적으로 생성하며, 이는 추출된 네트워크를 경로 탐색과 접근성 분석에 활용하는 데 지장을 준다. 이러한 오류를 바로잡으려면 전역적인 자동 수정 전략이 대체할 수 없는 상황 의존적인 사람의 판단이 필요하지만, 현재 실무자에게는 이 작업을 효율적으로 지원하는 전용 도구가 없다. 본 논문은 자동 추출과 실제 배포 가능한 보행자 네트워크 사이의 간극을 메우는 시각적 분석 시스템인 Sidewalk Stewards를 제시한다. Sidewalk Stewards는 위상 오류 후보를 탐지하고, 조율된 공간 뷰를 통해 사용자가 안내하는 대화형 수정을 지원하며, 편집이 적용되는 동안 실시간 품질 피드백을 제공한다. 우리는 비교 사용자 연구, 여러 도시에 대한 사례 연구, 정량 평가를 통해 Sidewalk Stewards를 평가한다. 기존 워크플로와 비교하여 이 시스템은 오류 식별을 용이하게 하고 더 빠르고 더 완전한 수정을 가능하게 한다. 사례 연구는 서로 다른 도시 환경에서의 워크플로를 보여 주며, 정량 평가는 소수의 사용자 수정만으로도 여러 보도 품질 지표를 향상시킬 수 있음을 보여 준다. Sidewalk Stewards는 urbantk.org/sidewalk에서 이용할 수 있다.
AR-Classroom은 물리적 모델과 가상 오버레이를 사용하여 학습자가 공간 변환을 탐구하도록 돕는다. 독립형 헤드셋에서 이러한 오버레이를 정렬하기 위해 Meta Quest 3에서 레고 비행기를 위한 마커리스 6자유도(6DoF) 추적기를 개발하였다. Unity 합성 렌더링으로 학습한 소형 YOLO 모델이 128×128 픽셀로 크기를 조정한 동적 RGB 크롭에서 20개의 키포인트를 예측한다. 원근 n점(PnP) 해법은 이러한 예측과 대응하는 3D 랜드마크로부터 비행기의 자세를 추정한다. 합성 검증 이미지 1,000장에 대한 쌍체 평가에서, 실제 정답 박스로 유도한 크롭은 주석이 달린 이미지의 검출률을 32.5%에서 46.2%로 높였다. 평균 키포인트 F1은 42.9%에서 44.6%로 증가하였으나, 크롭된 뷰에서는 키포인트 정밀도가 더 낮았다. 예비 헤드셋 테스트에서 애플리케이션이 초당 약 72프레임을 유지한 최고 추적 목표는 2 Hz였다. 헤드셋 시연은 수동 회전 전후에 가상 오버레이가 물리적 비행기와 정렬되는 모습을 보여 준다. 실제 헤드셋 영상에 대한 정량적 6DoF 자세 정확도는 향후 연구에서 측정할 예정이다.
입력된 주문을 구조화된 형태로 바꾸는 소형 언어 모델은 두 가지 방식으로 실패할 수 있다. 하나는 깨진 결과를 출력하는 것으로, 어떤 시스템이든 이를 거부한다. 다른 하나는 아무도 하지 않은 주문을 깔끔하고 형식이 올바르게 출력하는 것이다. 우리의 후속 연구에서는 후자를 조용한 오류(silent error)라 부르며, 이것이 위험한 유형이다. 본 논문은 미세 조정된 0.8B 파라미터 모델이 WebAssembly로 컴파일된 llama.cpp를 통해 방문자의 브라우저 탭 안에서 전적으로 실행되는 웹 데모를 제시한다. 주문 텍스트는 기기 밖으로 나가지 않는다. 이 페이지는 방문자가 입력하는 동안 주문을 파싱하고, TypeScript로 포팅한 PIZZA 벤치마크의 자체 매처로 모든 주문서를 채점하며, 모델이 열린 웹을 마주할 수 있도록 메뉴에 없는 항목은 "?"로 거부하고, 방문자가 조용한 오류를 찾거나 직접 유발해 볼 수 있게 한다. 1,357개 PIZZA 테스트 주문 전체를 브라우저에서 실행했을 때, 배포된 모델은 99.0%의 주문에서 서버 평가와 동일한 출력을 내고 동일한 정확 일치율(0.882)에 도달하며, 노트북 3대에서의 지연 시간도 함께 보고한다. 데모: https://wrong.cuyor.com
대규모 언어 모델(LLM)의 내부 표현을 해석하는 도구는 설명을 생성하고 평가하는 데 LLM 자체에 점점 더 의존하며, 이는 사람의 감독이 최소화된 자기 참조적 자동 해석 과정을 만든다. 이러한 자동화는 신뢰성에 대한 중대한 우려를 낳으며, 정답이 없다는 점이 이를 더욱 악화시킨다. 실제로 설명을 검증하거나 해석 가능성 실패의 원인을, 즉 도구가 추출한 표현에서 비롯되었는지 과정에 사용된 LLM에서 비롯되었는지를 귀속하기 어렵다. 이러한 문제를 해결하기 위해, 자동 해석 과정에 사람의 감독을 다시 도입하는 시각적 분석 시스템 DECODE를 제안한다. 우리의 접근법은 진단 워크플로를 세 단계로 점진적으로 분해하여, 구조적 결함부터 설명 수준의 불일치에 이르는 실패 원인을 분리한다. 정성 분석에서의 코더 간 합의에서 착안하여, 독립적으로 생성된 설명들과 그 평가 지표 간의 합의를 신뢰성의 대리 지표로 활용한다. 사람의 검사를 더욱 확장하기 위해, 우선순위가 높은 사례를 수동 검토용으로 전략적으로 추천하는 3단계 능동 시딩 프로토콜을 사용한다. 마지막으로 16,384개의 희소 오토인코더 특징에 대한 사례 연구를 통해, 본 접근법이 대규모로 해석 가능성 실패를 효율적으로 식별하고 귀속할 수 있음을 보인다.
정부는 무엇을 자동화된 결정이나 해악으로 볼지를 정하는 인공지능 규칙을 만들고 있으며, 이는 영향을 받는 사람들이 문제를 제기할 기회를 갖기 전에 이루어지는 경우가 많다. 본 논문은 사람과 AI가 함께 AI를 규율하는 규칙을 이해하고, 이에 이의를 제기하며, 이를 형성하는 인간-AI 시민 추론 공익 시스템 AI-Voyager를 소개한다. 주민은 자기 도시의 채용 분야 AI 규칙을 찾거나 자국의 AI 전략을 업로드하여 영향받는 노동자의 관점에서 읽고, 어떤 답변이든 그 근거가 된 구절을 열어 보며, 개정안을 작성할 수 있다. 이 시스템의 아키텍처는 도시, 주, 연방, 국가 정부의 거버넌스 문서 3,653건을 페이지와 판본 정보를 유지하는 구절로 변환하고, 각 진술을 검증하는 제한된 에이전트형 검색을 통해 근거를 검색한다. 관련 문서를 찾아야 하는 새로운 질문 360개에서 macro recall 83.0%에 도달했으며, 이는 가장 강한 기준선의 80.5%, 반복 검색이 없는 경우의 73.7%, 문서가 고정된 벤치마크에서의 99.1%와 비교된다. AI 관련 법안 두 건을 처음 접하는 참가자 24명을 대상으로 한 연구에서, 제안된 변경의 대부분은 조항이 어떻게 적용될지를 묻는 것이었다. 참가자들은 원하는 설명의 종류에 따라 렌즈를 선택했으며, 인용은 근거에 기반함을 나타내는 신호가 되었으나 출처를 확인하도록 이끄는 경우는 드물었다. 본 연구는 AI 지원을 공공 문서의 정확한 텍스트에 결부함으로써, 이러한 시스템을 설계하고 평가하는 방식과 사람들이 AI 거버넌스에 참여하는 방식에 시사점을 주는 연산의 문법과 설계 공간을 제시한다.
AI 에이전트(agent)에 점점 더 많은 자율성이 부여됨에 따라 상당한 위험이 발생하고 있습니다. 흔히 제안되는 해결책은 인간의 감독(human oversight)과 인간 참여(human-in-the-loop) 상태를 유지하는 것이지만, 이는 단순한 해결책이 아닙니다. 현재의 AI 에이전트 설계 방식은 효과적인 인간 감독을 저해할 뿐만 아니라, 감독에 필요한 인지 능력 자체도 AI 시스템의 장기적인 사용으로 인해 저하되기 때문입니다. 본 입장 논문(position paper)에서는 AI 에이전트 시스템의 현재 개발 및 배포 방식이 효과적인 인간 감독을 지원하지 못하며, 오히려 감독 능력의 저하를 초래한다고 주장합니다. 이를 해결하기 위해 AI 에이전트 발전의 최우선 과제는 효과적인 인간 감독의 상황적 목표와 인지적 요구사항을 지원하는 것이어야 하며, 감독자의 인간적 요구를 AI 에이전트 역량과 동등한 수준의 중요도로 다루어야 합니다. 이러한 아이디어를 실천에 옮기기 위해, 본 논문은 자동화 및 인간-컴퓨터 상호작용(HCI) 연구를 AI 에이전트 프로세스와 연결하여 (1) 감독자가 비판적 판단을 내릴 수 있도록 지원하고 (2) 자동화의 장기적 사용으로 인해 발생하는 기술 퇴화(skill atrophy)에 대응하는 설계 수준의 행동 유도성(affordance)과 조직적 프로토콜을 제시합니다. 우리는 개발자와 배포자가 이러한 또는 유사한 접근 방식을 채택할 것을 촉구합니다. 효과적인 인간-에이전트 상호작용의 인지적 요구에 대한 명시적인 지원이 없다면, AI 에이전트 시스템은 자신이 의존하고 있는 바로 그 인간 기술의 퇴화를 수동적으로 조장하게 될 것입니다.
거대 언어 모델(LLM)은 실험 설계를 점점 더 많이 지원하지만, 유창한 프로토콜이 물리적으로는 실현 불가능한 경우가 많다. 본 논문은 여섯 개의 센싱 도메인에 걸쳐 전문가가 선별한 683개 샘플의 Gold 세트와 5,000개 샘플의 Silver 세트로 구성된 생체의학 프로토콜용 물리적 실현 가능성 감사 벤치마크 PhysDox를 소개한다. 과제를 두 단계 평가로 정식화하는데, 프로토콜을 유효, 경미, 치명적으로 분류하는 심각도 탐지 이후 치명적 위반에 대한 제약 수준 진단을 수행한다. 4가지 추론 전략에 걸쳐 6개 LLM을 평가한 결과 1단계 매크로 F1의 최고치는 53.0에 그친다. 또한 강력한 오라클 진단도 상관된 연쇄 오류로 인해 종단 간 평가에서는 무너진다. 오류 분석은 모델이 절차적 완결성을 물리적 타당성과 혼동하는 스캐폴드 편향을 드러낸다. 그 결과 암묵적 제약은 명시적 하드웨어 위반보다 누락률이 2배 높으며, 이는 $\rho{=}0.81$, $p{<}0.01$의 강한 통계적 상관으로 뒷받침된다. 거짓 음성에 대한 추적 분석은 주의 실패와 판단 실패가 54%-46%로 나뉨을 보여 주며, 결국 프로토콜 감사에는 사실 회상이나 더 긴 근거 서술이 아니라 보정된 실현 가능성 추론이 필요함을 입증한다.
대규모 언어 모델(LLM)로 구동되는 개인 보조 로봇은 향후 10년 안에 일상생활에 들어올 가능성이 높지만, 그 행동을 이끌어야 할 가치는 대부분 명시되지 않은 채 남아 있다. 현재의 정렬 관행은 단일 모델을 인간 가치의 집합적 평균에 맞추어 조정하므로, 개별 사용자가 자신과 다른 가치 프로파일을 가진 로봇을 선호할 수 있다는 점을 간과한다. 우리는 단순화된 슈워츠 가치 조사(SVS), 초상 가치 설문(PVQ-21), 도덕 기반 설문(MFQ)이라는 세 가지 확립된 심리측정 도구의 자기 대상 및 로봇 대상 병렬 버전을 잠재적 미래 사용자(N=22)에게 실시하여, 개인의 가치와 보조 로봇이 구현하기를 원하는 가치를 모두 파악하였다. UEQ-S를 사용해 세 도구를 개인화 수단으로서 비교하고, 15개의 최신 LLM을 그 결과 프로파일에 대해 벤치마크하였다. 참가자들은 자신의 로봇이 개인 중심 가치에서는 자신보다 현저히 낮은 점수를, 사회 중심 가치에서는 더 높은 점수를 받기를 원했으며, 도덕 프로파일은 거의 동일하였다. 로봇처럼 행동하도록 프롬프트된 LLM은 원하는 프로파일 쪽으로 약하게만 이동하였으며, 이는 기본 모델 행동과 프롬프트 엔지니어링이 명시적인 가치 개인화를 대체할 수 없음을 시사한다.
EU AI Act는 고위험 AI 시스템에 기술적·조직적 요구사항을 부과하지만, 이러한 요구사항을 적용하려면 무엇을 측정할지, 어떤 증거가 준수 주장을 뒷받침하는지에 관한 맥락적 선택이 수반된다. 본 연구는 다양한 분야의 연구자, 정책 입안자, 실무자 32명이 참여한 참여형 워크숍을 통해 이러한 과제를 조사하며, 의료, 채용, 대중교통의 현실적 시나리오를 사용하여 규제 의무가 실제로 어떻게 해석되고, 기술적 요구사항으로 변환되며, 평가되는지를 살펴본다. 워크숍 데이터의 주제 분석을 통해, 규제 의무가 측정 가능한 시스템 속성으로 변환되는 방식, 책임과 인간 감독이 실제로 행사되는 방식, 그리고 변화하는 운영 조건과 시스템 용도가 준수 증거의 타당성에 미치는 영향 사이에서 반복되는 긴장을 파악하였다. 예를 들어 참가자들은 공정성 지표가 채용에서 차별을 은폐할 수 있다는 점, 시간 압박과 제한된 정보가 대중교통에서 인간 감독을 약화시킬 수 있다는 점, 환자 집단의 변화가 이전에 확립된 시스템 성능 증거를 무효화할 수 있다는 점을 강조하였다. 연구 결과는 기술적, 조직적, 증거적 과제가 상호 의존적이며, 준수를 확립하고 유지하려면 기술적 평가뿐 아니라 AI 시스템이 시간에 걸쳐 어떻게 사용, 거버넌스, 모니터링되는지에도 주의를 기울여야 함을 시사한다. 맥락에 민감하고 지속적인 준수를 지원하기 위한 함의를 논의한다.
가정과 사무실 환경의 서비스 로봇은 사용자의 선호와 이전 상호작용에 기반한 개인화된 서비스를 제공하기 위해 사용자를 식별해야 한다. 학습에 사용할 수 있는 관측이 적을 수 있고, 외모, 환경 소음, 발화 내용으로 인해 관측 조건이 변하기 때문에 이는 어려운 과제이다. 이 과제를 해결하기 위해 본 연구는 인물 레이블 없이 소수의 관측으로부터 인물 개념을 학습하며 변화하는 조건에서도 강건한 식별을 가능하게 하는 멀티모달 인물 개념 모델을 제안한다. 이 모델은 중국집 프로세스에 기반한 비모수 베이지안 생성 모델을 사용하며, Contrastive Language-Image Pre-training(CLIP)과 Contrastive Language-Audio Pretraining(CLAP)으로 추출한 시각, 음향, 언어 특징을 통합한 뒤 주성분 분석(PCA)을 적용한다. 외모 변화, 가산 잡음, 전사 오류를 개별적으로 또는 조합하여 도입한 여덟 가지 조건에서 여섯 명의 참가자를 평가하였다. 여덟 가지 조건에 대해 평균한 결과, 제안 모델은 관측으로부터 인물 개념의 수를 추론하면서 0.89의 식별 정확도를 달성하였으며, 이는 실제 참가자 수를 입력받은 k-means 군집화의 0.88과 비슷한 수준이다. 또한 PCA 차원, 모달리티 가용성, 변동 강도를 검토하고 Toyota Human Support Robot에서 모델을 시연하였다. 이러한 결과는 멀티모달 인물 개념 학습이 변화하는 조건에서 강건한 인물 식별을 뒷받침하며, 개념의 수가 올바르게 복원되지 않더라도 식별에 성공할 수 있음을 보여준다. 프로젝트 페이지와 시연 영상은 https://okitamisan01.github.io/person_concept/ 에서 확인할 수 있다.
정부는 AI의 공공적 영향을 측정하기도 전에 AI에 관한 결정을 내리고 있으며, 그러한 결정은 개인이 AI가 결과에 영향을 미쳤음을 알 수 있는지, 이에 이의를 제기할 수 있는지, 그리고 시정되는 것을 볼 수 있는지를 좌우한다. 기존 연구는 AI 거버넌스가 무엇을 산출하는지, 즉 원칙, 전략, 등록부, 감사를 기록해 왔다. 그러나 AI 정책이 아직 형성되는 중일 때 이를 이해하기 위한 공유된 언어는 부족하다. 본 논문은 사회 중심 AI 거버넌스 프레임워크를 제시한다. 이 프레임워크는 정책 입안자, 연구자, 대중이 어떤 관할권의 수단이든 개인이 통지를 받고, 결정에 이의를 제기하며, 시정되는 것을 볼 수 있는지를 기준으로 평가할 수 있게 한다. 이는 관할권의 수단들을 날짜와 구속력 여부에 따라 함께 읽고, 기관의 의무와 개인이 원용할 수 있는 권리를 구분하며, 각 약속을 어느 후속 수단이 집행해야 하는지를 추적한다. 우리는 노스캐롤라이나에서 이를 평가하였다. 이를 위해 주의 2026년 AI 로드맵 전후로 AI 리더십 위원회 위원 9명과 인터뷰를 수행하였고, 19개 주의 AI 거버넌스 문서 49건을 사람이 검토한 모델 보조 코딩으로 조항 수준에서 분석하였다. 주 자체의 AI 시스템에 대해 가시성 우선 거버넌스가 나타난다. 가시성 의무는 시행 중이고, 통지는 개인이 원용할 수 있는 권리 없이 기관의 의무로만 존재하며, AI에 특화된 이의 제기와 시정은 여전히 권고 수준에 머문다. 로드맵은 누락된 보호 조치에 담당자와 기한을 지정하므로, 공백은 문서화되었으나 아직 메워지지는 않았다. 최근의 연방 선점 제안은 AI 개발에 초점을 두므로, 주 자체 시스템에 대한 구제 수단은 계속 주의 결정 사항으로 남을 가능성이 크다. 우리는 가시성 우선 거버넌스의 검증 가능한 위험으로 "보호에 앞선 정당성"을 지목하고, 이를 검증할 이정표를 제시한다. 더 넓게 보면, AI 정책을 그것이 가시화하는 것에 대해 누가 행동할 수 있는지로 판단하면, 해악이 발생하기 전 정책이 아직 형성되는 동안 구제 수단을 평가할 수 있다.
청취자는 에이전트의 음성을 얼마나 사람처럼 들리는지(인간다움)와 얼마나 대화하고 싶은지(대화 선호도)라는 두 기준으로 판단할 수 있다. 청취 테스트에서는 대화 선호도를 묻는 경우가 드물어 두 판단 사이의 관계가 분명하지 않다. 본 연구는 배우들이 고객 서비스 상담원으로서 즉흥 연기한 120개 발화 턴에 대해 짝비교 선택 테스트로 두 판단을 비교하였다. 각 시행에서 두 에이전트가 동일한 턴을 발화하였다. 연구 1에서는 두 에이전트 모두 각각 여덟 개의 음성을 가진 여섯 개의 상용 음성 합성(TTS) 시스템에서 나왔다. 연구 2에서는 한쪽이 배우의 원본 녹음이고 다른 쪽이 시스템이었다. 일부 시스템은 인간다움에서 더 높은 순위를 보였고, 다른 시스템은 대화 선호도에서 더 높은 순위를 보였다. 청취자가 배우보다 시스템을 선택한 비율은 인간다움 시행에서 19%였으나 대화 선호도 시행에서는 36%였다(가장 선호된 시스템의 경우 49%). 두 판단 모두에서 한 시스템 내 음성 간 변동은 시스템 간 변동의 약 4분의 3 수준이었다. 세 가지 자동 자연스러움 점수 중 두 가지는 더 낮은 인간다움을 예측하였고, 어느 것도 대화 선호도를 예측하지 못하였다. 이 환경에서 청취자는 두 판단 모두에서 더 빠른 발화와 절 사이의 더 적은 휴지를 선호하는 경향이 있었고, 대화 선호도에서는 더 큰 음높이 변화를 선호하였다. 따라서 인간다움만 측정하거나 시스템당 하나의 음성만 테스트하면, 청취자가 어떤 에이전트와 대화하기를 더 원하는지를 잘못 판단할 수 있다.
Improving disability representation in AI-generated media requires community-specific datasets, yet openly sharing such data can expose communities to misuse, decontextualization, and exploitation. We examine how disability communities can participate in dataset governance through context-sensitive licensing. Working with three disability advocacy organizations, we conducted semi-structured interviews, an educational webinar and modular license activity to promote community participation in data stewardship. Our findings show that governance in these high-context communities relies on organizational memory (especially situated harms); both formal authority and informal relational practices; communication; and resulting trust. The modular license activity made organizational data choices more accessible and values-led, allowing communities to adapt Creative Commons clauses to express permitted uses, sector-specific restrictions, safeguarding requirements, and commitments to respectful representation. Yet, concerns remain about monitoring and enforcing appropriate data use. We contribute (1) an empirical account of governance tensions, (2) a practical modular approach, and (3) design implications for AI data platforms that support relational, context-sensitive governance beyond standardized, one-size-fits-all frameworks.