PyTorchKR Papers

최신 논문

총 938편
태그·기간 등 상세 필터

카테고리 탐색

arXiv:2611.24932v1cs.AI

자신이 아는 것을 안다는 것: 인간-AI 인지 시스템에서 검토자 가치에 대한 특성 이론

Knowing What You Know: A Trait Theory of Reviewer Value in Human-AI Cognitive Systems

유능한 모델과 인간 검토자가 같은 결정에 협력할 때, 어떤 인간이 여전히 가치를 더하는가? 우리는 이것이 메타인지적 보정, 즉 검토자의 행동상 확신과 판단의 실제 정확성 사이의 일치라는 단일한 인지 특성에 관한 질문이라고 주장한다. 이를 정밀하게 하기 위해 검토자 가치에 대한 특성 이론을 전개한다. 이 이론은 다섯 가지 주장을 한다. 첫째, 가치는 활동량, 속도, 동의 정도, 근속 기간이 아니라 보정에 의해 결정된다. 둘째, 보정은 행동 텔레메트리에 관찰 가능한 흔적을 남긴다. 셋째, 이러한 흔적은 그 자체로는 진단적이지 않은데, 보정된 전문가의 빠르고 수정이 적은 특징은 결과에 의해 걸러지기 전까지는 자신감 있는 초심자의 특징과 구별되지 않기 때문이다. 넷째, 인간의 보정과 모델의 자기 지식은 동일한 구성개념이므로, 결합 시스템은 각 항목에서 더 잘 보정된 쪽에 판단을 맡겨야 한다. 다섯째, 개인의 보정은 단일 판단의 수준보다 위에서만 인과적으로 식별 가능하다. 우리는 AI 지원 회계 시스템의 6개월간 운영 기간(검토자 이벤트 541621건, 검토자 483명)을 바탕으로 각 주장을 검증하며, 순수하게 행동에 기반한 전문성 프로파일이 실제와 반대로 나타나 과신하는 집단(수정 유지율 5.2퍼센트)에 진짜 전문가(99.2퍼센트)보다 더 높은 점수를 준다는 것, 검토자의 품질이 근속 기간에 걸쳐 일정하여 이 특성이 업무 중에 학습되지 않는다는 것, 그리고 좋은 검토자와 나쁜 검토자를 가르는 동일한 보정 논리를 모델에 적용하면 인간의 노력 중 92.5퍼센트를 실제 오류에 집중시킨다는 것을 확인한다. 마지막으로 이 이론이 지켜야 할 경계를 제시한다. 다수결 집계 하에서는 개인의 인과적 가치를 식별할 수 없다.

arXiv:2611.24888v1cs.HC

당신은 누구인가? 개인 모방 게임

Who are you? The Personal Imitation Game

대규모 언어 모델(LLM)은 이제 앨런 튜링의 1950년 모방 게임에서 강한 성능을 보이므로, 기계가 일반적인 인간이 아닌 특정 개인을 대화에서 복제할 수 있는지를 묻는 더 어려운 과제인 개인 모방 게임을 제안한다. 30명의 참가자를 대상으로 한 실험에서 인간 기준선을 확립하고, 질문자가 의존하는 정체성 신호인 문체 특징, 성격 특성, 전기적 사실을 보고한다. 이 프레임워크를 시연하기 위해, 10년에 걸친 개인 디지털 커뮤니케이션의 자기민족지 데이터셋을 활용하여 본 논문 저자 중 한 명을 대신해 게임을 수행하는 LLM 기반 시스템을 설계한다. 20명 규모의 기만 연구에서 질문자는 10라운드 중 7라운드에서 저자의 친구들보다 본 시스템을 선택했고, 20번 중 13번은 본 시스템보다 저자를 선택했으며, 두 비율 모두 이 표본 크기에서는 우연과 구별되지 않는다. 설계 개선, 개인 AI 에이전트의 응용, 정체성과 프라이버시에 대한 함의를 논의한다.

arXiv:2611.24831v1cs.LG

간과되고 활용되지 못한 프로토타입: 표 형식 데이터 XAI의 빠진 조각

Overlooked and Underutilized: Prototypes are the Missing Piece in Tabular XAI

설명 가능한 AI(XAI)는 중대한 결과를 수반하는 표 형식 데이터에 자주 적용되지만, 이 분야는 특징 기여도 방법에 크게 의존한다. 이러한 접근법은 기술적 투명성을 제공하나, 수십 개의 개별 특징을 평가하는 일은 비전문가 사용자에게 과도한 인지적 노력을 요구한다. 본 논문에서는 프로토타입이 여전히 간과되고 활용되지 못하고 있으며, 복잡한 기계학습 모델을 감사하기 위한 보완적이고 직관적인 관문으로 통합되어야 한다고 주장한다. 전체 예시(exemplar)가 프로토타입 기반 설명의 직관적인 기준선으로 기능하긴 하지만, 우리는 프로토타입 부분(prototypical parts)이 표 형식 데이터에 특히 가치가 있음을 강조한다. 관련된 특징들을 경계가 있는 부분공간으로 묶음으로써, 프로토타입 부분은 인간이 이해할 수 있는 개념을 기술적으로 구현하며 개별 특징을 응집된 의미 단위로 대체한다. 우리는 이러한 통합을 두 가지 주요 관점에서 뒷받침한다. 인지적으로, 이러한 부분은 Rosch의 범주화 이론과 Kahneman의 시스템 1 사고에 부합하여 인간의 인지 부하를 자연스럽게 줄여 준다. 다음으로, 기존 방법들이 흔히 소홀히 해 온 핵심 차원인, 프로토타입이 데이터 다양체를 타당하게 만드는 이유를 개념화하기 위해 기하학적 타당성 삼원(Geometric Validity Triad)을 제안한다. 우리는 표 형식 XAI를 진정으로 이해 가능하게 만들려면, 직관적인 유사성 기반 추론과 엄밀한 특징 수준 감사를 결합하는 복합 설명 파이프라인으로 전환해야 한다고 주장한다. 논문은 프로토타입 기반 방법의 미해결 과제를 개괄하고, 향후 연구를 이끌 잠재적 해결책을 논의하며 마무리한다.

arXiv:2611.24830v1cs.CL

인간 행동을 측정하고 예측하는 파운데이션 모델

A Foundation Model to Measure and Predict Human Behaviour

대규모 언어 모델(LLM)은 심리적 속성을 추론하고, 개인의 행동을 예측하며, 인간 집단을 시뮬레이션하는 데 점점 더 많이 사용된다. 그러나 그럴듯한 응답을 생성함에도 불구하고, 개인을 잘못 표현하고 집단 통계를 왜곡하는 경우가 많다. 본 논문에서는 인간 행동을 측정하고 예측하는 파운데이션 모델인 Chiron을 소개한다. 우리는 LLM이 심리적 구성개념을 표현하고, 개인의 행동을 예측하며, 집단의 응답 분포를 인간 통계와 정렬하도록 공동으로 미세 조정한다. 학습 및 평가 데이터는 36개 행동 영역과 78개 사회과학 실험에 걸쳐 있으며, 288,307건의 개인 기록, 1,411,750건의 원자적 행동 의사결정, 그리고 109개 심리적 구성개념에 대한 99,953건의 심리측정 평가로 구성된다. 평가 결과, Chiron의 심리 측정은 인간의 자기보고와 더 가깝게 일치하며 심리측정적 타당도를 해치는 편향이 더 적게 나타난다. 이 모델은 최첨단 LLM보다 개인 행동을 더 정확하게 예측한다(최대 28.4%의 상대적 향상). 사회과학 실험 시뮬레이션에서는 인간 실험 효과의 방향과 크기를 더 정확하게 포착한다(효과 크기 추정 오차가 82.2--94.3% 낮음). 이러한 결과는 종합적으로 Chiron이 인간 행동을 측정하고 예측하기 위한 통합 계산 도구임을 입증한다.

arXiv:2611.24609v1cs.HC

고위험 AI 활용 사례에서 이해관계자 간 통제와 책임의 협상: ALIGN 방법의 개발 및 평가

Negotiating Control and Accountability among Stakeholders in High-Risk AI Use Cases: Development and Evaluation of the Method ALIGN

인공지능(AI)의 특성은 인간의 통제를 심각하게 제한한다. 이는 특히 위험에 대한 통제와 발생한 피해에 대한 책임이 모두 필수적인 안전 필수 분야에서 사회기술 시스템 설계에 새로운 과제를 야기한다. 우리는 인간 요소 및 AI 거버넌스 문헌, 전문가 인터뷰, 철도 분야의 복잡한 고위험 AI 활용 사례에 대한 참여 관찰을 바탕으로, AI 개발과 도입에서 거버넌스와 이해관계자 참여를 세 가지 방식으로 지원하는 시나리오 기반 방법인 ALIGN을 개발하였다. 첫째, 사회기술 시스템에서 책임과 통제의 잠재적 불일치와 그 부정적 결과에 대한 인식을 높인다. 둘째, 주어진 사용 사례에서 이해관계자에 대한 책임과 통제 간의 정렬을 평가하는 구조화된 접근법을 제공한다. 셋째, AI 위험을 완화하기 위한 효과적인 설계 결정을 지원한다. 본 논문은 ALIGN의 반복적 개발과 평가를 기술하고, 이 방법이 AI 수명주기 전반에 걸쳐 통제-책임 정렬의 중요성을 부각함으로써 AI 거버넌스를 어떻게 증진하는지 논의한다.

arXiv:2611.24342v1cs.HC

개인화된 데이터 분석을 통한 일상 정서적 웰빙 탐구

Exploring Daily Emotional Well-Being through Personalized Data Analysis

본 프로젝트는 일상생활에서 도출한 정서 상태 기록과 맥락 정보를 사용하여 개인화된 관점에서 일상의 정서적 웰빙을 분석하였다. 이는 웰빙이 고정된 값이 아니라 날마다 달라지며 개인의 맥락과 행동에 관련지어 더 잘 이해될 수 있다는 생각에 기반하였다. 이 연구는 데이터 과학 분야에 속하며 개인 수준의 정서 상태에 초점을 맞춘다. 프로젝트는 여러 개인 데이터 원천으로부터 통합된 일일 데이터셋을 구축하고 정서 상태를 분석하는 데 중점을 두었다. 정서 변수의 분포, 시간에 따른 변화, 사용자 간 차이를 시간에 따른 변동성과 함께 연구하였다. 또한 일상의 정서 결과를 더 잘 맥락화하기 위해 성격 및 웰빙 설문을 안정적인 기준으로 포함하였다. 이어서 각 사용자 내에서 유사한 날을 비교하여 과거의 맥락 조건이 사용자의 정서 상태 차이와 어떤 관련이 있는지 탐색하는 간단한 개인화 추천 접근을 개발하였다. 마지막으로 일상의 맥락 정보가 개인의 평소 웰빙에 비추어 서로 다른 유형의 날을 구별하는 데 도움이 되는 신호를 담고 있는지 평가하기 위해 기계학습 기법을 사용하였다. 프로젝트는 완전한 예측 시스템을 구축하기보다 패턴을 이해하는 데 초점을 둔 탐색적 범위의 응용적 접근을 취하였다. 결과는 정서적 웰빙이 매우 개인적이며 날마다 변한다는 것을 보여주었다. 일반 모델은 가치가 제한적이었던 반면 개인화된 접근은 이러한 차이를 훨씬 더 잘 포착하여, 각 사람을 그 자신의 기준에서 분석하는 것의 중요성을 부각하였다.

arXiv:2611.24218v1cs.HC

TableControl: 표면 진동을 통한 제스처 상호작용

TableControl: Gesture Interaction Through Surface Vibrations

가구에 제스처 센싱을 통합하면 익숙한 표면을 통해 디지털 애플리케이션 및 물리적 장치와 상호작용할 수 있다. 본 논문은 전체 처리 파이프라인이 마이크로컨트롤러에서 실행되는, 표면 진동 기반 연속 제스처 인식의 인터랙티브 데모인 TableControl을 제시한다. 이 시스템은 숨겨진 압전 센서 네 개를 사용하여 신호 획득 및 전처리를 신경망 기반 이벤트 검출 및 제스처 분류와 결합한다. 노크, 위로 쓸기, 아래로 쓸기 제스처에 대한 결과 레이블은 원본 센서 신호를 스트리밍하지 않고 호스트 컴퓨터로 전송된다. 방문객은 직접 조작을 통해 두 가지 예시 애플리케이션을 체험한다. 하나는 엔드리스 러너 게임이고, 다른 하나는 켜기/끄기 및 밝기 조절이 가능한 실물 탁상 램프이다. 대시보드는 인식된 제스처, 클래스 확률, 처리 시간을 표시한다.

arXiv:2611.23825v1cs.HC

VR 스파링 게임의 상대 캐릭터 애니메이션을 위한 무술 동작 기술 학습

Learning Martial Arts Motion Skills for Animating Opponents in VR Sparring Games

가상 상대의 애니메이션 제작은 게임 개발에서 중요하지만 어려운 과제이다. 무술 게임에서 상대의 동작은 물리적으로 그럴듯해야 할 뿐 아니라 적절한 기술, 타이밍, 전환, 그리고 목표 지향적 의도를 보여야 한다. 전통적인 게임 애니메이션은 수작업으로 제작한 클립, 상태 기계 전환, 절차적 조정에 의존하는 경우가 많아 많은 노력이 들며 비플레이어 캐릭터의 행동 다양성을 제한할 수 있다. 본 논문은 가상 스파링 게임의 캐릭터 애니메이션을 위한 무술 동작 기술 학습 프레임워크를 제시한다. 당수도(Tang Soo Do)에서 착안하여, 개별 공격 및 방어 기술, 기술 조합과 전환, 맥락적 스파링 변형을 포함하는 무술 모션 캡처 데이터셋을 수집하였다. 먼저 적대적 스타일 보상을 사용한 강화학습(RL)으로 캡처된 데이터에서 재사용 가능한 무술 동작 기술 모음을 사전 학습하고, 이후 목표 지향 타격과 위협 인식 회피를 위한 과제별 보상으로 이 기술들을 적응시켰다. 학습된 정책이 생성한 동작을 사용자 연구를 통해 평가하였으며, 참가자들은 물리적 그럴듯함, 부드러움, 무술 자세를 평가하였다. 상호작용형 게임플레이에의 적용 가능성을 보이기 위해 Meta Quest 헤드셋용 VR 스파링 프로토타입을 개발하였다. 이 프로토타입은 정책이 생성한 모션 클립과 경량의 상태 기반 제어를 결합하여 상호작용형 상대 행동을 지원한다. 이러한 결과들은 학습된 무술 기술 모음을 VR 스파링 게임의 상대 애니메이션을 위한 동작 기반으로 사용할 수 있다는 가능성을 뒷받침한다.

arXiv:2611.23691v1cs.HC

MEM-STRESS: 스트레스 관리를 위한 웨어러블 기반 AI 챗봇의 종단 현장 연구

MEM-STRESS: Longitudinal Field Study of a Wearable-Informed AI Chatbot for Stress Management

스트레스는 점점 더 널리 퍼지는 문제로, 접근성이 높고 개인화된 지원에 대한 필요가 커지고 있다. 스트레스 관리 챗봇은 주로 사용자가 보고하는 내용에 의존하는데, 이는 사용자의 생리적 변화를 포착하지 못할 수 있다. 웨어러블은 이러한 변화를 포착하지만, 챗봇이 이를 대화 간 기억으로 활용하는 경우는 드물다. 이에 본 연구는 웨어러블 링의 생리 데이터를 일별 기록, 기준선 대비 편차, LLM이 생성한 요약으로 이루어진 계층적 기억으로 변환하고, 이를 변증법적 행동치료(DBT)에 기반한 다중 세션 대화에 활용하는 스트레스 지원 챗봇 MEM-STRESS를 제시한다. 성인 60명을 대상으로 한 4주간의 비무작위 연구에서 MEM-STRESS(처치군)를 과거 대화만 기억하는 챗봇(통제군)과 비교하였다. 기억은 대화를 형성하였다. 처치군 챗봇은 참가자의 생리적 특징을 언급했으며(예: 세션의 71.8%에서 활동량), 통제군보다 신체 관련 DBT 기술을 더 많이 제안했고(14.5% 대 5.7%), 처치군 참가자도 신체 관련 단어를 약간 더 많이 사용했다(1.76% 대 1.45%). 처치군 참가자는 개인화를 칭찬하는 비율이 3배 높았고(44.4% 대 14.3%), 스트레스에 대해 다르게 성찰했다고 보고하는 비율이 더 높았으며(69.0% 대 46.4%, 유의하지 않음), 자신의 스트레스 신호에 대한 통찰을 얻었다고 서술하였다. 이들의 지각된 스트레스는 기준선 대비 14.2% 감소한 반면 통제군은 3.6% 감소했으나, 집단 간 차이는 유의하지 않았다. 따라서 스트레스 지원 챗봇을 계층적 생리 기억에 기반하게 하는 것은 실현 가능하며 지각된 개인화를 향상시킬 수 있으므로, 더 큰 규모의 무작위 연구가 필요하다.

arXiv:2611.23619v1cs.LG

EEG2MCU: 웨어러블 EEG 추론을 위한 센싱-실행 공동 설계

EEG2MCU: Sensing-to-Execution Co-Design for Wearable EEG Inference

웨어러블 EEG 추론은 모델 크기뿐 아니라, 간결한 후속 연산에 앞서 고차원 입력을 처리해야 하는 채널 의존적 센싱 프런트엔드에 의해서도 제약을 받는다. 우리는 과제 인식 몽타주 선택을 통해 전극 수를 하드웨어 설계 변수로 다루는 센싱-실행 공동 설계 프레임워크인 EEG2MCU를 제시한다. EEG2MCU는 간결한 시간-주파수 표현을 유지하고, 첫 번째 계층의 각 타일에 필요한 INT8 영역만 생성하여 전체 입력의 구체화를 피한다. 헤일로 재사용과 Flash, SRAM, 밀결합 메모리 전반에 걸친 접근 인식 배치는 중복 생성과 데이터 이동을 더욱 줄인다. Cortex-M7 MCU에서 EEG2MCU는 기준선 대비 최대 SRAM을 11.38배 줄이며, 여기에는 62개에서 19개 전극 몽타주로의 축소에서 오는 1.71배 감소가 포함된다. 동시에 지연 시간을 2.57배, 에너지를 2.48배 줄인다. 전체 몽타주 정확도의 94~96%를 유지하여, 엄격한 임베디드 자원 제약 하에서 고차원 EEG 추론이 실용적으로 가능함을 보여준다.

arXiv:2606.21453v2cs.HC

음성 의미 구문 분석을 위한 텍스트 전용 적응 음성 LLM의 강건성

Robustness of Text-Only Adapted Speech LLMs for Spoken Semantic Parsing

대규모 언어 모델(LLM)은 의미 프레임과 함수 호출을 포함하여 자연어 지시로부터 구조화된 출력을 생성하는 데 점점 더 많이 사용되고 있다. 입력이 음성일 때 이 과제는 음성 의미 구문 분석이 되며, 이는 음성 LLM 또는 ASR-LLM 캐스케이드를 사용해 수행할 수 있다. 두 접근법 모두 텍스트 전용 과제 지도로 적응시킬 수 있지만, 음향 열화에 대한 상대적 강건성은 아직 명확하지 않다. 우리는 3B 및 7B 모델을 사용하여 세 개의 데이터셋에서 동일한 텍스트 형태의 지도 하에 이 접근법들을 비교하며, 깨끗한 음성과 다섯 가지 SNR 수준의 babble 잡음에서 평가한다. 결과는 음성 LLM이 명령 이해, 의도 예측, 함수 호출에서 대체로 더 나은 성능을 보이며 특히 심한 잡음 조건에서 그러함을 보여주는 반면, 세밀한 개체 예측에서의 향상은 일관성이 떨어진다. 추가 평가에서는 음성 LLM이 두 모델 규모 모두에서 ASR-LLM 캐스케이드보다 샘플당 평균 추론 시간이 짧음을 보인다.

arXiv:2606.02883v2cs.HC

추천 시스템에서 미묘한 목표를 구현하기 위한 LLM 보조 재순위화

LLM-Assisted Reranking to Operationalize Nuanced Objectives in Recommender Systems

추천 시스템은 우리가 보는 정보를 형성하며, 필터 버블, 급진화, 양극화, 사회적 불평등에 대한 우려를 낳는다. 대규모 언어 모델(LLM)은 이러한 역학을 심화할 수 있는 더 강력한 개인화를 가능하게 하지만, 대부분의 추천 시스템은 참여도나 좁은 정확도 지표에 맞춰 조정되어 있으며 더 넓은 사회적 영향에는 거의 주의를 기울이지 않는다. 본 연구는 LLM 보조 재순위화가 개인화를 개선하면서, 이론적으로 제기되었으나 아직 실증적으로 규명되지 않은 위험인 이념적으로 부합하거나 극단적이거나 음모론적인 정치 콘텐츠에 대한 노출을 의도치 않게 증폭하는지 조사한다. 실제 YouTube 궤적을 사용하여, 임베딩 베이스라인과 함께 세 개의 모델에 대한 제로샷 프롬프팅으로 플랫폼의 사이드바 후보를 재순위화하고, 관련성, 이념적 정렬과 다양성, 음모론적 또는 극단주의적 콘텐츠에 대한 노출을 평가한다. 결과는 다음과 같다. (i) 순수한 개인화 지시 하에서 재순위화는 관련성을 개선하는 한편 이념적 노출을 좁히며, 세 모델 중 두 모델에서는 그러한 이력을 가진 사용자에게 문제적 콘텐츠를 부각시킨다. 가장 명시적으로 당파적인 요청을 거절하는 세 번째 모델은 모델별 가드레일을 시사한다. (ii) 경량의 프롬프트 수준 제약은 세 모델 모두에서 문제적 노출을 상당히 줄이며, 정규화된 재순위기는 여전히 관련성에서 플랫폼 베이스라인보다 높은 순위를 유지한다. (iii) 주제 단서와 당파 단서를 독립적으로 변화시킨 합성 실험은 둘 사이에 고정된 선호가 없음을 보여 준다. 낙태와 이민에서는 주제가 지배적이고, 주제 신호가 더 약한 선거에서는 당파성이 우세해진다. 본 결과는 위험이 큰 정치 추천에서 맥락적 뉘앙스를 구현하는 LLM의 힘을 부각하며, LLM 보조 개인화를 정확도를 넘어 평가해야 하고 프롬프트 설계를 중립적 기본값이 아닌 가치 개입적 선택으로 다루어야 할 필요성을 강조한다.

arXiv:2605.28792v3cs.AI

CaMBRAIN: 인과적 상태 공간 모델을 이용한 실시간 연속 EEG 추론

CaMBRAIN: Real-time, Continuous EEG Inference with Causal State Space Models

뇌전도(EEG)는 뇌의 전기적 활동을 모니터링하는 중요한 비침습적 방법이다. EEG는 수 초에서 수 시간까지 길이가 다양하여 기존 딥러닝 방법에 큰 어려움을 야기하는데, 이는 두 가지 주요 요인 때문이다. (1) 기존 EEG 모델은 대부분 어텐션 메커니즘에 기반하므로 시퀀스 길이가 늘어날수록 계산량이 제곱으로 증가한다. (2) 고정 길이 입력 요구 사항 때문에 원시 EEG 신호를 슬라이딩 윈도우 방식으로 처리해야 하며, 이로 인해 전체 신호에 대한 전역적 이해가 불가능하다. 이를 해결하기 위해 본 논문은 EEG 신호의 실시간 추론이 가능한 최초의 인과적 Mamba 기반 상태 공간 모델(SSM)인 CaMBRAIN을 제안하며, EEG의 인과적이고 단방향적인 특성을 고려할 때 양방향 접근법은 불필요하게 비용이 크다고 주장한다. 그러나 이러한 모델의 학습은 간단하지 않은데, 중요한 EEG 이벤트는 1초 미만의 극히 짧은 구간에 나타날 수 있으면서도 수 분에 걸친 긴 간격으로 떨어져 있을 수 있기 때문이다. 현재의 EEG 방법은 신호 재구성을 최적화하는 자기지도 목적함수를 사용하지만, 이는 스트리밍 SSM에는 적합하지 않으며 스트리밍 추론에 필요한 핵심적인 장거리 문맥을 은닉 상태가 유지하도록 명시적으로 학습시키지 못한다. 따라서 본 논문은 상태 공간 모델의 선형 시간 복잡도를 유지하면서 장거리 기억 유지와 EEG 신호에 대한 강력한 성능을 촉진하도록 특별히 설계된 다단계 자기지도 학습 파이프라인을 도입한다. CaMBRAIN은 3개의 서로 다른 EEG 데이터셋에서 기존 모델 대비 10배 이상 높은 처리량으로 최첨단(SOTA) 성능을 달성하였으며, 가변 길이 EEG 신호에 대한 장거리 연속 추론이 가능한 최초의 모델을 구현하였다.

arXiv:2605.12646v3cs.LG

인간 정렬 하에서 AI 지원을 받아 의사결정하는 방법 학습

Learning to Decide with AI Assistance under Human-Alignment

고위험 분야에서 AI 모델이 관심 결과를 예측하여 의사결정자를 지원할 때, 예측의 신뢰도를 함께 전달해야 한다는 데에는 널리 의견이 일치한다. 그러나 경험적 증거에 따르면 의사결정자는 전달된 신뢰도만으로는 예측을 언제 신뢰해야 하는지 판단하기 어려워하는 경우가 많다. 이러한 맥락에서 최근의 이론적, 경험적 연구는 AI 지원 의사결정의 효용과, AI의 신뢰도와 의사결정자가 자신의 예측에 대해 갖는 신뢰도 사이의 정렬 정도 간에 양의 상관관계가 있음을 시사한다. 그러나 이러한 발견은 이 정렬이 반복적인 상호작용을 통해 최적의 의사결정을 학습하는 복잡도에 어느 정도 영향을 미치는지는 아직 밝히지 못한다. 본 논문에서는 이진 예측과 이진 의사결정이라는 표준적인 경우에서 이 문제를 다룬다. 먼저 이 문제가 완전한 피드백을 갖는 두 팔 온라인 맥락적 학습 문제와 동등함을 보이고, 어떤 학습자든 달성할 수 있는 기대 후회에 대해 $\Omega (\sqrt{|H| \cdot |B| \cdot T} )$의 하한을 수립한다. 여기서 $H$와 $B$는 각각 인간과 AI의 신뢰도 값의 집합을 나타낸다. 이어서 AI와 인간의 신뢰도가 완벽하게 정렬된 경우 학습자가 $O(\sqrt{|H| \cdot T\log T})$의 기대 후회를 달성할 수 있으며, $\sqrt{|H|} = O(\log T)$이고 $B$가 가산 집합일 때에는 Dvoretzky-Kiefer-Wolfowitz 부등식의 비자명한 일반화를 통해 후회 한계가 $O(\sqrt{T\log T})$로 개선됨을 보인다. 종합하면 이러한 결과는 정렬이 AI 지원 의사결정 학습의 복잡도를 줄일 수 있음을 보여 준다. 참가자들이 AI 모델의 지원을 받아 단순한 의사결정 과제를 푸는 두 가지 인간 대상 연구의 실제 데이터를 이용한 실험은, 우리의 이론적 결과가 완전한 정렬이 깨지는 경우에도 강건함을 보여 준다.

arXiv:2603.07432v2cs.CV

모바일 GUI 에이전트에서 온라인 강화학습은 어디까지 일반화되는가? AndroidWorld-Generalization을 이용한 통제 연구

How Far Does Online RL Generalize in Mobile GUI Agents? A Controlled Study with AndroidWorld-Generalization

온라인 강화학습(RL)은 AndroidWorld에서 모바일 GUI 에이전트의 성공률을 80\% 이상으로 끌어올렸으나, 이러한 시스템은 동일한 환경에서 학습하고 평가하며 학습 과제도 감사를 위해 공개되지 않는다. 따라서 RL이 학습 맥락을 넘어 어디까지 일반화되는지는 아직 측정되지 않았다. 본 연구에서는 모바일 환경을 맥락적 MDP(Contextual MDP)로 형식화하고, 점점 멀어지는 세 단계의 맥락 변화인 미확인 인스턴스, 미확인 템플릿, 미확인 애플리케이션을 AndroidWorld-Generalization으로 구현하였으며, 그 분리는 수작업으로 검증하였다. 또한 이러한 규모의 연구를 실행 가능하게 하는 개방형 RL 학습 시스템을 제공한다. 출처와 성능이 다른 두 사전 모델, 즉 23.0\%의 UI-TARS-7B-SFT와 52.6\%의 Qwen3-VL-8B에 동일한 RL 알고리즘을 적용한 결과, RL은 두 모델 모두 분포 내에서는 향상시키지만 그 이득은 단계가 올라갈수록 단조롭게 감소함을 발견하였다(+17.5/+11.1/+4.2 및 +10.3/+7.4/+0). 이때 학습 성능은 계속 상승하는 반면 평가 성능은 포화된다. 이러한 감소는 알고리즘에 무관하며 PPO에서도 재현되고, 사전 모델이 강할수록 RL의 기여는 줄어든다. 대상 애플리케이션에서의 퓨샷 적응은 +22.9를 회복하여, 추가적인 RL 학습을 보완하는 수단으로 테스트 시점 적응의 필요성을 시사한다. 벤치마크, 학습 시스템, 레시피, 모델 가중치를 공개한다.

arXiv:2512.15729v3eess.SP

TinyMyo: 엣지에서의 유연한 EMG 신호 처리를 위한 초소형 파운데이션 모델

TinyMyo: a Tiny Foundation Model for Flexible EMG Signal Processing at the Edge

목적: 표면 근전도(EMG)는 생체역학, 재활, 의수·의족 제어, 인간-기계 인터페이스 분야에서 널리 사용된다. 피험자, 측정 시스템, 획득 프로토콜 간의 일반화는 여전히 어려운 과제이다. 기존 EMG 파운데이션 모델(FM)은 다양한 하위 작업과 저전력 기기에서의 배포에 대한 지원이 제한적이다. 방법: 본 연구에서는 공개 EMG 데이터셋을 이용해 자기지도 마스크 복원 방식으로 사전학습한 360만 파라미터 규모의 Transformer 인코더 TinyMyo를 소개한다. TinyMyo는 작업별 예측 헤드를 최소한만 변경하여 여러 작업을 지원한다. 결과: TinyMyo를 손동작 분류, 손 운동학 회귀, 발화 생성, 음성 인식에 대해 평가하였다. 손동작 분류에서 TinyMyo는 기존에 보고된 EMG FM보다 우수한 성능을 보여, NinaPro DB5에서 87.98%, UCI-EMG에서 97.1%, EPN-612에서 96.6%의 정확도를 달성하였다. 초저전력 마이크로컨트롤러인 GAP9에서 TinyMyo는 추론 시간 0.785초를 기록했으며, 평균 전력 57.18 mW에서 추론당 44.91 mJ을 소비하였다. 190만 파라미터 변형 모델은 5초 및 1초 입력 윈도우를 각각 0.496초와 0.089초에 처리하였다. 결론: TinyMyo는 소형 자기지도 EMG 인코더가 여러 하위 작업을 지원하면서 저전력 마이크로컨트롤러에서 동작할 수 있음을 보여준다. 의의: 우리가 아는 한, 이는 EMG FM을 초저전력 마이크로컨트롤러에 배포한 최초의 사례이며, 온디바이스 운동 의도 해독, 신경근 평가, 인간-기계 상호작용으로 나아가는 길을 연다.

arXiv:2509.10780v3cs.HC

K-12 교사가 생성형 AI를 지역 교실 요구에 맞게 조정하는 방식: 생성형 AI 기본값과 일상적 교수 실천 사이의 문화적 거리

How K-12 Teachers Adapt Generative AI to Local Classroom Demands: Cultural Distance Between GenAI Defaults and Everyday Teaching Practices

생성형 AI(GenAI)가 K-12 교실에 도입되고 있지만, 그 기본 문화는 지역의 교수 현장에 항상 부합하지는 않는다. 기존 설명은 이러한 불일치를 거시적 수준의 구조적 편향으로 간주하거나 단일 사례 연구를 통해 살펴보는데, 어느 쪽도 교사가 다양한 과업에서 결과물을 사용할 수 있게 만들기 위해 얼마나 많은 노력을 들여야 하는지를 포착하지 못한다. 이 탐색적·이론 구축적 질적 연구는 GenAI의 기본 문화적 레퍼토리와 교사 실천의 상황적 요구 사이의 간극인 문화적 거리를 제시한다. GenAI를 자주 사용하는 K-12 교사 30명(남아프리카공화국, 대만, 미국 각 10명)을 면담하여, 교사가 들인 노력과 그 노력이 사용 가능한 결과물로 이어졌는지에 따라 정의되는 세 수준을 도출하였다. 낮음(사소한 수정), 중간(지속적인 프롬프트 작성과 수정), 높음(지원되지 않는 언어, 디지털화되지 않은 지식, 정책 필터에 뿌리를 둔 구조적 간극으로, 어떤 교사의 노력으로도 해소할 수 없는 경우)이다. 우리는 문화적 거리를 추가 검토가 필요한 유망한 틀로 제시하고, 설계자, 정책 입안자, 교육자에 대한 시사점을 논의한다.

arXiv:2401.10816v3cs.HC

건강을 위한 코파일럿: 건강 결과 개선을 위한 개인화된 알고리즘 기반 AI 넛징

Co-Pilot for Health: Personalized Algorithmic AI Nudging to Improve Health Outcomes

웨어러블 기기 유형과 질병 상태를 가리지 않고 대규모 인구의 건강 행동을 자동으로 형성하는 능력은 세계 보건 결과를 개선할 큰 잠재력을 지닌다. 우리는 그래프 신경망(GNN) 기반 추천 시스템과 웨어러블 피트니스 기기에서 얻은 세분화된 건강 행동 데이터로 구동되는, 디지털 알고리즘 넛징을 위한 AI 기반 플랫폼을 설계하고 구현하였다. 본 논문에서는 싱가포르의 $n=84,764$명을 대상으로 12주 동안 개인화되고 맥락에 맞는 넛징을 제공한 이 플랫폼의 효능 결과를 기술한다. 이러한 AI 최적화 일일 넛지를 받은 대상 그룹 참가자는 넛지를 받지 않은 대조군의 짝지어진 참가자에 비해 걸음 수와 같은 일일 신체 활동이 6.17% ($p = 3.09\times10^{-4}$), 주간 중강도-고강도 신체 활동(MVPA) 시간이 7.61% ($p = 1.16\times10^{-2}$) 증가했음을 통계적으로 검증하였다. 또한 이러한 넛지는 매우 호의적으로 받아들여져, 발송된 넛지의 13.1%가 열람되었고(열람률), 열람된 넛지 중 11.7%가 유용하다고 평가된 반면 유용하지 않다고 평가된 비율은 1.9%였으며, 이는 인구 수준의 참여 지표가 유의미하게 개선되었음을 보여준다.

arXiv:2309.10448v5cs.AI

인간-AI 상호작용과 사회적 함정

Human-AI Interactions and Societal Pitfalls

생성형 인공지능(AI)을 사용할 때 사용자는 생산성 향상을 얻을 수 있지만, AI가 생성한 콘텐츠는 사용자의 선호와 정확히 일치하지 않을 수 있다. 이러한 효과를 연구하기 위해, 우리는 이질적인 사용자가 출력 충실도와 소통 비용 사이의 상충 관계에 직면하여 AI와 얼마나 많은 정보를 공유할지 선택하는 베이지안 프레임워크를 도입한다. 우리는 이러한 개인 수준의 결정과 AI 학습 사이의 상호작용이 사회적 문제로 이어질 수 있음을 보인다. 특히 AI가 AI 생성 콘텐츠로 학습될 때 출력이 더 동질화될 수 있으며, 이는 동질화 죽음의 소용돌이를 촉발할 가능성이 있다. 또한 AI의 편향은 전파되어 사회적 편향이 될 수 있다. 동질화와 편향 문제의 해결책은 인간-AI 상호작용의 마찰을 줄이고 사용자가 유연하게 정보를 공유할 수 있도록 하여, 생산성을 희생하지 않고 개인화된 출력을 얻는 것이다.

arXiv:2611.22989v1cs.HC

웹 조사 에이전트는 사용자의 우선순위를 어떻게 해석하는가?

How Web Research Agents Interpret User Priorities

웹 조사 에이전트는 온라인에서 정보를 수집하고 출처를 인용한 보고서를 작성한다. 금융 분석도 그중 하나다. 사용자는 우선순위를 제시해 조사의 방향을 정할 수 있지만, 우선순위만으로는 대안을 평가할 기준이 정해지지 않아 에이전트가 선택해야 할 수 있다. OpenAI와 Anthropic 모델을 각각 기반으로 한 두 에이전트가 주어진 우선순위를 어떻게 해석하는지 조사했다. 36회의 실행에서 에이전트는 Microsoft와 Alphabet의 사업을 비교했다. 프롬프트는 성장 또는 회복탄력성을 특별히 고려하라고 하거나 우선순위를 지정하지 않았다. 보고서, 검색 쿼리, 반환된 출처, 실제 인용한 출처를 분석했다. 우선순위를 지정한 보고서 24개 중 21개가 그 항목을 중점적으로 다뤘으나 판단 기준은 달랐다. 성장을 우선시할 때 두 회사의 순위를 매긴 OpenAI 보고서는 위험이나 예측 가능성을 고려해 Microsoft를 선호했다. Anthropic 보고서는 성장 속도를 기준으로 삼아 Alphabet을 선호했다. 회복탄력성을 우선시할 때는 보고서마다 일부 기준이 달랐으며, 대부분 Microsoft의 회복탄력성이 더 높다고 판단했다. 시험한 검색 및 출처 관련 평가지표 중 조건별 차이를 감지할 수 있었던 것은 Anthropic 에이전트의 검색 문구뿐이었다. 이 결과는 평가에서 보고서의 초점과 정확도 외에도 판단에 사용한 기준을 살펴볼 필요가 있음을 시사한다. 인터페이스에서 사용자가 그 기준을 확인하고 조정할 수 있게 할 수 있다.