K-12 그룹 학습에서 에이전트 음성 억양이 인간-AI 협력을 형성하는 방식 탐구
Exploring How Agent Voice Accents Shape Human-AI Collaboration in K-12 Group Learning
한국어 초록
협업은 21세기 교육의 토대로 널리 인정받지만, 교사들은 여전히 생산적인 동료 상호작용을 촉진하는 데 지속적인 어려움을 겪고 있다. 대규모 언어 모델(LLM) 대화형 동료 에이전트는 대면 그룹 활동을 매개하는 새로운 가능성을 제시하며, 특히 음성 특성을 포함한 페르소나(persona) 설계가 학습자의 인식, 신뢰, 상호작용 역학에 어떻게 영향을 미치는지에 대한 질문을 제기한다. 기존 연구는 일대일(one-to-one) 상황에서의 에이전트 억양 효과를 검토했지만, 이러한 효과가 그룹에서 어떻게 나타나는지에 대해서는 거의 알려져 있지 않다. 우리는 33명의 교사를 대상으로 서로 다른 억양(영국, 인도, 아프리카계 미국인)을 가진 GenAI 음성 에이전트가 협업과 에이전트 인식에 어떻게 영향을 미치는지 조사하는 피험자 간(between-subjects) 혼합 방법(mixed-methods) 연구를 수행했다. 설문, 그룹 상호작용 분석, 산출물을 종합한 결과, 억양이 참가자의 멘탈 모델(mental model)과 그룹 상호작용에서 에이전트가 수행한 역할을 형성한 것으로 나타났다. 영국 억양의 에이전트는 대체로 도구로 취급되어 거리를 두는 유틸리티 기반 방식으로 참여했던 반면, 인도 및 아프리카계 미국인 억양의 에이전트는 더 쉽게 의인화(anthropomorphization)되어 동료로 통합되었다. 이러한 역할 기대는 시간에 따라 신뢰, 참여, 의존에 영향을 미쳤다. 본 연구는 GenAI의 사회언어학적(sociolinguistic) 설계 특성이 컴퓨터 지원 협력 학습(CSCL)에서 그룹 역학을 어떻게 형성하는지에 대한 이해를 발전시키며, 그룹 학습에서 문화적으로 포용적인 AI 파트너를 설계하는 데 시사점을 제공한다.
원문 초록
Collaboration is widely recognized as a cornerstone of 21st-century education, yet teachers still encounter persistent challenges in fostering productive peer interaction. LLM conversational peer agents introduce new possibilities for mediating in-person group work, raising questions about how persona design, particularly their voice characteristics, shapes learners' perceptions, trust, and interactional dynamics. While prior work has examined agent accent effects in one-to-one settings, little is known about how these effects manifest in groups. We conducted a between-subjects mixed-methods study with 33 teachers examining how a GenAI voice agent with different accents (British, Indian, and African American) influenced collaboration and agent perception. Across surveys, group interaction analyses, and artifacts, we find that accent shaped participants' mental models and the roles the agent assumed in group interaction. The British-accented agent was largely treated as a tool and engaged in detached, utility-based ways, whereas Indian- and African American-accented agents were more readily anthropomorphized and integrated as peers. These role expectations influenced trust, engagement, and reliance over time. This work advances understanding of how GenAI's sociolinguistic design features shape group dynamics in CSCL, with implications for designing culturally inclusive AI partners in group learning.
요약
K-12 그룹 학습에서 서로 다른 목소리 억양을 가진 GenAI 음성 에이전트가 인간-AI 협력에 미치는 영향을 조사한 결과, 에이전트의 억양이 학습자의 인식과 그룹 내 역할을 결정짓는 핵심 요소임을 밝혔다. 영국 억양의 에이전트는 도구로 여겨진 반면 인도 및 아프리카계 미국인 억양의 에이전트는 동료로 인식되어 신뢰도와 참여에 긍정적인 영향을 미쳤다.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.12805v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공허한 약속: 에이전트가 이행할 수 없는 약속을 할 때
Empty Commitments: When Agents Promise What They Cannot Deliver
"내일 알려드리겠습니다"라고 말하는 챗봇은 사용자가 다시 메시지를 작성하기 전까지는 실행되지 않습니다. 우리는 이러한 약속을 공허한 약속(empty commitment)이라 부릅니다. 이는 현재 턴 이후의 행동에 대한 약속이지만, 에이전트의 도구나 런타임 환경에 이를 실행할 수 있는 수단이 전혀 없는 경우를 의미합니다. 깨진 약속과 달리 공허함은 발화 순간 에이전트의 구성(configuration)에 따라 결정되므로, 배포 전이나 런타임 시 단일 턴만으로도 감지할 수 있습니다. 본 연구에서는 약속 의미론(commitment semantics)을 기반으로 공허한 약속을 정의하고, 세 가지 실패 유형, 도구를 통해 실현될 수 있는 약속에 대한 앵커링 조건, 그리고 이러한 실패를 정직한 보류(honest deferral) 및 과도한 거부(over-refusal)와 구분하는 결과 분류 체계를 제시합니다. 우리는 400개의 인간 레이블로 검증된 체커(환경 미인지 감지기, 결정론적 실행 가능성 규칙, 응답 판정기)를 구축했습니다. 지속성 어포던스(persistence affordance)를 하나씩 추가하는 5가지 설정에 걸쳐 293개의 후속 요청으로 구성된 통제된 벤치마크에서, 8-14B 파라미터의 4개 오픈 가중치(open-weight) 모델은 도구가 존재하지 않고 아무것도 명시되지 않았을 때 응답의 45.9%에서 실패했습니다. 프론티어 모델은 4.4%의 실패율을 기록했으나, 이는 보유한 도구를 사용해서가 아니라 보류하고 되물음으로써 달성한 수치였습니다. 즉, 실행을 위한 도구 호출 없이 행해지는 약속은 모든 모델에 여전히 남아 있었습니다. 가장 저렴한 해결책인 모델에게 런타임 정보를 알려주는 방식은 아무것도 수행할 수 없는 환경에서 오픈 가중치 모델의 실패를 거의 절반으로 줄였으나, 스케줄러가 존재하는 환경에서는 아무런 변화를 주지 못했습니다. 지시적 역량 카드(directive capability card)는 과도한 거부라는 가장 큰 대가를 치르면서 대부분의 실패를 제거했으며, 루프 내에서 체커를 실행하고 플래그가 지정된 응답을 다시 작성하는 방식은 더 적은 비용으로 더 많은 실패를 제거했습니다. 코드, 프롬프트, 모델 출력 및 인간 레이블이 공개됩니다.
MemFit: 효율적인 장기 에이전트 메모리
MemFit: Efficient Long-Term Agentic Memory
대규모 언어 모델(LLM)을 위한 장기 메모리(long-term memory) 시스템은 다양한 애플리케이션 전반에서 추론 능력을 확장하기 위해 널리 활용되고 있습니다. 현재의 메모리 시스템은 메모리를 구성하고 통합하기 위해 LLM 에이전트에 의존하므로, 비용이 많이 들고 비효율적인 쓰기 연산이 발생합니다. 이러한 한계를 해결하기 위해, 대화형 에이전트의 메모리 연산 비용과 지연 시간을 줄여주는 장기 메모리 시스템인 MemFit을 제안합니다. 메모리 구축을 위해 값비싼 LLM 호출에 의존하거나 압축을 통해 표면적인 세부 정보를 버리는 기존 시스템과 달리, MemFit은 LLM 없이 거의 즉각적인 삽입이 가능한 추가 전용(append-only) 저장소에 각 턴을 원문 그대로 저장하며, 턴을 대체하는 대신 세그먼트 요약으로 색인화합니다. 또한, MemFit은 텍스트 및 멀티모달 환경 모두에서 캡션이 보강된 에피소드에 대해 어휘적·의미적 신호와 크로스 인코더 재순위화(reranking)를 결합하는 LLM 기반이 아닌 다중 경로 검색 전략을 사용합니다. 널리 사용되는 세 가지 벤치마크인 LoCoMo, MemGallery, LongMemEval-S에 대한 실증적 결과는 MemFit이 메모리 구축 시간과 비용을 수배 단축하면서도 최고 수준의 성능(SOTA)을 달성하여, 지속적인 에이전트 메모리를 위한 확장 가능하고 효율적인 설루션을 제공함을 보여줍니다.
감성 분류에서 실행 가능하고 책임 있는 피드백으로: 학생 강의 평가(SET)에서 NLP의 범위 검토 및 증거 지도, 2015–2026
From Sentiment Classification to Actionable and Responsible Feedback: A Scoping Review and Evidence Map of NLP in Student Evaluation of Teaching, 2015-2026
서술형 강의 평가 댓글(Student Evaluation of Teaching, SET)에 적용된 자연어 처리(NLP)는 어휘 사전과 기존 분류기에서 트랜스포머와 대규모 언어 모델(LLM)에 이르는 분야의 기술적 진화를 따라왔으나, 이러한 기술 다양화에 교육적 가치와 증거의 견고성에 상응하는 이득이 동반되었다는 점은 분명하지 않다. 본 범위 검토(PRISMA-ScR)는 421편의 연구(2015–2026, 2026년 부분 포함)를 기술 축(RQ1)과 네 가지 가치 차원(RQ2–RQ5)을 따라 지도한다. 이중 상호 맹검 LLM 스크리닝과 표본 추출 인간 판정으로 일곱 추출 도메인을 코딩했으며, 종합 단계에서 표적화된 코드북 경계 검토를 수행했다. 공동 지도에서 가장 뚜렷한 정량적 격차는 실행 가능성 단절(actionability discontinuity)이다: 입증된 산출 또는 그 이상(A2+: 258/421; 61.3%) 대 의도된 사용자 평가 또는 그 이상(A3+: 49/421; 11.6%), 49.7%p 하락이다. 감성 분석은 여전히 최빈 과제(300/421)이며, 진단적·생성적 깊이는 상당한 소수(D4–D5: 해결된 사례의 28.2%)이고, 공식적 공정성(fairness) 지표는 드물다(1.9%). 본 결과는 기술적 공존과 불균등한 보고가 지도의 일부이지만, A2+에서 A3+로의 절벽이 기여이지 품질 사다리가 아님을 밝힌다.
토큰이 아닌 턴 주입하기: 자기 수정을 위해 LLM 추론을 리디렉션할 위치 학습
Inject a Turn, Not a Token: Learning Where to Redirect LLM Reasoning for Self-Correction
대규모 언어 모델(LLM)은 자신의 추론 과정에서 발생한 오류를 안정적으로 식별하고 수정하는 데 어려움을 겪는다. 수정이나 피드백을 생성하도록 LLM을 미세조정하는 기존의 학습 기반 접근법과 달리, 우리는 실패한 롤아웃에서 어디에 개입할지를 학습하고 이를 어떻게 리디렉션할지를 결정한다. 개입 위치를 선택하기 위해, 우리는 최종 답안의 정답 여부만을 이용해 고정된 인코더 위에 130K개의 매개변수를 가진 MLP 헤드를 학습시킨다. 리디렉션의 경우, 고정된 생성 예산 하에서 테스트한 인라인 주입(inline injection)은 추론을 안정적으로 리디렉션하지 못하는 반면, 동일한 지시문을 새로운 사용자 턴(user turn)으로 제시하면 모델의 진행 방향이 바뀐다는 것을 발견했다. 그 결과로 만들어진 수정 프레임워크인 UPTURN(User-Prompt TURN injection at a learned position)은 LLM의 미세조정을 전혀 요구하지 않는다: 선택된 접두 문맥(prefix)을 유지하고, 지시문을 새로운 사용자 턴으로 주입한 뒤, 나머지 부분을 재생성한다. 네 가지 추론 모델과 여섯 가지 수학 벤치마크 전반에서, UPTURN은 32회 롤아웃 기준선(baseline) 대비 모든 설정에서 평균 정확도를 향상시킨다. 동일한 수정 예산 하에서 자기 수정(self-correction) 및 리플렉션 토큰(reflection-token) 주입 기준선을 능가하며, 재학습 없이도 다른 추론 모델과 GPQA-Diamond로 전이되고, GRPO 및 자기 수정 기법과도 상호보완적이다.
Whiteout을 활용한 대규모 언어 모델(LLM)의 개인정보 유출 완화
Mitigating Private Data Leakage in LLMs with Whiteout
최신 대규모 언어 모델(LLM)은 거의 모든 접근 가능한 웹사이트에서 스크래핑한 콘텐츠와 사용자 입력을 포함하여 대부분 필터링되지 않은 방대한 데이터셋으로 학습(training)됩니다. 그 결과 LLM은 생년월일, 전화번호, 집 주소와 같은 민감한 개인정보(PSI)를 암기하고 그대로 재생성하는 경우가 많습니다. 이는 특히 경영진, 정치인, 판사와 같은 저명인사들에게 심각한 개인정보 침해 위험을 초래합니다. 기존의 완화 방법은 주로 머신 언러닝(machine unlearning)에 의존합니다. 그러나 이러한 방식은 종종 필요한 것보다 더 많은 정보를 제거하고, 모델의 유용성과 안전성(safety)을 저하시키며, 공격에 매우 취약합니다. 본 논문에서는 개인의 요청에 따라 정밀하고 세심하게 설계된 난독화 샘플로 덮어씀으로써 LLM이 실제 민감한 개인정보(PSI)를 그대로 토해내는 것을 방지하는 실용적인 도구인 Whiteout을 제시합니다. 널리 사용되는 OpenAI 모델을 포함하여 다양한 크기와 제조사의 최신 LLM에서 Whiteout을 평가(evaluation)합니다. 실험 결과, Whiteout은 대상 민감한 개인정보의 유출을 효과적으로 방지하고, 모델 유용성과 안전성에 미치는 영향이 미미하며, 기존 대안들보다 우수한 성능을 보였습니다. 또한 탈옥(jailbreaking)과 같은 블랙박스 공격부터 재학습(relearning) 및 양자화(quantization)와 같은 화이트박스 적응형 공격에 이르기까지 광범위한 대응 공격에 대해 Whiteout을 검증합니다. 마지막으로 Whiteout의 보안 및 윤리적 의미에 대한 논의로 결론을 맺습니다.
정교한 축출 정책이 실패할 때: LLM 접두 문맥 재사용을 위한 캐시 교체 정책의 재고
When Fancy Eviction Fails: Rethinking Cache Replacement For LLM Prefix Reuse
토론
이 논문과 연결된 포럼 글이 아직 없습니다.