PyTorchKR Papers

최신 논문

총 7편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2605.16268v2cs.HC

위기에 처한 고객 돕기: 대화, 탐색 질문, 라우팅을 수행하는 LLM 기반 에이전트

Helping Customers in Distress: An LLM-powered Agent that Converses, Probes, and Routes

은행은 매년 수백만 건의 사기, 스캠 및 분쟁 거래 신고를 접수하므로, 고객을 적절한 전문 지원팀으로 정확하게 안내하는 데 어려움을 겪고 있습니다. 사람이 직접 수행하는 기존의 수동 프로세스는 느릴 뿐만 아니라 고객과 직원 모두에게 큰 스트레스를 줍니다. 이를 해결하기 위해, 본 연구에서는 대규모 언어 모델(LLM)을 활용하여 다중 턴(multi-turn) 대화를 나누고, 관련 질문을 던지며, 정책에 기반한 정확한 라우팅을 위해 사례를 분류하는 고객 대면형 AI 분류(triaging) 에이전트를 개발하여 고객 여정에 통합했습니다. 에이전트를 평가하고 지속적으로 개선하기 위해 실제 고객의 합성 디지털 트윈(synthetic digital twins)을 시뮬레이션했으며, 과거 데이터를 기반으로 레이블이 지정된 사실적인 대화를 생성하여 광범위한 실제 시나리오를 테스트했습니다. 본 연구는 분류 에이전트의 모델링 접근 방식, 정책과의 통합, 안전성 가드레일 및 추론 프레임워크, 확장 가능한 평가를 위한 합성 에이전트의 활용, 그리고 해당 AI 시스템의 정확도, 강건성, 규정 준수성에 대한 분석 결과를 상세히 다룹니다. 실험 결과, 이 에이전트는 과거 사례의 분류 작업을 성공적으로 개선하여 분류 정확도를 30.6% 향상시켰으며, 도메인 전문가들로부터 높은 만족도를 얻었습니다. 이는 정밀한 탐색 질문이 대규모 은행 업무에서 얼마나 더 효과적인 분류로 이어질 수 있는지를 잘 보여줍니다.

arXiv:2609.24706v1cs.HC

"MeBo는 당신의 흔적을 남깁니다": 노인을 위한 관계형 음성 기반 기억 동반자 설계

"MeBo Leaves a Piece of You Behind": Designing a Relational Voice-Based Memory Companion for Older Adults

자전적 기억 회상은 노년기의 정체성, 웰빙, 사회적 유대감을 지원하지만, 기존의 음성 기반 기억 기술은 대체로 고립된 프롬프트(prompt)에 의존하고 있습니다. 본 연구에서는 11명의 노인과의 참여형 설계를 통해 완전한 기능을 갖춘 관계형 음성 기반 기억 동반자인 MeBo를 설계하고 제작했습니다. 이들의 경험담은 MeBo의 상호작용 설계와 다중 에이전트(multi-agent) 구현을 이끈 4가지 '디자인 전략'을 형성했습니다. 20명의 노인을 대상으로 한 혼합 방법 평가(mixed-methods evaluation)에서 참가자들은 MeBo가 매우 유용하며(SUS = 87.75), 즐겁고, 사교적이며, 정서적으로 반응하고 신뢰할 수 있다고 평가했습니다. 참가자들은 세션 전보다 세션 후에 더 높은 긍정 정동과 순간적인 사회적 유대감을 보고했으며, 부정 정동은 더 낮아졌다고 답했습니다. 참가자들은 MeBo가 자신들의 이야기를 따라가고, 이전 기억으로 되돌아가며, 선호도에 맞게 적응하고, 점차 쌓여가는 기억을 시각화하고 제어할 수 있도록 만든 방식을 설명했습니다. MeBo의 관계적 프레이밍은 시스템이 무엇을 기억해야 하는지, 상호작용을 통해 생성된 기억에 누가 접근할 수 있는지, 사용자가 더 이상 존재하지 않거나 MeBo가 없을 때 이 기억들이 어떻게 되는지를 둘러싼 긴장감을 드러냅니다.

arXiv:2607.14593v2cs.HC

기억 기반 자기개방과 관계적 전환점: 인간-AI 상호작용에 대한 종단적 다중모달 연구

Memory-Driven Self-Disclosure and Relational Turning Points: A Longitudinal Multimodal Study of Human-AI Interaction

대화형 AI 시스템이 반복 사용을 위해 설계될수록, 일련의 상호작용이 어떻게 관계가 되는지가 핵심 질문이 된다. 우리는 메모리 증강 대화형 에이전트(참가자 24명 × 10회 세션)에 대한 종단적 다중모달 연구를 수행했으며, 참가자들은 각 세션 후 친숙도, 자기개방, 인지된 기억, 대화 품질, 즐거움의 다섯 가지 관계 구인을 평가했다. 상호 보완적인 두 가지 역학이 나타난다. 첫째, 대화 품질은 당시 세션이 얼마나 즐거운지에 강하게 영향을 미치지만 세션 간으로 이어지지는 않는 반면, 인지된 기억은 관계적으로 조건화되어 있다—시스템 역량만을 반영하기보다는 이전의 관계 상태에 의해 예측되며—이후의 자기개방을 통해 간접적으로 이후의 즐거움을 형성한다. 둘째, 관계는 다중모달 행동에서 부분적으로 추적 가능하고 서로 다른 개입 시점을 열어주는 이산적 전환점—급락과 급등—으로 구분된다: 급등은 그 순간 행동적으로 더 잘 탐지되며, 즐거움 급등은 즐거움 급락이 회복되는 것보다 더 안정적으로 지속되고, 일부 급락은 이미 발생한 이후 탐지되기보다 개인별 행동 표류로부터 더 잘 예측된다. 종합하면, 이러한 발견은 종단적 인간-AI 관계가 느린 축적과 급격한 전환점 모두를 통해 형성됨을 시사한다.

arXiv:2607.03730v1cs.CL

ProACT: 다중 사용자 협업에서 중단 인식 기반 능동적 에이전트를 향하여

ProACT: Towards Breakdown-Aware Proactive Agent in Multi-User Collaboration

대화형 에이전트는 인간의 협업 업무에 점점 더 깊이 통합되고 있지만, 근본적으로 수동적이고 반응적인 방식에 머물고 있다: 팀이 시의적절한 개입으로 이득을 얻을 수 있는 순간을 능동적으로 인식하기보다는 사용자의 명시적인 요청에만 응답한다. 이러한 반응적 설계는 다중 사용자 협업에서 에이전트를 능동적 참여자로 활용하는 것을 크게 제한한다. 실제로 이러한 협업 환경에서는 의견 충돌, 모호한 목표, 간과된 제약, 불명확한 계획, 논의의 반복, 불균형한 참여가 점차 그룹의 진행을 저해할 수 있다. 에이전트를 수동적 보조자에서 다중 사용자 협업의 능동적 참여자로 전환하기 위해, 우리는 공통 기반(common ground) 이론, 협력 계획, 조정 업무 이론에 기반한 중단 인식 에이전트 프레임워크인 ProACT를 제안한다. ProACT는 화자가 구분된 대화 기록을 관찰하고, 현재 발화가 개입이 필요한 협업 중단을 포함하는지 판단하며, 에이전트가 침묵을 유지할지 발화할지를 결정하고, 발화가 필요한 경우 해당 사례를 목적에 맞는 협업 스킬로 라우팅한다. 또한 우리는 프로젝트 계획, 제품 설계, 연구 협업, 물류, 교육, 자원 제약 의사결정 등 다양한 영역에서 능동적 에이전트를 평가하기 위한 최초의 다중 사용자 협업 벤치마크를 소개한다. 3,244개의 턴 수준 예시와 다섯 가지 대규모 언어 모델(LLM) 백본에 걸쳐, ProACT는 직접 채팅 방식 대비 협업 적절성, 비방해성, 간결성, 개입 품질 평가 전반에서 일관된 향상을 보인다.

arXiv:2607.05055v1cs.AI

의료 분야의 신뢰할 수 있는 대규모 언어 모델 에이전트를 향하여

Toward Trustworthy Large Language Model Agents in Healthcare

의료 예약 스케줄링은 수동 조율, 분산된 레거시 시스템, 높은 행정 부담으로 인해 지속적인 운영상 병목 현상으로 남아 있다. 이러한 비효율성은 의료 제공자의 가용성을 제약하고 환자의 의료 접근성을 저하시킨다. 본 논문은 의료 물류 자동화를 위한 안전 우선 대화형 에이전트인 CareConnect를 제시한다. 이 에이전트는 대규모 언어 모델(LLM) 함수 호출, 검색-증강 생성(RAG), 계층화된 결정론적 안전 가드레일을 활용한다. 본 시스템은 예약 등록, 수정, 취소 및 시설 정보 검색을 지원하는 8개의 도메인 특화 도구를 조율하는 동시에, 의학적 조언이나 진단을 금지하는 엄격한 범위 제약을 적용한다. 안전 중요 상황은 응급 감지 및 의학적 의도 거부를 위한 결정론적 단락(short-circuit) 메커니즘을 통해 처리된다. 우리는 엔드투엔드 워크플로우, 멀티턴 상호작용, 엣지 케이스를 포괄하는 680개의 태스크 지향 시나리오로 구성된 종합 벤치마크에서 CareConnect를 평가한다. 실험 결과, 요청당 중앙값 지연 시간 2.2초에서 91.8%의 태스크 완료율, 전용 안전 중요 평가 서브셋에서 96.0%의 안전 준수율, 예약당 평균 운영 비용 $0.0324를 달성하여 수동 인간 스케줄링 대비 상당한 비용 절감을 실현하였다. 이러한 결과는 신중하게 범위가 설정되고 철저하게 안전장치가 마련된 LLM 기반 에이전트가 안전 보장을 유지하고 상당한 비용 효율성을 달성하면서 복잡한 의료 운영 워크플로우를 신뢰성 있게 자동화할 수 있음을 보여준다. 소스 코드와 시스템 구현은 https://github.com/Hadi-Hsn/CareConnect에서 공개적으로 이용 가능하다.

arXiv:2607.01557v1cs.CL

DiPS: Dialogue Policy Selection for High-Stakes Persuasion Agents

화재 대피 설득이라는 고위험 시나리오에서 대규모 언어 모델(LLM)이 획일적 전략의 한계를 극복하도록, 대화 맥락에 따라 설득 정책을 동적으로 선택하는 Q-학습 기반 프레임워크 DiPS(Dialogue Policy Selection)를 제안한다. IQL(Implicit Q-Learning)을 활용해 오프라인 대화 데이터로 학습된 DiPS는 제로샷 LLM 및 검색-증강 생성(RAG) 방식 대비 높은 대피 성공률을 시뮬레이션과 실제 인간 실험 모두에서 달성했다.

arXiv:2606.18256v1cs.HC

인간-AI 관계(Rapport) 향상을 위한 동적 내집단 페르소나 생성

Dynamic In-Group Persona Generation for Enhancing Human-AI Rapport

사용자의 주요 관심사와 개인 맥락을 파악한 뒤, 유사한 고민을 공유하지만 배경과 서사는 다른 합성 내집단 페르소나를 동적으로 생성해 LLM 에이전트에 조건 부여하는 In-group Persona Agent(IPA)를 제안한다. 인간 대상 실험에서 페르소나 없는 에이전트와 최소 자기 노출 기준선 대비 지각된 관계, 개인적 관련성, 사용자 경험, 특히 참여도가 유의미하게 향상되었다.