PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2506.09354v5cs.HC

"이 사람이 정말 인간 동료 지원가인가요?": LLM 지원 상호작용에서 동료 지원가와 전문가 간의 불일치

"Is This Really a Human Peer Supporter?": Misalignments Between Peer Supporters and Experts in LLM-Supported Interactions

정신 건강은 전 세계적으로 커져가는 문제이며, 이는 심리사회적 지원에 대한 접근성을 확대하기 위한 AI 기반 솔루션에 대한 관심을 불러일으키고 있습니다. 실제 경험에 기반한 동료 지원(peer support)은 전문적인 치료를 보완하는 귀중한 대안을 제공합니다. 그러나 훈련(training), 효과성, 정의의 다양성으로 인해 품질, 일관성 및 안전성에 대한 우려가 제기됩니다. 대규모 언어 모델(LLM)은 특히 실시간 텍스트 기반 상호작용에서 동료 지원 상호작용을 향상시킬 수 있는 새로운 기회를 제공합니다. 본 논문에서는 LLM으로 시뮬레이션된 고통받는 내담자(SimClient), 문맥을 고려한 LLM 생성 제안(Suggestions), 실시간 감정 시각화 기능을 갖춘 AI 지원 시스템을 제시하고 평가합니다. 12명의 동료 지원가와 6명의 정신 건강 전문가를 대상으로 한 2건의 혼합 연구 방법(mixed-methods)을 통해 시스템의 효과성과 실무적 시사점을 검토했습니다. 두 그룹 모두 교육을 강화하고 상호작용 품질을 개선할 수 있는 잠재력을 인정했습니다. 그러나 우리는 핵심적인 긴장 관계가 나타남을 발견했습니다. 동료 지원가들은 유의미하게 참여한 반면, 전문가들은 고통 신호 누락 및 조급한 조언 제공 등 동료 지원가의 응답에서 나타나는 중대한 문제점들을 일관되게 지적했습니다. 이러한 불일치는 특히 안전성과 모범 사례 준수가 필수적인 감정적으로 격앙된 상황에서 현재 동료 지원 교육의 잠재적 한계를 부각합니다. 본 연구 결과는 특히 동료 지원이 전 세계적으로 확장됨에 따라 표준화되고 심리학적 근거를 갖춘 교육의 필요성을 강조합니다. 또한 세심하게 설계되고 전문가의 감독을 받는다면 LLM 지원 시스템이 이러한 역량 개발을 어떻게 뒷받침할 수 있는지 보여줍니다. 본 연구는 정신 건강 분야에서의 책임 있는 AI 통합과 동료 제공 치료를 증강하는 LLM의 진화하는 역할에 관한 새로운 논의에 기여합니다.

arXiv:2606.06794v1cs.CL

TA-RAG: 동료 지원 건강 커뮤니케이션을 위한 어조 인식 검색 증강 생성

TA-RAG: Tone-Aware Retrieval-Augmented Generation for Peer-Support Health Communication

검색 증강 생성(RAG)은 대규모 언어 모델(LLM)의 출력을 신뢰할 수 있는 문서에 기반하여 성공적으로 생성하지만, 사실적 그라운딩만으로는 민감한 동료 지원 건강 커뮤니케이션에는 불충분합니다. HIV 동료 지원과 같은 도메인에서는 응답이 이해하기 쉽고, 낙인이 없으며, 공감을 담고, 수신자에게 맞춰져야 합니다. 본 논문은 모델 미세조정(fine-tuning) 없이 RAG 파이프라인에 명시적인 어조 제어를 통합하는 가볍고 프롬프트 기반의 어조 인식 RAG 프레임워크인 TA-RAG를 제시합니다. 우리는 낙인 제거 재작성, 가독성 조정, 수신자 적응, 공감 표현 재구성이라는 4가지 핵심 구성 요소를 통해 어조를 구체화하여 적용합니다. 우리는 HIV 온라인 러닝 오스트레일리아(HOLA), UNAIDS 용어 지침, 가독성 지표, 호주 HIV 감염인 협회(NAPWHA)의 동료 지원 표준, 공개 공감 데이터셋에서 파생된 질문들을 사용하여 구성 요소 수준의 테스트로 TA-RAG를 평가합니다. 결과에 따르면 TA-RAG의 구성 요소들은 핵심 내용을 유지하면서 목표로 하는 커뮤니케이션 품질을 향상시키는 것으로 나타났습니다. 이러한 발견들은 프롬프트 기반 어조 제어가 민감한 동료 지원 건강 커뮤니케이션에 적합한 RAG 출력을 생성하는 데 있어 잠재적인 방향임을 강조합니다.