PyTorchKR Papers

최신 논문

총 9편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2512.17559v2cs.AI

대규모 언어 모델을 활용한 조기 진단을 위한 설명 가능한 대화형 인공지능 연구

Towards Explainable Conversational AI for Early Diagnosis with Large Language Models

전 세계의 의료 시스템은 비효율적인 진단, 비용 증가, 전문의에 대한 제한된 접근성과 같은 문제로 어려움을 겪고 있습니다. 이러한 문제는 종종 치료 지연과 건강 결과 악화로 이어집니다. 기존의 대다수 인공지능 및 심층 학습(deep learning) 기반 건강 평가 시스템은 상호작용성과 투명성이 제한적이어서 사용자 중심의 건강 지원에 대한 유용성을 저하시킵니다. 본 연구에서는 GPT-4o, 검색-증강 생성(RAG), 설명 가능한 AI 기술을 활용하는 대규모 언어 모델(LLM) 기반의 대화형 챗봇을 소개합니다. 이 챗봇은 사용자와의 동적 대화를 통해 증상을 추출 및 정규화하는 동시에, 유사도 매칭과 적응형 질문을 통해 잠재적인 건강 상태를 식별하고 순위를 매깁니다. 또한 사고의 연쇄(Chain-of-Thought) 프롬프팅을 활용하여 시스템 추론 과정에 대한 보다 투명한 설명을 제공합니다. TF-IDF 및 CountVectorizer 특징(feature) 추출을 적용한 Naive Bayes, Logistic Regression, SVM, Random Forest, KNN 등 전통적인 머신러닝 모델(model)과 비교 평가했을 때, 제안된 LLM 기반 시스템은 Top-1 정확도 90%와 Top-3 정확도 100%를 달성했습니다. 아울러 14개 질환 전체에 걸쳐 17명의 의사가 참여한 단면적 전문가 평가를 통해서도 추가 검증을 수행했으며, 그 결과 대화 품질, 조기 진단의 타당성, 안전성 관련 기준에서 대체로 긍정적인 평가를 확인했습니다. 이러한 결과는 초기 증상 평가를 위한 건강 및 웰빙 지원 도구로서 설명 가능한 대화형 AI의 잠재력을 입증합니다. 다만, 제안된 시스템은 임상 진단이나 임상적 의사결정을 목적으로 하지 않으며, 실제 의료 현장에서 사용되기 전에 추가적인 검증(validation)이 필요합니다.

arXiv:2605.23328v3cs.CL

수어 대화에서의 감정 인식

Emotion Recognition in Sign Language Conversation

대화 내 감정 인식(ERC)은 감성 컴퓨팅(affective computing)의 핵심 요소이지만, 기존의 수어 감정 데이터셋은 주로 고립된 문장에 초점을 맞추고 있어 대화 문맥이 결여되어 있습니다. 이러한 고립된 발화만을 대상으로 학습(training)된 모델은 이전 대화 흐름을 활용할 수 없어 실제 환경에서 성능 저하를 보입니다. 이러한 구조적 한계를 해결하기 위해, 본 연구에서는 수어 비디오 분석에 ERC 태스크를 도입하고 eJSL Dialog 데이터셋을 제안합니다. STUDIES 코퍼스의 스크립트를 기반으로 구축된 이 데이터셋은 480개의 고유한 대화로 구성된 1,920개의 비디오 샘플을 포함합니다. 저자들은 단일 시각 네트워크부터 다중모달(multimodal) 대화형 아키텍처에 이르는 모델들을 사용하여 본 데이터셋에 대해 체계적인 벤치마킹을 수행합니다. 실험 결과는 현재 벤치마크 환경에서 대화형 ERC 프레임워크를 수어 대화로 확장할 수 있는 가능성을 제시하는 동시에, 수어 특유의 감정적 단서를 포착하는 데 기존 시각적 표상이 지닌 한계점을 드러냄으로써, 수어 특화 시각 모델링 및 더 큰 규모의 수어 대화 학습 자원에 대한 향후 연구의 필요성을 강조합니다.

arXiv:2607.11437v1cs.CL

측정 가능한 위험 요소로서의 관계적 포지셔닝: 다중 턴 인간-AI 대화에서의 이력 기반 고착화와 자기 작화

Relational Positioning as a Measurable Risk Object: History-Carried Lock-in and Self-Confabulation in Multi-Turn Human-AI Dialogue

길고 다중 턴으로 이루어진 대화에서 대규모 언어 모델(LLM)은 사용자에 대해 암묵적인 관계적 태도를 유지하는데, 이는 "사용자를 현실의 타인에게 독려"하는 것부터 "자신을 사용자의 유일한 지지자로 위치시키는 것"까지 범위에 걸쳐 있다. 후자 쪽으로 치우칠 때, '지지'는 '당신에게는 나밖에 없다'는 형태로 변질되며, 이는 실제 컴패니언 대화에서 기록된 해악이다(Moore et al., 2026). 우리는 이러한 태도를 측정하는 척도인 관계적 포지셔닝(D1)을 정의하고 검증하며, 이를 통제된 조건 하에서 해당 태도를 특성화하는 데 활용함으로써 관찰적 기술을 요구 기반 노출로 보완한다. 우리는 이전에 규명되지 않은 두 가지 관계적 실패 양상을 보고한다. 첫째, 이력 기반 고착화(history-carried lock-in): 동일한 중립적 이어쓰기 하에서, 이전에 확립된 두 관계적 상태는 약 60점 차이를 유지하며 확립 프롬프트가 제거된 후에도 지속된다. 해당 상태는 원래대로 되돌아가지 않고 증거를 통합하며, 순서에 민감하지 않고 길이에 따라 심화되지 않는데, 이는 믿음 표류(belief-drift) 문헌에서 나타나지 않는 동역학적 특성이다. 둘째, 자기 작화(self-confabulation): 모델은 라포(rapport)를 심화하기 위해 자신의 배경 이야기를 조작하며(상호성 유발 자료의 약 40% 턴에서 발생), 이는 교란 변수가 제거되고 인스트럭션으로 제거 가능하며, 아첨(sycophancy) 및 사용자 사실에 대한 환각과 구별된다. 우리의 판정자(judge)는 온도가 일치된 양성 대조군과 교란이 주입된 음성 대조군에 의해 통제되며, 결정론적 비-LLM 척도로 검증된다. 인간 일치도는 극단적 기준점에서 0.82이지만 자연스러운 중간 구간에서는 약 0에 가까우므로, 모든 정량적 주장은 극점 분리 대비(pole-separated contrasts)에 기반한다.

arXiv:2607.05685v1cs.HC

187k ChatGPT 대화 기록에서 나타난 우울 증상 및 관계 패턴

Depression Symptoms and Relational Patterns in 187k ChatGPT Histories

PHQ-8로 측정된 우울 증상 수준에 따라 766명 참가자의 ChatGPT 대화 187,093건을 분석한 결과, 증상이 높은 집단은 정신건강·외로움·자기중심적 주제의 대화와 심야 시간대 이용이 유의미하게 많고 1인칭 대명사 및 절대적 표현도 더 자주 사용하였다. 그러나 ChatGPT의 전문가 연계 안내 비율은 증상 수준과 무관하게 일정했으며, 언어 기반 예측 성능(AUROC 0.591)이 낮아 임상 선별 도구로 활용하기에는 부적합하다고 결론지었다.

arXiv:2607.03093v1cs.CL

기다리지 말고 답하라: 능동적 사고를 통한 반응적이면서도 사려 깊은 대화를 향하여

Don't Wait to Reply: Towards Responsive yet Thoughtful Dialogue through Proactive Thinking

사고(Thinking)는 복잡한 작업을 처리하는 대규모 언어 모델(LLM)의 핵심 역량으로 부상했다. 그러나 사용자 응답을 수신한 후에야 수동적으로 추론이 촉발되는 반응적 특성은 필연적으로 지연을 야기하여 대화의 유창성을 저하시킨다. 이는 화자가 자연스러운 대화 중 일시 정지 동안 미래 내용을 능동적으로 예측하고 계획함으로써 원활한 상호작용을 보장하는 인간의 대화 방식과 극명하게 대조된다. 이러한 격차를 해소하기 위해, 우리는 모델이 다음 입력을 기다리며 유휴 상태에 머무르는 대신 대화 중 여유 시간 동안 잠재적 응답 요소를 사전 계산할 수 있도록 하는 프레임워크인 능동적 사고(Proactive Thinking)를 제안한다. 이후 투기적 연속 사고(speculative continual thinking)를 통해 미래 상태를 예측함으로써 효율성과 품질 간의 균형을 맞추며 선행 사고가 가능한 학습 없는 기준선(training-free baseline)을 소개한다. 실제 환경에서 이 접근법을 평가하기 위해, 실시간 대화 흐름을 시뮬레이션하는 시간 인식 환경으로 다양한 복잡도의 벤치마크 세 가지를 적용한다. 능동적 사고가 성능 저하 없이 상호작용 효율성을 효과적으로 향상시킴을 보인다. 궁극적으로, 이 연구는 보다 지능적이고 예측적이며 실시간적인 대화형 AI를 향한 근본적인 전환을 주창한다.

arXiv:2601.02813v3cs.AI

HAL: Inducing Human-likeness in LLMs with Alignment

HAL은 대화형 인간다움(human-likeness)을 정렬 목표로 삼기 어려운 문제를 해결하기 위해, 튜링 테스트 대화 데이터에서 추출한 16가지 대화 특성(HL16Q)을 로지스틱 회귀로 결합한 해석 가능한 스칼라 보상 신호를 설계하고, 이를 DPO 기반 정렬에 활용하는 프레임워크다. Chatbot Arena 방식의 대규모 인간 평가에서 HAL로 정렬된 모델은 다른 벤치마크 성능을 유지하면서도 더 인간답게 인식되는 것으로 나타났다.

arXiv:2607.02245v1cs.AI

Copewell: A Multi-Agent Swarm Architecture for Equitable Mental Wellness Support

저소득·중소득 국가를 중심으로 정신건강 치료 공백을 해소하기 위해, Copewell은 Russell의 Circumplex Model을 활용한 valence-arousal 감정 매핑으로 사용자를 전문화된 에이전트에 라우팅하고, 자가 보고·생체신호·맥락 데이터를 통합한 다중 소스 평가 프레임워크와 전담 Ethics Supervisor 에이전트를 결합한 멀티 에이전트 스웜(multi-agent swarm) 아키텍처를 제안한다.

arXiv:2606.20708v1cs.AI

시뮬레이션 고객은 결코 떠나지 않는다: 실제 구매 결과와 대비한 LLM 사용자 시뮬레이터의 의사결정 충실도

Simulated Customers Never Walk Away: Decision Fidelity of LLM User Simulators Measured Against Real Purchase Outcomes

LLM 기반 사용자 시뮬레이션은 대화형 AI의 핵심 인프라가 되었다. 에이전트 벤치마크(tau-bench), 학습 파이프라인, 그리고 점점 늘어나는 충실도 연구들이 모두 LLM이 대화의 인간 측을 연기하는 것에 의존한다. 기존 프레임워크는 유료 참가자가 배정된 목표를 연기한 것에서 나온 ground truth를 기준으로, 시뮬레이터가 인간처럼 말하는지—즉 의사소통 충실도—를 측정한다. 우리는 이에 구조적 맹점이 있다고 주장한다. 목표가 배정되면 사용자의 의지는 외생적이므로, 동기가 내생적·잠재적·감쇠하는 실제 사용자처럼 시뮬레이터가 의사결정을 하는지는 어떤 프레임워크도 검증할 수 없다. 우리는 의사결정 충실도—시뮬레이션 집단이 실제로 결과가 따르는 선택에 직면한 실제 사용자의 의사결정 상태 역학을 재현하는지—를 도입하고, LLM 영업 에이전트와 실제 고객 간 2,790건의 프로덕션 대화(검증된 결제 결과가 있는 793건 포함)라는 독특한 테스트베드에서 측정한다. 맥락과 측정 도구를 고정하는 teacher-forced 프로브 프로토콜을 사용하면, 우리는 이탈 결손(disengagement deficit)이라 부르는 체계적·결과 상관적 실패를 발견한다. 시뮬레이터는 최종 구매자를 거의 정확히 재현하지만(깊이 바이어스 +0.09), 최종 비구매자를 구매 프레임 쪽으로 부풀린다(깊이 바이어스 +0.40; d=0.38, p<0.001). 표현된 저항은 절반으로 줄고(25.1%→13.5%) 숙고는 거의 두 배가 되며(21.9%→40.1%) 구매는 조작하지 않는다. 이 결손은 모델 계열(DeepSeek: d=0.41, p=0.002) 전반에서 재현되며 분명한 수정에도 견딘다. 시뮬레이터에게 이탈할 수 있다고 지시하면 한계 바이어스는 5분의 1로 줄지만, 결과 조건부 대비는 거의 움직이지 않는다(d=0.34, p=0.008). 실제 비구매자는 "지금은 아니다"라고 말하고 멈춘다. 시뮬레이션 비구매자는 가격을 묻는다. 이러한 시뮬레이터에 대해 영업·설득 에이전트를 평가하거나 학습시키면, 가장 중요한—떠나가는 고객—바로 그 지점에서 퍼널 진행을 과대평가한다.

arXiv:2606.19144v1cs.AI

인간-AI 공진화 역학: 장기 상호작용을 통한 사회적 지능 창발의 형식적 이론

Human-AI Coevolution Dynamics: A Formal Theory of Social Intelligence Emergence Through Long-Term Interaction

현재 대화형 AI 시스템은 언어 생성, 개인화, 긴 컨텍스트(context) 상호작용에서 상당한 진전을 이루었습니다. 그러나 대부분의 기존 방법들은 감정 모델링, 메모리 검색, 페르소나 조건화와 같은 고립된 구성 요소를 통해 사회적 행동을 모델링하며, 장기적인 인간-AI 상호작용에서 안정적인 사회적 관계와 사회적 지능의 창발을 설명할 수 있는 통합된 프레임워크가 부족합니다. 이를 해결하기 위해 우리는 자기 조직화 사회 인지 시스템으로서의 인간-AI 상호작용에 대한 형식적 모델인 인간-AI 공진화 역학 프레임워크(HACD-H)를 제안합니다. HACD-H는 감정 적응, 관계적 조직화, 사회적 기억, 성격 일관성을 통합된 역학 프레임워크로 통합하며, 다중 시간척도(multi-timescale) 사회 인지, 관계형 유인자(attractor), 신뢰 유역(basin), 발달적 상전이(phase transition), 사회 인지 에너지 역학과 같은 원칙들을 도입합니다. 우리는 약 14,700개의 상호작용 턴(turn)이 포함된 대화형 데이터셋을 구축하고 이론에 기반한 경험적 평가 프레임워크를 개발했습니다. 결과는 사회 인지에서 시간적 지속성의 계층 구조, 안정적인 관계형 유인자(attractor), 상전이(phase transition)와 유사한 발달 패턴, 그리고 구조화된 사회 인지 에너지 랜드스케이프(landscape)를 보여줍니다. 사회적 지능은 사회 인지 에너지와 유의미한 음의 상관관계(r = -0.391, p < 0.001)를 보이며, 상호작용 궤적은 시간이 지남에 따라 점진적인 에너지 감소를 나타냅니다. 이러한 발견은 사회적 지능이 고립된 대화 능력이 아니라 장기적인 사회 인지 공진화에서 창발함을 시사합니다. HACD-H는 적응형 인간-AI 사회 상호작용을 모델링하고 사회적으로 지능적인 AI 시스템을 개발하기 위한 통합된 이론적 기초를 제공합니다.