arXiv:2308.11584

Building Emotional Support Chatbots in the Era of LLMs

Zhonghua Zheng, Lizi Liao, Yang Deng, Liqiang Nie

제출 2023-08-17

원문 초록

The integration of emotional support into various conversational scenarios presents profound societal benefits, such as social interactions, mental health counseling, and customer service. However, there are unsolved challenges that hinder real-world applications in this field, including limited data availability and the absence of well-accepted model training paradigms. This work endeavors to navigate these challenges by harnessing the capabilities of Large Language Models (LLMs). We introduce an innovative methodology that synthesizes human insights with the computational prowess of LLMs to curate an extensive emotional support dialogue dataset. Our approach is initiated with a meticulously designed set of dialogues spanning diverse scenarios as generative seeds. By utilizing the in-context learning potential of ChatGPT, we recursively generate an ExTensible Emotional Support dialogue dataset, named ExTES. Following this, we deploy advanced tuning techniques on the LLaMA model, examining the impact of diverse training strategies, ultimately yielding an LLM meticulously optimized for emotional support interactions. An exhaustive assessment of the resultant model showcases its proficiency in offering emotional support, marking a pivotal step in the realm of emotional support bots and paving the way for subsequent research and implementations.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.00224v2cs.AI공통 태그 In-Context Learning

Build2SPARQL: 빌딩 지식 그래프 쿼리를 위한 대규모 Text-to-SPARQL 벤치마크 데이터셋

Build2SPARQL: A Large-Scale Text-to-SPARQL Benchmark Dataset for Building Knowledge Graph Querying

빌딩 자동화 시스템은 Brick 및 ASHRAE 223P와 같은 온톨로지를 사용하는 시맨틱 지식 그래프(KG)로 점점 더 많이 표현되고 있으며, 이는 인공지능 응용을 위한 기계 판독 가능한 기반을 형성합니다. 유망한 응용 분야 중 하나는 자연어 질문을 SPARQL로 변환하는 Text-to-SPARQL로, 빌딩 관리자가 언어 에이전트를 통해 이러한 그래프를 쿼리할 수 있게 해주지만 대규모 자연어/SPARQL 벤치마크의 부족으로 발전이 제한되고 있습니다. 본 논문에서는 지식 그래프 기반(KG-grounded) 파이프라인으로 생성된 빌딩 지식 그래프용 대규모 벤치마크인 Build2SPARQL을 제시합니다. 이 파이프라인은 SPARQL 쿼리를 전적으로 그래프 순회 코드로 생성 및 검증하는 반면, 대규모 언어 모델(LLM)은 자연어 질문만을 생성하도록 하여 쿼리의 정확성을 모델의 동작과 독립적으로 유지합니다. 해당 파이프라인은 선형 체인, 분기, UNION, 집계, OPTIONAL, 속성 필터링의 6가지 쿼리 패턴 패밀리를 추출하며, 각 쿼리를 5가지 어휘 레지스터에 걸쳐 표현합니다. 201개의 빌딩 지식 그래프(Brick 180개, ASHRAE 223P 21개)에 적용하여 6,136개의 실행 가능한 SPARQL 쿼리와 30,680개의 질문을 도출했습니다. 300개 질문에 대한 2인 평가자 인적 검증 결과 98.8%의 시맨틱 충실도, 98.8%의 자연스러움, 84.0%의 운영 타당성을 확인했습니다. 3개의 공개 가중치(open-weight) 언어 모델에 걸친 검색-증강 평가에서는 완전 일치(exact-match) 정확도가 0.2~20%(제로샷)에서 56~65%(3샷 검색)로 향상되었습니다.

arXiv:2607.04926v2cs.LG공통 태그 In-Context Learning

입력 경로는 소형 트랜스포머의 퓨샷 바인딩을 형성하지만 제로샷은 아니다: 완전 열거 가능한 연구

Input Pathways Shape Few-Shot, Not Zero-Shot, Binding in Tiny Transformers: A Fully-Enumerable Study

정보가 트랜스포머에 도달하는 방식, 즉 기호 토큰, 요인별로 깔끔한 "오라클" 코드, 또는 얽힌 지각 벡터 중 어느 방식인지가 트랜스포머가 그 정보를 조합적으로 결합(binding)하는지 여부를 어떻게 좌우하는가? 본 연구는 전수 열거된 유한 요인 세계에서 약 6~10K 파라미터의 트랜스포머를 연구하며, 따라서 모든 측정이 입력 공간 전체를 포괄하고 정보를 담은 경로들은 정보량이 일치한다(정확한 베이즈 상한 1.0). 네 가지 발견이 있다. (1) 종점 불변성: 보류된 결합 질의에서 어떤 정보 경로도 수렴된 제로샷 합성에 도달하지 못하며, 각 경로는 우연 수준 이하에서 끝난다. 따라서 이 실패는 정보 부족이 아니라 룩업만으로 충분한 목적함수 하에서의 귀납 편향을 반영한다. 이는 상태를 모든 토큰에 더하지 않고 고유한 시퀀스 위치에 두어도 마찬가지이다. (2) 가독성이 퓨샷 결합을 좌우한다: 보류된 유형의 작은 일부를 학습에 유출시키면 표본 효율이 코드의 가독성을 따른다. 가독성이 가장 낮은 얽힌 코드가 가장 나쁘며(통합 -0.147, 두 방식 모두), 차원을 맞춘 대조군과 단계적 가독성 스윕으로 가독성을 입력 차원과 분리하였다. (3) 경로가 아니라 주입 위치가 결정한다: v1은 가독성이 있는 경로들 사이에 남은 순서를 경로 파라미터 공유로 해석하였으나, 이는 철회한다. 비교된 경로들은 블록 분해가 가능하여 하나의 함수 클래스에 속하므로 공유는 애초에 조작된 적이 없으며, 이 순서는 브로드캐스트로 더해지는 상태의 초기화 스케일에서 비롯되고 상태에 고유한 위치를 부여하면 사라진다(+0.057 -> -0.006, 셀당 20개 쌍체 시드). (4) 실패의 해부: 기호 경로는 읽어내는 단계에서 답을 잃고, 인덱스 경로는 잘못 결합한다. 즉 답은 여전히 디코딩 가능하지만 입력 개입을 통해 보면 출력이 엉뚱한 슬롯을 따라간다. 핵심적인 긍정적 주장은 가독성이며, 나머지는 경로 비교로 확립할 수 있는 범위를 한정한다. 코드, 매니페스트, 시드별 로그를 공개한다.

arXiv:2607.04096v2cs.AI공통 태그 In-Context Learning

Forethought: 신경기호 프리미티브 프로그래밍을 통한 검증 가능한 추론

Forethought: Verifiable Reasoning from Neurosymbolic Primitive Programming

현대의 에이전트 워크플로는 사용자 요청을 올바르게 해석된 매개변수를 갖는 일련의 도구 호출로 분해하고, 그 결과를 언어 모델의 컨텍스트 창 안에서 추론 흔적을 통해 처리한다. 이러한 추론을 개선하는 지배적인 방법은 긴 사고 사슬을 탐색하도록 모델을 학습시키는 테스트 시점 스케일링이지만, 그 결과로 얻어지는 능력은 모델 가중치에 얽혀 있어 단계별로 검증할 수 없고 추론 비용도 크다. 본 논문은 타입이 지정된 도메인 특화 언어를 통해 조합되는 기호적 및 신경망 기본 요소 라이브러리로 구성된 신경기호 추론 시스템 Forethought를 제시한다. 그 결과물은 추론 프로그램, 즉 모델의 작업을 구체적으로 표현한 것으로, 모든 단계가 설계 시점에 검사되고 실행 시점에 강제되는 출력 계약을 갖는다. 기호적 단계는 구성상 성립하며, 학습된 단계는 계약 검사와 경험적 검증을 거쳐, 보장되는 것과 측정되는 것 사이의 명시적 경계를 제공한다. 도구 호출 실행 커널로 구현하여 네 가지 표준 도구 호출 벤치마크 모음에서 평가한 결과, Forethought는 동일한 기반 모델을 직접 프롬프팅한 경우에 비해 종단 간 정확도를 중앙값 기준 32% 상대적으로 향상시켰으며, 평가한 구성 중 가장 높은 종합 정확도에 도달하였다. 다만 프런티어 모델과의 차이는 단일 실행 잡음 범위 내이다. 소형 오픈 모델과 Forethought의 고정된 소형 모델 계층을 결합한 시스템은 해당 프런티어 모델과 대등한 성능을 보이며, 비추론 응답기를 사용하는 파이프라인은 추론 기반 대응 파이프라인보다 우수하면서도 단 한 번의 미세조정 단계만 요구한다. 계약 및 제어 계층을 제거하면 이러한 이득의 대부분이 사라지며, 이는 분해만이 아니라 검사된 구조가 향상을 이끈다는 것을 보여준다. 본 결과는 더 정확하고 신뢰할 수 있으며 감사 가능한 언어 모델 에이전트를 구축하는 데 풍부한 기호적 오케스트레이터가 가진 잠재력을 보여준다.

arXiv:2608.13545v3cs.CL공통 태그 In-Context Learning

LittleLearner: 교육학적으로 제어된 지식 노출 환경에서의 언어 모델

LittleLearner: Language Models Under Pedagogically Controlled Knowledge Exposure

현대 언어 모델은 이종의 웹 규모 텍스트 말뭉치로 학습됩니다. 결과적으로 관련 콘텐츠에 대한 사전 노출을 명확히 규정하기 어렵기 때문에, 지식 및 기술 습득을 연구하는 데 한계가 있습니다. 이러한 문제를 해결하기 위해, 본 연구에서는 미국 초등학교 교육 자료에 맞추어 5학년을 초과하는 학년에서 가르치는 개념, 사실 및 어휘를 명시적으로 제외하고 구축한 880억(88B) 토큰 규모의 사전학습 말뭉치인 LittleCurriculum을 소개합니다. LittleCurriculum을 기반으로 50억(5B) 매개변수 대규모 언어 모델(LLM)을 처음부터 학습(scratch)시켜, 개방형 평가를 수행하기에 충분한 언어 능력을 갖추면서도 해석 가능한 교육과정 지침에 부합하는 명확한 지식 및 능력 경계를 지닌 모델인 LittleLearner를 도출했습니다. 잘 정의된 학습 범위 내에서 모델이 데이터를 어떻게 습득하고, 표현하며, 활용하는지 연구할 수 있도록 발달적으로 제한된 샌드박스로 LittleCurriculum과 LittleLearner를 공개합니다. 또한 사후 학습(post-training)과 문맥 내 학습(ICL)을 통해 새로운 지식을 주입하는 첫 번째 일련의 실험을 통해 이 샌드박스의 유용성을 입증합니다. 이러한 방식은 LittleLearner가 기존 지식을 더 잘 활용할 수 있도록 돕지만, 범위를 벗어난 능력을 향상시키지는 못합니다. 본 연구 결과는 향후 연구를 위한 이러한 통제된 환경의 가치를 강조합니다.

arXiv:2607.08124v3cs.SE공통 태그 In-Context Learning

TTHE: 테스트 타임 하네스 진화

TTHE: Test-Time Harness Evolution

LLM 에이전트의 행동은 기반 모델뿐 아니라, 컨텍스트를 구성하고 도구를 호출하며 중간 결과를 검증하고 실패로부터 복구하는 실행 가능한 프로그램인 하네스(harness)에 의해서도 결정된다. 기존 접근법은 대체로 학습 또는 개발 데이터에서 하네스를 최적화한 뒤 그 결과 프로그램을 테스트 시점에 고정하므로, 과제 분포, 실패 양상, 도구 상호작용의 변화에 대한 적응이 제한된다. 우리는 레이블 없는 실행 궤적을 이용해 평가 중에 하네스를 대신 최적화할 수 있는지를 묻는다. 실행 가능한 하네스를 테스트 시점 적응의 상태로 취급하는 Test-Time Harness Evolution(TTHE)을 제안한다. 레이블 없는 각 테스트 배치에서 TTHE는 실행 궤적을 바탕으로 추론하고 다양한 수정 방향을 탐색하는 에이전트형 제안자를 통해 후보 하네스 집단을 반복적으로 진화시킨다. 판정자는 실행 궤적과 실행에서 도출된 대리 신호를 이용해 후보를 선택한다. 선택된 하네스가 현재 배치의 출력을 결정하고 다음 배치의 적응을 초기화한다. 중요한 점은, 해결자, 제안자, 판정자가 동일한 고정 LLM을 둘러싼 서로 다른 하네스를 통해 동작하며, 가중치 갱신, 최종 답 레이블 접근, 별도로 학습된 적응 모델이 없다는 것이다. text-to-SQL, 경쟁 프로그래밍, 소프트웨어 엔지니어링, 데이터 과학 코딩, 터미널 기반 과제, 에이전트형 도구 사용에 걸친 여섯 가지 실행 기반 벤치마크에서 TTHE는 지속적이고 검사 가능한 프로그램 적응을 통해 고정된 ReAct 방식 기준선 하네스를 개선한다. 이러한 결과는 LLM 에이전트의 테스트 시점 적응을 실행 가능한 제어 프로그램에 대한 진화로 재정의하며, 실행에서 도출된 대리 신호의 신뢰성을 견고한 비지도 에이전트 개선의 핵심 과제로 제시한다.

arXiv:2607.13472v2cs.RO공통 태그 Navigate

EgoHTR: 자아시점 4D 인간 지형 통과 시연

EgoHTR: Egocentric 4D Demonstrations of Human Terrain Traversal

비정형 지형에서 휴머노이드 로봇을 배치하는 것은 여전히 미해결 문제이다. 전통적인 강화학습은 실세계 상호작용의 막대한 복잡성 때문에 어려움을 겪는 반면, 인간 사전지식(human priors)을 활용하는 더 유망한 방법들은 맥락 인식이 부족한 모델에 국한되어 있다. 제한된 동작 합성은 기존 데이터셋 파이프라인이 어려운 환경에서 인간-장면(human-scene) 시퀀스를 포착하지 못하는 데서 비롯된 직접적인 결과이다. 휴머노이드 학습과 장면 재구성(scene reconstruction) 사이의 이러한 격차를 메우기 위해, 우리는 자아시점 인간-지형 재구성(Egocentric Human-Terrain Reconstruction, EgoHTR) 데이터셋을 제안한다. 우리는 자아시점 웨어러블과 휴대용 3D 스캐너로 구성된 다중 센서 설정을 사용하여 다양하고 복잡한 환경에서 55개의 장면 정렬(scene-aligned) 4D 인간 동작 시퀀스를 포착하는 재구성 파이프라인을 개발하고 오픈소스로 공개한다. 결과 데이터셋은 15만 프레임 이상으로 구성되며, 우리는 이를 모션 캡처(motion-capture) 정답(ground truth)과 비교 평가하여 최첨단 수준의 정확도를 보여 주고, 인간 동작 분석 및 합성을 위한 엄격한 벤치마크를 확립한다. 또한, 우리는 이 데이터를 활용하여 지각적(perceptive) 보행(locomotion) 정책을 학습하고, 재구성된 기준(reference) 동작에 대해 Unitree G1에서 하드웨어 배포를 시연한다. 우리의 파이프라인은 커뮤니티 주도의 데이터셋 확장을 가능하게 하며, 문제를 분해하여 연구자들이 불균일한 지형을 안정적으로 통과하는 기반적이고 맥락 인식이 가능한 로봇을 구축할 수 있도록 돕는다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.