PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2510.17168v2cs.CL

AI 귀속 아이러니의 신경 역학이 부분적인 의도적 입장을 드러낸다

Neural Dynamics of AI-attributed Irony Reveal a Partial Intentional Stance

대규모 언어 모델(LLM)이 점점 더 사회적 에이전트로 배치되고 유머와 아이러니를 생성하도록 학습됨에 따라, 한 가지 질문이 떠오른다: 재치 있는 AI 발언을 접할 때, 사람들은 이를 의도적인 의사소통 행위로 해석하는가? 본 연구는 AI 귀속 아이러니를 이해할 때 사람들이 의도적 입장—행동을 설명하기 위해 정신 상태를 부여하는 것—을 채택하는지 조사했다. 아이러니는 이해에 있어 화용론적 재분석을 통해 의도적인 모순과 의도하지 않은 오류를 구별해야 하므로 좋은 실험 환경을 제공한다. 뇌전도(EEG)를 사용하여 사건 관련 전위(ERP)를 측정함으로써, AI 동반자 또는 인간 중 어느 한쪽에 귀속된 동일한 아이러니적 발화에 대한 행동 및 신경 반응을 비교했다. 우리는 사람들이 AI 의사소통에 대해 의도적 입장을 완전히 채택하지 않는다는 것을 발견했다. 참가자들은 맥락적으로 부조화적인 발화를 AI에 귀속했을 때 인간에 귀속했을 때보다 아이러니로 해석하는 빈도가 유의미하게 낮았다. 이에 상응하여, 초기 의미 처리(P200)와 화용론적 재분석(P600) 모두에서 인간 귀속 아이러니에 비해 AI 귀속 아이러니에 대한 신경 반응이 약화된 것을 관찰했다. 또한, 이러한 신경 반응은 AI의 진정성과 신뢰성에 대한 개인적 인식에 의해 조절되었으며, 긍정적 인식은 인지적 노력을 줄임으로써 화용론적 이해를 촉진했다. 이는 AI에 대한 의도적 입장의 채택이 인공 에이전트에 대한 사람들의 정신 모델에 의해 동적으로 형성되는 유연하고 적응적인 과정임을 시사한다. 이러한 발견은 의사소통 능력의 발전에도 불구하고 AI 시스템이 사회적 주체성에 직면한 장벽을 마주하고 있음을 보여준다: 인간은 인공 대화 상대로부터의 입력을 의도성 부여가 감소된 상태로 처리한다. 이는 인간의 사회적 인지를 이해하고 사회적 상호작용을 목적으로 하는 AI 시스템을 설계하는 데 중요한 함의를 갖는다.

arXiv:2607.03598v1cs.CL

모델은 당신이 의미한 바를 추론한다: 모델은 의사소통 의도를 행동보다 더 신뢰할 수 있게 표상한다

They Infer What You Meant: Models Represent Communicative Intent More Reliably Than They Act On It

사람이 언어 모델과 무언가를 공유할 때, 모델은 종종 발신자가 그것을 보낸 행위가 아닌 메시지의 표면에 답한다: 완성된 프로젝트를 공유하면 코드를 비평하고, 깊은 밤에 쓴 날 것의 글을 공유하면 정서 상태를 점검한다. 우리는 발신자의 의사소통 의도—그라이스식 '의미된 것(what-was-meant)'—를 일급 해석 가능성 객체로 취급하며, 이 실패가 견고한 표상 위에서의 판독(readout) 문제임을 보인다. 선형 프로브는 모델의 기본 패스 은닉 상태로부터 발신자의 의도—인식을 원하는지 평가를 원하는지—를 깔끔하고 표면과 무관하게 디코딩하며, 이는 6개 모델과 4개 계열에 걸쳐, 그리고 기본 체크포인트에서도 성립한다. 이 표상은 화용론적으로만 추론되는 의도와, 어휘적으로 명확한 두 번째 의도(지지 vs. 도움)로도 일반화된다. 행동 측면과 모든 인과 검증은 인식/평가 대조에서 확립되며, 여기서 변하는 것은 기본 출력이 의도에 따라 행동하는지 여부이다. 판독은 모델 내 층 깊이에서 표상보다 뒤처지며(의도는 출력을 구동하기 몇 층 전부터 디코딩 가능하다); 모델 간에는 기본적으로 의도에 따라 행동하는지 여부가 모델마다 달라, 우리가 스케일링 법칙으로 해석하지 않는 관찰된 계층화(6개 중 3개가 실패를 보임)가 나타난다. 격차가 있는 경우, 표상과 긴밀하게 연결된 방향—탐색된 층에서의 판별 방향—이 인과적 제어 수단이 된다: 이를 조향하면 명시적 지시와 동등하게, 프롬프트 없이도 의도된 행동이 회복된다. 이 방향은 피드백 제공 축에 거의 직교하므로, 일반적인 피드백 조절 장치가 아닌 표상된 의도를 경유하지만, 회복 용량에서 경유된 의도는 명시적 요청을 무효화할 수 있다. 우리는 명백한 무효화에 대한 통제를 통해 각 연결을 뒷받침하고, 귀무 결과를 확인 결과만큼 명확하게 보고한다.

arXiv:2606.20255v1cs.CL

레지스터 격차: 나이지리아 공적 담론을 위한 의미 지능 프레임워크

The Register Gap: A Meaning Intelligence Framework for Nigerian Public Discourse

우리는 표면적 감정과 진정한 소통 의도를 분리하는 나이지리아 공적 담론을 위한 9차원 주석 및 평가 스키마인 의미 지능 프레임워크(MIF)를 소개합니다. NaijaSenti와 AfriSenti를 포함한 기존 나이지리아 언어 벤치마크는 감정 분류를 3가지 극성 작업(긍정, 부정, 중립)으로 다룹니다. 우리는 나이지리아 담론에서 AI 시스템의 주요 실패 양상이 번역 실패가 아니라 맥락 실패라고 주장합니다. 즉, 화자, 청중, 상황에 따라 동일한 발화가 상반된 화용론적 힘을 가질 수 있기 때문입니다. MIF는 레지스터, 표면적 감정, 진정한 의도, 아이러니, 암호화된 서브텍스트, 위험 등급, 주석자 신뢰도, 화자 감정, 권장 커뮤니케이션 행동이라는 9가지 채점 차원에 걸쳐 이러한 통찰을 구체화합니다. 우리는 표준 영어, 나이지리아 영어, 나이지리아 피진, 코드 혼합 레지스터에 걸친 30개 항목의 보정 데이터셋을 구축하고, 제로샷 및 스키마 정보 제공 프롬프트 조건 하에서 최첨단 언어 모델(Gemini 2.5 Flash)을 평가합니다. 주요 발견은 레지스터 격차입니다. 제로샷 레지스터 분류 정확도는 33.3%이지만, 모델이 문맥 내에서 MIF 스키마를 제공받으면 73.3%(+40 포인트)로 상승합니다. 스키마 정보 제공 프롬프팅 하에서 종합 의미 지능 점수가 5.4 포인트(73.2에서 78.6으로) 증가했으며, 레지스터 식별, 암호화된 서브텍스트 감지(+10 포인트), 전략적 조치 권장(+10.3 포인트)에서 가장 큰 실질적 이득을 보였습니다. 우리는 재현성을 지원하기 위해 프레임워크 사양, 주석 가이드라인, 30개 항목의 공개 보정 세트를 공개하며, 데이터 오염 방지 평가를 위해 비공개 홀드아웃 말뭉치는 유지합니다.