정원길 문장 처리 난이도는 어휘적 놀람도(surprisal)로는 잘 설명되지 않아, 구문 트리에 대한 확률 분포를 단어마다 갱신하고 그 변화량을 일반화된 Rényi divergence로 측정하는 구문적 믿음 갱신(Syntactic Belief Update)을 제안한다. 이 지표는 어휘 확률과 독립적이면서도 정원길 문장에서의 인간 읽기 시간 패턴을 더 잘 맞추며, 심리언어학에서 비어휘적 처리 난이도 척도를 탐구할 새 방향을 제시한다.
리들 리들(riddle riddle) 패러다임은 수수께끼 형식이지만 문자 그대로 해석하면 되는 문제를 통해 LLM의 성능이 유연한 추론인지 학습 데이터 패턴 매칭인지를 검증한다. 최신 LLM 9개와 인간 100명 실험에서 LLM은 진짜 수수께끼에서 정확도가 높고 리들 리들에서 급락하는 반면 인간은 정반대 패턴을 보였으며, LLM 오류의 대부분은 형식에 반응해 불필요한 기발한 추론을 적용한 데서 비롯되었다.
Brain Treebank, MEG-MASC, Podcast ECoG의 자연주의 이해 데이터에서 8개 고정 언어 모델과 블록 인코딩 모델로 분석한 결과, hold-out 신경 예측과 저수준 기준선 대비 개선은 광범위했으나 데이터셋·참가자·모델 구성별로 이질적이었다. 언어 모델 특징은 자연스러운 음성·텍스트 이해 중 신경 활동을 주석화하는 데 유용하지만, 그 예측적 유용성은 공유된 신경 조직이나 언어 처리 계산을 직접 뒷받침한다고 보기 어렵다.
대화형 메모리 검색에서 관련성은 있지만 이후 턴에 의해 갱신·수정·대체된 메모리를 구분하기 위해 ConvMemory v3는 v1/v2 검색 경로 뒤에 목표 조건 관계 검증 기반 유효성 컨텍스트 층을 둔다. MiniLM과 DeBERTa-v3 슬롯 헤드의 이중 근거 게이트는 합성 다중 홉 벤치마크에서 90.12% 정확도를, Memora 역할 바인딩 전이에서는 98.8% group-all-correct를 달성하며, opt-in 강등 모드는 current-active H@1을 45.1%에서 95.7%로 높이면서 비대체 메모리 재현율 99.4%를 유지한다.
SocialPersona는 171명의 종단적 소셜 미디어 타임라인(텍스트·이미지·타임스탬프)에서 드러난 선호를 복원해 프로파일을 구축하고 대화에 반영하는 멀티모달 LLM(MLLM) 개인화 능력을 평가하는 벤치마크로, 안정적 관심과 최근 관심을 구분하는 7개 도메인·2,597개의 사람 검증 선호 태그를 제공한다. 독점·오픈 가중치 MLLM 실험에서는 넓은 관심 도메인 식별은 가능하나 세분화·최근 관심 추론과 추론된 프로파일 기반 대화 개인화에서 성능이 크게 떨어지며, 텍스트와 이미지가 상보적 선호 신호를 제공한다는 점에서 강건한 cross-modal 장기 사용자 모델링이 핵심 과제로 남아 있음을 보인다.
일본어 자연어 처리(NLP) 지표 추출과 쌍체 검정·시프트 함수 분석·지표 간 상관을 결합한 다차원 종단 텍스트 분석으로 일본 2019년 공시 개혁 이후 10년간 19,770건의 위험 공시를 평가했으며, 공시 분량 증가와 가독성 하락, 정보 구조 개선과 특정 서술 품질 정체, 시장 부문별 적응 차이처럼 단일 지표로는 드러나지 않는 복합적 변화를 확인했다.
문장 단위 미디어 바이어스 탐지가 문장 간 문맥을 무시하는 한계를 HierBias가 문서 문맥을 계층적으로 반영하는 구조로 보완하며, 문장 수준 RoBERTa 인코더와 문장 간 Transformer 집약기로 이진 탐지와 4클래스 유형 분류를 다중 과제로 공동 학습한다. BABE와 BASIL에서 F1 0.853, MCC 0.723을 달성해 최첨단 바이어스 탐지기 대비 F1 +2.6%, MCC +4.3%를 기록했다.
다중 수준 헤더, 병합 셀, 이질적 레이아웃을 갖는 복잡한 표에서 기존 선형화·격자 모델링이 계층 구조와 교차 차원 종속성을 놓치는 문제를 해결하기 위해, 공간-의미 공동 제약으로 열·행 트리를 분리 유도하는 직교 계층 분해(OHD)와 이중 경로 연관, LLM 의미 중재를 결합한 구조 보존 표현을 제안한다. AITQA와 HiTab 복잡 표 질의응답 벤치마크에서 OHD는 여러 평가 지표에서 기존 표현 패러다임을 일관되게 능가했다.
의미역 할당(SRL)은 텍스트 내 술어-인수(predicate-argument) 구조를 이해하고 하위 응용을 가능하게 하는 자연어 처리(NLP)의 핵심 과제이다. 광범위한 연구에도 불구하고, 통합적 관점에서 해당 분야를 비판적으로 종합하는 포괄적 서베이는 여전히 부족하다. 본 서베이는 기존 연구를 정리하는 것을 넘어 여러 기여를 한다. 우리는 모델 아키텍처, 구문 특징 모델링, 응용 시나리오, 멀티모달 확장을 축으로 SRL 연구를 분류하는 통합 4차원 분류체계를 제안한다. 구문 특징이 언제, 왜 도움이 되는지에 대한 비판적 분석을 제공하며, 구문 보조 접근법이 구문 비사용 대안 대비 일관된 이득을 제공하는 조건을 밝힌다. 대규모 언어 모델(LLM) 시대의 SRL에 대한 최초의 체계적 논의를 제공하며, LLM과 전문 SRL 시스템의 상보적 역할을 검토하고 하이브리드 접근의 방향을 제시한다. SRL 서베이의 범위를 시각, 비디오, 음성 모달리티를 포함한 멀티모달 설정까지 확장하고, 이러한 모달리티 간 평가의 구조적 차이를 분석한다. 문헌은 ACL Anthology, IEEE Xplore, ACM Digital Library, Google Scholar에 대한 체계적 검색을 통해 수집하였으며, 2000년부터 2025년까지의 출판물을 대상으로 명시적 포함·제외 기준을 적용하여 약 200편의 핵심 참고문헌을 도출하였다. SRL 벤치마크, 평가 지표, 패러다임 모델링 접근법을 도메인 전반의 실용적 응용과 함께 논의한다. 대규모 언어 모델과 더 넓은 NLP 영향력 속에서 변화하는 SRL의 역할을 다루며, 향후 연구 방향을 분석한다.
알제리 방언을 위한 End-to-End 음성-음성 대화 시스템 Dziri Voicebot은 자동 음성 인식(ASR), 자연어 이해(NLU), 검색-증강 생성(RAG), 음성 합성(TTS)을 하나의 모듈형 파이프라인으로 통합해 표준 표기 부재, 프랑스어 코드스위칭, 주석 음성 자원 부족 같은 저자원·방언 환경의 과제를 다룬다. 통신 도메인 전용 데이터셋으로 Whisper 기반 ASR, 트랜스포머 임베딩과 과제 지향 대화 NLU, 신경망 TTS를 파인튜닝한 결과 ASR 단어 오류율 13.74%, 의도 분류 98.4%, 개체 F1 93.9%, 안정적인 음성 합성 품질을 달성했다.
Voice control offers an intuitive alternative to manual drone piloting, yet most existing systems rely on rigid command vocabularies that fail to handle the spontaneous, disfluent speech of naive users. This paper addresses this gap by proposing an End-to-End Spoken Language Understanding architecture for real-time human-drone interaction in French. Our model combines a frozen Self-Supervised Learning acoustic encoder with a lightweight LSTM-based classification head, augmented by a cross-modal knowledge distillation objective that aligns acoustic representations with semantic embeddings from a text teacher, without requiring transcription at inference time. We evaluate our approach on VoiceStick, a novel French corpus of spontaneous speech collected during real teleoperation sessions with 29 nonexpert dyads. On simple voice commands, our best configuration achieves 93% accuracy at 7 ms inference latency, outperforming cascade baselines (79%, 202 ms) with a 29x speedup. On the full spontaneous speech test set, our architecture reaches 82% accuracy, with crossmodal distillation consistently improving robustness across all configurations. These results demonstrate that End-to-End architectures are not only feasible but preferable for spontaneous voice-guided UAV teleoperation, combining semantic robustness, low latency, and calibrated confidence.
10억 명 이상이 사용하는 인도계 언어의 자연어 처리(NLP) 인프라는 언어별로 파편화되어 있으나, 산스크리트 중심 수렴으로 공유된 파니니(Pāṇini) Astādhyāyī 형태통사 틀이 어족 경계를 넘는다는 점을 짚고, 형태 분할·태깅, 파니니 의존 구문, 의미역 표지, 확장 인도 언어권 교차언어 평가로 구성된 4부 벤치마크를 통해 이 구조를 명시화하면 정확도·데이터 효율·교차언어 전이가 개선될 것을 주장한다. 또한 해당 언어로 학습한 신경망이 파니니 범주를 스스로 표상하는지에 대한 해석가능성 질문을 제기한다.
회귀형 end-to-end 음성 언어 이해(SLU)에서 특정 intent만 억제하면 intent prefix가 주어질 때 slot 생성 조건부 매핑이 남는 capability persistence 문제를 지적하고, Binding Subspace Unlearning(BSU)로 intent-slot 결합 표현 방향을 격리·약화하는 표현 수준 언러닝을 제안한다. SLU 벤치마크에서 BSU는 강제 prefix 복원 가능성을 크게 줄이면서(BRR@10 약 60%, 의미 유사도 약 56% 감소) 유지 intent 성능은 보존한다.
Competency Questions (CQs) are the central component of CQ-verification, an established process in which an ontology is evaluated against a set of natural language questions to determine whether the intended purpose of the ontology has been properly modelled. However, CQ-verification is often time-consuming and error-prone, as it requires careful interpretation of linguistic nuances and precise alignment with formal ontology constructs. Ambiguities and complexity in CQs can further complicate this process, leading to inconsistent modelling decisions and verification outcomes. In this paper, we investigate what makes a CQ challenging and possible solutions to enhance the users' performance in the CQ-verification process. We experimented with the data of 19 participants who performed CQ-verification on 20 tasks using an LLM assistant to support ontology evaluation. The results show the necessity of a tool to refine CQs before publishing them to avoid ambiguity or excessive complexity in later phases of the ontology engineering process.
자연어 바이어스를 세그먼트 수준 다중 클래스 분류, 편향 span 위치 특정, 중립 텍스트 재작성, 결정별 추론으로 통합 처리하는 오픈소스 툴킷 UnBias-Plus를 제안하며, Python·CLI·REST API·웹 인터페이스로 제공된다. Qwen3-8B·Qwen3.5-4B 파인튜닝 모델은 BABE 외부 분포 테스트에서 바이어스 감소·비편향 텍스트 보존과 재작성·세그먼트 편집 품질 사이의 트레이드오프를 보였고, 모델·코드·데이터셋이 공개된다.
ModernBERT-base를 FineWeb2 기반 120억 토큰 말뭉치에 600억 토큰 지속 사전학습(continued pretraining)하여 만든 포르투갈어 인코더 moBERTo를 제안하며, 포르투갈어 토크나이저·서브워드 매칭 임베딩 전이·8,192 토큰 장문맥 사후학습을 결합한 변형이 세 포르투갈어 검색 벤치마크의 평균 리랭킹 nDCG@10과 PLUE-PT에서 최고 성능을 기록한다. 정보 검색·장문맥 검색·문서 분류·개체명 인식·자연어 이해 평가와 어블레이션을 통해 지속 사전학습이 장문맥 능력 보존에 유리하고, 인코더 전용 아키텍처가 판별 작업에서 더 큰 디코더 전용 모델과 경쟁력을 유지함을 보인다.
고위험 직장 협상 준비를 위한 이론 기반 AI 코칭 시스템 Trucey에서 명료화·개인화·분할 전달·구조화 스캐폴딩 네 가지 가정을 검증했으나, 사전 등록 실험(N=267)과 인터뷰(N=15)에서 정적 핸드북이 두 AI 조건보다 역량 강화와 사용성에서 더 나은 결과를 보였다. 연구는 대화형 AI가 본질적으로 재귀적인 준비 과업에 선형 실행 모델을 부과한다는 점을 밝히고, 향후 AI 코칭 설계를 위한 지도→경로→시뮬레이션 순서 원칙을 제안한다.
대규모 언어 모델(LLM)은 관습적 표현을 쉽게 재현할 수 있지만, 그래디언트 빈도 분포를 모델링하는 능력은 아직 충분히 탐구되지 않았다. 우리는 men and women과 같은 언어학적 이불(binomial)을 사용하여 이를 조사한다. 두 단어 순열 모두 문법적으로는 타당하지만, 관습성에서는 언어 간에 뚜렷한 차이를 보인다. 이불 순서를 분포 정렬(distributional alignment) 문제로 형식화하고, 8개 언어에 걸친 600개의 이불 쌍으로 구성된 다국어 데이터셋을 구축한다. 범주형 및 분포 지표를 사용하여 코퍼스에서 도출된 선호를 6개의 오픈 가중치 LLM이 유도한 순서 확률과 측정·비교한다. 모델은 특히 강하게 관습화된 쌍에 대해 코퍼스에서 우세한 선호 순서를 행동적으로 자주 복원하지만, 정확한 코퍼스 선호 분포와는 덜 잘 정렬된다. 이는 표면적인 방향성 순서가 LLM이 언어 사용의 통계적 미묘함을 얼마나 충실히 포착하는지를 과대평가한다는 것을 시사한다. 희소 프로빙(sparse probing)을 통해 선호 강도 개념이 중간~후기 층에 부분적으로 인코딩되어 있음을 확인했으며, 프로브에서 도출된 방향을 따라 스티어링(steering)하면 모델이 유도한 순서 분포가 바뀌어, LLM의 통계적 행동 선호를 내부 표상을 통해 기계적으로 측정하고 조작할 수 있음을 보여준다.
AI의 인지적 기초에 관한 많은 연구는 대규모 언어 모델(LLM)과 인간이 정보를 처리하고 이를 표상하는 방식을 비교하는 데 초점을 맞춰 왔다. 이러한 비교의 한 측면은 LLM이 다양한 인지적으로 흥미로운 과제에서 인간의 성능에 도달하거나 이를 능가할 수 있는 정도를 판단하는 것을 포함한다. 다른 측면은 정보 처리에 있어 LLM과 인간 시스템 간의 수렴과 분기 지점을 탐구하는 것이다. 여기서는 두 정보 영역에서 두 문제 모두를 다룬 최근 연구를 검토한다. 첫 번째는 언어적 지식의 표상이고, 두 번째는 실세계 추론과 계획(planning)이다. LLM은 언어 응용에서 종종 인상적인 수준의 성능과 유창성(fluency)을 달성하지만, 언어적 내용을 인간의 처리 방식과는 구별되는 방식으로 다루는 경향이 있다. 또한 대체로 추론 과제에서의 학습과 일반화(generalisation) 측면에서 인간보다 효율성이 낮다.
협력적 문제 해결(CPS)은 교육에서 핵심 역량이며, 동료 간 상호작용 과정이 매우 중요하다. 그러나 기존 교육 대화 데이터셋은 대부분 수업 또는 과외(즉, 교사/튜터-학생 상호작용)에 초점을 맞추고 있으며, 소집단 학생-학생 상호작용을 중심으로 한 데이터셋은 제한적이다. 따라서 실제 교육 환경에서 학생들이 어떻게 상호작용하고, 조율하며, 함께 문제를 해결하는지 연구할 수 있는 자원이 제한적이다. 이를 해결하기 위해 우리는 실제 중학교 수학 교실에서 수집한 동료 CPS 대화의 최초 데이터셋인 PeerMathDial을 소개한다. 이는 27명의 학생으로부터 55개의 대화를 포함하며, 총 6,406턴으로 구성된다. CPS 담화 분석 연구를 촉진하기 위해, 우리는 LLM의 지원을 받아 코퍼스 기반 대화 행위 분류체계를 추가로 구축한다. 데이터셋과 대화 행위 분류체계를 활용하여, 우리는 세 가지 사용 사례에서 PeerMathDial의 실용적 적용을 보여준다. 첫째, 대화가 시간에 따라 어떻게 변화하는지 추적하고 교사 개입의 영향을 측정한다. 둘째, 대화 행동을 학생 설문과 정렬하여 학생의 특성(예: 자신감, 리더십)과 실제 행동 간의 연관성을 밝힌다. 셋째, 대화 행위 예측에서 LLM을 평가함으로써 교육 응용에서 학생 시뮬레이션을 위한 LLM의 잠재력을 엿본다. 우리의 데이터셋과 소스 코드는 커뮤니티에 공개될 예정이다.