karya.in

이 이메일 도메인이 관측된 논문 2건

arXiv:2609.00764v1cs.LG

당신도 제가 생각하는 것을 생각하고 있나요?: 신경망 아키텍처의 개념 분리 분석

Are You Thinking What I am Thinking? : Examining Conceptual Separation in Neural Architectures

신경망은 명확하게 정의된 개념과 모호한 개념을 모두 식별하는 데 점점 더 많이 활용되고 있지만, 출력 수준의 지표만으로는 이러한 개념이 내부적으로 어떻게 표현되는지를 거의 알 수 없다. 본 연구는 이러한 신경망이 \textit{개념 분리(conceptual separation)}를 보이는지, 즉 동일한 개념에 속하는 예시들이 일관된 표현을 형성하는지, 그리고 관련된 개념들이 표현 공간에서 서로 더 가까이 위치하는지를 묻는다. 우리는 합성곱 신경망(CNN)과 대규모 언어 모델(LLM)의 내부 활성화(activation)에 대한 기하학적 분석과 분포 분석을 통해 이러한 개념적 조직을 살펴본다. CNN에서는 익숙한 ImageNet 개념들이 일관되고 의미적으로 질서 있는 표현을 형성하는 반면, 이러한 일관성은 학습하지 않은 개념에서는 약해지며 클래스 내 도메인 변화(domain shift)의 영향을 받는다. LLM에서는 명확히 구별되는 도메인들은 잘 분리된 상태를 유지하고, 관련된 하위 도메인들은 서로 더 가까워지며, 모호한 주제 간의 구분은 평균과 공분산 수준 모두에서 무너진다. 이러한 결과는 개념 분리가 출력 정확도만으로는 드러나지 않는 구조를 밝혀낼 수 있으며, 모델이 식별하도록 요구받은 개념을 얼마나 견고하게 표현하는지를 진단하는 유용한 도구가 될 수 있음을 시사한다. 코드와 데이터는 \href{https://github.com/JaeeRoshniCapstoneProject/Are-You-Thinking-What-I-m-Thinking-Examining-Conceptual-Separation-in-Neural-Architectures}{GitHub}에서 확인할 수 있다.

arXiv:2607.25581v1cs.CL

코드 혼재 음성의 강제 정렬 평가: 힌디어-영어 사례를 중심으로

Evaluation of forced alignment of code-mixed speech: the case of Hindi-English

코드 혼재(code-mixed) 음성은 음소 목록 확장, 맞춤법 오류, 화자 변이 등 강제 정렬(forced alignment)에 독특한 과제를 안겨줍니다. 본 연구에서는 Montreal Forced Aligner를 사용하여 힌디어-영어 코드 혼재 음성의 강제 정렬을 평가합니다. 우리는 두 가지 문제를 다룹니다: (1) 모국어 대 비모국어 쌍과 관련된 자유 변이, (2) 발화 중간에 나타나는 영어 단어의 음소 경계 감지. 부트스트래핑 전략은 수정되지 않은 사전에 비해 성능이 크게 우수했습니다. 문장 수준의 코드 혼재 데이터로 학습(training)된 음향 모델은 4.15ms의 평균 오차를 달성했는데, 이는 단일 언어 힌디어(38.18ms) 또는 단독 영어(37.58ms) 대안보다 10배 낮은 수준입니다. 체계적인 어휘 사전 설계와 코드 혼재 학습 데이터는 모두 이중 언어 음성의 신뢰할 수 있는 정렬을 위해 필수적입니다.