PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.11515v1cs.CL

종카어 다음 단어 예측 시스템

Dzongkha Next Word Prediction System

종카어(Dzongkha)는 부탄의 국가 언어로서 국내에서 광범위하게 사용되는 언어이다. 공식 문서, 경전, 기타 문학 작품은 문화적 가치를 보존하기 위해 종카어로 작성된다. 그러나 종카어 문서화는 스크립트의 복잡성, 음절당 다수의 키 입력 필요성, 효율적인 입력 도구의 부족으로 인해 어렵고 시간이 많이 소요되는 과정이다. 종카어에 대해 가능한 단어 목록을 예측하고 표시하는 즉각적인 시스템이 이 문제의 해결책이다. 본 프로젝트는 키 입력 횟수를 줄여 종카어 타이핑을 최대한 편리하게 만드는 것을 주요 목표로 한다. 데이터셋은 DCDD에서 수집하였으며 총 100,000개의 문장, 1,331,282개의 단어, 28,344개의 고유 단어로 구성된다. 데이터 전처리는 모든 영숫자 문자 제거, 토큰화, N-gram 시퀀스 생성 및 패딩을 통해 수행되었다. 학습에 선택된 세 가지 모델은 LSTM, Bi-LSTM, GRU이다. 학습 과정에는 모델의 하이퍼파라미터 미세조정이 포함되었다. GRU는 경량이면서 대규모 데이터셋을 처리할 수 있어 74.03%의 정확도로 가장 우수한 성능을 보였으며 과적합 문제도 해결하였다.

arXiv:2607.11279v1cs.CL

FAD-SA-GRU: 특징 증강 셀프 어텐션 GRU 네트워크를 통한 알제리 방언 혐오 발언 탐지 향상

FAD-SA-GRU: Enhancing Hate Speech Detection in Algerian Dialect Through Feature-Augmented Self-Attention GRU Networks

소셜 미디어 플랫폼의 광범위한 확산은 사용자들이 정보와 의견을 즉각적으로 교환할 수 있게 함으로써 온라인 커뮤니케이션을 변화시켰다. 그러나 이러한 플랫폼들은 동시에 욕설 및 혐오 콘텐츠의 확산을 용이하게 하여 심각한 사회적, 심리적, 윤리적 과제를 야기하고 있다. 혐오 발언은 민족, 종교, 성별, 국적, 정치적 성향 등의 속성을 이유로 개인이나 집단에 대한 차별, 괴롭힘, 폭력을 선동할 수 있다. 이에 따라 자동 혐오 발언 탐지는 자연어 처리(NLP)의 주요 연구 주제이자 콘텐츠 모더레이션 시스템의 핵심 구성 요소가 되었다. 본 논문은 소셜 미디어에서 알제리 아랍어 방언(다리자)의 자동 혐오 발언 탐지를 연구한다. 이 과제는 아랍어, 프랑스어, 아라비지(라틴 알파벳으로 표기된 아랍어)가 공존하는 방언의 언어적 다양성으로 인해 여전히 난제로 남아 있다. 우리는 네 가지 범주의 텍스트 분류(classification) 접근법을 비교한다: (1) TF-IDF 특징(feature)을 활용한 전통적인 머신러닝 모델, (2) 순환 신경망 기반의 심층 학습(deep learning) 모델, (3) DziriBERT 및 다국어 BERT(bert)를 포함한 트랜스포머(transformer) 기반 언어 모델, (4) DZ FastText, DZ AraVec, DziriBERT의 의미론적 표현을 다중 임베딩(embedding) 융합을 통해 결합하고 셀프 어텐션(attention) 강화 GRU 인코더를 뒤에 적용한 새로운 하이브리드 아키텍처 FAD-SA-GRU. 이진 혐오 발언 분류를 위해 주석이 달린 알제리 다리자 소셜 미디어 댓글 데이터셋(dataset)을 대상으로 한 실험에서 FAD-SA-GRU는 정확도 93.2%, 정밀도(precision) 93.4%, 재현율(recall) 91.0%, F1-점수 92.1%, ROC-AUC 97.0%를 달성하며 모든 베이스라인을 능가했다. 결과는 저자원 방언 아랍어에서 강건한 혐오 발언 탐지를 위해 보완적인 임베딩 표현과 어텐션 기반 시퀀스 모델링을 결합하는 것의 효과를 입증한다.

arXiv:2607.10208v1cs.LG

농업 분야 기상 매개변수 예측을 위한 심층 학습 모델의 탐색적 분석

Exploratory Analysis of Deep Learning Models for Forecasting Meteorological Parameters in the Agricultural Sector

정확한 기상 예측은 농업 계획, 관개 관리, 환경 의사결정 지원에 필수적이다. 본 연구는 기준 증발산량($ET_0$), 수증기압 포차(VPD), 풍속, 풍향의 사인 및 코사인 성분에 대한 다변량 예측을 위해 순환 및 하이브리드 심층 학습 아키텍처를 비교 평가한다. 분석에는 OpenMeteo Historical Weather API를 통해 ERA5에서 수집한 그리스 이오아니나 지역의 2011년 1월부터 2026년 4월까지 총 134,376개의 시간별 관측값이 활용된다. 단층 및 다층 GRU와 LSTM 네트워크를 하이브리드 1D-CNN-GRU 및 1D-CNN-LSTM 모델과 비교하며, 두 가지 예측 과제—24시간 익일 예측과 168시간 주간 예측—를 수행한다. 성능은 정규화 평균제곱근오차, 결정계수, 복합 가중 지수 점수(WQS)를 사용하여 평가한다. 순수 순환 모델 중 가장 효과적인 모델은 24시간 예측 구간에서 WQS 0.816755를 기록한 64-유닛 LSTM이며, 168시간 예측 구간에서는 WQS 0.779465를 기록한 1024-유닛 GRU이다. 하이브리드 CNN-GRU 모델은 24시간 및 168시간 예측 구간에서 각각 0.827535와 0.782863으로 전체 최고 점수를 달성하였으나 LSTM 모델에 비해 유닛 수가 더 많은 반면, CNN-LSTM 모델은 파라미터 수를 크게 줄이면서도 거의 동일한 결과를 산출한다. 대응하는 순환 기준 모델과 비교하였을 때, 하이브리드 모델은 24시간 구간에서 WQS를 1.22--1.63\%, 168시간 구간에서 0.44--0.45\% 향상시키며, 합성곱 특징 추출이 단기 예측에 더욱 유익함을 시사한다.

arXiv:2606.18393v1eess.SY

잠재적 연료 반응성 추정을 통한 다중 연료 압축 착화(CI) 엔진의 연소 위상 제어를 위한 학습 기반 의사결정

Learning-Based Decision Making for Combustion Phasing Control in Multi-Fuel CI Engines with Latent Fuel Reactivity Estimation

다중 연료 압축 착화 엔진에서 시변하는 잠재 연료 반응성(세탄가) 하 CA50 연소 위상 제어를 부분 관측 순차 의사결정 문제로 두고, 연소 이력으로 GRU가 연료 반응성을 추정해 액터-크리틱 강화학습(RL) 정책에 반영하는 프레임워크를 제안한다. 배포 시와 동일한 불완전한 추정 정보로 학습해 학습-배포 불일치를 줄였으며, 미지 CN 궤적에서도 평균 절대 추적 오차 0.25° CA 미만의 안정적 CA50 제어를 달성한다.

arXiv:2606.06866v1cs.LG

게이트 순환 유닛 내의 곱 유닛이 핵 질량 예측을 향상시킵니다

Product units in gated recurrent units improve nuclear-mass prediction

머신러닝을 이용한 원자핵 질량 예측은 이론적 모델을 보완하고 핵도표의 잘 알려지지 않은 영역에 대한 탐험을 발전시킬 수 있습니다. 우리는 장기 의존성을 활용하여 핵 질량 예측에서 경쟁력 있는 성능을 입증한 게이트 순환 유닛(GRU)에 기반한 머신러닝 기법을 제안합니다. 순환 유닛 내에 곱셈 상호작용과 곱 유닛 변환을 통합함으로써, 핵 질량 예측에서 상당한 향상을 보고합니다. 진폭과 위상 역학을 동시에 포착하기 위해 계산은 복소수 영역에서 수행됩니다. 원자 질량 평가(AME2016 및 AME2020)에 기반한 보간 및 시간적 외삽 작업에서, 복소수 덧셈-곱셈 곱 유닛 게이트 순환 유닛(AM-PU-GRU) 모델은 보간 RMSE 0.227 $\pm$ 0.004 MeV 및 외삽 RMSE 0.179 $\pm$ 0.015 MeV로 가장 낮은 예측 오차를 일관되게 달성합니다. 이러한 결과는 다른 최첨단 머신러닝 모델을 능가할 뿐만 아니라 실수값 GRU 기준선 및 곱 유닛 제거 변형보다 우수하며, WS4 및 SEMF를 포함한 다양한 이론적 사전 지식에 대해 견고성을 유지합니다. 우리의 연구 결과는 복소수값 곱 유닛 순환 네트워크를 시퀀스 기반 핵 질량 예측을 위한 새로운 벤치마크로 확립합니다.