본 논문은 안전성, 윤리, 문화적 민감성에서 AI가 직면한 핵심 과제를 해결하기 위해 "responsible intelligence"를 위한 프레임워크를 제안한다. 세 가지 핵심 영역을 발전시킨다. 첫째, 능동 학습(active learning)과 그래프 기반 지식을 활용해 전문 분야에서의 도메인 적응을 개선하여 환각을 줄인다. 둘째, 실시간으로 유해한 텍스트 생성을 선제적으로 차단하는 새로운 디코딩 시점 정렬(decoding-time alignment) 메커니즘을 통해 윤리적 엄격성을 강화한다. 셋째, 다양한 언어적·사회적 규범을 존중하는 언어별 스티어링(steering)을 통해 문화적·다국어 안전성을 보장한다. 궁극적으로 본 연구는 맥락적으로 지식이 풍부하고, 윤리적으로 건전하며, 문화적으로 적응 가능한 차세대 AI를 구축하기 위한 청사진을 제공한다.
대규모 언어 모델(LLM)의 안전성 정렬(safety alignment)은 언어 간에 여전히 취약하다: 영어에서는 안정적으로 거부되는 프롬프트가 비영어권 및 저자원(low-resource) 환경에서는 유해한 응답을 유도할 수 있다. 우리는 18개 언어, 4개 자원 계층(resource tier), 4가지 변형 유형(표준 번역, 코드 스위칭(code-switching), 음역(transliteration), 번역체(translationese))에 걸친 다국어 탈옥(jailbreak) 벤치마크 \textsc{Minionese}를 소개하며, 이를 언어 계층별 거부 실패에 대한 기하학적 메커니즘 분석과 함께 제시한다. 각 공격 유형이 서로 다른 취약성 프로파일을 생성함을 보인다: 음역 취약성은 스크립트 동일성에 의해 매개되고, 코드 스위칭은 가장 낮은 자원 계층까지 효과를 유지하며, Tier 2와 Tier 3 사이의 안전성 체제 급격한 전환은 모든 모델에 걸쳐 일관되게 나타난다. 메커니즘적으로, 저자원 탈옥은 유해한 콘텐츠를 거부 방향(refusal directions)으로의 투영이 불충분한 기하학적으로 정렬 불일치된 부분 공간(subspace)으로 라우팅함으로써 성공하며, 거부 메커니즘 자체는 온전하지만 트리거되지 않은 상태로 남긴다. 이러한 발견은 영어 전용 안전성 평가가 불충분함을 보여주며, 스크립트 계열, 변형 유형, 언어별 정렬 커버리지를 반드시 고려해야 함을 시사한다. 벤치마크 및 분석 코드는 https://github.com/Brentkong/Minionese-Comprehensive-Benchmark-and-Mechanistic-Study-of-Multilingual-LLM-Safety.git 에서 확인할 수 있다.
ROK-FORTRESS는 영어-한국어 언어 쌍과 미국-대한민국 지정학적 축을 활용해 언어 효과와 지정학적 그라운딩 효과를 분리 평가하는 이중 언어 문화 적대적 NSPS(국가 안보·공공 안전) 벤치마크로, 1,235개 태스크에 걸쳐 트랜스크리에이션 매트릭스(transcreation matrix)를 적용한다. 최첨단 모델과 한국어 최적화 모델 모두에서 한국어 변형이 일관된 유해 출력 억제 효과를 나타냈으며, 이는 번역 전용 평가가 포착하지 못하는 언어-맥락 상호작용이 LLM 안전성 동작을 형성함을 보여준다.
대규모 언어 모델(LLM)의 미세조정(fine-tuning)은 특정 다운스트림 태스크에서 모델의 성능을 향상시키기 위해 널리 사용되는 방법이다. 그러나 선행 연구에서는 이러한 성능 향상에 대가가 따른다는 사실을 밝혔다: 비적대적 데이터로 미세조정하는 경우에도 모델이 안전하지 않은 적대적 프롬프트에 응답하는 경향이 증가할 수 있다. 우리는 9개 언어로 번역된 무해한 데이터를 사용하여 Llama-3.2, Qwen3, Gemma-3 모델을 미세조정함으로써, 다국어 환경에서 이 현상에 대한 최초의 포괄적 실증 연구를 제시한다. 안전성 결과는 미세조정 언어와 평가 언어 모두의 선택에 매우 민감하며, 일부 설정에서는 적대적 순응률이 4배까지 증가하는 것으로 나타났다. 다국어 안전성 드리프트는 일반적인 성능 지표와 분리되어 있으며, 언어와 모델에 걸쳐 이질적으로 발생한다. 비영어권 언어로의 미세조정은 영어에 비해 내부 표현 드리프트가 더 작게 나타나는 경우가 많지만, 이러한 변화는 모델이 과도한 순응 또는 거부를 기본 동작으로 취하도록 유도한다. 따라서 미세조정의 영향을 영어로만 평가하는 것은 배포에 대한 충분한 보증을 제공하지 못한다. 이러한 교차 언어적 안전성 사각지대에 대한 추가 연구를 촉진하기 위해, 우리는 Multilingual-Benign-Tune 데이터셋과 SORRY-Bench-Multilingual 평가 스위트를 공개한다.
대규모 언어 모델(LLM)의 안전성 학습이 주요 언어에 편중되어 발생하는 다국어 jailbreak 취약점을 해결하기 위해 MLJailDe 프레임워크를 제안한다. 다국어 역번역 데이터 증강과 상대 거리 제약 조건을 통해 언어 간 표현 분산을 줄여 교차 언어 일반화를 개선하며, 보지 못한 언어에서 평균 97.1%의 F1 점수를 달성했다.