아동 안전을 위한 음성 기반 연령 추정의 세 가지 비가시적 실패 유형
Three Invisible Failure Modes in Speech-Based Age Estimation for Child Safety
한국어 초록
AI에서의 아동 안전은 미성년 사용자를 정확하게 식별하는 데 달려 있다. 어린 아이들은 AI와 상호작용할 때 타이핑하기보다 말하는 경향이 있으므로, 실제로 이러한 식별은 음성으로부터 연령을 예측하는 것을 요구한다. 우리는 13세 미만 아동의 두 가지 음성 코퍼스를 사용한 다섯 건의 연구를 통해, 오디오를 처리할 수 있는 세 가지 대규모 언어 모델이 아동의 음성으로부터 연령을 예측할 수 있는지 평가하였다. 모델들은 오디오 응답의 2.5%에서 42.5%에서 아동을 13세 초과로 분류했으며, 응답한 모든 모델이 일부 5~11세 아동을 18세 초과로 분류했다. 이러한 비율을 측정하는 과정에서 우리는 세 가지 뚜렷한 실패 유형을 발견했다. 첫째, 한 클라이언트 라이브러리가 음성 샘플을 조용히 이중 인코딩하여, 한 모델이 5~10세 아동을 30대와 40대로 분류하고 환각된 설명을 제시하게 만들었다. 둘째, 두 번째 모델의 엔드포인트가 후속 모델로 교체되었는데, 이 후속 모델은 연령 관련 질문 거의 전부를 거부하고 연령을 한 번도 산출하지 않았다. 모든 모델은 때때로 동일한 음성 샘플을 13세 미만과 18세 초과 모두로 분류했으나, 세 번째 모델은 더 나아가 자신의 수치 추정치와 모순되는 임계값 답변을 제시했다. 이러한 실패 유형 중 어느 것도 경고, 상태 코드, 출력 형식의 변화를 일으키지 않았으므로, 모두 표준적인 모니터링을 통과할 것이다. 이러한 결과는 연령 보증에 관한 아동 안전 주장이 모델 수준이 아니라 파이프라인 수준에서 평가되어야 하는 이유를 보여 준다. 우리는 이러한 실패를 탐지 가능하게 만들 보고 관행을 기술한다.
원문 초록
Child safety in AI depends on the accurate identification of minor users. Young children tend to talk rather than type when interacting with AI, so in practice this identification requires predicting age from speech. We evaluated whether three audio-capable large language models can predict a child's age from their speech across five studies using two speech corpora of children under the age of 13. Models classified children as over 13 on 2.5% to 42.5% of audio responses, and every model that answered placed some 5- to 11-year-olds over 18. While measuring these rates, we uncovered three distinct failure modes. A client library silently double-encoded speech samples, leading one model to classify children aged 5 to 10 years old as being in their thirties and forties with hallucinated explanations. A second model's endpoint was replaced by a successor that refused nearly every age-related question and never produced an age. Every model sometimes placed the same speech sample under 13 and over 18 years of age, but a third model went further, giving threshold answers that contradicted its own numeric estimates. None of these failure modes produced a warning, a status code, or a change in output format, so they would all pass standard monitoring. These results demonstrate why child-safety claims about age assurance should be evaluated at the level of the pipeline rather than the model. We describe the reporting practices that would make such failures detectable.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.18971v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.