PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.15908v1cs.AI

LURE: 단계별로 라벨링된 온라인 그루밍 대화 합성 코퍼스

LURE: a Phase-Labelled Synthetic Corpus of Online-Grooming Exchanges

단계 주석이 달린 대화형 데이터는 미성년자 대상 온라인 그루밍(online grooming)의 진행 과정을 연구하고 조기 경보 도구를 개발하는 데 필수적입니다. 그러나 공개적으로 접근 가능한 유일한 출처인 Perverted-Justice 아카이브(ChatCoder를 사용해 코딩된 부분집합 포함)는 규모가 작고, 오래되었으며, 추가 업데이트가 중단된 상태입니다. 본 연구에서는 기관 내 하드웨어에서 실행되는 검색-증강 파이프라인을 사용해 생성한 그루머-피해자 대화 합성 코퍼스를 제시합니다. 이 파이프라인은 공개적으로 사용 가능한 80억 개 매개변수(parameter) 규모의 거부 완화(refusal-ablated) 언어 모델(language model)을 활용합니다. 해당 코퍼스는 합성 데이터셋을 위한 책임 있는 생성 프로토콜의 5단계를 따라 구축되었습니다: ChatCoder 유인 소통 체계 기반의 온톨로지 주도 설계(4개 그루밍 단계에 매핑된 8개 소통 태그), 다중 모델 프롬프트(prompt) 테스트, 인간 참여형(human-in-the-loop) 감독, 의미 및 특징(feature) 수준의 검증(validation), 모달리티 인식 문서화. 공개된 코퍼스는 7개 태그와 4개 단계에 걸친 2,121개의 고유한 대화로 구성되며, 각각 플루치크(Plutchik) 감정 필드가 함께 제공됩니다. 검증을 통해 코퍼스의 무결성과 어휘 프로파일뿐만 아니라 실제 시드 대화의 재현 여부, 도메인 내 레이블 복원력(태그 정확도: 0.85, 단계 정확도: 0.93), 그리고 8개 태그 수준에서 자동 코딩된 대화(31,640행) 및 3개 구성 개념 수준에서 인간 코더가 코딩한 대화(10,876개 게시글)인 실제 ChatCoder 가해자 대화로의 전이 능력을 정량화했습니다. 어휘 및 문장 임베딩(embedding) 특징에 대해 정확도를 측정했으며, 실제-합성 판별기(discriminator)는 두 도메인을 91%의 정확도로 구분할 수 있었습니다. 본 코퍼스의 활용 범위에는 통제된 단계 조건부 실험, 파이프라인 개발, 실제 데이터 및 인식 제고 자료와 병행한 데이터 증강이 포함됩니다. 코퍼스와 데이터시트, 감사 코드는 심사를 거친 접근 권한 하에 공개됩니다.

arXiv:2607.05407v1cs.CY

포지션: AI 생성 CSAM 방지를 위해서는 AI 안전성에 대한 새로운 접근이 필요하다

Position: Preventing AI-Generated CSAM Necessitates New Approaches to AI Safety

현대 인공지능(AI) 시스템은 아동 안전에 심각한 새로운 위험을 제기한다. AI는 AI 생성 아동 성착취물(CSAM)을 제작하고, 아동 성착취를 조장하며, 피해에 대한 장벽을 낮추는 데 점점 더 많이 악용되고 있다. 본 논문에서 우리는 AI가 조장하는 성적 학대로부터 아동을 보호하기 위해 AI 안전성에 대한 새로운 접근 방식이 필요하다고 주장한다. 기존 안전성 기법은 아동 성착취물을 둘러싼 윤리적·법적 제약과 양립할 수 없는 데이터 접근성, 투명성, 평가 관행을 전제로 한다. 우리는 이러한 제약이 데이터셋 감사, 레드팀 테스팅, 미세조정 방지에 대한 한계 등 새로운 기술적 과제를 어떻게 만들어내는지 살펴본다. 나아가 데이터셋 큐레이션과 모델 설계부터 배포 및 장기 유지보수에 이르는 AI 개발 생애주기 전반에 걸쳐 온라인 아동 성착취 및 학대에 관한 *15가지 미해결 문제*를 제시한다. 우리는 이론적 AI 안전성과 아동 보호 현실 사이의 간극을 좁히기 위해 연구자, 개발자, 정책 입안자를 위한 구체적인 권고사항을 제안한다. 본 연구는 AI가 조장하는 아동 성적 학대 방지를 AI 연구의 핵심적이고 안전에 중요한 차원으로 재정립하고, 책임 있는 AI 원칙을 아동 성착취에 대한 구체적인 안전장치로 전환하는 연구를 촉진하는 것을 목표로 한다.

arXiv:2606.29685v1cs.LG

CAREBench: 언어 모델을 위한 아동 안전 위험 벤치마크

CAREBench: A Child-Safety Risk Benchmark for Language Models

최전선 AI 시스템이 명시적 피해로 확대되기 전에 아동 안전 위험을 인식하는지 어떻게 평가할 수 있을까? 기존 아동 안전 평가는 아동 성적 학대 자료에 집중하고 있으나, 많은 아동 안전 실패는 그보다 앞선 단계에서 시작된다: 성인이 미성년자를 조종하거나, 사칭하거나, 프로파일링하거나, 고립시키도록 돕는 모델 지원과, 아동을 인간 지원으로 유도하는 대신 AI 시스템에 대한 감정적 의존을 심화시키는 모델 응답이 그것이다. 우리는 언어 모델의 이러한 상위 단계 아동 안전 위험을 평가하기 위한 벤치마크인 CAREBench(Child AI Risk Evaluation)를 소개한다. CAREBench는 그루밍 및 관계 조작, 기만 및 사칭, 감시 및 프라이버시, 섹스토션 및 성적 학대, AI 의인화, 감정적 의존, 정신 질환 민감성을 포함한 12가지 위험 범주에 걸쳐 500개의 프롬프트를 포함한다. 부모와 임상의의 응답 어노테이션을 바탕으로 개발된 이 벤치마크는 명시적 학대 자료 및 이미지를 제외하며, 대신 모델이 피해가 명시화되기 전에 위험한 상호작용을 인식하고, 거부하고, 완화하거나, 다른 방향으로 유도하는지를 평가한다. 우리 벤치마크에서 7개의 최전선 모델을 평가한 결과, 실패율은 2%에서 58%까지 다양하며, 위험 범주에 따라 실패 패턴이 상이함을 확인했다. CAREBench는 대규모 언어 모델(LLM) 개발자들이 아동 안전 정책의 격차를 식별하고 해소할 수 있도록 책임감 있는 범위로 설계된 평가 도구를 제공한다.