cpp.edu

이 이메일 도메인이 관측된 논문 3건

arXiv:2609.09404v1cs.CR

에이전트 AI 프레임워크에 대한 멀티모달 프롬프트 인젝션 공격의 실험적 평가

An Experimental Evaluation of Multimodal Prompt Injection Attacks on Agentic AI Frameworks

에이전트 AI 프레임워크는 언어 모델이 계획을 세우고 메모리를 유지하며, 실제 파일·메일·서비스에 닿는 도구를 호출할 수 있게 한다. 이러한 에이전트 대부분은 이미지도 읽기 때문에, 공격자는 사용자를 거치지 않고 텍스트를 에이전트의 컨텍스트에 넣을 수 있다. 우리는 그다음에 무슨 일이 벌어지는지 측정하는 재현 가능한 벤치마크 MMPIBench를 제안한다. 이 벤치마크는 여섯 가지 시각적 전달 수단(OCR 텍스트, 오버레이, EXIF 메타데이터, QR 코드, 가짜 인터페이스, 하이브리드)을 통해 고정된 공격 집합을 전달하고, 주입된 각 지시가 인지부터 계획, 도구 호출에 이르기까지 에이전트 내부에서 얼마나 전파되는지 기록한다. 여섯 프레임워크, 다섯 파운데이션 모델, 여섯 전달 수단, 네 가지 공격자 목표를 아우르는 720회 실행에서 공격은 약 1%의 실행에서 완료되지만 12.8%에서는 시도되며, 그 간격은 거의 전적으로 계획 단계에서 메워진다. 이때 모델은 주입된 지시를 읽고 이에 따른 행동을 거부한다. 지시가 실제로 수행되는지는 프레임워크보다 모델이 훨씬 더 큰 요인이다. 한 모델은 공격을 한 번도 시도하지 않으며 실행의 59.7%에서 주입을 인식하고, 다른 두 모델은 23.6%에서 시도한다. 이어서 벤치마크를 오디오로 확장한다. 오디오는 현재 프론티어 모델이 수용하는 유일한 다른 원시 지각 채널이다. 다섯 모델 중 두 모델만 오디오를 수집하고 여섯 프레임워크 중 세 개만 이를 전달하지만, 신호가 도달하는 경우 공격은 셀의 49%에서 완료되며 한 모델에서는 75%에서 완료된다. 따라서 완료율만 보고하면 노출을 과소평가하게 되며, 시각을 넘어선 지각 채널은 더 좁지만 훨씬 덜 방어된다.

arXiv:2608.08976v1cs.LG

기계론적 해석가능성을 통한 얼굴 및 음성 기반 레이블 프리 파킨슨병 스크리닝

Label-Free Parkinson's Disease Screening from Face and Voice through Mechanistic Interpretability

파킨슨병(PD)은 두 번째로 흔한 신경퇴행성 질환입니다. 일반적인 머신러닝 스크리닝 방법은 파킨슨병 레이블을 필요로 하지만, 개인정보 보호 문제와 전문가 어노테이션의 필요성으로 인해 가용 데이터가 제한적입니다. 본 연구에서는 고정된 사전학습 인코더(얼굴 표정 비전 트랜스포머 및 HuBERT)만을 기반으로 구축되어 어떠한 파킨슨병 레이블도 적합 과정에 사용되지 않는 레이블 프리(label-free) 얼굴-음성 결합 파킨슨병 스크리닝 방법을 제안하며, 기준 데이터로는 대조군 학습 데이터만을 사용합니다. 음성 모달리티는 정상 음성의 시간 신장 및 숨소리 열화로부터 구축된 합성 구음장애 대조 활성화 추가(CAA) 방향을 사용하며, 얼굴 모달리티는 대조군 임베딩 클러스터에 대한 k-최근접 이웃 이상치 점수를 사용합니다. 또한 본 연구에서는 합성 열화 CAA 탐지기가 합성 질환 방향과 실제 질환 방향 사이의 코사인 유사도가 0을 초과할 때 작동함을 보여주는 사후 분석 기법인 정렬 원리(alignment principle)를 도입합니다. YouTubePD 벤치마크에서 측정한 결과, 이 코사인 유사도는 음성의 경우 +0.37(CAA 작동, AUROC 0.765), 얼굴의 경우 -0.48(CAA 실패, 이상치 탐지 성공, AUROC 0.751)로 나타났습니다. 동일 가중치 후기 융합(late fusion)은 NPV 0.95와 함께 AUROC 0.802(95% CI [0.70, 0.89])에 도달하여, 질환 배제(rule-out) 목적의 선별 분류 해석을 뒷받침합니다. 과적합 감사 결과 음성 탐지기는 깔끔하게 전이되는 반면, 얼굴 측 탐지기 및 이에 따른 융합 AUROC는 외부 검증 전까지는 낙관적일 가능성이 있는 것으로 나타났습니다.

arXiv:2606.28544v1cs.CY

누가 언제 어떤 역할을 맡는가? 동료 인정 및 팀 성과 예측을 위한 커뮤니케이션 역할 역학

Who Plays Which Role When? Communication Role Dynamics for Peer Recognition and Team Performance Prediction

팀 역할은 협업에 대한 해석 가능한 관점을 제공하지만, 역할에 관한 계산적 연구들은 이론에 기반한 분류 체계보다 도메인 특화 페르소나나 데이터 기반 클러스터링에 의존하는 경향이 있다. 우리는 교육학 문헌에 근거한 8가지 커뮤니케이션 역할 분류 체계를 구체화하고, 한 학기 컴퓨터 과학 수업 프로젝트에서 18개 팀, 55명의 학생이 주고받은 6,307개의 Slack 메시지 코퍼스에 주석을 달았다. 우리는 대규모 언어 모델(LLM)이 전문가 레이블을 근사할 수 있는지 평가하여 확장 가능한 분류 체계 기반 역할 주석을 가능하게 한다. 이러한 역할 레이블을 활용하여 팀 생애 주기에 걸친 역할 역학을 규명하였으며, 서로 다른 역할이 서로 다른 시점에 최고조에 달하고 프로젝트가 진행될수록 학생들이 더 다양한 역할을 수행한다는 것을 발견하였다. 역할 구성 요소의 유용성을 평가하기 위해, 이를 동료 인정 예측에 활용하여 어휘적, 대화적, LLM 프롬프팅 기반선(baseline)을 능가하는 성능을 달성하였다. 교육적 맥락을 넘어선 일반화 가능성을 평가하기 위해, 동일한 역할 구성 요소를 공개 데이터셋(DeliData)에 적용하여 심의 후 팀 성과 향상을 예측하였으며, 여기서도 기존 성능을 초과하였다.