PromptPrint: 대규모 언어 모델(LLM)에서의 자연어 프롬프트를 통한 행동 생체 인식
PromptPrint: Behavioral Biometrics Through Natural Language Prompting in LLMs
저자 식별(authorship attribution) 연구는 전통적으로 장문의 표현적인 텍스트에 초점을 맞춰왔으나, 대규모 언어 모델(LLM)과의 상호작용은 일반적으로 간결하고 작업 중심적인 프롬프트 형태를 띱니다. 이는 근본적인 질문을 제기합니다: 이러한 프롬프트는 안정적이고 저자를 식별할 수 있으며 독특한 신호를 포함하고 있는가? 우리는 PromptPrint를 소개합니다. 이는 프롬프트 기반 신원에 대한 체계적인 연구로, 사용자의 습관적인 어휘, 구문, 담화 패턴이 학습 가능한 행동 생체 인식 정보를 형성한다는 가설을 다룹니다. 1,034명의 사용자로부터 수집한 20,680개의 실제 프롬프트를 사용하여, 우리는 세 가지 주요 발견을 확립했습니다. 첫째, 어휘적 표현이 의미적 인코더보다 현저히 우수한 성능을 보여 "어휘적 안정성 가설(lexical stability hypothesis)"을 뒷받침합니다: 신원은 추상적인 의도보다는 주로 표면 수준의 단어 선택에 인코딩됩니다. 둘째, 문체론적 특징(stylometric features)은 "독창성-일관성 역설(uniqueness-consistency paradox)"을 보여줍니다: 사용자들은 전체 집단에서는 매우 구별 가능하지만, 다양한 맥락에서는 행동적으로 일관성이 없습니다. 셋째, 적대적 분석(adversarial analysis)을 통해 명확한 취약성 스펙트럼이 드러났습니다: 신원 신호는 사소한 어휘적 섭동에는 강건하지만, 의미적 의역(semantic paraphrasing) 하에서는 현저히 저하됩니다. 전반적으로, 우리의 결과는 대규모 환경에서 강력한 식별 성능을 입증하며, 프롬프트 기반 신원을 실행 가능한 행동 생체 인식 수단으로 확립했습니다. 이 연구는 LLM 상호작용에서의 사용자 모델링에 대한 새로운 관점을 제시하며, 보안과 프라이버시에 중요한 시사점을 가집니다. 데이터와 코드는 본 연구가 수락된 후 공개될 예정입니다.