AI가 숨겨진 메시지를 발견했을 때 이를 보고하는가?
When AI Finds Hidden Messages, Does It Report?
AI 어시스턴트가 다른 AI를 향한 메시지를 마주했을 때 사용자에게 이를 알릴까? 네 가지 고정된 모델-제공자 배포 환경에서 1,280개의 일반 메모 세션과 128개의 강화된 메모 세션을 통해 시뮬레이션된 소스 작업을 수행한다. 무해한 메시지와 유해한 메시지는 메시지가 없는 대조군과 함께 대응하는 평문 및 ROT13 버전을 갖는다. 관찰자는 디코더나 디코딩된 의미를 받지 않으며, 요청된 참조 코드가 검사를 유도한다. 보고를 요청하면 다른 AI를 수신자로 식별하는 규칙 감지 알림이 무해한 ROT13 메시지의 경우 53.1%포인트, 유해한 메시지의 경우 54.7%포인트 증가한다. 이는 검사, 인식 및 알림의 결합 효과이며, 결측 응답 경계는 각각 38.3--77.3 및 36.7--78.1포인트이다. 모델 기반 추적 검사를 통해 에이전트(agent)가 메시지를 해석하지만 사용자에게 알리지 않는 11건의 일반 평문 사례를 확인했다. 강화된 메모를 통해 7건의 인코딩된 누락이 검증되었으며, 일반 인코딩 누락은 검증되지 않은 상태로 남아 있다. 7건의 시뮬레이션된 파일명 유출이 정확한 검토 상태 답변과 공존하며, 2건의 답변은 심어둔 거짓 개수를 사용한다. 해석, 알림, 그리고 승인된 작업 수행은 서로 별개의 결과이다.