arXiv:2609.02215v1 cs.AI

ASCII Attack: 대규모 언어 모델에서 유해 요청을 예술 비평으로 재맥락화

ASCII Attack: Recontextualising Harmful Requests as Artistic Critique in Large Language Models

Da Cheng Gu, Yifei Dong, Xinghao Yang, Yongshun Gong, Wei Liu

제출 2026-09-02

한국어 초록

안전성 정렬(alignment)은 대규모 언어 모델(LLM)이 평이한 표현으로 제시된 유해 요청을 거부하도록 학습(training)시키지만, 그 학습은 대부분 표면 형식(surface form)에 적용된다. 동일한 실행적 내용을 재맥락화하여 모델이 읽는 방식만 바꾸는 요청은 따라서 약하게만 다루어진다. ASCII Attack은 그러한 재맥락화 중 하나이다. 단일 턴(single-turn)이며 블랙박스(black-box) 방식으로, 메시지 하나로 모델 내부에 접근하지 않는다. 완전히 읽을 수 있는 유해 요청을 ASCII 아트 문자에 내장하고, 이를 예술 작품으로 제시한 뒤 피드백을 요청한다. ArtPrompt와 달리 아무것도 숨기지 않으며 요청은 읽을 수 있는 상태로 유지된다. 응답은 예술 비평 형식으로 작성되며, 평문 요청이었다면 거부되었을 실행적 세부 내용을 담을 수 있다. 각 프레임 프롬프트(framed prompt)는 직접 질문 대조군과 짝을 이루어, 대비가 주제, 모델, 디코딩 변동과 분리된다. 이 대비는 고립된 단일 채널이 아니라 묶인 표면을 드러낸다. 11개 모델과 8개 유해 주제에 걸쳐, 유해 인식 분류기는 프레임 프롬프트의 62%를 유해하다고 판정하는 반면 대조군은 42%이다. 가장 취약한 모델에서는 프레임 프롬프트가 93%의 경우에 성공한다. 단일 쿼리는 다섯 유해 판정기 중 네 가지에서 게시된 단일 쿼리 공격과 동등하거나 이를 초과한다. 효과는 주제보다 모델을 더 따르며 스케일링(scaling)에 따라 줄어들지 않는다. 프레임된 행의 거의 세 분의 두에서 적어도 한 판정기가 패널 다수와 이견을 보이며, 이는 그 자체로 측정 타당성(measurement validity)에 관한 발견이다. 그 패턴은 불일치 일반화(mismatched generalisation)와 일치한다.

원문 초록

Safety alignment trains large language models to refuse harmful requests stated plainly, but that training is applied mostly to surface form. Requests that only recontextualise the same operational content, changing how the model reads it, are therefore only weakly covered. The ASCII Attack is one such recontextualisation. It is single-turn and black-box: one message, with no access to model internals. It embeds a fully legible harmful request in ASCIl-art characters, presents it as artwork, and asks for feedback. Unlike ArtPrompt, it hides nothing: the request stays readable. The reply is written as artistic critique and can contain operational detail that a plain request would have been refused for. Every framed prompt is paired with a direct-question control, so the contrast is isolated from topic, model and decoding variation. The contrast identifies a bundled surface, not one isolated channel. Across eleven models and eight harm topics, a harm-aware classifier judges 62% of framed prompts harmful against 42% of controls. On the most susceptible model the framed prompt succeeds 93% of the time. A single query matches or exceeds published single-query attacks under four of five harm judges. The effect tracks the model more than the topic and does not diminish with scale. At least one judge dissents from the panel majority on nearly two-thirds of framed rows, which is itself a measurement-validity finding. That pattern is consistent with mismatched generalisation.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.02215v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.