Papers with Code 아카이브
Adversarial Attack
태스크의 하위 분류와 논문·코드·평가·기법·데이터셋을 탐색하세요.
- 하위 태스크
- 4
- 평가표
- 3
- 보존된 평가 기록
- 9
An Adversarial Attack is a technique to find a perturbation that changes the prediction of a machine learning model. The perturbation can be very small and imperceptible to human eyes.
Source: Recurrent Attention Model with Log-Polar Mapping is Robust against Adversarial Attacks
논문
이 태스크와 하위 분야의 관련 논문입니다. 실제 성능 비교는 평가 결과에서 확인하세요.
EvoRiskBench: 워크스페이스 에이전트의 런타임 보안 위험을 위한 진화형 벤치마크
LiBRA: 양방향 잠재 공간 최적화를 통한 탐지 인식 이미지 워터마크 제거
새치기하기: LLM 스케줄링에서 길이 예측 악용하기
현실로의 확장: 3D 환경에서의 프롬프트 주입
지각을 재작성하는 데는 아주 작은 변화로 충분하다: $\varepsilon \leq 4/255$에서의 비전-언어 모델 타깃 의미론적 대체
오염되었으나 정확함: 비전-언어 모델이 내부적으로 스스로를 속이는 이유
분산 적대적 학습 알고리즘의 탈출 효율성에 관한 연구
말보다 어려운 행동: LLM 기반 로봇의 탈옥에서 의도-행동 간 격차 분석
TensorCommitments: 언어 모델을 위한 경량 검증 가능 추론
에이전틱 AI 시스템에 대한 모델 유도 자동화 공격에 맞선 방어적 오도 분석
거짓 예언자: 에이전트 시스템 내 월드 모델의 보안성에 대하여
다중 에이전트 시스템에서 잠재 공간 통신의 안전성
밈적 트로이목마: 에이전트 네트워크에서 적대적 페이로드의 매개체로서의 사회적 전염
MOMAT: 양자화된 LLM의 저전력 탈옥 방어를 위한 다중 지도 혼합 기법
TRACE: 다중 턴 안전성을 위한 궤적 리턴 귀속 및 대조적 소거
PACE: 도구를 사용하는 LLM 에이전트를 위한 출처 인지 역량 강제
잘못된 하한선: 분포 변화에서 무너지는 LLM 안전 라우팅 평가
스킬 체이닝을 통한 LLM 에이전트 하이재킹
임베딩 공간 탐색: 멀티모달 RAG로부터의 데이터스토어 추출
VideoSTF: 비디오 대규모 언어 모델의 출력 반복 스트레스 테스트
원픽셀 공격에 대한 종합적 고찰: 연구 현황, 분류 체계, 응용 분야, 규제 정책 및 향후 연구 방향
UnifiedAttack: 시너지 유해 이미지-텍스트 생성에서 대규모 멀티모달 모델의 안전성 평가
Anti-Persona: 개인화된 비전-언어 모델에서의 무단 신원 바인딩 및 인식 교란
잠재 주파수 마스킹에 대한 생성형 이미지 워터마크의 취약점 탐색
좋아요 함정: 유사도 기반 추천 시스템에서 에이전트를 겨냥한 다단계 포이즈닝 공격
WAInjectBench: 웹 에이전트를 위한 프롬프트 인젝션 탐지 벤치마킹
섀도 메모리를 통한 장기 지평(Long-Horizon) 위협으로부터 LLM 에이전트 보호
유용한 컨텍스트가 유출될 때: 도메인 적응 ASR의 프라이버시 위험
전이중 음성-음성 대화 모델의 적대적 강건성을 위한 심리음향 정렬 잠재 스무딩
안전하지 않은 입력 탐지를 넘어서: 다중 턴 LLM 안전성 실패에 대한 반사실적 기준 증거 귀속
백도어는 구조적 흔적을 남긴다: 연합 학습에서 백도어 탐지 및 억제를 위한 FedMAST
ChronosAttack: LLM 에이전트를 대상으로 한 적대적 도구 스케줄링 공격
비식별화 시스템에서의 적대적 공격과 신원 유출: 실증 연구
Ajar: Measuring Open Privilege in Agent Defenses
클라이언트가 조율될 때: 연합 학습 서버를 격파하는 전략적 그래디언트 조작과 효율적 방어
출처: Papers with Code · CC BY-SA 4.0. 아카이브 자료와 새로 수집한 논문은 별도로 관리합니다.