Papers with Code 아카이브
Adversarial Attack
태스크의 하위 분류와 논문·코드·평가·기법·데이터셋을 탐색하세요.
- 하위 태스크
- 4
- 평가표
- 3
- 보존된 평가 기록
- 9
An Adversarial Attack is a technique to find a perturbation that changes the prediction of a machine learning model. The perturbation can be very small and imperceptible to human eyes.
Source: Recurrent Attention Model with Log-Polar Mapping is Robust against Adversarial Attacks
논문
이 태스크와 하위 분야의 관련 논문입니다. 실제 성능 비교는 평가 결과에서 확인하세요.
역정렬 퓨샷 대화 노출을 통한 대규모 추론 모델(LRM)의 정렬
LLM 탈옥 공격 방어를 위한 동적 딥 프롬프트 최적화
중요도 기반 시간 편집을 이용한 온라인 필기체 대상 적대적 공격
APIOT: 베어 메탈 산업 OT 네트워크 전반의 자율 취약점 관리
송전망 운영자 제어실 의사결정 지원을 위한 거버넌스 인식 대규모 언어 모델 오케스트레이션 에이전틱 디지털 트윈
엔터프라이즈 MCP를 위한 제로 트러스트 인가 및 디스커버리
신뢰할 수 있는 에이전틱 AI: 자율적 LLM 시스템을 위한 실패 모드, 완화 전략 및 생애주기 프레임워크
안전성의 대가: LLM 에이전트에서 메모리 포이즈닝 방어의 양성 케이스 유틸리티와 토큰 오버헤드
에이전트가 커널이 될 때: AI-네이티브 운영체제로 가는 길에서의 보안 체계화
에이전틱 AI 보안의 연결 고리: 다차원 위협 분류 체계, 평가 성숙도 및 공개 도전 과제
ActGov: 정책 제약 검증을 통한 LLM 에이전트 행동 거버넌스
DUMA-Bench: LLM 에이전트 보안 평가를 위한 이중 제어 멀티에이전트 벤치마크
가드레일 디코딩: XAI 기반 섭동 분석을 통한 프롬프트 주입 탐지 분석
확산 방정식을 통해 안정화된 조정 가능한 디스펙클링 신경망
BackdoorVLM: 비전-언어 모델의 백도어 공격 및 방어 벤치마크
StyleAT: 의미론적 공격에 대한 얼굴 인식 방어
LLM-에이전트 시스템 안전을 위한 1급 원칙으로서의 격리: 개념, 분류 체계, 과제 및 향후 연구 방향
고차원 선형 분류에서 일관된 적대적 공격의 존재성
FENCE: 금융 및 멀티모달 탈옥 탐지 데이터셋
다중 에이전트 GIS 시스템 보안: 위험 평가 및 프롬프트 강화 최적화
RAG 기반 챗봇 내 프롬프트 인젝션 방어를 위한 계층형 보안 프레임워크
3DGAA: 자율주행을 위한 사실적이고 강건한 3D 가우시안 기반 적대적 공격
Anti-Prompt: 텍스트 기반 이미지-비디오 생성에 대한 이미지 보호
TriShieldRAG: 검색-증강 생성(RAG)에서 지식 오염에 대응하는 3중 링 심층 방어 프레임워크
Occluded Oculus: 문체적 은폐의 운영화
새로운 유형의 적대적 예제: 인간-모델 격차 측정 및 OOD 탐지와의 관계
자율주행 차량 내비게이션을 위한 비전-언어 모델 기반 GNSS 스푸핑 탐지 개발
소프트웨어 엔지니어링 파이프라인에서 코딩 에이전트를 위한 실행 기반 보안 테스트
PANOPTICON: LLM 컨텍스트 윈도우 내 프라이버시 유출 조사를 위한 PII 기반 자연주의적 출력 토큰 집합
LLM은 자신의 취약 시나리오를 알고 있는가?
적대적 스타일 최적화: GRPO 기반 스타일 트리거 최적화를 통한 VLM 탈옥 강화
배칭을 통한 보상 및 상태 오염 하의 강건 비동기 Q-러닝
Speculative Decoding에서 수용 붕괴를 유발하는 적대적 프롬프트
이론상 인증, 실무상 붕괴: 암호학적 모델 인증의 가정 간극
내부 정보 분해를 통한 다중모달 AI 보안
출처: Papers with Code · CC BY-SA 4.0. 아카이브 자료와 새로 수집한 논문은 별도로 관리합니다.