Papers with Code 아카이브
Adversarial Attack
태스크의 하위 분류와 논문·코드·평가·기법·데이터셋을 탐색하세요.
- 하위 태스크
- 4
- 평가표
- 3
- 보존된 평가 기록
- 9
An Adversarial Attack is a technique to find a perturbation that changes the prediction of a machine learning model. The perturbation can be very small and imperceptible to human eyes.
Source: Recurrent Attention Model with Log-Polar Mapping is Robust against Adversarial Attacks
논문
이 태스크와 하위 분야의 관련 논문입니다. 실제 성능 비교는 평가 결과에서 확인하세요.
입력 시퀀스 변화에 대한 대규모 언어 모델(LLM)의 강건성 평가 및 개선
MRCert: 유형별 마스킹을 통한 적대적 패치 적용 샘플의 배포 후 패치 강건성 인증 기법
한 루프에서는 안전하고 다른 루프에서는 위험하다: 루프형 언어 모델의 순환 깊이 전반에 걸친 안전성 정렬
올빼미를 넘어서: 잠재의식적 학습은 학습된 능력과 백도어를 전이할 수 있다
BRANCH: 다중 스캐너 AI 가드레일 우회 기법
음성 품질 지표는 얼마나 해킹에 취약한가? 수정된 프로토콜, 벤치마크, 그리고 패치 적용의 실효성
스피드범프: 투기적 디코딩에 대한 거절 공격
서사적 래핑이 대규모 언어 모델(LLM) 거절에 미치는 영향: 다국어 벤치마크 및 방어 기법
NOMOS: 문서화된 정책을 LLM 에이전트를 위한 정적으로 검증된 도구 호출 게이트로 컴파일하기
전문가 혼합(MoE) 모델을 위한 라우팅 인식 안전성 정렬
안전한 검색-증강 생성에 관한 서베이
계산적 의사결정 시스템에서 최대우도 쌍별 랭킹의 섭동 민감도
모델 제한에 가려진 시스템의 부재: 공격적 AI 거버넌스에서의 측정과 책임
몇 걸음 더 나아가기: 지속적인 학습 하에서 악의적 미세조정 방어가 무력화되는 이유
가중치 공개 LLM 미세조정 방어 기법의 단순 공격 취약성
월드 모델을 표적으로 삼아 로봇 학습 파이프라인 무력화하기
눈앞에 숨겨진 위협: DECOMPBENCH를 활용한 분해 공격 대비 에이전트 안전성 벤치마킹
LLM 강화 그래프 신경망의 프라이버시 위험 감사
TACS: LLM 탈옥 접미사 최적화를 위한 궤적 인식 후보 선택
해석 가능한 토큰의 선형 기하학: 언러닝된 확산 모델을 위한 탈옥 공격 및 방어
바세르슈타인 분포 강건 최적화를 통한 믹스업 캘리브레이션 개선
연합 학습에서 그래디언트 역전 공격의 실질적 실현 가능성
이중 모달리티 다단계 적대적 안전성 학습: 교차 모달 공격에 대한 멀티모달 웹 에이전트의 강건성 강화
대규모 언어 모델의 도덕적 추론 궤적 이해: 프로빙 기반 설명가능성을 향하여
체제 조건부 검증: 안전성 분류기 적응 및 모니터링을 위한 정확도 추정
로봇 시스템용 블랙박스 안전 강화학습 제어기에 대한 시연 기반 관측 공격
신경망에 백도어를 심는 것은 왜 이토록 쉬운가?
의도 은닉 탈옥: 구성적 공격을 위한 정보이론적 프레임워크
정규화가 부호를 선택할 때: 양자 어텐션에서의 견고성 소거 연구 검증
다중 에이전트 LLM 시스템에서의 분산 백도어 조기 탐지: 특성 분석 연구
MIRROR: LLM 멀티 에이전트 통신을 위한 다중 경로 쿼럼 무결성
홉 감쇠 영향력: LLM 기반 GraphRAG 파이프라인에서 구조적 보조 색인의 새로운 취약점
동기화에서 벗어나 시야에서 사라지다: 산업용 사물인터넷(IIoT) 침입 탐지를 겨냥한 유령 상태 공격
MLCommons 탈옥 벤치마크 v1.0
HASTE: 희소한 증거를 활용하여 새로운 공격에 대응하는 에이전트 하네스 진화 기법
출처: Papers with Code · CC BY-SA 4.0. 아카이브 자료와 새로 수집한 논문은 별도로 관리합니다.