Papers with Code 아카이브
Adversarial Robustness
태스크의 하위 분류와 논문·코드·평가·기법·데이터셋을 탐색하세요.
- 하위 태스크
- 0
- 평가표
- 7
- 보존된 평가 기록
- 33
Adversarial Robustness evaluates the vulnerabilities of machine learning models under various types of adversarial attacks.
논문
이 태스크와 하위 분야의 관련 논문입니다. 실제 성능 비교는 평가 결과에서 확인하세요.
에이전틱 AI 시스템에 대한 모델 유도 자동화 공격에 맞선 방어적 오도 분석
거짓 예언자: 에이전트 시스템 내 월드 모델의 보안성에 대하여
다중 에이전트 시스템에서 잠재 공간 통신의 안전성
인지적 연속성 테스트: 지속적 AI 에이전트의 통제된 상태 전이 검증
강건함은 곧 현저함이다: 정보가 있는 적대자가 최적의 신호를 현저성 극으로 이동시킨다
밈적 트로이목마: 에이전트 네트워크에서 적대적 페이로드의 매개체로서의 사회적 전염
Sapien: 자율 AI 에이전트를 위한 상태 기반 정책 엔진
TRACE: 다중 턴 안전성을 위한 궤적 리턴 귀속 및 대조적 소거
잘못된 하한선: 분포 변화에서 무너지는 LLM 안전 라우팅 평가
움직임을 세고 목소리의 무게를 달다: 지속적 적대자가 존재하는 환경에서 보정된 다중 LLM 협의회를 위한 베이지안 변증법적 논증
BARRIER: 강건한 정보 삭제를 위한 경계 활성화 영역
원픽셀 공격에 대한 종합적 고찰: 연구 현황, 분류 체계, 응용 분야, 규제 정책 및 향후 연구 방향
UnifiedAttack: 시너지 유해 이미지-텍스트 생성에서 대규모 멀티모달 모델의 안전성 평가
사전학습된 객체 검출을 위한 위치파악 인식 불확실성
PhaseAT: 의료 영상 도메인 일반화를 위한 푸리에 위상 적대적 학습
잠재 주파수 마스킹에 대한 생성형 이미지 워터마크의 취약점 탐색
섀도 메모리를 통한 장기 지평(Long-Horizon) 위협으로부터 LLM 에이전트 보호
전이중 음성-음성 대화 모델의 적대적 강건성을 위한 심리음향 정렬 잠재 스무딩
불일치 기반 데이터셋 응축 관점
CVaR 앵커 회귀는 희귀 변화에 대비한다
중간값 시간 앙상블: 액션 청크 시각-운동 정춌을 위한 무학습 강건 집계
위험 민감성과 크리틱 일관성 정규화를 적용한 강건한 적대적 강화학습
비식별화 시스템에서의 적대적 공격과 신원 유출: 실증 연구
Visual Tripwires: 심층 비전 시스템에서의 실패 예측
ODPure: 앙상블 손상 합의를 통한 객체 검출용 백도어 정제
클라이언트가 조율될 때: 연합 학습 서버를 격파하는 전략적 그래디언트 조작과 효율적 방어
적대적으로 견고한 연합 회귀의 그래디언트 이질성 역학
범용 프랙털 자연어 의사결정 맵: 이종 도메인 전반의 실시간 엣지 트리아지
LLM 탈옥 공격 방어를 위한 동적 딥 프롬프트 최적화
안전성의 대가: LLM 에이전트에서 메모리 포이즈닝 방어의 양성 케이스 유틸리티와 토큰 오버헤드
에이전틱 AI 보안의 연결 고리: 다차원 위협 분류 체계, 평가 성숙도 및 공개 도전 과제
확산 방정식을 통해 안정화된 조정 가능한 디스펙클링 신경망
BackdoorVLM: 비전-언어 모델의 백도어 공격 및 방어 벤치마크
샘플링이 아닌 검증: 비전-언어 및 비전-언어-액션 모델의 영역 수준 강건성
비전 기초 모델을 통한 견고한 멀티모달 3D 객체 검출
출처: Papers with Code · CC BY-SA 4.0. 아카이브 자료와 새로 수집한 논문은 별도로 관리합니다.