Papers with Code 아카이브
Adversarial Robustness
태스크의 하위 분류와 논문·코드·평가·기법·데이터셋을 탐색하세요.
- 하위 태스크
- 0
- 평가표
- 7
- 보존된 평가 기록
- 33
Adversarial Robustness evaluates the vulnerabilities of machine learning models under various types of adversarial attacks.
논문
이 태스크와 하위 분야의 관련 논문입니다. 실제 성능 비교는 평가 결과에서 확인하세요.
몇 걸음 더 나아가기: 지속적인 학습 하에서 악의적 미세조정 방어가 무력화되는 이유
가중치 공개 LLM 미세조정 방어 기법의 단순 공격 취약성
눈앞에 숨기: 비전-언어 모델의 지리적 위치 프라이버시 유출 완화를 위한 디퓨전 기반 기법
가설 설정은 저렴하고 검증은 비싸다: 에이전트 기반 취약점 탐지의 방어 표면
해석 가능한 토큰의 선형 기하학: 언러닝된 확산 모델을 위한 탈옥 공격 및 방어
이중 모달리티 다단계 적대적 안전성 학습: 교차 모달 공격에 대한 멀티모달 웹 에이전트의 강건성 강화
ZonoGPT: 대규모 GPT 모델 검증을 위한 추상 도메인을 향하여
CLAD: 신경망 검증을 위한 제약 추상 도메인
충돌 인지 증거 기반 심층 학습을 통한 강건한 적대적 정량화
무작위 키 선택을 통한 생성 모델의 워터마크 위조 완화
로봇 시스템용 블랙박스 안전 강화학습 제어기에 대한 시연 기반 관측 공격
심층 렐루(ReLU) 네트워크의 강건성에 대한 이론적 하한
신경망에 백도어를 심는 것은 왜 이토록 쉬운가?
MACTS-EM: 창발적 메모리를 활용한 다중 에이전트 협업 시계열 예측
구별하도록 유도하기: 실제 환경에서 악의적 입력 탐지 프로브 일반화하기
정규화가 부호를 선택할 때: 양자 어텐션에서의 견고성 소거 연구 검증
LPS-Bench: 양호한 환경 및 적대적 시나리오의 장기 계획에서 컴퓨터 사용 에이전트의 안전성 인식 벤치마킹
다중 에이전트 LLM 시스템에서의 분산 백도어 조기 탐지: 특성 분석 연구
MIRROR: LLM 멀티 에이전트 통신을 위한 다중 경로 쿼럼 무결성
Pincer: 디지털 트윈을 활용한 에이전트의 리소스 권한 부여
시계열 예측 벤치마크에는 시나리오 기반 스트레스 테스트가 필요하다
MLCommons 탈옥 벤치마크 v1.0
수축 제약 상태 공간 모델을 통한 유계 도달 가능성 및 탈옥 탐지
AgentTrap: 자율 침투 테스트 에이전트에 대응하는 상태 기반 피드백 기만 기법
빈도는 민감도가 아니다: 희소 MoE 대규모 언어 모델에서 안전성에 민감한 전문가 식별
HASTE: 희소한 증거를 활용하여 새로운 공격에 대응하는 에이전트 하네스 진화 기법
분기 유도 공격으로부터 컴퓨터 활용 에이전트 보호하기
현실로의 확장: 3D 환경에서의 프롬프트 주입
지각을 재작성하는 데는 아주 작은 변화로 충분하다: $\varepsilon \leq 4/255$에서의 비전-언어 모델 타깃 의미론적 대체
CalCErt: 의료 이미지 분류에서 신뢰도 보정의 구간별 인증
오염되었으나 정확함: 비전-언어 모델이 내부적으로 스스로를 속이는 이유
적응형 및 무지형 통계적 적대자의 동등성
분산 적대적 학습 알고리즘의 탈출 효율성에 관한 연구
모니터링 가능성을 잃지 않으면서 프로브에 대항한 학습을 통한 정렬
말보다 어려운 행동: LLM 기반 로봇의 탈옥에서 의도-행동 간 격차 분석
출처: Papers with Code · CC BY-SA 4.0. 아카이브 자료와 새로 수집한 논문은 별도로 관리합니다.