arXiv:1703.04318

Blocking Transferability of Adversarial Examples in Black-Box Learning Systems

Hossein Hosseini, Yize Chen, Sreeram Kannan, Baosen Zhang, Radha Poovendran

제출 2017-03-13

원문 초록

Advances in Machine Learning (ML) have led to its adoption as an integral component in many applications, including banking, medical diagnosis, and driverless cars. To further broaden the use of ML models, cloud-based services offered by Microsoft, Amazon, Google, and others have developed ML-as-a-service tools as black-box systems. However, ML classifiers are vulnerable to adversarial examples: inputs that are maliciously modified can cause the classifier to provide adversary-desired outputs. Moreover, it is known that adversarial examples generated on one classifier are likely to cause another classifier to make the same mistake, even if the classifiers have different architectures or are trained on disjoint datasets. This property, which is known as transferability, opens up the possibility of attacking black-box systems by generating adversarial examples on a substitute classifier and transferring the examples to the target classifier. Therefore, the key to protect black-box learning systems against the adversarial examples is to block their transferability. To this end, we propose a training method that, as the input is more perturbed, the classifier smoothly outputs lower confidence on the original label and instead predicts that the input is "invalid". In essence, we augment the output class set with a NULL label and train the classifier to reject the adversarial examples by classifying them as NULL. In experiments, we apply a wide range of attacks based on adversarial examples on the black-box systems. We show that a classifier trained with the proposed method effectively resists against the adversarial examples, while maintaining the accuracy on clean data.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2502.02097v4cs.CV공통 태그 Medical Diagnosis공식 코드 · Papers with Code

VerteNet -- 측면 척추 DXA 영상에서 정확한 척추 랜드마크 위치 추정을 위한 다중 컨텍스트 하이브리드 CNN 트랜스포머

VerteNet -- A Multi-Context Hybrid CNN Transformer for Accurate Vertebral Landmark Localization in Lateral Spine DXA Images

이중에너지 X선 흡수계측법(Dual-Energy X-ray Absorptiometry, DXA) 기반 측면 척추 영상에서의 척추 랜드마크 위치 추정(Vertebral Landmarks Localization, VLL)은 척추 정렬 평가, 척추 골절 평가(Vertebral Fracture Assessment), 복부 대동맥 석회화(Abdominal Aortic Calcification) 정량화를 위한 추간 가이드 배치에 핵심적인 역할을 한다. 측면 척추 DXA 스캔은 비용 절감 및 낮은 방사선 노출이라는 장점을 제공하지만, 낮은 신호 대 잡음비와 영상 아티팩트로 인해 분석이 어렵다. 인공지능(AI)은 VLL의 정밀도와 정확도를 향상시키는 유망한 접근법으로 주목받고 있다. 본 연구에서는 세밀한 지역적 세부 정보와 광범위한 컨텍스트 정보를 모두 포착하기 위해 이중 해상도 어텐션 메커니즘을 적용한 새로운 아키텍처를 제안한다. 제안된 방법은 이중 해상도 자기 어텐션(self-attention) 및 교차 어텐션(cross-attention) 메커니즘을 통해 스킵 연결(skip connection)과 디코더 레이어를 활용함으로써 특징 통합을 강화한다. 이러한 설계는 모델이 복잡한 패턴을 학습하는 능력을 향상시켜 지역적 및 전역적 컨텍스트 인식을 유지하면서 정확한 척추 코너 위치 추정을 가능하게 한다. 제안된 프레임워크를 다수의 장비로 획득한 DXA 측면 척추 영상(LSI)에서 평가한 결과, VLL에서 최신 최첨단 아키텍처를 능가하여 정규화 평균 오차 4.92, 정규화 중앙값 오차 2.35를 달성하였다. 제안된 프레임워크인 VerteNet은 다양한 촬영 시스템의 DXA LSI 영상에서 높은 정확도의 VLL을 가능하게 하며, 세밀한 지역적 세부 정보와 광범위한 컨텍스트 정보를 모두 포착하는 향상된 능력 덕분에 낮은 신호 대 잡음비에 대한 강한 강건성을 보인다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.