Robust Neural Architecture Search
원문 초록
Neural Architectures Search (NAS) becomes more and more popular over these years. However, NAS-generated models tends to suffer greater vulnerability to various malicious attacks. Lots of robust NAS methods leverage adversarial training to enhance the robustness of NAS-generated models, however, they neglected the nature accuracy of NAS-generated models. In our paper, we propose a novel NAS method, Robust Neural Architecture Search (RNAS). To design a regularization term to balance accuracy and robustness, RNAS generates architectures with both high accuracy and good robustness. To reduce search cost, we further propose to use noise examples instead adversarial examples as input to search architectures. Extensive experiments show that RNAS achieves state-of-the-art (SOTA) performance on both image classification and adversarial attacks, which illustrates the proposed RNAS achieves a good tradeoff between robustness and accuracy.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Adaptive hybrid activation function for deep neural networks
LLM을 활용한 폐루프 특징 채널 구성 스케일링
Scaling Closed-Loop Feature Channel Configuration with LLMs
폐루프 대규모 언어 모델(LLM) 기반 채널 구성 탐색에서 얻은 유망한 초기 결과는, 실행 가능한 코드 생성과 정확도 피드백을 통해 신경망의 폭을 직접 최적화할 수 있음을 보여주었다. 그러나 이러한 결과는 상대적으로 희소한 유효 평가 집합에서 얻은 것이므로, 관찰된 최적화 행동이 더 조밀한 샘플링 체제로 전이되는지, 그리고 더 많은 생성 네트워크가 평가될 때 추가적인 아키텍처 규칙성이 나타나는지는 열려 있는 문제로 남아 있다. 이를 검증하기 위해, 동일한 탐색 설정을 미세조정 주기당 250개의 후보 네트워크로 확장하였다. 분석은 8개의 완전한 주기에서 생성된 2000개의 후보를 다루며, 작업 및 메타데이터 필터링 후 462개의 검증된 CIFAR-100 평가를 산출한다. 주기별 평균 정확도는 기울기 9.87e-4(p=0.043)의 양의 선형 추세를 보이며, 고성능 프론티어는 더 강하게 개선된다. 관찰된 최고 정확도는 0.3144에서 0.3676으로 증가했고, 상위 5개 및 상위 10개 주기별 평균 모두 양의 추세를 나타낸다. 확장된 실행은 또한 매개변수 효율의 개선을 드러낸다. 최고 모델은 11.8M 매개변수로 0.3676에 도달하는 반면, 초기 고성능 모델은 166.5M 매개변수로 0.3144를 기록했다. 정확도를 넘어, 더 큰 표본은 희소한 관측으로는 평가하기 어려웠던 아키텍처 규칙성을 드러낸다. 2의 거듭제곱이 아닌 채널 폭은 검증된 후보의 41.8%에서 나타나며, 가장 강력한 모델들은 초기 폭은 적당하고 중간 또는 후반 블록을 확장한 구조화된 채널 할당 패턴을 공유한다. 이러한 발견은 초기 연구에서 관찰된 채널 탐색 신호가 전이됨을 시사한다
NeuronSoup: 역전파 없이 진화하는 비동기 공유 뉴런 시간 그래프
NeuronSoup: Evolving Asynchronous, Shared-Neuron Temporal Graphs without Backpropagation
NeuronSoup를 제시한다. 이는 동기식 층별 처리를 공유 뉴런 풀을 통한 비동기·지연 매개 신호 전파로 대체하는 신경 계산 아키텍처이다. 네트워크의 각 경로는 가변적인 수의 중간 은닉 뉴런을 거쳐 하나의 입력 뉴런에서 하나의 출력 뉴런으로 연속값 신호를 라우팅한다. 은닉 뉴런은 경로 간 물리적으로 공유된다. 두 경로가 동일한 뉴런을 통과할 때, 두 번째 도달은 첫 번째가 남긴 누적 상태를 만나며, 신호 극성과 도달 시각에 따라 상보적 또는 상쇄적 간섭을 일으킨다. 전체 아키텍처—위상, 가중치, 지연, 연결성—는 14,602개 유전자로 구성된 평탄한 실수값 게놈 위에서 작동하는 유전 알고리즘으로 공진화된다. 입력으로 고정된 ResNet18 특징을 사용한 10클래스 MNIST 숫자 분류에서, 시스템은 266개의 은닉 뉴런(다중 경로에 걸쳐 156개 공유, 한 뉴런은 11개의 서로 다른 경로에 참여)을 통과하는 204개의 활성 경로로 구성된 네트워크를 진화시키며, 10,000세대 후 85.9% 테스트 정확도를 달성한다. 학습된 모델은 115 KB를 차지한다. 이 아키텍처가 현재 심층 학습의 근본적 한계를 해소한다고 주장한다. 미분 가능한 계산 그래프가 필요 없고, 샘플별로 계산 깊이를 적응시키며, 현재 아키텍처가 명시적으로 설계해야 하는 처리 경로 간 측면 상호작용을 발견한다. 유전 알고리즘이 이 문제 클래스에 적합한 최적화 도구인 이유, CMA-ES가 이 규모에서 실패하는 이유, 그리고 인코더와 출력 구조를 교체함으로써 임의의 도메인으로 일반화하는 방법을 논의한다.
억제적 셀프-어텐션: 비전 트랜스포머에서 초점 선명화
Inhibited Self-Attention: Sharpening Focus in Vision Transformers
비전 트랜스포머(ViT)는 컴퓨터 비전(CV) 과제에서 뛰어난 성능을 보여 왔다. 그러나 셀프-어텐션 메커니즘은 종종 배경 영역 전반에 초점을 분산시키며, 객체 관련 단서보다는 가짜 상관관계에 의존하는 경향이 있다. 생물학적 시각 시스템에서 관찰되는 억제 메커니즘에서 영감을 받아, 억제 신호를 통합하여 특징 선택성을 높이고 가짜 반응을 억제하는 새로운 셀프-어텐션인 억제적 셀프-어텐션(ISA)을 제안한다. 소프트맥스 정규화로 인해 양의 어텐션 값에만 의존하는 기존 셀프-어텐션과 달리, 우리 접근법은 음의 어텐션 점수를 유지하고 활용하여 무관한 특징을 억제하고 관심 객체에 대한 초점을 선명하게 한다. ImageNet-1k와 COCO를 포함한 여러 데이터셋과 여러 견고성 벤치마크에 걸친 실험은 ISA가 객체 중심 선택성을 높이고, 지름길 의존을 줄이며, 분포 외 일반화를 개선함을 보여 준다. 관련성 맵 분석은 ISA를 적용한 ViT가 객체 관련 영역에 더 선명하고 국소화된 초점을 보이면서 무관한(배경) 특징으로부터의 방해를 줄여 더 신뢰할 수 있는 모델을 가능하게 함을 확인한다. 코드는 https://github.com/prdvanderwal/inhibited-self-attention 에서 공개한다.
자궁경부 세포학 이미지 분류를 위한 기하학 인식 가우시안 사전 분포 및 축방향 어텐션
Geometry-aware Gaussian Prior and Axial Attention for Cervical Cytology Image Classification
정확한 자궁경부 세포학 이미지 분류(image classification)는 자동화된 자궁경부암 검진의 핵심 요소로, 팹 도말(Pap smear) 이미지에서 정상, 전암성 및 암 관련 세포 패턴을 신뢰성 있게 인식함으로써 검진 효율성과 진단 일관성을 향상시킬 수 있다. 그러나 자궁경부 세포는 복잡한 형태, 미묘한 클래스 내 변이, 강한 클래스 간 유사성을 보이기 때문에 이 과제는 여전히 어렵다. 기존 합성곱(convolution) 기반 모델은 지역적 텍스처를 잘 포착하지만 장거리 관계를 모델링하는 능력이 제한적이며, 어텐션(attention) 기반 모델은 더 넓은 문맥을 제공하지만 명시적인 구조적 가이던스가 부족한 경우가 많다. 이러한 한계를 해결하기 위해, 우리는 사전학습된 비전-언어(vision-language) 특징(feature)에서 학습된 의미론적 추상화와 구조적 사전 분포를 결합한, 자궁경부암 검진 지향 세포학 이미지 분석을 위한 기하학 인식 분류 프레임워크를 제안한다. 이 방법은 가우시안 전문가 모듈을 사용하여 전역 의미 정보로부터 축별 사전 분포를 생성하며, 핵 정렬 및 세포 공간 구성과 같은 구조적 규칙성을 포착한다. 이러한 사전 분포는 축방향 자기 어텐션 모듈에 임베딩되어 수평 및 수직 방향을 따라 유사도 계산을 조절하며, 장거리 의존성 모델링과 구조 민감한 특징 상호작용을 향상시킨다. Mendeley 액상 세포학 및 SIPaKMeD 데이터셋에 대한 실험에서 제안된 방법은 전자에서 99.48%, 후자에서 96.08%의 정확도를 달성하며, 재현율(recall), 정밀도(precision), 전반적인 분류 성능에서 균형 잡힌 향상을 보였다. 시각적 분석은 학습된 사전 분포가 진단적으로 관련 있는 세포 영역을 강조함을 추가로 보여주며, 제안된 프레임워크가 자궁경부 세포학을 위한 검진 지향 의사결정 지원 도구로서의 잠재력을 입증한다.
집중 학습: 의료 이미지 분류를 위한 해부학 유도 어텐션 정규화
Learning To Focus: Anatomy-Guided Attention Regularization for Medical Image Classification
의료 이미지 분류 모델은 예측 시 진단적으로 관련된 영역을 식별하는 것이 이상적으로 기대되지만, 표준 분류 손실은 공간적 감독을 거의 제공하지 않는다. 과제 관련 해부학의 분할 마스크와 같은 해부학적 형태 정보를 통한 명시적 감독은 네트워크를 목표 예측에 관련된 영역으로 유도하는 것으로 나타났다. 그러나 이러한 마스크를 획득하는 데는 상당한 수동 어노테이션 노력과 계산 오버헤드가 수반된다. 다양한 영상 모달리티에서 해부학적 구조를 강력하게 위치 파악하는 분할 파운데이션 모델의 등장으로, 우리는 전용 분할 모델을 학습하는 부담 없이 해부학적 형태 사전 정보를 추출하기 위해 이 능력을 활용한다. 본 논문에서는 사전학습된 분할 파운데이션 모델을 활용하여 다양한 영상 모달리티에서 분류기의 어텐션을 진단적으로 의미 있는 해부학적 구조로 유도하는 해부학적 어텐션 정규화 프레임워크인 Locus를 제안한다. 파운데이션 모델에서 도출된 마스크와의 픽셀 단위 정렬을 강제하는 대신, 해부학적(전경) 영역과 배경 영역 사이의 어텐션을 적응적으로 균형 조정하는 정규화 항을 도입하여 배경 어텐션이 지배적일 때 분류기에 페널티를 부여한다. 우리는 피부경검사, X선, 조직병리학, 심장 MRI를 포괄하는 8개의 다양한 의료 영상 데이터셋에서 Locus를 검증하여, 향상된 해부학적 근거 어텐션과 함께 분류 성능의 일관된 향상을 보여준다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.