arXiv:2007.01017

Deep Learning Defenses Against Adversarial Examples for Dynamic Risk Assessment

Xabier Echeberria-Barrio, Amaia Gil-Lerchundi, Ines Goicoechea-Telleria, Raul Orduna-Urrutia

제출 2020-07-02

원문 초록

Deep Neural Networks were first developed decades ago, but it was not until recently that they started being extensively used, due to their computing power requirements. Since then, they are increasingly being applied to many fields and have undergone far-reaching advancements. More importantly, they have been utilized for critical matters, such as making decisions in healthcare procedures or autonomous driving, where risk management is crucial. Any mistakes in the diagnostics or decision-making in these fields could entail grave accidents, and even death. This is preoccupying, because it has been repeatedly reported that it is straightforward to attack this type of models. Thus, these attacks must be studied to be able to assess their risk, and defenses need to be developed to make models more robust. For this work, the most widely known attack was selected (adversarial attack) and several defenses were implemented against it (i.e. adversarial training, dimensionality reduc tion and prediction similarity). The obtained outcomes make the model more robust while keeping a similar accuracy. The idea was developed using a breast cancer dataset and a VGG16 and dense neural network model, but the solutions could be applied to datasets from other areas and different convolutional and dense deep neural network models.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.02378v1cs.AI공통 태그 Decision Making, Management

THPL: 순환여과양식시스템(RAS) 내 무지개송어 급이 관리를 위한 비전-언어 의사결정 지원 프레임워크

THPL: A Vision-to-Language Decision Support Framework for Rainbow Trout Feeding Management in RAS

순환여과양식시스템(RAS)에서 정밀(precision) 급이는 사료 비용을 최소화하고 어류 복지를 향상시키는 데 매우 중요합니다. 그러나 기존 방식은 어류 행동과 관리 지식 간의 인지적 정렬(alignment)이 부족하여, 이를 실행 가능하고 해석 가능한 급이 결정으로 전환하는 데 한계가 있었습니다. 이를 해결하기 위해 본 논문에서는 RAS 환경의 무지개송어(Oncorhynchus mykiss)를 위해 설계된 생성형 급이 의사결정 프레임워크인 THPL을 제안합니다. 첫째, Fishsort가 궤적을 추출하여 급이 강도를 정량화하는 활동 계수(AC)를 산출합니다. 둘째, 계층적 행동 인코더(HBE)가 Temporal Transformer 및 Set Transformer를 활용해 개별 시간적 변화와 집단적 역학을 모델링함으로써, 궤적 텐서를 명시적 물리 토큰과 암시적 소프트 토큰의 이중 근거 표현으로 변환합니다. 마지막으로, 이러한 토큰들을 환경 파라미터, 메타데이터, 전문가 규칙과 통합하여 LoRA 기반으로 대규모 언어 모델(LLM)을 파인튜닝(fine-tuning)하고, 반사실적 멀티모달 직접 선호 최적화(mDPO)를 적용해 인과 추론 능력을 강화합니다. 실험 결과, AC는 전문가가 레이블링한 급이 강도와 통계적으로 유의미한 단조 양의 상관관계를 나타냈습니다(Spearman $ρ= 0.925$, $p < 0.001$). 절제 연구(ablation study)에서는 의사결정 정확도가 텍스트 전용 베이스라인(baseline)의 33.33%에서 이중 근거 토큰 적용 시 93.33%로 향상되어, 연속적인 시공간 토큰이 LLM에 필수적인 물리적 그라운딩(grounding)을 제공함을 확인했습니다. 또한 표준 LoRA 대비 반사실적 mDPO는 의사결정 정확도를 93.33%에서 96.67%로 향상시켰고, METEOR를 58.10%에서 85.30%로 끌어올렸으며, Self-BLEU-2를 58.79%에서 52.88%로 감소시키고 Distinct-3을 6.68%에서 7.81%로 증가시켜 템플릿화 및 작동 편향을 억제하는 동시에 인과적 일관성과 운영 안전성(safety)을 강화했습니다. 전반적으로, 본 연구는 연속적인 기구학(kinematics)과 LLM 추론을 결합함으로써 정밀 양식을 위한 새로운 의사결정 지원 패러다임을 제시합니다.

arXiv:2610.01231v1cs.CY공통 태그 Decision Making, Management

Jev 시대의 판단: 평가 희소성에서 평가 풍요로

Judgement in the Age of Jev: From Evaluation Scarcity to Evaluation Abundance

생성형 인공지능이 그럴듯한 기호적 인공물(symbolic artefact)의 생성 비용을 낮춤에 따라, 최근 조직학 연구에서는 생산 풍요의 조건 하에서 평가와 식별을 제약 요인으로 주목해 왔다. 본 연구는 여기서 한 걸음 더 나아가, 기계 평가 자체가 일상적이면서도 대규모로 배포될 수 있을 만큼 저렴해지는 또 다른 가능성을 검토한다. 이 조사는 타입화된 확률적 의사결정을 위한 TypeSafe AI의 특화 모델(model)인 Jev에서 촉발되었다. TypeSafe는 윌리엄 스탠리 제번스(William Stanley Jevons)를 명시적으로 인용하며, 더 저렴해진 기계 지능이 이전에는 비경제적이었던 활용처를 열어젖힐 수 있다고 주장한다. 본 논문은 이를 확립된 실증적 결과라기보다는 기술적 도발로 다루며, 기계 평가에 대한 조건부 제번스 역설 가설을 수립한다. 즉, 잠재 수요가 상당하고 보완적 비용이 지배적이지 않은 경우, 활용 가능한 기계 평가의 총 한계 비용이 충분히 크게 감소하면 조직 내 소비가 증가할 수 있다는 것이다. 본 논문은 이러한 잠재적 희소성 전환을 조사하기 위해 반등 효과 경제학과 저비용 예측, 생산 풍요, 기계 평가, 의사결정 배분, 권한, 의존성 및 경영 판단(Executive Judgement)에 관한 연구를 통합한다. 또한 예측, 기계 평가, 조직적 판단, 권한 부여를 비용이 반드시 함께 하락하지는 않는 기능적 활동으로 구분한다. 평가는 증거, 기준, 오류를 공유할 수 있고, 잘못 명시된 루브릭을 확장할 수 있으며, 중대한 단서 조항이 사라진 표현을 기반으로 작동할 수 있고, 임계값과 예외 라우팅을 통해 실질적인 의사결정 권한을 변화시킬 수 있다. 이에 따른 연구 과제는 저렴한 기계 평가가 언제 인간의 평가 업무를 대체하는지, 언제 판단에 대한 수요를 재분배하거나 새로 창출하는지, 그리고 중대한 조직적 의사결정 시점에 활용 가능한 근거에 어떤 영향을 미치는지 규명하는 것이다.

arXiv:2610.01531v1cs.AI공통 태그 Decision Making, Autonomous Driving

자율주행을 위한 신뢰할 수 있는 비전-언어 모델을 향하여

Towards Reliable Vision-Language Models for Autonomous Driving

비전-언어 모델(VLM)은 장면 이해, 주행 추론, 의사결정, 엔드투엔드(end-to-end) 주행과 같은 작업을 위해 자율주행 분야에서 점점 더 활발히 탐색되고 있습니다. 이들의 역할이 더욱 두드러짐에 따라, 강건성(robustness)과 신뢰성(reliability)을 확보하는 것이 점차 중요해지고 있습니다. 실제 환경 조건에서는 센서 결함 및 환경적 요인으로 인해 시각적 입력이 저하될 수 있으며, 이는 모델의 예측과 그에 수반되는 신뢰도(confidence) 모두에 잠재적으로 영향을 미칠 수 있습니다. 이러한 저하는 안전이 핵심적인(safety-critical) 의사결정을 위해 모델이 정확한 예측을 수행하고 자신의 예측이 신뢰할 수 없는 경우를 인식해야 하는 자율주행에서 특히 우려되는 문제입니다. 본 연구에서는 단일 프레임, 다중 뷰(multi-view), 다중 프레임, 단안(monocular) 입력을 포함한 서로 다른 시각적 입력 설정을 갖춘 4개의 주행 관련 QA 데이터셋에 걸쳐 5종의 VLM(Qwen3.5-9B, Gemma4-E4B, LLaVA-OneVision-7B, DriveFusion/DriveFusionQA-4B, NVIDIA Alpamayo-1.5-10B)을 평가합니다. 실험 결과, 시각적 손상(visual corruption)의 영향은 모델, 데이터셋, 입력 설정에 따라 다양하게 나타났으며, 정확도와 신뢰도 신뢰성의 변화 또한 조건에 따라 상이함을 보여줍니다. 이어서 우리는 최근의 추론(inference) 시점 기법인 Visual Evidence Augmentation($\mathrm{V}{\scriptstyle \mathrm{EA}}$)을 적용하여, 저하된 시각적 조건에서 모델 신뢰성을 향상시킬 수 있는지 살펴봅니다. 그 결과 $\mathrm{V}{\scriptstyle \mathrm{EA}}$가 일부 모델과 데이터셋에서 성능을 향상시키지만, 모든 설정에서 일관되게 향상되는 것은 아님을 확인했습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.