Papers with Code 아카이브
Safety Alignment
태스크의 하위 분류와 논문·코드·평가·기법·데이터셋을 탐색하세요.
- 하위 태스크
- 0
- 평가표
- 0
- 보존된 평가 기록
- 0
논문
이 태스크와 하위 분야의 관련 논문입니다. 실제 성능 비교는 평가 결과에서 확인하세요.
잠재 성격 특성을 통한 효율적인 언어 모델 안전성 정렬
AEGIS: A Mechanism-Guided Defense against Visual Synonym Jailbreaks in Text-to-Image Models
라그랑주 보상 증강을 통한 안전한 추론 시간 정렬
대규모 언어 모델은 유해성과 거부를 별도로 인코딩한다
소급적 사고의 연쇄(RetroCoT): 모델 세대 전반의 안전성 진단을 위한 포렌식 재구성 프롬프트
거부에 대한 충실성: 뉴런 선택기의 인과적 감사
대규모 비전-언어 모델 탈옥을 위한 정보 과부하 공격
모든 거부가 동등하지 않다: 안전성 정렬이 대규모 사이버보안에서 실패하는 방식
Oyster-II: 대규모 언어 모델의 건설적 안전성 정렬을 위한 강화학습
Breaking Safety at the Token Boundary: How BPE Tokenization Creates Exploitable Gaps in LLM Alignment
kNNGuard: Turning LLM Hidden Activations into a Training-Free Configurable Guardrail
From Holistic Evaluation to Structured Criteria: Rubrics Across the Evolving LLM Landscape
텍스트-이미지 확산 모델의 안전성 정렬에서 높은 유용성의 환상
HARC: Coupling Harmfulness and Refusal Directions for Robust Safety Alignment
Revocable Learned State via Process Sidecars
미세조정 역전의 중력적 해석
When Medical Safety Alignment Fails: A Benchmark for Evaluating LLMs on High-Risk Medical Queries
안전한 LLM 미세조정을 위한 낮은 조화성 페르소나 조건화
MetaBreak: 특수 토큰 조작을 통한 온라인 LLM 서비스 탈옥
Health-ORSC-Bench: 의료 맥락에서 과도한 거부와 안전 완성을 측정하는 벤치마크
채팅 모델에서 거부는 페르소나의 하류에 존재한다
IndicGuard: 인도 언어를 위한 다국어 안전 가드 모델 및 데이터셋
안전 정렬된 대규모 언어 모델(LLM)은 혼합 준수 데모로부터 무엇을 학습하는가?
REINS: 표현(Representation) 조향(Steering)을 통한 비디오 디퓨전 모델의 학습 없는 안전성 정렬
AnchorKV: Safety-Aware KV Cache Compression via Soft Penalty with a Refusal Anchor
ALIGNBEAM: 교차 어휘 로짓 혼합을 통한 추론 시 정렬 전이
SafeGene: 전이 가능한 안전성 정렬을 위한 재사용 가능한 어댑터
The Devil behind the mask: An emergent safety vulnerability of Diffusion LLMs
TuneShield: Mitigating Toxicity in Conversational AI while Fine-tuning on Untrusted Data
Trojan Horse Prompting: Jailbreaking Conversational Multimodal Models by Forging Assistant Message
Just Enough Shifts: Mitigating Over-Refusal in Aligned Language Models with Targeted Representation Fine-Tuning
Security Assessment of DeepSeek and GPT Series Models against Jailbreak Attacks
Safe Pruning LoRA: Robust Distance-Guided Pruning for Safety Alignment in Adaptation of LLMs
SAFEx: Analyzing Vulnerabilities of MoE-Based LLMs via Stable Safety-critical Expert Identification
Probing the Robustness of Large Language Models Safety to Latent Perturbations
출처: Papers with Code · CC BY-SA 4.0. 아카이브 자료와 새로 수집한 논문은 별도로 관리합니다.