arXiv:2410.02650

Undesirable Memorization in Large Language Models: A Survey

Ali Satvaty, Suzan Verberne, Fatih Turkmen

제출 2024-10-03

원문 초록

While recent research increasingly showcases the remarkable capabilities of Large Language Models (LLMs), it's vital to confront their hidden pitfalls. Among these challenges, the issue of memorization stands out, posing significant ethical and legal risks. In this paper, we presents a Systematization of Knowledge (SoK) on the topic of memorization in LLMs. Memorization is the effect that a model tends to store and reproduce phrases or passages from the training data and has been shown to be the fundamental issue to various privacy and security attacks against LLMs. We begin by providing an overview of the literature on the memorization, exploring it across five key dimensions: intentionality, degree, retrievability, abstraction, and transparency. Next, we discuss the metrics and methods used to measure memorization, followed by an analysis of the factors that contribute to memorization phenomenon. We then examine how memorization manifests itself in specific model architectures and explore strategies for mitigating these effects. We conclude our overview by identifying potential research topics for the near future: to develop methods for balancing performance and privacy in LLMs, and the analysis of memorization in specific contexts, including conversational agents, retrieval-augmented generation, multilingual language models, and diffusion language models.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.22319v1cs.DB공통 태그 Survey, Retrieval-augmented Generation

신뢰할 수 있고 비용 효율적인 데이터 통합을 향하여: 순진한 RAG에서 에이전틱 RAG까지

Towards Trustworthy and Cost-Efficient Data Integration: From Naïve RAG to Agentic RAG

대규모 언어 모델(LLM)과 AI 에이전트는 제로샷 및 퓨샷 설정에서 데이터 통합에 대한 강력한 잠재력을 보여주었다. 그러나 지속적인 지식 격차로 인해 기업 환경에서는 여전히 정확도와 비용 측면에서 상당한 과제에 직면하고 있다. 본 논문은 검색-증강 생성(RAG) 워크플로 내에서 동작하는 지식 그라운딩 LLM과 에이전트를 통해 신뢰할 수 있고, 확장 가능하며, 비용 효율적인 통합을 구상한다. 여기서 신뢰성은 증거에 기반한 검증 가능한 추론을 의미하며, 통합 결정이 검색된 지식에 의해 투명하게 뒷받침되고, 환각에 강건하며, 과제 간 일관성을 유지하는 것을 말한다. 우리는 고전적 RAG에서 GraphRAG 및 KG-RAG(지식 그래프 기반 RAG)로의 진화를 추적하며, 이러한 패러다임이 파라미터 지식과 문맥 지식을 어떻게 연결하는지 강조한다. 이 궤적을 바탕으로, 자율적 다중 에이전트 시스템이 복잡한 통합 과제를 위해 적응적으로 계획하고, 검색하고, 정제하고, 추론하는 에이전틱 RAG로의 전환을 탐구한다. 우리는 대규모 기업 환경에서의 계산 병목을 해결하는 비용 효율적 통합을 위한 최적화 전략을 검토한다. 마지막으로, 신뢰할 수 있고 설명 가능하며 확장 가능한 지식 그라운딩 통합 시스템 구축을 향한 미해결 과제와 향후 방향을 개괄한다.

arXiv:2607.11175v1cs.AI공통 태그 Survey, Retrieval-augmented Generation

자기 진화하는 임상 시스템으로의 경로: 보조에서 자율성으로의 의료 에이전트 스케일링

The Path to Self-Evolving Clinical Systems: Scaling Medical Agents from Assistance to Autonomy

대규모 언어 모델(LLM)과 비전-언어 모델이 이미지와 텍스트를 공동으로 해석하고 추론하는 능력이 점점 향상되면서 의료 에이전트가 재편되고 있으며, 태스크별 예측기에서 임상 환경에서 인식하고 추론하고 계획하고 기억하며 행동하는 자율 시스템으로 나아가고 있다. 본 연구는 기존 문헌의 능력 우선 관점에서 벗어나 임상 배포를 출발점으로 삼으며, 의료 에이전트가 실제 환경에서 신뢰받기 위해 어떤 태스크, 오염 방지(contamination-resistant) 벤치마크, 상호작용 학습 환경이 필요한지 묻는다. 의료 에이전트는 부분 관측 가능성(partial observability) 하의 순차적 의사결정 시스템으로 형식화되며, 보조(assisted), 협력(cooperative), 완전 자율(fully autonomous) 운영을 아우르는 3단계 자율성 분류 체계와 함께 제시된다. 이 분야는 프레임워크 스케일링, 능력 스케일링, 환경 스케일링으로 구성된 통합 스케일링 척추(scaling spine)를 따라 정리된다. 이 프레임워크 내에서, 도구·데이터·임상 짐(clinical gym)의 통합인 임상 환경 스케일링은 PACS, EHR, FHIR 생태계에서 운영되는 에이전트에게 가장 실행 가능하면서도 충분히 탐구되지 않은 방향으로 파악된다. 임상 자기 진화(clinical self-evolution), 즉 에이전트가 매개변수 스케일링만이 아닌 환경과의 상호작용을 통해 향상되는 것은, 자기 개선 에이전트, 에이전트 짐(agent gym), 테스트 타임 컴퓨트 스케일링으로부터 통찰을 얻어 핵심 연구 프론티어로 자리매김된다. 방사선학, 병리학, 안과학, 병원 워크플로우에 걸친 응용이 환각(hallucination), 연쇄 실패(cascading failures), 공정성(fairness) 등의 배포 과제와 함께 검토된다. 300개 이상의 참고문헌을 집약하고, 특히 2025년부터 2026년까지의 발전에 중점을 두어, 본 연구는 실제 임상 실무를 위한 신뢰할 수 있는 자기 개선 의료 영상 시스템을 향한 로드맵을 제시한다.

arXiv:2607.14821v2cs.CV공통 태그 Survey

모달 경계의 흐림: 단일 모달에서 다중 모달 인물 재식별(ReID)에 대한 통합 서벡

Blurring Modal Boundaries: A Unified Survey from Single- to Multi-Modal Person Re-ldentification

인물 재식별(ReID)은 지능형 감시 시스템의 핵심 구성 요소로, 분리된 카메라 네트워크 간 신원을 매칭하는 것을 목표로 한다. 전통적인 방법은 주로 단일 모달 RGB 영상에 의존하지만, 낮은 조도와 가림(occlusion)과 같은 환경적 도전 과제에 종종 제약을 받는다. 이러한 한계를 극복하기 위해 해당 분야는 교차 모달(cross-modal) 및 다중 모달(multi-modal) 패러다임으로 빠르게 발전하고 있다. 본 서벡은 이러한 전환에 대한 포괄적인 개요를 제시하며, 직접 가시성을 넘어 지각을 확장하는 신흥 비시선(NLOS, Non-Line-of-Sight) ReID를 포함하여 가시-적외선(VI-ReID), 텍스트-이미지(TI-ReID), 스케치 기반(Sketch-ReID) 등 주요 교차 모달 과제를 체계적으로 검토한다. 또한 3분광(tri-spectral) 및 다중 모달 융합 ReID를 살펴보고, 다양한 센서의 상보적 정보가 어떻게 견고성(robustness)을 향상시키는지 논의한다. 데이터셋, 과제, 방법론을 요약하는 것을 넘어, 모달리티 불변(modality-invariant) 특징을 효과적으로 포착하도록 설계된 가시-적외선 ReID용 트랜스포머 기반 기준선 프레임워크를 제안한다. 마지막으로, 현재 연구 환경을 바탕으로 향후 연구를 위한 여러 유망한 방향을 제시한다.

arXiv:2610.00224v2cs.AI공통 태그 Retrieval-augmented Generation

Build2SPARQL: 빌딩 지식 그래프 쿼리를 위한 대규모 Text-to-SPARQL 벤치마크 데이터셋

Build2SPARQL: A Large-Scale Text-to-SPARQL Benchmark Dataset for Building Knowledge Graph Querying

빌딩 자동화 시스템은 Brick 및 ASHRAE 223P와 같은 온톨로지를 사용하는 시맨틱 지식 그래프(KG)로 점점 더 많이 표현되고 있으며, 이는 인공지능 응용을 위한 기계 판독 가능한 기반을 형성합니다. 유망한 응용 분야 중 하나는 자연어 질문을 SPARQL로 변환하는 Text-to-SPARQL로, 빌딩 관리자가 언어 에이전트를 통해 이러한 그래프를 쿼리할 수 있게 해주지만 대규모 자연어/SPARQL 벤치마크의 부족으로 발전이 제한되고 있습니다. 본 논문에서는 지식 그래프 기반(KG-grounded) 파이프라인으로 생성된 빌딩 지식 그래프용 대규모 벤치마크인 Build2SPARQL을 제시합니다. 이 파이프라인은 SPARQL 쿼리를 전적으로 그래프 순회 코드로 생성 및 검증하는 반면, 대규모 언어 모델(LLM)은 자연어 질문만을 생성하도록 하여 쿼리의 정확성을 모델의 동작과 독립적으로 유지합니다. 해당 파이프라인은 선형 체인, 분기, UNION, 집계, OPTIONAL, 속성 필터링의 6가지 쿼리 패턴 패밀리를 추출하며, 각 쿼리를 5가지 어휘 레지스터에 걸쳐 표현합니다. 201개의 빌딩 지식 그래프(Brick 180개, ASHRAE 223P 21개)에 적용하여 6,136개의 실행 가능한 SPARQL 쿼리와 30,680개의 질문을 도출했습니다. 300개 질문에 대한 2인 평가자 인적 검증 결과 98.8%의 시맨틱 충실도, 98.8%의 자연스러움, 84.0%의 운영 타당성을 확인했습니다. 3개의 공개 가중치(open-weight) 언어 모델에 걸친 검색-증강 평가에서는 완전 일치(exact-match) 정확도가 0.2~20%(제로샷)에서 56~65%(3샷 검색)로 향상되었습니다.

arXiv:2610.02418v2cs.CR공통 태그 Memorization

Whiteout을 활용한 대규모 언어 모델(LLM)의 개인정보 유출 완화

Mitigating Private Data Leakage in LLMs with Whiteout

최신 대규모 언어 모델(LLM)은 거의 모든 접근 가능한 웹사이트에서 스크래핑한 콘텐츠와 사용자 입력을 포함하여 대부분 필터링되지 않은 방대한 데이터셋으로 학습(training)됩니다. 그 결과 LLM은 생년월일, 전화번호, 집 주소와 같은 민감한 개인정보(PSI)를 암기하고 그대로 재생성하는 경우가 많습니다. 이는 특히 경영진, 정치인, 판사와 같은 저명인사들에게 심각한 개인정보 침해 위험을 초래합니다. 기존의 완화 방법은 주로 머신 언러닝(machine unlearning)에 의존합니다. 그러나 이러한 방식은 종종 필요한 것보다 더 많은 정보를 제거하고, 모델의 유용성과 안전성(safety)을 저하시키며, 공격에 매우 취약합니다. 본 논문에서는 개인의 요청에 따라 정밀하고 세심하게 설계된 난독화 샘플로 덮어씀으로써 LLM이 실제 민감한 개인정보(PSI)를 그대로 토해내는 것을 방지하는 실용적인 도구인 Whiteout을 제시합니다. 널리 사용되는 OpenAI 모델을 포함하여 다양한 크기와 제조사의 최신 LLM에서 Whiteout을 평가(evaluation)합니다. 실험 결과, Whiteout은 대상 민감한 개인정보의 유출을 효과적으로 방지하고, 모델 유용성과 안전성에 미치는 영향이 미미하며, 기존 대안들보다 우수한 성능을 보였습니다. 또한 탈옥(jailbreaking)과 같은 블랙박스 공격부터 재학습(relearning) 및 양자화(quantization)와 같은 화이트박스 적응형 공격에 이르기까지 광범위한 대응 공격에 대해 Whiteout을 검증합니다. 마지막으로 Whiteout의 보안 및 윤리적 의미에 대한 논의로 결론을 맺습니다.

arXiv:2607.09489v3cs.AI공통 태그 Retrieval-augmented Generation

Ceci n'est pas une pipe: AI 시스템을 위한 정당화된 신뢰의 의미론

Ceci n'est pas une pipe: A semantics of justified reliance for AI systems

AI 에이전트는 편집으로 인해 근거가 무효화된 후에도 성공한 검사를 컨텍스트에 유지할 수 있다. 우리는 시스템이 메시지에 의존하고 그에 따라 행동해도 되는 때를 명세하기 위한 의미론을 제시한다. 신뢰성(reliability)은 주장된 명제를 선택된 컨텍스트의 승인된 도메인 지식, 출처, 메시지와 대조하여 검사한다. 정당화된 신뢰(justified reliance)는 여기에 더해 현재의 증거, 권한, 제안된 세계 변경을 검사한다. 관계적 구성요소 의미론과 이벤트 트레이스는 비결정적 출력, 반복, 외부 변경을 표현한다. 우리는 주장들을 병합해도 도출 가능한 결론 클래스가 보존되는 조건을 규명한 뒤, 규칙이 지정된 구체적 주장들의 정확한 상태를 보존하는 가장 거친 허용 몫(quotient)을 구성한다. 구성은 단항 규칙에 대해서는 다항 시간이며, 비순환 이항 규칙에서는 허용되는 병합 하나를 판정하는 것조차 coNP-완전이다. 이는 완전성 및 강한 보존 방법을 몫 규칙의 실행에 적용한 것이다. 또한 전이 안전장치를 런타임 강제와 연관 짓는다. 주어진 가능 세계 집합에 대해, 건전한 가드는 일치하는 모든 세계가 검사를 통과할 때에만 관측을 수락한다. 정확한 수락에는 반대 결정을 내리는 세계들을 구별하는 관측이 필요하며, 충분한 서비스를 선택하는 문제는 명시적 유한 표에서 NP-완전이다. 완전한 유한 여권 갱신 사례, Lean 정리 인코딩, Z3 인스턴스 검사, OCaml 하네스가 이 의미론을 검증한다. 도메인 지식, 해석, 출처 라이선스, 정책은 응용에서 제공해야 하는 입력으로 남는다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.