PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.02383v3cs.CL

MEDIAREF: A Public Knowledge Store for Media Background Checks

자동 팩트체킹(AFC)에서 검색-증강 생성(RAG) 시스템이 출처의 신뢰성을 검증 없이 그대로 활용하는 문제를 해결하기 위해, 200개 미디어 출처에 대한 미디어 배경 정보(Media Background Check) 생성을 재현 가능하고 저비용으로 평가할 수 있는 공개 지식 저장소 MEDIAREF를 제안한다. MEDIAREF를 활용해 다양한 대규모 언어 모델(LLM)을 평가한 결과, 외부 정보 검색을 결합했을 때 자동 및 정성 평가 모두에서 더 정확한 미디어 배경 정보가 생성됨을 확인했다.

arXiv:2607.03365v1cs.CV

브랜드-기억으로서: 비전-언어 모델은 뉴스 출처에 대한 인과적·기계론적으로 국소화 가능한 신뢰도 사전 분포를 인코딩한다

Brand-as-Memory: Vision-Language Models Encode Causal, Mechanistically Localizable Credibility Priors for News Sources

비전-언어 모델(VLM)은 출판사의 정체성이 시각적으로 드러나는 이미지 형태로 뉴스와 웹 콘텐츠를 점점 더 많이 읽고 있다. 본 연구는 VLM이 언론사 정체성에 기반한 강력한 출처 신뢰도 사전 분포(source-credibility prior)를 내재하고 있음을 보이며, 이를 세 가지 축에서 분석한다. (i) 크로스-모델 벤치마크. 우리는 출처 재정의 지수(SOI, Source-Override Index)를 통해 어떤 표면적 출처 단서가 기사 내용 증거를 무력화하는지 측정하는 크로스-모델 진단 도구인 CueTrust를 제안한다. 7개의 VLM과 5가지 단서에 걸쳐, 취약성 프로파일은 모델 및 스케일에 따라 달라지며, 재정의는 언론사 정체성에 특화되어 인코딩 방식에 무관하게 발동한다—마스트헤드 이름, 로고 이미지, 또는 단독 도메인에서는 발동하지만, 저자 이름, 텍스트 내 권위, 페이지 레이아웃(명확한 음성 대조군)에서는 발동하지 않는다. (ii) 기계론적 설명. 브랜드 단서에 대해 완전한 기계론적 설명을 제시한다: 마스트헤드만 교체해도 신뢰도가 약 11 로그-오즈 범위에 걸쳐 이동하며, 이는 전문가 평가(Media Bias/Fact Check와 rho = 0.88)와 일치한다. 해당 사전 분포는 이중 코딩(이름과 로고)되어 있고, 스케일이 커질수록 강화되며, 19~21번 레이어에서 인과적으로 형성되고, 해석 가능한 시드-안정적 희소 오토인코더(sparse-autoencoder) 피처에 의해 전달되며, 두 번째 모델 패밀리의 동일한 상대적 위치에서도 반복 등장한다. 이는 콘텐츠를 약 1.8배 재정의하는데, 이는 특권적 경로가 아닌 공유 경로 내 신호 크기 효과로 나타난다. 국소화된 방향을 조향하면 재정의가 선택적으로 감소(41% 감소)하고 보류된 언론사에도 일반화되어, 해당 사전 분포가 단순히 디코딩 가능한 것이 아니라 인과적으로 사용됨을 확인한다. 배포된 VLM은 눈앞의 증거보다 출처 정체성에 따라 판단을 내릴 수 있으며, 이는 모델 전반에 걸쳐 측정하고, 국소화하고, 인과적으로 탐색할 수 있는 신뢰성 실패다. 자극 스위트와 CueTrust를 공개한다.