arXiv:2606.12439v1 cs.CY

입장: 생성형 엔진 최적화(Generative Engine Optimization, GEO)는 충분히 검토되지 않은 위험을 초래하며, 거버넌스는 영향력 집중, 공시, 학술적 사각지대를 목표로 해야 한다

Position: Generative Engine Optimization Creates Underexamined Risks, Governance Must Target Concentration, Disclosure, and Academic Blind Spots

Yizhu Wen, Nan Zhang, Haohan Yuan, Xun Chen, Haopeng Zhang, Hanqing Guo

제출 2026-05-18

한국어 초록

대규모 언어 모델(LLM) 기반 답변 엔진이 정보 탐색에 점점 더 많이 사용되면서, 가시성이 순위 목록에서 합성된 답변으로 이동하고 있다. 이는 LLM 답변 엔진의 증거 풀(evidence pool)과 생성(generation)을 목표로 하는 생성형 엔진 최적화(GEO)를 가능하게 한다. 우리는 검색 엔진 최적화(search engine optimization, SEO)에서 GEO로의 전환을 분석하여 두 가지 위험을 식별한다: (i) 낮은 이의 제기 가능성(contestability)과 시스템 민감도로 인한 영향력 집중, (ii) 증거와 추론에 내재된 미공개 상업적 영향력. 이어 우리는 최적화가 작용하는 지점을 파악하기 위해 일반적인 GEO 파이프라인을 형식화하고 학계와 산업의 관행을 비교하여 세 번째 위험을 밝힌다: (iii) 오프라인 설정과 배포된 시스템 간의 가시성 및 평가(evaluation) 비대칭에 의해 촉발되는 학계-산업 사각지대. 이 입장 논문은 답변 수준(answer-level)의 거버넌스와 측정의 필요성을 주장한다: 더 강한 이의 제기 가능성, 고정밀 공시, 실질적 영향력에 대한 블랙박스 감사(black-box auditing), 노출 지속성(exposure persistence)을 위한 배포 정렬(deployment-aligned) 지표.

원문 초록

Large language model (LLM) answer engines are increasingly used for information seeking, shifting visibility from ranked lists to synthesized answers. This enables Generative Engine Optimization (GEO), which targets LLM answer engines' evidence pool and generation. We analyze the search engine optimization (SEO) to GEO transition to identify two risks: (i) concentrated influence from low contestability and system sensitivity, and (ii) undisclosed commercial influence embedded in evidence and reasoning. We then formalize a general GEO pipeline to locate where optimization acts and compare academic and industry practices, revealing a third risk: (iii) academic-industry blind spots driven by visibility and evaluation asymmetries between offline setups and deployed systems. This position argues the need for answer-level governance and measurement: stronger contestability, high-precision disclosure, black-box auditing of material influence, and deployment-aligned metrics for exposure persistence.

요약

대규모 언어 모델(LLM) 기반 답변 엔진의 부상으로 Generative Engine Optimization(GEO)이 등장함에 따라 영향력 집중, 미공개 상업적 개입, 학계-산업 간 인식 격차라는 위험이 제기되고 있다. 이에 대해 GEO 파이프라인을 분석하여 답변 수준의 거버넌스 강화와 블랙박스 감사 등의 측정 방식이 필요하다고 주장한다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.12439v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.34951v3cs.AI공통 태그 Information Retrieval, Retrieval-augmented Generation

AX는 새로운 AEO이다

AX is the New AEO

2023년에 AI 모델(model)은 학습(training) 데이터로부터 답변했고 데이터가 부족할 때 환각(hallucination)을 일으켰으며, 기업들은 이러한 지식을 심어두라는 조언을 받았습니다. 이후 모델의 학습 지식은 실시간 웹 검색에 자리를 내주었고 조언 역시 이를 따랐습니다. 즉, 답변 엔진 최적화(AEO, answer-engine optimization)는 이제 AI 엔진이 기업을 노출하고 추천할 가능성을 높이기 위해 포럼 스레드, 리스티클, 외부 인용 전반에 빵 부스러기(흔적)를 흩뿌려 두라고 기업에 권장합니다. 그러나 단순히 노출되는 것만으로는 더 이상 충분하지 않습니다. 에이전트(agent)는 결정을 내리기 전에 결과를 열고 읽으며, 구매자의 질문 하나로 인해 여러 차례의 검색과 가져오기(fetch) 단계를 거칩니다. 이 심층 탐색 단계에서 결과를 좌우하는 것은 에이전트가 기업 자체 사이트를 가져와서 읽을 수 있는지 여부, 즉 에이전트 경험(AX, agent experience)입니다. 본 논문에서는 AX가 새로운 AEO라고 주장합니다. 우리는 인지도, 기존 모델 지식, 두 가지 AEO 대리 지표를 일치시킨 1,056개의 실제 기업을 대상으로 네 개의 독립적인 하네스(harness)에 걸쳐 기업에 대한 구매자 질문으로 구성된 37,927회의 에이전트 여정을 실행한 뒤, 이들의 AX 수준에 따라 분류했습니다. 사이트 가독 여부와 관계없이 완성된 답변 중 모델의 학습 지식에서 나온 비율은 7~10%에 불과했습니다. 에이전트 친화적인(agent-ready) 기업은 자체 페이지를 기반으로 답변이 구축된 비율이 56% 대비 78%였으며 명확하게 추천되는 빈도가 1.9배 더 높았던 반면, 에이전트 친화적이지 않은 기업에 대한 그라운딩(grounding)된 답변은 에이전트에 평균 64% 더 많은 비용을 초래했습니다. 기업, 하네스, 질문을 고정했을 때 사이트를 기반으로 구축된 답변은 평균 41% 더 정확했습니다. 주요 실패 요인은 조작(fabrication)이 아닌 누락(omission)으로, 웹 기반으로 구축된 답변은 구매자가 요청한 사실을 전혀 포함하지 않을 확률이 3.7배 더 높았습니다. 4개 하네스 간의 기준선(baseline)은 크게 달랐으며 스택에 따라 명확한 추천 비율이 7배나 차이 났지만, 추천 격차는 모든 하네스에서 유지되었습니다. 에이전트 웹 시대에는 회자되는 것보다 읽힐 수 있는 것이 더 중요하며, 사이트의 AX를 개선하는 것이 기업이 활용할 수 있는 가장 강력한 수단입니다.

arXiv:2607.14197v2cs.AI공통 태그 Information Retrieval, generative engine optimization

인공지능 LLM 엔진이 글로벌 분쟁 정보 환경을 형성하는 방식

How Artificial Intelligence LLM Engines Shape the Global Conflict Information Environment

인공지능(AI) 답변 엔진은 이제 평화와 분쟁 이슈에 대해 분석가, 학자, 대중이 묻는 질문의 점점 더 많은 부분을 처리하고 있다. 대규모 언어 모델(LLM)은 특정 조건에서 환각(hallucination)을 일으키는 것으로 알려져 있지만, 분쟁에 대해 질문을 받았을 때 이러한 오류에 식별 가능한 패턴이 있는지, 그리고 만약 있다면 이것이 변화하는 글로벌 분쟁 정보 환경(environment)에 대해 무엇을 알려줄 수 있을까? 이에 답하기 위해, 본 연구에서는 먼저 5개의 대표적인 답변 엔진을 대상으로 28개 분쟁에 관한 일련의 질문을 던지고, 문서화된 증거를 바탕으로 5,460개의 답변을 평가했다. 그 결과 주어진 분쟁과 관련해 검색 가능한 기록이 빈약할수록 엔진이 사실을 날조하고, 잘못 귀속시키며, 잘못 집계하는 경향이 더 크다는 점을 발견했다. 빈약한 기록은 단순히 환각을 부추길 뿐만 아니라, 생성 엔진 최적화(GEO)를 통해 엔진 응답에 바이어스(bias)를 주도록 왜곡하기 가장 쉬운 기록이기 때문에 오정보 및 허위정보(mis- and disinformation)에 대한 구조적 노출을 초래한다. AI LLM이 분쟁 관련 사실을 추출한 1,048개 웹사이트를 분석한 결과, GEO 소스 최적화는 이미 발생하고 있으며, 국가·당파적 디지털 장악은 아직 초기 단계이지만 빠르게 증가하고 있음을 확인했다. 우리는 GEO 정보전의 부상과 함께 이러한 발견이 학술 연구에 시사하는 바를 설명하고, 정책적으로는 AI 도구가 대체할 수 없는 심층적인 현지 모니터링 및 번역 기반 연구로의 복귀를 주장하며, 이처럼 급변하는 분야에서의 향후 연구 기회와 과제에 대한 논의로 결론을 맺는다.

arXiv:2609.38743v2cs.AI공통 태그 Information Retrieval, Retrieval-augmented Generation

다단계 임베딩 검색을 통한 시각적 공간에서의 경로 탐색 학습

Learning to Route in Visual Space via Multi-Step Embedding Retrieval

대규모 언어 모델(LLM) 에이전트는 외부 지식에 접근하기 위해 검색 도구에 의존하지만, 시각적 에이전트 탐색은 여전히 표준 단일 단계 검색기로 인해 심각한 병목 현상을 겪고 있습니다. 현재의 파이프라인에서는 에이전트가 모든 중간 단계마다 텍스트 쿼리를 생성해야 하므로, 시각적 단서를 설명하기 어렵거나 검색기가 상위 결과 내에 필요한 중간 증거를 제시하지 못할 때 어려움을 겪습니다. 본 논문에서는 전체 임베딩 공간에 걸친 다단계 탐색을 검색 도구로 직접 위임함으로써 이러한 성능 병목 현상을 해결할 수 있다는 가설을 세웁니다. 이를 체계적으로 연구하기 위해 시각적 매칭과 검색 계획을 모두 테스트하는 5가지 핵심 난이도를 갖춘 유연한 데이터 생성 프레임워크이자 벤치마크인 VHOP을 소개합니다. 이 프레임워크를 바탕으로 지도 미세조정(supervised fine-tuning), 온라인 모방 학습, 강화학습을 결합하여 표준 임베딩 모델을 자기회귀적 다단계 검색기로 변환하는 엔드투엔드 학습 파이프라인인 VHOP-Router를 개발했습니다. 시각적 잠재 공간(latent space)에서 직접 동작하는 VHOP-Router는 에이전트가 중간 텍스트 쿼리를 작성할 필요 없이 단 한 번의 도구 호출로 연결된 이미지 체인을 검색합니다. 실험 결과에 따르면 VHOP-Router는 검색 성능을 5% 미만에서 76.3%로 크게 향상시킵니다. 에이전트 탐색에서 작업 성공률을 52.7% 향상시키고 평균 토큰 길이를 1886개에서 728개로 61% 감소시킨 반면, 에이전트 자체를 업그레이드했을 때는 3.7%의 성능 향상에 그쳤습니다. 에이전트가 단계마다 상위 50개 결과를 검색하는 강력한 기준선과 비교했을 때, VHOP-Router는 문맥 내(in-context) 이미지를 23배 줄이고 누적 API 페이로드를 35배 절감하면서도 우수한 성능을 유지합니다. 또한 이 모델들은 학습 시 보지 못한 난이도와 실제 테스트 세트에서도 견고한 일반화 성능을 보입니다. 궁극적으로 VHOP과 VHOP-Router는 고유한 LLM 기능을 완전히 온전하게 유지하면서 시각적 에이전트 탐색을 위한 효율적이고 효과적인 솔루션을 제공합니다.

arXiv:2610.02510v1cs.AI공통 태그 Information Retrieval, Retrieval-augmented Generation

경영학 교육을 위한 온프레미스 다중 강좌 RAG 튜터링: 캠퍼스 AI 튜터의 하드웨어-소프트웨어 트레이드오프

On-Premises Multi-Course RAG Tutoring for Business Education: Hardware-Software Trade-offs in a Campus AI Tutor

검색-증강 생성(RAG) 기반 캠퍼스 AI 튜터는 교재와 학생 대화를 기관 인프라 내에 유지하면서 지정된 강의 자료를 바탕으로 답변을 그라운딩(grounding)해야 합니다. 본 논문에서는 캠퍼스 웹 게이트웨이 뒤에 배포되고 Moodle에 임베드되어 사용되도록 설계된 학부 경영학 교육용 온프레미스 다중 강좌 RAG 튜터인 CourseChat을 소개합니다. 고유한 강좌 참조 번호(CRN)로 구분되는 6개의 격리된 강좌가 FastAPI 서비스, 로컬 벡터 데이터베이스, Ollama로 서빙되는 로컬 대규모 언어 모델(LLM)을 실행하는 트윈 엣지 AI 호스트를 공유합니다. 본 연구는 두 차례의 생성 모델 평가 라운드, 별도의 고정 근거 기반 소스 충실도 비교, 대화 및 퀴즈 감사를 보고합니다. 몇몇 더 큰 모델들은 강의실 속도 기준을 통과하지 못했으나, 12B 모델과 7B 대안 모델은 통과했습니다. 별도의 전문가 혼합(MoE) 후보 모델은 일부 수정을 개선했으나 새로운 사실적 오류 및 연속성 오류를 야기했습니다. 따라서 8B 모델이 보편적으로 최적이라고 주장하기보다는 전반적인 개선이 입증될 때까지 기존 8B 프로덕션 모델을 유지합니다. 소프트웨어 변경을 통해 강좌 범위를 보존하면서 후속 주제 해결을 개선했으며, 65개 모듈에 걸친 435개의 사전 구축된 질문을 통해 실시간 생성과 연습 문제를 분리했습니다. 이 결과는 모델 선택, 근거 선택, 서빙 호환성, 제품 설계를 통합적인 엔지니어링 의사결정으로 다루어야 함을 뒷받침합니다. 다만 학습 효과가 입증된 것은 아니며, 교수진 평가, 피크 부하 용량, 완전한 퍼블릭 게이트웨이 수용성은 여전히 별도의 평가 과제로 남아 있습니다.

arXiv:2610.02880v1cs.CV공통 태그 Information Retrieval, Retrieval-augmented Generation

발견했으나 읽지 못함: 추출된 텍스트가 문서 비전-언어 모델의 검색-읽기 격차를 해소하는 경우

Found but Not Read: When Extracted Text Closes the Retrieval-Reading Gap in Document Vision-Language Models

검색-증강 문서 질의응답은 적절한 페이지를 찾기만 하면 비전-언어 모델(VLM)이 이를 읽을 수 있다고 가정합니다. 본 논문에서는 이러한 가정이 종종 빗나가 검색-읽기 격차(retrieval-reading gap), 즉 증거를 찾았음에도 사용하지 못하는 현상이 발생함을 보여줍니다. 쌍체 프로토콜(paired protocol)을 통해 검색된 페이지 이미지만 사용한 답변과 동일한 이미지에 추출된 텍스트를 함께 제공한 답변을 비교함으로써 이러한 격차를 분리하여 측정합니다. 추적 가능한 증거를 포함하는 자체 벤치마크인 FoveDoc-Bench에서 검색 단계는 거의 모든 증거 페이지를 찾아내지만, CPU 기반 OCR 텍스트를 추가하면 엄격한 정확도(strict accuracy)가 13~16포인트 향상됩니다. 정확한 텍스트 층(text layer)을 제공할 경우 이러한 이득은 대략 두 배로 증가하며, 이는 세 가지 계열의 6개 VLM 전반에서 나타나고 단일 계열 내에서는 모델 규모가 커질수록 격차가 좁혀지기는 하지만 완전히 사라지지는 않습니다. 판독기(reader)는 이 증거를 읽을 수는 있지만 찾아내지는 못합니다. 증거 영역을 잘라내어(crop) 제공하면 텍스트 추가로 인한 이득의 대부분을 회복하지만, 페이지 상에 해당 영역을 상자(box)로 표시하는 방식은 전혀 효과가 없습니다. 또한 동일한 프로토콜을 통해 두 가지 한계를 확인했습니다. 추출된 텍스트는 텍스트 형태의 증거에는 도움이 되지만 차트와 그림에서는 중립적이거나 오히려 해롭습니다. 이러한 이점은 검색 성능이 저하될수록 줄어들며, 동일한 형태의 무관한 텍스트는 감지할 수 있는 수준의 이득을 전혀 제공하지 못합니다. 즉, 추출된 텍스트는 제대로 작동하는 검색을 증폭시키는 장치일 뿐, 실패한 검색을 대체할 수 있는 수단은 아닙니다. 본 연구의 코드는 https://github.com/atoz03/fovedoc-sup 에서 확인할 수 있습니다.

arXiv:2609.27009v1cs.CL공통 태그 Information Retrieval, Retrieval-augmented Generation

LEGO: 법률 추론을 위한 Expert GraphRAG와 Expert Chain-of-Thought의 시너지

LEGO: Synergizing Expert GraphRAG and Expert Chain-of-Thought for Legal Reasoning

대규모 언어 모델(LLM)은 법률과 같은 고위험 영역에 점점 더 적용되고 있으나, 복잡한 법률 추론은 두 가지 구조적 난제로 여전히 제한된다. 첫째, 기존 RAG 및 GraphRAG 방법은 어휘적 또는 의미적 유사성을 강조하는 반면, 법조문 간의 규범적 관계를 간과한다. 둘째, 기본 사고의 연쇄(Chain-of-Thought) 프롬프팅은 법률 추론의 규범적 구조를 강제하지 않은 채 그럴듯한 근거를 생성할 수 있다. 법률 추론 영역의 파이프라인 병목을 해결하기 위해, 우리는 복잡한 법률 추론을 위해 Legal Expert GraphRAG와 expert Chain-of-thought를 상호 보완적으로 결합하는 이중 모듈 프레임워크인 LEGO를 제안한다. ExpertGraphRAG는 전문가 주석이 달린 민법 그래프에 이러한 규범적 관계를 인코딩하고, 탐욕적 규범 커버리지(normative-coverage) 검색 알고리즘을 사용하여 사례별 조문 부분 그래프를 동적으로 추출한다. 반면 ExpertCoT는 검색된 조문과 사건 사실을 구조화된 조문-사실-결론(Provision-Fact-Conclusion) 추론으로 구성한다. Qwen3-8B 백본을 사용할 때 LEGO는 LawExamQA_Civil에서 40.53% exact-match 정확도를 달성하여, 평가한 RAG 및 CoT 베이스라인을 능가하고 평가한 더 큰 모델들과 유사한 성능을 보이며, 다중 홉 질문에서도 견고성을 유지한다. 또한 개방형 벤치마크에서 평가한 베이스라인 중 최고 결과를 달성한다. 절제 연구(ablation studies)는 두 모듈의 개별적이고 상호 보완적인 기여를 확인하며, LLM의 복잡한 법률 추론 능력 향상에서 LEGO의 효과를 보여준다. 코드와 데이터셋은 다음 링크에서 확인할 수 있다: https://github.com/BLK-WHT/LEGO

토론

이 논문과 연결된 포럼 글이 아직 없습니다.