Exploring Academic Influence of Algorithms by Co-occurrence Network Based on Full-text of Academic Papers
원문 초록
Algorithms have become central to scientific research in the era of artificial intelligence (AI). Although algorithm mentions in papers are often used to indicate popularity and influence, existing studies usually evaluate individual algorithms in isolation and pay limited attention to the collective influence formed through their interconnections. This study constructs large-scale algorithm co-occurrence networks in natural language processing (NLP) based on the full text of academic papers and investigates algorithm influence from a network perspective. Using deep learning models, we extract algorithm entities and build overall, cumulative, and annual co-occurrence networks. We analyze their structural characteristics and apply multiple centrality measures to assess the group influence of algorithms across the whole field and over time. The results show that algorithm networks display typical features of complex networks, with increasingly dense connections developing over approximately two decades. Classic, high-performing algorithms and those located at the intersections of different research periods tend to have high popularity, control, centrality, and balanced influence. When the influence of an algorithm declines, it usually loses its core network position first, followed by weaker associations with other algorithms. This study is the first large-scale analysis of algorithm co-occurrence networks. Covering more than four decades of academic publications, it provides a temporal and structural view of algorithm influence and offers a foundation for future research on networks linking algorithms, scholars, and tasks.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.24099v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
신뢰할 수 있고 비용 효율적인 데이터 통합을 향하여: 순진한 RAG에서 에이전틱 RAG까지
Towards Trustworthy and Cost-Efficient Data Integration: From Naïve RAG to Agentic RAG
대규모 언어 모델(LLM)과 AI 에이전트는 제로샷 및 퓨샷 설정에서 데이터 통합에 대한 강력한 잠재력을 보여주었다. 그러나 지속적인 지식 격차로 인해 기업 환경에서는 여전히 정확도와 비용 측면에서 상당한 과제에 직면하고 있다. 본 논문은 검색-증강 생성(RAG) 워크플로 내에서 동작하는 지식 그라운딩 LLM과 에이전트를 통해 신뢰할 수 있고, 확장 가능하며, 비용 효율적인 통합을 구상한다. 여기서 신뢰성은 증거에 기반한 검증 가능한 추론을 의미하며, 통합 결정이 검색된 지식에 의해 투명하게 뒷받침되고, 환각에 강건하며, 과제 간 일관성을 유지하는 것을 말한다. 우리는 고전적 RAG에서 GraphRAG 및 KG-RAG(지식 그래프 기반 RAG)로의 진화를 추적하며, 이러한 패러다임이 파라미터 지식과 문맥 지식을 어떻게 연결하는지 강조한다. 이 궤적을 바탕으로, 자율적 다중 에이전트 시스템이 복잡한 통합 과제를 위해 적응적으로 계획하고, 검색하고, 정제하고, 추론하는 에이전틱 RAG로의 전환을 탐구한다. 우리는 대규모 기업 환경에서의 계산 병목을 해결하는 비용 효율적 통합을 위한 최적화 전략을 검토한다. 마지막으로, 신뢰할 수 있고 설명 가능하며 확장 가능한 지식 그라운딩 통합 시스템 구축을 향한 미해결 과제와 향후 방향을 개괄한다.
LEGO: 법률 추론을 위한 Expert GraphRAG와 Expert Chain-of-Thought의 시너지
LEGO: Synergizing Expert GraphRAG and Expert Chain-of-Thought for Legal Reasoning
대규모 언어 모델(LLM)은 법률과 같은 고위험 영역에 점점 더 적용되고 있으나, 복잡한 법률 추론은 두 가지 구조적 난제로 여전히 제한된다. 첫째, 기존 RAG 및 GraphRAG 방법은 어휘적 또는 의미적 유사성을 강조하는 반면, 법조문 간의 규범적 관계를 간과한다. 둘째, 기본 사고의 연쇄(Chain-of-Thought) 프롬프팅은 법률 추론의 규범적 구조를 강제하지 않은 채 그럴듯한 근거를 생성할 수 있다. 법률 추론 영역의 파이프라인 병목을 해결하기 위해, 우리는 복잡한 법률 추론을 위해 Legal Expert GraphRAG와 expert Chain-of-thought를 상호 보완적으로 결합하는 이중 모듈 프레임워크인 LEGO를 제안한다. ExpertGraphRAG는 전문가 주석이 달린 민법 그래프에 이러한 규범적 관계를 인코딩하고, 탐욕적 규범 커버리지(normative-coverage) 검색 알고리즘을 사용하여 사례별 조문 부분 그래프를 동적으로 추출한다. 반면 ExpertCoT는 검색된 조문과 사건 사실을 구조화된 조문-사실-결론(Provision-Fact-Conclusion) 추론으로 구성한다. Qwen3-8B 백본을 사용할 때 LEGO는 LawExamQA_Civil에서 40.53% exact-match 정확도를 달성하여, 평가한 RAG 및 CoT 베이스라인을 능가하고 평가한 더 큰 모델들과 유사한 성능을 보이며, 다중 홉 질문에서도 견고성을 유지한다. 또한 개방형 벤치마크에서 평가한 베이스라인 중 최고 결과를 달성한다. 절제 연구(ablation studies)는 두 모듈의 개별적이고 상호 보완적인 기여를 확인하며, LLM의 복잡한 법률 추론 능력 향상에서 LEGO의 효과를 보여준다. 코드와 데이터셋은 다음 링크에서 확인할 수 있다: https://github.com/BLK-WHT/LEGO
LabourCrew: 노동법에 대한 신뢰 가능한 적대적 심의 및 법령 추론을 위한 멀티 에이전트 RAG 프레임워크
LabourCrew: A Multi-Agent RAG Framework for Trustworthy Adversarial Deliberation and Statutory Reasoning over Labour Law
법령 기반 질의응답(statutory question answering)에서는 검증 불가능한 노동권 관련 답변이 심각한 법적 결과를 초래할 수 있으므로, 모든 주장이 단순한 관련성을 넘어 반드시 증거로 추적 가능해야 합니다. 기존 시스템은 이에 미치지 못합니다. 단일 패스(single-pass) 검색-증강 생성(RAG)은 증거 부족을 감지하지 못하며, 멀티 에이전트 법률 토론 시스템은 그라운딩(grounding)을 프롬프트 관례 수준으로 취급하여 에이전트가 검색되지 않은 증거를 인용하도록 허용합니다. 이러한 격차를 해결하기 위해, 세 가지 그라운딩 메커니즘을 중심으로 구축된 멀티 에이전트 RAG 프레임워크인 LabourCrew를 소개합니다. 첫째, 고정 길이 스팬 대신 장, 조항, 단서 조항, 상호 참조 구조를 명시적으로 연결하는 그래프 인덱스인 StatuteGraph, 둘째, 옹호인(advocate)과 해석인(interpreter)을 증거 원장에 국한하여 검색되지 않은 텍스트를 인용하는 것을 원천 차단하는 동시에, 개별 실패가 시스템 다운으로 이어지지 않고 점진적으로 저하되도록 옹호인을 병렬 실행하는 내결함성 감독 위원회로 구성된 증거 교환 프로토콜(Evidence Exchange Protocol), 셋째, 단정적인 수락/기각 결정을 신뢰 점수로 대체하고 오수락률(false-accept rate)에 대한 무분포 경계(distribution-free bound)를 확보하기 위해 등각 위험 제어(conformal risk control)로 임계값을 설정하는 보정된 신뢰 게이트(Calibrated Trust Gate)입니다. 7개 추론 범주와 3개 난이도 단계에 걸친 방글라데시 2006년 노동법 기반의 500개 벵골어 문항 세트인 LabourActQA에서 평가를 수행했습니다. 본 프레임워크는 실증적 오수락률을 목표치($\alpha = 0.10$) 이내인 0.081로 낮추고, HyDE RAG, Graph-RAG, Hierarchical RAG 대비 가장 높은 답변 관련성(Answer Relevancy)을 달성했으며(0.862 $>$ 0.839, 0.815, 0.828), 질문 난이도가 높아짐에 따라 급격한 성능 저하 없이 점진적으로 저하됩니다. 이러한 결과는 저자원 법령 도메인에서 법률 질의응답을 감사 가능하게 만드는 핵심이 검색 품질 단독이 아닌 보정된 기권(calibrated abstention)임을 보여줍니다.
실패로부터의 학습: 소형 언어 모델 도구 사용 에이전트를 위한 이종 그래프 메모리
Learning from Failures: Heterogeneous Graph Memory for Small Language Model Tool-Using Agents
중소형 언어 모델(language model)은 도구 사용 에이전트(agent)를 위한 비용 효율적인 실행자 역할을 하여 로컬 및 대규모 배포에 매력적인 선택지입니다. 그러나 장기적(long-horizon)이고 상태를 유지하는(stateful) 환경에서 이러한 모델(model)들은 필수적인 관측 누락, 조기 쓰기 수행, 실패한 호출 반복, 행동 전제 조건 위반과 같은 구조적 오류를 자주 범합니다. 이러한 오류는 잘못된 상태 업데이트, 정책 위반, 그리고 많은 비용이 들거나 되돌릴 수 없는 결과로 이어질 수 있어, 신뢰할 수 있는 도구 실행이 핵심적인 배포 과제가 됩니다. 기존의 미세조정(fine-tuning) 접근 방식은 상당한 양의 데이터와 연산을 필요로 하며, 평면적 메모리(flat memory)는 인과적 맥락이나 안전성(safety) 조건을 보존하지 못한 채 실패한 행동을 검색할 수 있습니다. 본 논문에서는 과거의 성공과 실패를 도구 사용 에이전트를 위한 구조화된 외부 경험으로 변환하는, 경험 구조화 이종 그래프 기반 실패 인지 검색 프레임워크인 FRESH(Failure-aware Retrieval framework over Experience-Structured Heterogeneous graphs)를 제안합니다. FRESH는 태스크, 행동, 오류, 복구, 실행 조건 간의 의존성을 명시적으로 모델링함으로써, 동결된(frozen) 언어 모델이 신뢰할 수 있는 전략을 재사용하고, 반복되는 실패를 방지하며, 상태 기반 도구 상호작용에서 더 안전한 결정을 내릴 수 있도록 돕습니다. 여러 오픈소스 모델을 사용해 $\tau$-Bench 및 AppWorld에서 수행한 실험에 따르면, FRESH는 메모리가 없는 에이전트 및 대표적인 메모리 기반 베이스라인 대비 태스크 성공률과 도구 사용 신뢰성을 일관되게 향상시킵니다.
타당성 인식 생의학 AI를 위한 정량적 증거 마이닝: 서술적 리뷰 및 개념적 프레임워크
Quantitative Evidence Mining for Plausibility-Aware Biomedical AI: A Narrative Review and Conceptual Framework
생의학 인공지능은 문헌 검색에서 지식 그래프, 임상 의사결정 지원, 계산 모델을 위한 증거 종합(evidence synthesis)으로 나아가고 있다. 그러나 대부분의 정보 추출(information extraction) 시스템은 여전히 발견을 단순 관계로만 표현하여, 해석과 재사용에 필요한 정량적·맥락적 세부를 버린다. 한 개체가 다른 개체에 영향을 준다는 주장만으로는 크기(magnitude), 단위, 대상 집단, 비교군(comparator), 실험 조건, 불확실성, 출처(provenance)가 빠져 있으면 부족하다. 우리는 생의학적 발견을 구조화되고 맥락이 풍부하며 감사 가능한(auditable) 증거 단위(evidence unit)로 변환하는 프레임워크로서 정량적 증거 마이닝(quantitative evidence mining)을 정의한다. 증거 단위의 핵심 요소로 주장, 측정 대상 개체와 속성, 값·단위·척도, 비교군, 대상 집단, 생물학적·임상적 조건, 시간적 맥락, 불확실성, 출처, 검증 결과, 전문가 검토 상태를 둔다. 코퍼스 선정, 개체 인식, 수량 추출, 맥락 연결, 정규화, 증거 단위 조립, 다차원 타당성(plausibility) 평가, 내보내기 및 거버넌스에 이르는 8단계 참조 아키텍처를 제안한다. 핵심 원칙은 타당성을 단일 진리 레이블로 축약하지 않아야 한다는 것이다. 통계적, 생물학적, 방법론적, 맥락적, 출처 기반 지지는 명시적으로 남겨 두어야 한다. 이 프레임워크는 정보 추출을 증거 종합 및 계산적 재사용과 연결하며, 임상시험 분석, 바이오마커 연구, 약물 감시(pharmacovigilance), 지식 그래프 구축, 기전 모델링(mechanistic modelling)에 적용할 수 있다. 이는 검증된 end-to-end 시스템이라기보다 연구 의제(research agenda)이다. 진전을 위해서는 주석이 달린 멀티모달 벤치마크, 엄격한 구성 요소·워크플로 수준 평가, 전향적 시험, 투명한 출처, 지속적인 전문가 감독이 필요할 것이다.
BELXTR: 문맥화된 토큰 검색을 통한 생물의학 개체명 연계
BELXTR: Biomedical Entity Linking via Contextualized Token Retrieval
생물의학 개체명 연계(Biomedical Entity Linking)는 지식 베이스(KB) 내의 개체에 맞춰 멘션의 모호성을 해소함으로써 정보 추출 파이프라인의 핵심적인 초석 역할을 합니다. 임베딩(embedding) 기반 모델은 이 태스크에서 널리 사용되는 접근법이지만, 중대한 한계를 지니고 있습니다. 멘션(및 개체)을 단일 벡터로 압축하기 때문에, 모델이 중요하고 미세한 차이들을 평균화하여 유실하게 만듭니다. 본 논문에서는 토큰(token) 수준의 매칭 정보를 활용할 수 있는 다중 벡터(즉, 후기 상호작용) 아키텍처 기반의 새로운 임베딩 모델인 BELXTR을 제시합니다. BELXTR은 기존의 태스크 특화 학습(training) 목표를 통합하고 능동적 쿼리 확장을 탐색함으로써 기존 XTR 모델을 생물의학 개체명 연계로 확장합니다. 10개 말뭉치와 5개 KB에 걸친 실험 결과, BELXTR은 말뭉치의 절반에서 재현율(recall)@1이 평균 5%p 향상되며 기존 최고 수준(SOTA)의 성능을 개선함을 보였습니다. 가장 큰 성능 향상은 까다로운 이종 간 유전자 모호성 해소 하위 태스크에서 나타났으며, 여기서 BELXTR은 대규모 언어 모델(LLM) 기반의 검색 및 재순위화 파이프라인을 능가하고 특화된 규칙 기반 시스템에 근접하는 성능을 달성했습니다. 본 연구 결과는 다중 벡터 모델이 유지 관리가 어려운 규칙 기반 시스템이나 PubMed 규모의 마이닝처럼 LLM 기반 재순위화 비용이 과도하게 높은 시나리오에서 실용적인 대안이 될 수 있음을 강조합니다. 실험을 재현하기 위한 코드는 https://github.com/sg-wbi/belxtr 에서 확인할 수 있습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.