PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.23539v1cs.NI

SemDHT: 정확 키 DHT 기반 P2P 에이전트 네트워크를 위한 인증된 시맨틱 탐색

SemDHT: Certified Semantic Discovery for Peer-to-Peer Agent Networks over Exact-Key DHTs

에이전트는 외부 에이전트 엔드포인트나 서비스 API를 통해 제공되는 기능을 필요로 할 수 있습니다. 요청자가 제공자와 사전에 연결되어 있지 않은 경우, 자신의 작업 및 인터페이스 요구사항과 일치하는 공표된 기능을 탐색해야 합니다. 정확 키(exact-key) 분산 해시 테이블(DHT) 환경에서 광범위한 검색은 대규모 후보 목록을 전송하게 되는 반면, 선별적 검색은 관련 제공자를 놓치거나 더 많은 복제 및 조회를 요구할 수 있습니다. 또한 개방형 게시 환경에서는 게시 한도를 강제할 수 없는 한 제공자가 자신의 노출을 과도하게 부풀릴 수 있습니다. 본 논문에서는 정확 키 DHT 기반으로 에이전트가 접근 가능한 기능을 탐색하기 위한 인증된 시맨틱 인덱스인 SemDHT를 제안합니다. 2개 층으로 이루어진 시맨틱 스케치는 대략적인 셀을 사용하여 인접한 기술자(descriptor)를 그룹화하고, 잔여 코드를 활용해 후보 선별 범위를 좁힙니다. 제공자는 제한된 파생 키 집합에 게시하며, 요청자는 조회 예산 내에서 더 넓은 재현율(recall) 키에 앞서 정밀도(precision) 키를 먼저 탐색합니다. 앵커 위원회는 각 기술자의 게시 키 집합을 인증하여 스토리지 서비스와 요청자가 기술자와 키 간의 일관성을 강제할 수 있도록 지원합니다. 실제 API 기술자 및 작업 질의를 대상으로 한 평가에서, SemDHT는 정확한 임베딩(embedding) 공간 이웃에 대해 0.955의 recall@10을, ToolBench 관련성 레이블에 대해 0.947의 recall@10을 달성했습니다. 밀도 증강이 제어된 코퍼스에서는 0.95의 재현율에서 7.7배 적은 조회 수로 DHT 기반 튜닝된 위치 민감도 해싱(LSH)의 후보 노출 수준을 달성하며, 게시 팬아웃(fan-out)을 16에서 10으로 줄였습니다. 동일 리전 및 크로스 리전으로 구성된 200개 피어 클라우드 오버레이에 배포된 Go/libp2p 프로토타입을 통해 299개의 인터넷 질의를 재현한 결과, 병렬 탐색 및 콜드 인증서 캐시 환경에서 SemDHT는 LSH 대비 각각 3.64배 및 4.11배의 평균 완료 시간 속도 향상을 달성했습니다.

arXiv:2607.19490v1cs.CR

악성 노드 환경에서 피어 투 피어 분산 LLM 추론의 무결성

Integrity of peer-to-peer distributed LLM inference under malicious nodes

피어 투 피어 분산 추론은 여러 노드에 레이어를 분산하여 풀링된 소비자 하드웨어에서 대규모 언어 모델(LLM)을 실행한다. 모든 요청은 여러 독립 당사자가 소유하고 제어하는 노드를 거친다. 그러나 이 환경에서는 어느 당사자든 자신의 레이어 출력을 변조하여 최종 결과를 손상시킬 수 있다. 신뢰할 수 있는 하드웨어에서 순전파를 재계산하면 이를 잡아낼 수 있지만, 추가적인 계산 비용이 발생한다. 과학 문헌에는 이미지 분류기를 위한 known-answer trap과 암호학적 커밋(cryptographic commitment) 같은 여러 기존 무결성 검증 접근법이 있다. 그러나 이러한 해법들은 정확한 정확성만을 검증하며, 정상 노드 간에 발생할 수 있는 일반적인 변동을 고려하지 않는다. 본 논문에서는 각 노드가 다음 노드로 전달하는 활성화(activation)의 변동을 측정하여 출력 무결성을 검증하는 방법을 제안한다. 네트워크를 사용하려는 피어는 올바른 활성화가 사전에 알려진 소수의 비밀 카나리(canary) 입력을 선택하여 일반 트래픽에 섞는다. 피어들이 카나리와 실제 쿼리를 구분할 수 없기 때문에, 변조하는 노드는 카나리도 함께 손상시킨다. 알려진 기준값으로부터의 편차가 악성 활동을 드러낸다. 정상 노드는 하드웨어 유발 노이즈로 인한 미미한 변동만 보이는 반면, 변조된 노드는 훨씬 더 크게 벗어난다. 악성 노드 식별을 고정 임계값에 의존하지 않고 두 drift 분포를 분리하는 확률적 검정으로 다룬다. 실험 전에 지표와 성공 기준을 고정한 408가지 구성을 연구했으며, 검출기는 AUROC 1.0에 도달하여 모든 구성에서 모든 카나리에 대해 악성 샤드를 모든 정상 샤드보다 올바르게 순위화했다.

arXiv:2606.17368v1cs.AI

분산 범용 에이전트 네트워크: 아키텍처, 핵심 메커니즘 및 프로토타입

Distributed General-Purpose Agent Networks: Architecture, Key Mechanisms, and Prototypes

대규모 언어 모델(LLM)은 수동적인 대화형 비서에서 목표를 이해하고, 행동을 계획하며, 도구를 호출하고, 다단계 작업을 수행할 수 있는 자율 에이전트로의 전환을 가속화했습니다. 그러나 단일 에이전트의 능력은 여전히 로컬 데이터, 도구 권한, 런타임 환경 및 거버넌스 경계에 의해 제한됩니다. 본 논문은 분산 범용 에이전트 네트워크를 다룹니다. 이는 개인 기기, 엣지 노드 또는 자율 컴퓨팅 환경에 배포된 이종 에이전트가 서로를 발견하고, 신뢰를 구축하며, 협력 규칙을 협상하고, 개방형 작업을 실행할 수 있는 개방형 P2P 네트워크입니다. 우리는 이러한 네트워크가 기존의 P2P 오버레이와 기존의 다중 에이전트 시스템을 단순히 결합하여 얻을 수 없다고 주장합니다. 기존 P2P 네트워크와 달리, 에이전트 네트워크는 의도, 능력, 상태 및 협력 제약 조건에 대한 의미론적 선언을 전파해야 합니다. 따라서 우리는 상위 수준의 작업 의미론과 하위 수준의 네트워크 작업을 연결하는 프로토콜 적응 층을 중심으로 하는 계층형 아키텍처를 제안합니다. 이 아키텍처를 기반으로, 본 논문은 협력자 발견을 위한 의미론적 공지 전파, 협력 거버넌스를 위한 검증 가능한 신원 및 다중 주제 평판, 그리고 개방형 작업 실행을 위한 의미론적 그래디언트 메커니즘 설계라는 세 가지 핵심 메커니즘 문제를 식별합니다. 각 문제에 대해, 순차 로그가 포함된 바디리스 고시프(bodyless gossip), MG-EigenTrust 평판을 갖는 BAID 기반 신원 바인딩, 그리고 의미론적 귀속 피드백에 의해 구동되는 스타켈버그 스타일 메커니즘 생성 루프를 포함한 기술적 경로를 제시합니다. 또한 BAID 스타일 계층형 검증에 대한 프로토타입 오버헤드 결과와 교차 주제 위장-공모 공격 하에서의 MG-EigenTrust에 대한 메커니즘 수준 시뮬레이션을 보고합니다. 결과적인 프레임워크는 개방적이고, 신뢰할 수 있으며, 확장 가능한 에이전트 협력을 위한 시스템 수준의 기반을 제공합니다.

arXiv:2606.17059v1cs.DC

P2P 네트워크 상의 대규모 언어 모델(LLM) 분산 추론

Towards Distributed Inference of LLMs on a P2P Network

접두 문맥 캐싱은 공유 프롬프트를 포함하는 요청 간에 KV 캐시를 재사용하여 대규모 언어 모델(LLM) 추론 지연 시간을 줄일 수 있지만, 캐시가 노드 간에 분할되어 있어 클러스터 규모의 재사용은 어렵습니다. 본 논문에서는 P2P LLM 서빙을 위한 탈중앙화된 접두 문맥 캐시 인식 라우팅 방식을 제안합니다. 각 노드는 자신의 캐시된 접두 문맥에 대한 로컬 기수 트리와 주기적 안티-엔트로피를 사용하여 비동기적으로 갱신된 피어 캐시 추정치를 유지합니다. 요청은 중앙 집중형 조율이나 KV 캐시 전송 없이 가장 긴 추정 접두 문맥 일치를 가진 노드로 라우팅됩니다. 오래된 메타데이터는 캐시 미스만 유발할 뿐 잘못된 출력을 유발하지 않으므로, 약한 일관성만으로도 정확성을 보장하기에 충분합니다. 시뮬레이션된 MMLU 워크로드에 대한 평가 결과, 탈중앙화 라우팅은 낮은 통신 지연과 치우친 접두 문맥 분포 하에서 지연 시간을 개선하지만, 높은 네트워크 지연과 선호도로 인한 핫스팟은 그 이점을 제한함을 보여줍니다.