Performance Optimization for Semantic Communications: An Attention-based Reinforcement Learning Approach
원문 초록
In this paper, a semantic communication framework is proposed for textual data transmission. In the studied model, a base station (BS) extracts the semantic information from textual data, and transmits it to each user. The semantic information is modeled by a knowledge graph (KG) that consists of a set of semantic triples. After receiving the semantic information, each user recovers the original text using a graph-to-text generation model. To measure the performance of the considered semantic communication framework, a metric of semantic similarity (MSS) that jointly captures the semantic accuracy and completeness of the recovered text is proposed. Due to wireless resource limitations, the BS may not be able to transmit the entire semantic information to each user and satisfy the transmission delay constraint. Hence, the BS must select an appropriate resource block for each user as well as determine and transmit part of the semantic information to the users. As such, we formulate an optimization problem whose goal is to maximize the total MSS by jointly optimizing the resource allocation policy and determining the partial semantic information to be transmitted. To solve this problem, a proximal-policy-optimization-based reinforcement learning (RL) algorithm integrated with an attention network is proposed. The proposed algorithm can evaluate the importance of each triple in the semantic information using an attention network and then, build a relationship between the importance distribution of the triples in the semantic information and the total MSS. Compared to traditional RL algorithms, the proposed algorithm can dynamically adjust its learning rate thus ensuring convergence to a locally optimal solution.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
손실 압축 텍스트 오토인코더
Lossy Compressive Text Autoencoders
본 연구는 데이터 압축과 표현 학습(representation learning)의 접점에서 텍스트의 압축된 잠재 표현(latent representation)을 학습하는 방법을 탐구합니다. 우리는 잔여 저차원 이산 병목(residual low-dimension discrete bottleneck)과 함께 시간 축을 따라 은닉 표현의 잔여 다운스케일링 및 업스케일링을 수행하는 오토인코더 아키텍처를 제안합니다. 다양한 양자화(quantization) 방법, 학습(training) 목표 및 데이터셋에 대해 제안하는 접근 방식을 분석합니다. 다양한 압축 수준에 대해 표면적 수준(BLEU)과 의미론적 수준(대규모 언어 모델(LLM) 기반 판정기) 모두에서 원본 텍스트와 재구성된 텍스트 간의 유사도를 평가합니다. 또한 질의응답 및 의미론적 텍스트 유사도 다운스트림 벤치마크에서 모델을 평가합니다. 제안된 접근 방식은 웹 텍스트 데이터에서 바이트당 2.24비트로 무손실 텍스트 압축 알고리즘과 동등한 수준의 압축 표현을 산출하는 동시에, 우수한 재구성 및 다운스트림 태스크 성능을 달성합니다.
개방형 텍스트 생성에서 일관성과 다양성의 참조 기반 분석
Reference-Based Analysis of Coherence and Diversity in Open-Ended Text Generation
개방형 텍스트 생성을 평가하려면 연속(continuation)의 여러 속성이 체감 품질과 어떻게 연관되는지 이해해야 한다. 본 연구는 일관성과 다양성을 세 가지 관점에서 살펴보는 참조 기반 프레임워크를 제시한다: 인간 궤적과의 변화 정렬, 동일 프롬프트에 대한 인간 연속과의 요약 비교, 인간 참조 분포 하에서의 가능도 추정. 인간 품질 평가 실험에 따르면 다양성 기반 정렬과 평균 기반 비교는 품질 관련 변동을 포착하는 것으로 보이나, 비교만으로는 시간적 정렬이 더 단순한 베이스라인보다 예측적으로 유리하다는 점은 입증되지 않는다. 참조 가능도 역시 평가와 양의 연관을 보이며, 결과는 참조 설정과 스코어링 구간에 따라 달라진다. 이 분석들은 측정된 일관성·다양성이 인간 판단과 어떻게 연관되는지 구조적으로 검토하는 방법을 제공하며, 인간 참조와의 유사성과 품질 그 자체를 구분한다. 코드 및 분석 자료는 https://github.com/EstebanGarces/likely_human 에서 이용할 수 있다.
기하학보다 계산: 의미 동일성은 임베딩에 담겨 전달되는 것이 아니라 계산된다
Computation Over Geometry: Meaning Identity Is Computed, Not Shipped in the Embeddings
의미 동일성(표현이 바뀐 뒤에도 두 문장이 같은 내용을 말하는지 여부)은 검색과 RAG에서 독립적으로 인코딩된 문장 벡터의 기하학적 사실로 취급된다. 본 논문은 고정된(frozen) 기성 인코더와 언어 모델에서는 그렇지 않음을 보인다. 동일성은 두 문장이 하나의 순전파를 공유할 때 계산되며, 해당 시스템들이 제공하는 임베딩 기하학의 속성이 아니다. 중첩(overlap)을 맞춘 PAWS-X에서 목적 특화 인코더(BGE, E5, GTE, MiniLM, E5-Mistral-7B)는 영어 confirm AUC가 0.55-0.65에 그친다(dense 최고치 0.70). Llama 3, Mistral, Qwen의 독립적으로 인코딩된 마지막 토큰 상태도 더 나은 성능을 보이지 못하며, 두 벡터의 후기 융합(late fusion)은 우연 수준에 가깝다. 반면 동일한 프로브를 결합된 순전파에 적용하면 1.5B에서 32B까지 0.90-0.96에 도달하고, 짝을 섞으면(partner shuffle) 성능이 붕괴하며, 중간 깊이에서 나타나고, 3B 무렵 0.94 부근에서 포화되며, GPT-2 XL에서는 더 약하게(0.76) 나타난다. 이러한 격차는 Llama 계열을 넘어 다른 인과적 언어 모델, 양방향 인코더(DeBERTa, RoBERTa), 인코더-디코더(Flan-T5, T5, BART)에서도 유지된다. 고정된 독립 인코딩 위의 고정형 또는 선형 리더는 동일성을 끝내 복원하지 못하며, 비선형 쌍(pair) 리더는 전체 49k 쌍의 PAWS 학습 분할에서만 일부를 복원한다(0.68-0.87). 기성 리랭커는 결과가 갈린다. BGE-reranker-large는 0.94에 도달하는 반면, MS-MARCO와 Jina는 0.55-0.64에 머문다. 독립적으로 학습된 모델 계열들이 동일한 관계를 계산하며, 1.5B 결합 리더는 레이블 없는 교사(teacher) 점수로부터 이를 지식 증류할 수 있지만, 교사 자신의 독립 벡터에 대한 어떤 선형 함수로도 이는 불가능하다. 바이 인코더(bi-encoder)를 PAWS에 맞게 파인튜닝할 수는 있으나(0.87-0.93), 전이 성능과 STS-B 성능이 저하된다. 코사인 유사도는 표현의 이웃 관계를 비교할 뿐이며, 동일성은 어느 쪽 문장 벡터의 속성도 아닌, 저렴하게 계산되는 연산자이다.
자연어 생성에서 충실도와 커버리지를 평가하기 위한 기호학 기반 프레임워크
A Semiotics-Aware Framework for Evaluating Fidelity and Coverage in Natural Language Generation
두 텍스트가 동일한 표현을 기술하더라도, 어휘 중복이나 텍스트 전체 유사도에 기반한 표준 지표로는 해당 표현이 어떻게 프레이밍되는지에 관한 의미 있는 차이를 감지하지 못할 수 있다. 본 논문은 텍스트 간의 기호학적 정렬(semiotic alignment)을 평가하는 프레임워크를 제안한다. 여기서 기호학적 프로필(semiotic profile)은 텍스트의 맥락적 의미와 해당 텍스트에서 두드러지게 나타나는 담화적 참조를 모두 포괄한다. 제안하는 접근법은 기호학적 충실도(Semiotic Fidelity)와 기호학적 커버리지(Semiotic Coverage)라는 두 가지 점수를 산출하며, 각각 한 텍스트의 프로필 중 다른 텍스트가 뒷받침하는 비율과, 다른 텍스트의 프로필 중 해당 텍스트가 복원하는 비율을 추정한다. 실험 결과, 커버리지는 일반적으로 충실도보다 낮았으며, LLM과 사람이 큐레이션한 데이터 간의 정렬은 낮은 샘플링 온도에서 가장 높고 온도가 높아질수록 이 정렬이 감소하는 것으로 나타났다.
고수준 의미 지능을 향하여
Towards High-Level Semantic Intelligence
최근 AI의 발전은 인지 및 추론 능력을 크게 확장했다. 의미적 복잡성(semantic complexity) 관점에서 AI의 발전은 단순한 의미 처리에서 복잡한 의미 처리로 이어지는 뚜렷한 궤적을 보여준다. 초기 AI 시스템은 주로 직접적이고 문자 그대로의 의미 인식 또는 표현과 관련된 과제를 다루었지만, 현대 시스템은 점점 더 정교한 인지 추론을 수행할 것으로 기대되며, 이를 통해 고수준 의미(High-Level Semantics, HLS)의 이해와 생성을 가능하게 한다. 유사한 궤적은 인간의 인지 발달에서도 관찰할 수 있다. 우리는 이러한 전환을 기본 수준 의미 지능(Basic-Level Semantic Intelligence, BLSI)에서 고수준 의미 지능(High-Level Semantic Intelligence, HLSI)으로의 전환으로 정의한다. 그러나 이 문제는 기존 연구에서 아직 체계적이고 포괄적으로 검토되지 않았다. 이 공백에 동기를 부여받아, 본 서베이는 의미적 복잡성 관점에서 AI 의미 지능의 발전을 검토한다. 우리는 텍스트, 음성, 비전, 멀티모달 시나리오 전반에 걸쳐 유머, 풍자, 은유, 공감, 설득, 내러티브 및 기타 일반적인 HLS 현상을 포함한 HLS 과제에 대한 기존 연구를 체계적으로 조사한다. 구체적으로, 이해와 생성 모두에 대해 데이터 구축 방법, 모델링 및 최적화(optimization) 전략, 평가(evaluation) 방법론을 요약한다. HLS는 AI를 진정으로 인간과 유사한 지능으로 발전시키는 데 필수적이다. 의미 지능 관점에서 기존 방법과 통찰을 종합함으로써, 본 서베이는 HLSI를 향한 AI의 지속적인 발전을 지원하는 것을 목표로 한다.
제로샷 요약 재검토: LLM 요약기의 신뢰성에 대한 실증적 조사
Reexamining zero-shot summarization: Empirical investigation of trustworthiness of LLM-summarizers
제로샷 요약(zero-shot summarization)에서 대규모 언어 모델(LLM)을 사용하면 일관되고 유창한 요약을 생성함으로써 추상적 요약(abstractive summarization) 과제를 크게 발전시켰다. 그러나 대규모 언어 모델의 내재적 확률성(stochasticity)은 LLM이 생성한 요약의 안정성(stability)과 신뢰성(trustworthiness)에 대한 우려를 제기한다. 학생과 연구자가 복잡한 학술 자료를 제로샷 방식으로 요약하는 교육 환경에서 LLM 생성 요약이 확산되면서 이 문제는 점점 더 중요해지고 있다. 우리는 생성된 요약의 안정성을 기반으로 LLM 요약기를 벤치마킹하기 위한 새로운 2단계 진단 프로토콜을 제안한다. 하위 수준에서는 통제된 환경에서 생성된 여러 LLM 요약에 대해 문서 수준(document-level) 안정성 분석을 수행하고 안정성 계수(stability coefficient)를 계산한다. 각 생성 요약은 원본 문서와의 의미적·사실적 정렬(alignment)에 대해 점수화되며, 이를 통해 둘 이상의 차원에서 안정성을 추정할 수 있다. 상위 수준에서는 코퍼스(corpus)에서 추출한 계층화 표본(stratified sample) 문서들의 관측값을 통합하여 LLM 요약기의 안정성 지수(stability index)를 추정하는데, 이는 해당 요약기의 신뢰성에 대한 대리 지표(proxy)이다. 세 가지 LLM 요약기에 대해 세 가지 문서 장르(genre)에서 수행한 실증 조사 결과, 요약 평가 지표(summary evaluation metrics) 전반에 걸쳐 LLM 간 생성 수준(generation-level) 변동성(variability)에 통계적으로 유의미한 차이가 있음을 밝혔다. 본 연구는 LLM 요약에서 안정성 문제를 증거 기반으로 인식함으로써 LLM 요약 연구를 발전시키고, 견고하고(robust) 신뢰할 수 있으며(reliable) 신뢰할 만한(trustworthy) LLM 요약기 개발을 향한 추가 연구를 촉진한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.