面向低轨卫星网络的算力路由策略

发布时间:2025-07-24 22:08  浏览量:1

05

"6G卫星互联网”专题

《移动通信》2025年第6期

面向低轨卫星网络的算力路由策略

(中山大学深圳校区电子与通信工程学院,广东 深圳 518107)

【摘 要】算力需求的增长促进了卫星算力网络的发展,LEO(低轨道)卫星网络也弥补了地面网络的服务范围。针对拓扑高动态变化且节点资源有限的LEO卫星网络环境,提出了一种基于图神经网络的星间算力路由策略。其中,图神经网络模块增强了模型的泛化能力以适应动态变化的拓扑结构。所提出的算法通过优化下一跳节点的选择来确定任务卸载节点,最终优化了一段时间内计算任务的服务平均时间。仿真结果表明,与启发式方法相比,所提出的方法提高了网络总吞吐量10%以上,降低端到端传输延迟接近25%。

【关键词】算力路由;低轨卫星网络;深度强化学习;图采样聚合

doi:10.3969/j.issn.1006-1010.20250423-0002

中图分类号:TN929.5 文献标志码:A

文章编号:1006-1010(2025)06-0035-08

引用格式:许柳飞,罗志勇. 面向低轨卫星网络的算力路由策略[J]. 移动通信, 2025,49(6): 35-42.

XU Liufei, LUO Zhiyong. Computing Power Routing Strategy for Low Earth Orbit Satellite Networks[J]. Mobile Communications, 2025,49(6): 35-42.

0 引言

近年来,算力需求高且时间敏感的应用逐步兴起,算力网络与卫星网络的融合应运而生,LEO(Low Earth Orbit,低轨道)卫星网络极大程度地弥补了地面网络服务范围有限的缺陷。此外,LEO卫星网络具有传输延迟短、路径损耗小等特点,采用ISLs(Inter-Satellite Links,星间链路)和GSLs(Ground Satellite Links,星地链路)通信的方式为高算力时敏应用提供了更加高效、可靠的服务。然而,由于计算任务调度可能需要经过多跳完成,节点之间的远距离导致传输延迟更加明显。此外,LEO卫星网络拓扑具有较高的动态性,其连接状态也在时刻发生变化,给计算任务调度带来了极大的挑战。

目前,学术界和工业界对LEO卫星网络的计算任务调度机制展开了广泛研究。由于传统的静态调度机制难以适应动态且复杂的LEO卫星网络拓扑,导致调度效率低下和服务质量不稳定。因此,从拓扑的动态适应性以及模型泛化性上,对面向LEO卫星网络的计算任务调度算法提出了更高的要求。

LEO卫星网络的拓扑结构高动态是星上路由策略的关键挑战之一。基于规则的启发式方法[1-3]无法完全捕捉网络环境的复杂性,因此它们的进一步改进存在局限性。为了解决这些局限性,近年来,研究人员开始通过整合GNN(Graph Neural Network,图神经网络)在图结构数据表征上的优势与DRL(Deep Reinforcement Learning,深度强化学习)在动态决策中的高效性,来改进卫星网络中的动态路由与资源分配的决策过程[4-6]XU等人提出了一种基于GNN和DRL的路由方案,以应对大量卫星、快速变化的网络拓扑和多样化的流量需求带来的卫星间路由挑战。RAN等人[8]提出了一种名为GraphPR的动态数据包路由方法,该方法基于GNN增强的多智能体DRL,以解决与高通信开销和计算复杂性相关的问题。WANG等人[9]引入了时间扩展图模型,然后提出了基于传输和计算能力的广义扩散算法,以找到LEO卫星网络中分配任务的最佳路由。上述研究旨在通过计算卸载和资源分配来优化服务性能。然而,这些研究大多没有考虑卫星移动性和资源可变性对计算卸载和资源分配的潜在影响。

针对上述问题,本文旨在设计并实现一种面向LEO卫星网络的算力路由策略。该策略的核心采用GNN模块来分析卫星网络拓扑和资源分配的动态变化。大量研究已验证了DRL框架可以快速适应复杂策略决策场景,并且具备在训练中不断优化的特性。同时,GNN模块用于学习网络拓扑中图元素之间的关系,并建立组合规则。此外,其采样方法适用于时变系统,有效地解决了与LEO网络拓扑高动态和星载资源利用率波动变化的挑战。本文提出的面向LEO卫星网络的算力路由策略将路由挑战表述为动态网络模型中的优化问题,同时考虑传输延迟和计算资源,仿真结果表明提出的方法有效降低了整体延迟和提高了网络吞吐量,从而提高了LEO卫星网络中任务卸载的效率。

1 系统模型

1.1 场景设置

本文模拟了一个星地融合网络场景,其中卫星节点随机产生计算任务,并通过卫星通信机制将任务传输至地面网关。卫星网络拓扑被建模为一个时变动态图G(V, E),其中节点V表示卫星和网关,边E表示它们之间的传输链路,包括ISL和GSL。

如图1所示,卫星星座由均匀分布在O个轨道平面的N颗卫星组成,每颗卫星作为基于强化学习解决方案的智能体和路由器。卫星位于特定和可配置的高度、经度和轨道倾角,根据轨道力学和地球自转移动[10]。卫星以周期性方式移动,每经过固定时间间隔跳至新位置,更新传输和传播时间。每颗卫星配备一个GSL天线和四个ISL天线(两个用于轨道间星间链路,两个用于轨道内星间链路)。

1.2 任务模型

1.3 计算模型

1.4 通信模型

2 算法设计

目前,大部分面向LEO卫星网络的算力路由策略相关研究仅仅考虑将计算任务直接分配到和源节点相邻的卫星算力节点上,使得卫星节点的算力资源利用率无法得到优化。此外,基于传统DRL算法存在泛化性不足的问题,在高动态拓扑中收敛比较困难,无法充分发挥DRL智能体的学习交互能力。因此,考虑星间路由策略,使得非直接相连的卫星算力节点也可以参与任务卸载,以拓展路由策略选择的更多可能性。同时,通过GNN改进DRL,以增加算法的泛化性。

2.1 状态、动作和奖励

围绕LEO卫星网络场景下计算任务的总时延优化这一目标,本文提出了一种NEE-GraphSAGE(Node-Edge Enhanced Graph SAmple and aggreGatE,基于节点-边缘互增强的图采样聚合)神经网络和DRL框架的调度算法。该算法增强了DRL智能体在高动态卫星网络中的适应性与泛化性。根据LEO卫星网络的环境以及计算任务调度的特点,对状态空间、动作空间以及奖励函数的细节进行如下数学定义[15-17]。

(1)状态设计

状态空间在本文提出的路由策略中起着重要作用。然而,它们在现有文献中并没有得到很好的研究。例如,拓扑和剩余资源的动态变化将影响目标算力节点的选择,故本文重点研究有效捕获这些变化的状态表示和特征提取以实现高效任务卸载。网络的状态由ISL延迟、剩余计算资源和节点的使用率定义。这些特征最初存储在固定大小的一维向量中,剩余元素用零填充。由于GraphSAGE(Graph SAmple and aggreGatE,图采样聚合)神经网络主要关注网络拓扑和节点特征,无法分析链路的特征。为了解决这一局限性,提出将邻居节点信息和连接邻居节点的链路信息相互融合,使融合后的特征成为节点特征向量的一部分,再由DRL模型处理。即网络拓扑信息由有向图G(V, E)表示。每条边上的变量xe是一个包含ISL延迟等信息的一维向量。如图2所示,NEE-GraphSAGE模型初始化节点和边的嵌入,对齐再通过节点和边之间的相互增强过程更新节点和边嵌入。当计算任务到达节点i时,NEE-GraphSAGE模型会生成当前节点的隐藏特征表示,并将其输入DRL以做出路由决策。状态表示为四个部分:ISL延迟tc、任务的等待时间twait、发送队列的超额值Ve以及发送和接收队列的超额值Vh。其中N和Nr分别为当前节点的发送和接收队列长度。状态空间为:St=[tc, twait, Ve, Vh]。

(2)动作

动作定义为t时刻从k=4个邻居卫星节点中选择下一跳来处理或转发任务,因此动作空间表示为At∈{1, 2, 3, 4}。只有当所选节点的计算资源满足计算任务需求时,该节点才是当前计算任务的目标算力节点。DRL智能体需要估计哪些可执行动作将在随后一段时间内最小化总延迟并提高整体吞吐量。

(3)奖励

由于任务分配或路由决策不合理,导致等待执行或传输时间过长,甚至超出其截止时间。为了研究状态表示对性能优化的影响,将奖励函数定义为二元变量Rt∈{-1,1}。通常,成功的动作(例如,满足计算任务需求且总延迟越低)被认为是好的,并会产生积极的即时奖励,从而增加当前动作被选择的概率。相反,应避免失败的动作(即无法满足任务需求),从而导致负面奖励,鼓励智能体探索其他动作。奖励函数指导路由策略的优化方向。DRL智能体通过不断更新其参数来响应从外部环境(即LEO卫星网络)收到的奖励,从而提高其决策能力。智能体的目标是最大化长期回报,这可以量化为折现的累积回报[18]。为了实现这一目标,智能体可以放弃产生最高即时回报的动作,以获得更好的长期回报。

2.2 神经网络结构设计

本文提出了一种基于NEE-GraphSAGE和DRL的算力路由策略,以A3C算法为基本框架,结合NEE-GraphSAGE特征提取模块替代策略网络和价值网络的传统架构,通过采样和聚合与当前节点相关的邻居节点和边的特征来生成低维节点嵌入。这种方法旨在捕获计算能力范围内的波动资源,而NEE-GraphSAGE的可扩展性使其能够灵活适应时变系统。通过对目标节点的l跳邻居进行采样,它显著降低了处理大规模图形数据时的时间和内存复杂性。

(1)特征提取过程

特征提取模块通过采样固定大小的邻域、聚合这些邻域的特征,然后为当前节点生成嵌入来进行归纳学习。从节点到边的相互作用和边和节点之间的相互作用的方程式分别为:

训练过程由算法1给出。首先初始化节点特征(第1行),这里NEE-GraphSAGE聚合相邻节点的特征,以生成目标节点的向量表示。它考虑三个属性作为节点特征:计算任务的等待时间twait、发送队列的超额值Ve以及发送和接收队列的超额值Vh,即xv=[twait, Ve, Vh]。初始化边特征(第2行),即选择相邻边的特征来生成节点和边之间的交互。它选择ISL延迟的属性作为边缘特征向量,故xe=[tc]。此外,确保边缘特征的尺寸与节点特征的尺寸对齐。

2.3 复杂度分析

3 仿真实验

本实验采用大规模低轨卫星星座进行仿真,通过STK来模拟卫星的移动轨迹,获取低轨卫星在不同时间周期所处的位置以及星间链路的链接状况。设置仿真实验,模拟卫星路由计算和更新过程,通过计算仿真时间内的路由更新频率、平均时延等数据验证所提算法的可行性及性能。

本节进行了大量仿真实验以评估我们提出方法的性能,所提出的方法命名为“NEE-SAGE+DRL”。基于GCN(Graph Convolutional Network,图卷积神经网络)的路由策略为“NEE-GCN+DRL”,没有节点边缘互增强的路由策略为“SAGE+DRL”。随机路由策略为“RP”,最短路由策略为“SP”。

3.1 参数设定

卫星网络参数配置如表1所示

表2列出了所有模拟场景中使用的通用参数[12, 19-20]。计算任务生成数据大小在1 MB到7 MB之间的概率为80%,生成数据大小介于7 MB和9 MB之间的概率是20%。如果计算任务未在一定时间内处理,则视为被拒绝。每100个时间步记录一次延迟和吞吐量的数据,随后重置环境。

3.2 卸载方案对比

由于地面服务器通常具有大量的计算资源,故地面卸载路由策略的计算时延可忽略不计。假设LEO卫星具有足够的能量和存储资源。图4表示网络负载对地面卸载(GO方案)和星上卸载(CCR方案)性能的影响,RP-CCR方案与RP-GO方案相比分别提高了99.26%和38.82%;SP-CCR方案与SP-GO方案相比分别提高了122.4%和16.75%;NEE-SAGE-CCR方案与NEE-SAGE-GO方案相比分别提高了204.08%和173.23%。因此,星上卸载方案在提高吞吐量方面更具潜力,下面基于星上卸载的路由方案进行以下研究。

3.3 平均延迟对比

如图5所示,NEE-SAGE+DRL在降低平均端到端延迟具有更好的性能,与RP相比,平均延迟分别降低了61.89%和48.56%;与SP相比分别降低了57.40%和47.37%;与SAGE+DRL相比分别降低了24.27%和24.45%;与NEE-GCN+DRL相比分别降低了24.36%和24.47%。即使网络负载不同,所提出的路由策略也具有良好的通用性。

3.4 总体吞吐量对比

图6显示了不同路由策略在不同网络负载和不同卫星网络下的总吞吐量结果。随着网络负载的增加,各种算法的总吞吐量也会增加,并且每片段计算一次,获得总吞吐量通过平均3至5片段的吞吐量。所有DRL方法的结果都优于启发式方法,这证明了DRL方法的有效性。如图6(a)所示,与RP、SP、SAGE+DRL和NEE-GCN+DRL相比,NEE-SAGE+DRL的整体性能提高分别为10.19%、22.45%、2.58%和2.56%。仿真结果表明,提出的路由策略在不同的网络拓扑中具有良好的通用性,这突显了所提方法的有效性。

3.5 DRL算法复杂性对比

为了证明NEE-SAGE+DRL在降低时间和内存复杂性方面的性能,根据表1所示的网络参数进行仿真实验,图7和图8分别表示基于DRL方法的平均训练时间和训练参数数量。可以看出,NEE-SAGE+DRL与NEE-GCN+DRL相比,在不同拓扑上的训练时间分别缩短了27.62%和84.33%。此外,NEE-GCN+DRL的训练参数数量随着卫星网络规模的扩大而增加,而NEE-SAGE+DRL的训练参数数量保持不变。仿真结果表明,NEE-SAGE+DRL使用NEE-GraphSAGE模块从动态卫星网络中提取拓扑信息,有效降低了时间和内存复杂性,特别是在大型卫星网络中。

4 结束语

本文提出了一种NEE-GraphSAGE和DRL的卫星网络算力路由策略,旨在适应拓扑频繁变化的卫星网络,将任务路由到匹配的目的算力节点,并优化网络性能。本文建议利用NEE-GraphSAGE进行状态特征提取,生成下一跳节点和ISL之间节点边缘相互增强的隐藏特征。在此过程中,DRL智能体可以感知关键信息,以做出更好的路由决策。仿真结果证明了所提方法的有效性,该方法更适合动态网络。未来将考虑子任务间数据传输的通信成本以及用户偏好等问题。

[1]Han L, Retana A, Westphal C, et al. Large scale LEO satellite networks for the future internet: Challenges and solutions to addressing and routing[J]. Computer Networks and Communications, 2022: 30-57.

[2] Tao J, Na Z, Lin B, et al. A joint minimum hop and earliest arrival routing algorithm for LEO satellite networks[J]. IEEE Transactions on Vehicular Technology, 2023,72(12): 16382-16394.

[3] Deng P, Gong X, Que X. A bandwidth-aware service migration method in LEO satellite edge computing network[J]. Computer Communications, 2023,200: 104-112.

[4] Zhang S, Liu A, Han C, et al. Graph neural network and reinforcement learning based routing for mega LEO satellite constellations[C]//2023 9th International Conference on Computer and Communications (ICCC). Chengdu, China, 2023: 1-6.

[5] Wang H, Ran Y, Zhao L, et al. GRouting: Dynamic routing for LEO satellite networks with graph-based deep reinforcement learning[C]//2021 4th International Conference on Hot Information-Centric Networking (HotICN). Nanjing, China, 2021: 123-128.

[6] Shi Y, Wang W, Zhu X, et al. Low earth orbit satellite network routing algorithm based on graph neural networks and deep Q-network[J]. Applied Sciences, 2024,14(9).

[7] Xu P, Feng M, Zhou J, et al. Inter-satellite routing for LEO satellite networks: A GNN and DRL integrated approach[C]//2024 IEEE/CIC International Conference on Communications in China (ICCC). Hangzhou, China, 2024: 1346-1351.

[8] Ran Y, Ding Y, Chen S, et al. Fully-distributed dynamic packet routing for LEO satellite networks: A GNN-enhanced multi-agent reinforcement learning approach [J]. IEEE Transactions on Vehicular Technology, 2025,74(3): 5229-5234.

[9] Wang C, Ren Z, Cheng W, et al. Time-expanded graph-based dispersed computing policy for LEO space satellite computing[C]//2021 IEEE Wireless Communications and Networking Conference (WCNC). Nanjing, China, 2021: 1-6.

[10] 刘哲言. 融合卫星网络的算力网络规划调度机制的研究与实现[D]. 北京: 北京邮电大学, 2024.

[11] 何俊. 低轨巨型星座分布式路由技术研究[D]. 北京: 北京邮电大学, 2024.

[12] Pi J, Ran Y, Wang H, et al. Dynamic planning of inter-plane inter-satellite links in LEO satellite networks[C]//ICC 2022-IEEE International Conference on Communications. Seoul, Korea, Republic of, 2022: 3070-3075.

[13] Collet J F. The poisson process[M]. Cham: Springer International Publishing, 2018.

[14] Rabjerg J W, Leyva-Mayorga I, Soret B, et al. Exploiting topology awareness for routing in LEO satellite constellations[C]//2021 IEEE Global Communications Conference (GLOBECOM). Madrid, Spain, 2021: 1-6.

[15] Almasan P, Su´Arez-Varela J, Rusek K, et al. Deep reinforcement learning meets graph neural networks: Exploring a routing optimization use case[J]. Computer Communications, 2022,196: 184-194.

[16] Zhang H, Liu R, Kaushik A, et al. Satellite edge computing with collaborative computation offloading: An intelligent deep deterministic policy gradient approach[J]. IEEE Internet of Things Journal, 2023,10(10): 9092-9107.

[17] Cao J, Zhang S, Chen Q, et al. Computing-aware routing for LEO satellite networks: A transmission and computation integration approach[J]. IEEE Transactions on Vehicular Technology, 2023,72(12): 16607-16623.

[18] Mnih V, Badia A P, Mirza M, et al. Asynchronous methods for deep reinforcement learning[C]//ICML’16: Proceedings of the 33rd International Conference on International Conference on Machine Learning (ICML). New York, NY, USA, 2016: 1928-1937.

[19] Hsu Y H, Lee J I, Xu F M. A deep reinforcement learning based routing scheme for LEO satellite networks in 6G[C]//2023 IEEE Wireless Communications and Networking Conference (WCNC). Glasgow, United Kingdom, 2023: 1-6.

[20] 金骥丰. 低轨卫星网络中的路由策略研究[D]. 上海: 中国科学院大学(中国科学院微小卫星创新研究院), 2024. ★

★原文刊发于《移动通信》2025年第6期★

文章编号:1006-1010(2025)06-0035-08

引用格式:许柳飞,罗志勇. 面向低轨卫星网络的算力路由策略[J]. 移动通信, 2025,49(6): 35-42.

XU Liufei, LUO Zhiyong. Computing Power Routing Strategy for Low Earth Orbit Satellite Networks[J]. Mobile Communications, 2025,49(6): 35-42.

作者简介

许柳飞:中山大学电子与通信工程学院在读博士研究生,从事面向星云算网的智能路由研究工作。

罗志勇:中山大学教授,博士生导师,工学博士毕业于电子科技大学通信与信息系统专业,主要从事5G-A/6G通信、NTN一体化融合、通信智能计算与人工智能处理方法研究,具有丰富的理论和工程实践经验。在SCI/EI等发表论文数百篇,发明专利授权30余件。

★往期推荐

汇总| 2025下半年专题征稿链接

《移动通信》杂志由中国电子科技集团公司主管,中国电子科技集团公司第七研究所主办,是中国期刊方阵“双效期刊”、工业和信息化部精品电子期刊、中国科技论文统计源刊、中国通信学会《信息通信领域高质量科技期刊分级目录》入选期刊、中国电子学会《电子技术、通信技术领域高质量科技期刊分级目录》入选期刊、中国应用型核心期刊、日本JST收录期刊。国内连续出版物号:CN44-1301/TN,国际连续出版物号:ISSN1006-1010,邮发代号:46-181。