(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210556058.9 (22)申请日 2022.05.19 (71)申请人 东北林业大 学 地址 150040 黑龙江省哈尔滨市香坊区和 兴路26号东北林业大 学 (72)发明人 景维鹏　陈广胜　李林辉　 (74)专利代理 机构 四川省方圆智云知识产权代 理事务所(普通 合伙) 51368 专利代理师 王悦 (51)Int.Cl. H04L 67/1008(2022.01) H04L 67/1023(2022.01) H04L 67/1029(2022.01) G06F 9/50(2006.01) G06N 3/04(2006.01)G06N 3/08(2006.01) (54)发明名称 基于长短期记忆网络的服务器负载均衡优 化方法 (57)摘要 本发明提供一种基于长短期记忆网络的服 务器负载均衡优化方法， 包括以下步骤： 采集服 务器集群工作周期一个月的数据作为基于LSTM 的负载权重模块的训练数据， 对LSTM网络进行训 练得到能够识别服务器性能差异的负载权重模 块； 将训练后的基于LS TM的负载权重模块加载至 服务器集群的负载均衡器中进行服务器负载的 预测； 负载均衡优化算法， 接收到每一个服务器 的负载置信度后， 带权的负载均衡算法以当前置 信度作为新权重， 对当前请求进行服务器的分配 操作并进行请求处理， 同时记录下当前服务器集 群的状态以便对后续的基于LSTM的负载权重模 块进行更新。 本发明模型的参数量较小， 提高运 算的速度， 提升 了负载均衡算法的计算效率。 权利要求书1页 说明书4页 附图1页 CN 114945024 A 2022.08.26 CN 114945024 A 1.基于长短期记 忆网络的服 务器负载均衡优化方法， 其特 征在于， 包括以下步骤： S1， 采集服务器集群工作周期一个月的数据作为基于LSTM的负载权重模块的训练数 据， 训练数据分为两个部分： 将第一个部分数据进行向量化作为训练数据的主体， 第二部分数据则作为训练标签； 对长短期记忆网络进 行多轮训练， 每次训练后对模型的参数进行微调来学习服务器之 间的 差异， 最后得到基于LSTM的负载权 重模块； S2， 将训练后的基于LSTM的负载权重模块加载至服务器集群的负载均衡器中进行服务 器负载的预测； 每当服务器集群接收到一个新的用户请求， 负载均衡器先对用户请求进行向量化生成 用户特征， 再读取当前 的集群中每一个服务器状态并进行向量化， 将所有服务器的状态向 量加权平均得到整个集群的集群特征； 将用户特征和集群特征进 行拼接得到负载均衡器中 的基于LSTM的负载权重模块的输入， 经过该模块的三种门结构计算得到 当前集群中每一个 服务器的负载置信度并输出给负载均衡器的第二组成部 分： 基于权重置信度的负载均衡优 化算法； S3， 负载均衡优化算法， 接收到每一个服务器的负载置信度后， 带权的负载均衡算法会 以负载置信度作为权重的参考数值， 对当前请求进行服务器的分配操作并进行请求处理， 同时记录下当前服 务器集群的状态以便对后续的基于LSTM的负载权 重模块进行 更新。 2.根据权利要求1所述的基于长短期记忆网络的服务器负载均衡优化方法， 其特征在 于， S1中， 所述的训练数据分为两个部分： 第一个部分： 每一次进行用户请求时各个服 务器的状态和当前请求的用户信息； 第二个部分： 每一个用户请求的服 务器分配结果。 3.根据权利要求1所述的基于长短期记忆网络的服务器负载均衡优化方法， 其特征在 于， S2中， 所述的三种门结构， 分别为遗 忘门、 更新门、 输出门。 4.根据权利要求1所述的基于长短期记忆网络的服务器负载均衡优化方法， 其特征在 于， S3中， 所述的负载均衡优化 算法， 选择多种带权的负载均衡算法。权　利　要　求　书 1/1 页 2 CN 114945024 A 2基于长短期记忆网 络的服务器负载均衡优化方 法 技术领域 [0001]本发明属于网络的服务器技术领域， 具体涉及一种基于长短期记忆网络的服务器 负载均衡优化方法。 背景技术 [0002]在当今的互联网环境中， 由于网络用户的急剧增加， 对于网络应用的访问请求也 在急剧增加， 这也导致了后端服务器处理网络请求的压力骤增。 对各互联网企业的服务器 集群在短时间内处理超大量的网络请求的能力带来了极大 的考验。 因此， 如何让后端服务 器既可以处理日常的服务请求， 又能够处理上述短时间内的大量网络请求的高并发情况， 提高服务质量是一个值得研究的问题。 [0003]通常来说， 单一服务器 的请求处理能力有限。 因此， 要处理数量大， 并发量大的请 求最简单有效的解决方案是通过增加服务器的数量， 这也是诸多互联网公司的普遍使用的 最初级的方法， 将多个服务器组合在一起形成服务器集群系统为大量用户提供服务， 但是 在用户角度所观察到仍然是 “一台”服务器在提供服务。 在解决了服务器数量的限制后， 又 会带来新的问题。 当一个新的用户请求到来时， 应该 由集群中的哪一个服务器来处理该请 求。 合理的方法应该是让每一个服务器所处理的请求大致相等， 即所负载的压力较为平均， 才能保证整个服务器集群处于一个稳定的工作状态。 由一个中枢系统(负载均衡器)决定用 户请求发送给某一个服 务器以保证集群的稳定、 高效运行的技 术称为负载均衡技 术。 [0004]传统的负载均衡技术主要分为两类： 静态负载均衡和动态负载均衡。 静态的负载 均衡策略是不随当前服务器状态而改变的， 例如： 轮询算法(RR)、 加权轮询算法(WRR)、 源地 址哈希法算法等等。 轮询算法假定每一个服务器的处理能力均相同， 将用户的请求依 次的 分发给每一个服务器， 从第一个服务器开始， 到最后一个结束， 然后开始循环， 实现方法较 为简单， 合适于用户请求的时间间隔较为平均且软硬件配置相同的服务器集群。 由于现实 中的服务器很难做到在软硬件设置上的完全一致， 不同的服务器往往处理不同的业务需 求。 加权轮询算法则为了解决这一问题， 根据每一个服务器的请求处理能力， 为每一个服务 器赋予了相应的权重。 当多个请求到来时， 权重较高的服务器会被分配较多请求。 加权轮询 算法的核心是生成一个服务器的序列， 序列中元素 的个数应等于服务器的总 数， 每次请求 来临时， 会按照该序列依 次赋予不同的服务器请求， 问题是每一个服务器的性能差异很难 准确的预估， 这也是负载均衡方法中普遍存在的问题。 源地址哈希法的思想本质来源于常 见的哈希算法， 将用户请求的IP地址经过哈希函数得到相应的哈希值， 并将其对服务器的 数量取模得到相 应的应当赋予的服务器的序号。 由此可以发现， 对于同一用户所发起的请 求， 源地址哈希发总是将 请求分配到同一 服务器节点进行处 理。 [0005]对于轮询算法来说， 没有考虑服务器之间的性能差异， 整个集群的性能会受到性 能较差的服务器的 限制， 而且如果用户请求在时间上分布不均匀也会导致集群的负载分布 不均。 对于加权轮询算法， 每一个服务器的性能无法被精确的估计， 因此每一个服务器的权 重无法进行动态的调整， 一 旦某个服 务器出现故障， 很容 易造成负载不均的问题。说　明　书 1/4 页 3 CN 114945024 A 3