天翼云弹性负载均衡介绍

作者简介

肖力，天翼云科技有限公司弹性网络产品线架构师。从事网络方面的工作，对MPLS、3GGP协议和IAAS网络架构有深入的研究，对IAAS网络产品都有深入的理解，支撑了100+公有云/混合云项目网络方案的设计和落地。

负载均衡介绍

负载均衡（Load Balancing）是一种优化资源分配的技术，主要用于在网络环境中分散工作负载，以提高系统的响应速度、吞吐量以及可靠性。在互联网服务中，当单台服务器无法处理大量并发请求时，就需要采用负载均衡策略，将请求分发至多台服务器上进行处理。负载均衡在现代IT架构中扮演着至关重要的角色，尤其是在大型分布式系统和云计算环境中。

天翼云弹性负载均衡介绍

天翼云弹性负载均衡（CT-ELB ，Elastic Load Balancing）是一种分发控制网络流量的服务，通过预先设定的算法将访问流量自动分发到多台云主机，扩展应用系统对外的服务能力，实现更高水平的应用系统容错性能。

如上图所示，大量用户可同时通过互联网访问客户业务，弹性负载均衡将这些用户请求按照配置的负载算法分发到不同的业务云主机，为大量用户同时提供服务。

弹性负载均衡的产品架构主要包含以下组件：

负载均衡器：即负载均衡实例，可以接收来自客户端的请求流量，并经流量分配到一个或多个可用的后端服务器。

监听器：监听器是弹性负载均衡的核心组件，监听器指定要监听的协议和端口号，并根据配置的负载均衡算法将请求转发到后端主机。监听器也会对后端服务器进行健康检查。

后端服务器组：每个监听器关联一个后端服务器组，后端服务器组包含多个后端服务器。当监听器接收到客户端请求时，它将请求转发给后端服务器组中的一个或多个后端服务器。后端服务器组负责将请求传递给相应的后端服务器，实现负载均衡和高可用性。

后端服务器：处理前端请求的云服务器实例。例如云主机、裸金属等。

健康检查：健康检查用于检查后端服务器的状态。用户可自定义健康检查方式和频率，负载均衡根据预设的健康检查规则定时检查后端服务器是否正常运行，一旦检测到服务器为非健康状态，则不会将访问流量分派到这些非健康服务器实例。

主要组件的关系如下：

下面介绍下弹性负载均衡的4个常见的应用场景和3个实用的高阶能力。

弹性负载均衡应用场景

分发流量应对高访问流量

针对高访问量的业务，单机难以支撑。可以使用负载均衡来实现流量分发，通过设置适当的转发策略，将访问量均衡地分配到多个后端云主机，从而有效提高业务处理的效率和性能，支撑大流量、大并发业务。

适用于各种高访问量的业务场景，如大型门户网站、移动应用市场、电商平台等，从而帮助企业应对高访问量的业务挑战，提高业务的可用性和性能，降低运维成本和风险。

分发流量是弹性负载均衡的基础场景，还可以结合健康检查保障业务高可用。下面介绍下健康检查保障业务高可用场景。

健康检查保障业务高可用

为了提高业务的可靠性，可以使用负载均衡来消除单点故障。在负载均衡器上添加多个后端云主机，并将它们部署在不同的可用区内，从而实现负载均衡的高可用性和容错能力。当某个云主机发生故障时，负载均衡器会通过健康检查及时发现并屏蔽有故障的云主机，并将流量转发到其他正常运行的后端云主机，保证业务的连续性和稳定性。

适用于官网，计费业务，Web业务等使用场景。通过将请求分发到多台云主机上，即使某个云主机出现故障，也不会对整个系统造成影响，从而保证了系统的高可靠性。同时，弹性负载均衡还支持自动检测和剔除故障云主机，可以有效地提高系统的容错能力。

弹性负载均衡通过健康检查保证了业务的高可用。还可以通过跨可用区部署提升业务容灾能力。

跨可用区部署提升业务容灾能力

弹性负载均衡可通过跨可用区的部署来实现业务容灾。可用区是天翼云在不同地理位置提供的独立数据中心，具有独立的供电、网络和硬件设施，因此在某个可用区发生故障时，其他可用区仍然能够正常运行。通过在不同可用区中部署弹性负载均衡器和后端资源，系统可以在某个可用区故障时继续提供稳定可靠的服务，并自动将流量切换到其他可用区。从而提高容错性、故障恢复能力和用户体验。

适用于包括Web应用程序、银行业务、数据库集群和大型应用系统等。通过将实例部署在多个可用区，并使用负载均衡将流量分发到这些实例，可以实现高可用性和负载均衡。如果一个可用区出现故障，流量将自动路由到其他可用区的实例，确保应用的可用性。

结合弹性伸缩应对潮汐业务  

针对在某些特定时间段内，业务流量出现大幅度波动，可以使用负载均衡集成弹性伸缩服务来实现自动化的资源调整。弹性伸缩服务可以根据业务流量的变化自动调整后端云主机数量，从而保证业务处理能力的充足和稳定，提高业务的可用性和性能。同时，结合负载均衡技术，可以将流量合理地分配到多个云主机上进行处理，进一步提高业务的处理效率和吞吐量。

适用于业务流量通常呈现出大幅波动的场景中，例如电商的“双11”、“双12”、“618”等大型促销活动。使用负载均衡及弹性伸缩能根据业务的实际情况及时调整资源数量，以满足业务的处理需求，最大限度的节省IT成本。

以上是弹性负载均衡的4种常见应用场景，在这4种场景中，弹性负载均衡构建了高并发业务稳定运行的基石。弹性负载均衡还提供了一些高阶能力，下面再介绍3种实用的高阶能力。

弹性负载均衡高阶能力

平滑升级后端业务

针对由于客户业务需求，需要升级后端业务，可以使用修改权重为0和批量修改后端权重能力来对后端业务进行分批次滚动升级，可保证后端业务升级过程中业务不中断，从而实现平滑升级后端业务。

对后端业务做调整/升级时，可先将部分后端服务器的权重批量调整为0，此时弹性负载均衡会将权重为0的后端服务器流量切换到其它后端；然后对后端服务做调整/升级。后端服务调整/升级完成后，再逐步将后端权重调整为原值，此时弹性负载均衡会根据后端权重，把流量分发到权重不为0的后端上。重复这个过程，进行后端业务的滚动式调整/升级，即可实现后端业务平滑调整/升级。

TLS复用降低带宽消耗

HTTPS（Hyper Text Transfer Protocol over SecureSocket Layer，超文本传输安全协议）在 TCP 和 HTTP 之间加入了 SSL/TLS 安全协议，使得报文能够加密传输，提升了HTTP连接的安全性。HTTPS在 TCP 三次握手之后，还需进行 SSL/TLS 的握手过程，才可进行加密报文传输。在TLS建立连接的过程中，客户端和服务端需要交换TLS版本、加密套件列表、随机数、证书等信息，导致TLS建立连接的消耗很大。

所以如果连续两次短连接通信的话，完全可以复用上一次的会话。这样可以压缩通信消息，节省计算，减小连接建立耗费的时延。TLS提供了session ticket（会话票证）机制来实现TLS连接复用。

Session ticket可以重用之前创建的会话，这个会话是之前和服务器进行握手成功的，这样可以降低TLS握手的消耗。在session ticket机制中，服务端不用为每个会话保存状态，它用一个blob数据保存状态，然后将它发给客户端用来维护后来连接，session ticket允许服务器将其存储状态委托给客户端，类似HTTP cookie一样。在初始握手中服务端发送一个会话ticket到客户端，存储到客户端本地，当重用会话时，客户端发送session ticket到服务端，服务端解密然后重用会话。

天翼云弹性负载均衡支持session ticket机制，通过TLS连接复用缩短连接建立时间提升连接建立成功率，进而提升广告商业务收入。同时降低公网带宽消耗，降低客户运营成本。

IPv6能力

IPv6的发展已经取得了显著进展。截至2024年5月底，我国IPv6活跃用户数达到7.94亿，移动网络IPv6流量占比达64.56%。‌此外，我国在IPv6规模部署和应用方面也取得了重要进展，IPv6网络“高速公路”已经全面建成，信息基础设施IPv6服务能力已基本具备。作为‌IPv4的替代者，IPv6具有丰富的地址资源和高效的处理模式，能够支持更多的设备连接和网络应用。

天翼云弹性负载均衡支持IPv4、IPv6双栈协议，满足业务对IPv6的需求。将业务子网开启IPv6后，在负载均衡创建时会自动分配IPv6地址，支持IPv6业务。

上面介绍了天翼云弹性负载均衡的4种应用场景和3种高阶能力，下面结合一个广告商的业务介绍下弹性负载均衡的具体使用案例。

程序化广告系统用云实践

广告平台商是一家科技创新型服务商。公司致力于移动端数字营销领域，专注于广告位管理、多渠道变现与收益优化，通过自研智能广告算法，帮助移动端中小媒体实现整体收益最大化的新媒体技术和解决方案服务商。

广告平台商的运营管理系统和程序化广告应用系统都部署在天翼云上。终端用户使用移动端APP时，移动端APP会调用广告平台上的业务API，获取广告信息，推送给终端用户。广告平台商的业务系统会将APP请求的广告数据、日志分别存入分布式缓存数据库REDIS和分析型数据库。运营管理系统对REDIS、数据库中的数据进行处理分析，输出广告投放有效转化率、广告变现率分析，为后续业务拓展提供数据依据。

广告平台商的业务架构如下：

广告平台商的业务特点是：连接低时延，连接超时即影响客户收入；瞬时高并发，业务峰值一般在晚上22点、凌晨0点，业务峰值是平时的2~3倍；对稳定性的要求很高，公网抖动导致连接中断或超时会影响客户收入。

针对广告平台商的业务架构和业务特点，推荐客户使用天翼云弹性负载均衡构建广告业务稳定运行的基石，配合弹性伸缩支撑客户潮汐业务访问，通过了618业务高峰考验，并对广告投放的有效转化率进行智能分析，为后续业务的发展和增长提供了有力的决策依据。同时通过TLS复用降低了客户公网带宽消耗，通过平滑业务升级方案，降低了广告平台上的运营成本。通过负载均衡的IPv6能力，扩大了广告业务的受众，拓展了广告业务，带来了业务的进一步增加。