负载均衡BLB基于百度自研4/7层负载均衡设备，为客户提供高可用的流量分发服务，可以在多台云服务器之间进行均衡的应用流量分发，避免单点故障并能提升业务可用性。轻松应对海量访问请求，实现业务水平扩展。
随着企业对 AI 应对多场景的负载均衡日趋增加。企业需要一个更加灵活、自动化的解决方案，来确保 AI 基础设施的高可用性、低延迟和无缝扩展。
如图所示，gRPC客户端和服务端可以在各种环境中运行和相互通信，并且可以用gRPC支持的任何语言编写。
通过引入 UNP 平台可充分发挥软硬一体化的技术优势，百度智能云在 2023 年 1 月推出了可编程负载均衡 UNP-BGW 网关 1.0，有效解决了负载均衡网关中的大带宽、大象流、低延迟等问题需求，为负载均衡网关带来如下收益
集群负载重平衡基于节点疏散，通过手动的方式，控制将部分连接从负载较高的节点疏散到负载较低的节点，从而达成整个集群的负载平衡。
下边是一个简单的示意图： 负载均衡简介 上图中描述了用户请求到服务器经历了三层的负载均衡，下边分别简单介绍一下这三种负载均衡： OSPF（开放式最短链路优先）是一个内部网关协议（Interior Gateway
高并发Web系统中，架构上几乎都是一个或多个反向代理服务器(如Nginx)来做七层负载均衡，后端使用应用服务器集群(如Tomcat)提供服务，这种架构具备水平伸缩能力，那么反向代理如何均匀分配请求，并且尽量保证请求
负载均衡将工作负载分配到多个服务器上。 如何实现：使用像 Nginx、HAProxy 这样的负载均衡器，或者使用 AWS 或 Azure 等云端负载均衡服务，分配进入的流量。
因此在这里需要增加一个关键能力，即： 在微服务部署并自动化注册后，需要自动化更新更新负载均衡设备的路由配置表信息，也就是这个负载均衡能力不会使用ServiceMesh的负载均衡，而是需要借助独立的负载均衡组件来完成统一的服务代理和服务对外暴露
读写分离架构的只读性能基线数据 在 Sysbench oltpreadonly 压测模式下，【4 层负载均衡 +ProxySQL Cluster+MGR 读写分离】架构的 QPS 与并发线程数关系如下表所示
如图2所示，路由器L使用了负载均衡技术，源IP可以通过L-A-C-E和L-B-D-E这2条路径到达目标IP。
