云服务器BCC是基于百度多年积累的虚拟化、分布式集群等技术构建的可弹性伸缩云计算服务，同时可搭配镜像、快照、云安全等增值服务，为您提供超高费效比的高性能云服务器。
与许多RPC系统一样，gRPC基于定义服务的思想，可以通过设置参数和返回类型来远程调用方法。在服务端，实现这个接口并运行gRPC服务器来处理客户端调用。客户端提供的方法（客户端与服务端的方法相同）。
随着企业对 AI 应对多场景的负载均衡日趋增加。企业需要一个更加灵活、自动化的解决方案，来确保 AI 基础设施的高可用性、低延迟和无缝扩展。
背景 负载均衡网关是云计算网络的一个关键基础设施，为云计算各应用业务提供高性能的转发功能。 目前云计算网关普遍是基于 X86 CPU + DPDK 通用服务器平台的形态实现。
在这个改动之前，在客户端重连并且发布 QoS2 消息的时候，如果 awaiting_rel 队列已满，此客户端会被服务器以 RC_RECEIVE_MAXIMUM_EXCEEDED(0x93) 错误码断开连接
一、大型高并发系统架构 高并发的系统架构都会采用分布式集群部署，服务上层有着层层负载均衡，并提供各种容灾手段（双火机房、节点容错、服务器灾备等）保证系统的高可用，流量也会根据不同的负载能力和配置策略均衡到不同的服务器上
根服务器主要用来管理互联网的主目录。所有根服务器均由美国政府授权的互联网域名与号码分配机构ICANN统一管理，负责全球互联网域名根服务器、域名体系和IP地址等的管理。
两者都具备负载均衡的能力，API Gateway 一般情况下是通过 lvs 、nginx 中心化的一个负载均衡器，我们管这个叫硬负载；而 Service Mesh 一般情况下是通过服务发现，Sidecar
3）一套基于服务器负载均衡的分配策略： 长链接接入服务器周期性上报当前服务器负载到负载均衡服务集群，负载信息存储在共享缓存中，接入分配服务根据负载信息动态分配接入地址。
▪ 负载均衡网关 BGW（Baidu Gateway） 百度智能云负载均衡器作为 BLB（负载均衡）、服务网卡等产品的底层实现设备，提供负载均衡、4层地址转换、单机限速等功能。
4.负载均衡是将流量分发至多台节点设备上处理的服务。 1) 可通过消除单点故障，提升应用系统的可用性； 2) 可减缓大量的并发访问，提高应用系统的处理能力。
