在业务初期,我们一般会先使用单台服务器对外提供服务。随着业务流量越来越大,单台服务器无论如何优化,无论采用多好的硬件,总会有性能天花板,当单服务器的性能无法满足业务需求时,就需要把多台服务器组成集群系统提高整体的处理性能。
基于上述需求,我们要使用统一的流量入口来对外提供服务,本质上就是需要一个流量调度器,通过特定的算法,将用户大量的请求流量均衡地分发到集群中不同的服务器上。这其实就是我们今天要说的负载均衡。
下图非常直白的解释了分布式系统中常用的几种负载均衡算法的特点:
这些负载均衡算法各有优点和缺点,通常根据具体的需求和系统架构进行选择。
例如,如果需要一个简单的负载均衡算法来处理均匀的请求流量,可以选择轮询算法。但是,如果需要确保客户端请求始终被发送到同一服务实例,则需要使用粘性轮询算法。
轮询算法。
另一方面,如果希望最大限度地减少响应时间,则最短响应时间算法是一个很好的选择。对于能够更好地处理复杂请求的服务实例,可以选择最少连接数算法。