面对大量用户访问、高并发请求，海量数据，可以使用高性能的服务器、大型数据库，存储设备，高性能Web服务器，采用高效率的编程语言来解决。当单机容量达到极限时，我们需要考虑业务拆分和分布式部署，来解决大型网站访问量大，并发量高，海量数据的问题。
从单机网站到分布式网站，很重要的区别是业务拆分和分布式部署，将应用拆分后，部署到不同的机器上，实现大规模分布式系统。
分布式和业务拆分解决了，从集中到分布的问题，但是每个部署的独立业务还存在单点的问题和访问统一入口问题，为解决单点故障，我们可以采取冗余的方式。将相同的应用部署到多台机器上，解决访问统一入口问题，我们可以在集群前面增加负载均衡设备，实现流量分发。
一、负载均衡原理
负载均衡意思是将负载进行平衡、分摊到多个操作单元上进行执行，是解决高性能，单点故障，扩展性的终极解决方案。
系统的扩展可分为纵向（垂直）扩展和横向（水平）扩展。
纵向扩展，是从单机的角度通过增加硬件处理能力，比如CPU处理能力，内存容量，磁盘等方面，实现服务器处理能力的提升，不能满足大型分布式系统（网站），大流量，高并发，海量数据的问题，因此需要采用横向扩展的方式，通过添加机器来满足大型网站服务的处理能力。
应用集群：将同一应用部署到多台机器上，组成处理集群，接收负载均衡设备分发的请求，进行处理，并返回相应数据。
负载均衡设备：将用户访问的请求，根据负载均衡算法，分发到集群中的一台处理服务器（一种把网络请求分散到一个服务器集群中的可用服务器上去的设备）。
负载均衡的作用（解决的问题）：
1、提供故障转移，实现高可用；
2、通过添加或减少服务器数量，提供网站伸缩性（扩展性）；
3、解决并发压力，提高应用处理性能（增加吞吐量，加强网络处理能力）；
4、安全防护（负载均衡设备上做一些过滤，黑白名单等处理）。
二、负载均衡分类
1、DNS负载均衡
最早的负载均衡技术，利用域名解析实现负载均衡，在DNS服务器，配置多个A记录，这些A记录对应的服务器构成集群，大型网站总是部分使用DNS解析，作为第一级负载均衡，如下图：
优点：
使用简单：负载均衡工作，交给DNS服务器处理，省掉了负载均衡服务器维护的麻烦。
提高性能：可以支持基于地址的域名解析，解析成距离用户最近的服务器地址，可以加快访问速度，改善性能。
缺点：
维护性差：也不能反映服务器的当前运行状态；支持的算法少；不能区分服务器的差异（不能根据系统与服务的状态来判断负载）。
可用性差：DNS解析是多级解析，新增/修改DNS后，解析时间较长；解析过程中，用户访问网站将失败。
扩展性低：DNS负载均衡的控制权在域名商那里，无法对其做更多的改善和扩展。
2、IP负载均衡
在网络层通过修改请求目标地址进行负载均衡。
用户请求数据包，到达负载均衡服务器后，负载均衡服务器在操作系统内核进程获取网络数据包，根据负载均衡算法得到一台真实服务器地址，然后将请求目的地址修改为，获得的真实ip地址，不需要经过用户进程处理。
真实服务器处理完成后，响应数据包回到负载均衡服务器，负载均衡服务器，再将数据包源地址修改为自身的ip地址，发送给用户浏览器，如下图：
IP负载均衡，真实物理服务器返回给负载均衡服务器，存在两种方式：
（1）、负载均衡服务器在修改目的ip地址的同时修改源地址。将数据包源地址设为自身盘，即源地址转换（snat）。
（2）、将负载均衡服务器同时作为真实物理服务器集群的网关服务器。
优点：在内核进程完成数据分发，比在应用层分发性能更好。
缺点：所有请求响应都需要经过负载均衡服务器，集群最大吞吐量受限于负载均衡服务器网卡带宽。
3、链路层负载均衡
在通信协议的数据链路层修改mac地址，进行负载均衡。
数据分发时，不修改ip地址，指修改目标mac地址，配置真实物理服务器集群所有机器虚拟ip和负载均衡服务器ip地址一致，达到不修改数据包的源地址和目标地址，进行数据分发的目的。
实际处理服务器ip和数据请求目的ip一致，不需要经过负载均衡服务器进行地址转换，可将响应数据包直接返回给用户浏览器，避免负载均衡服务器网卡带宽成为瓶颈，也称为直接路由模式（DR模式），如下图：
优点：性能好。
缺点：配置复杂。
4、混合型负载均衡
由于多个服务器群内硬件设备、各自的规模、提供的服务等的差异，可以考虑给每个服务器群采用最合适的负载均衡方式，然后又在这多个服务器群间再一次负载均衡或群集起来以一个整体向外界提供服务（即把这多个服务器群当做一个新的服务器群），从而达到最佳的性能，将这种方式称之为混合型负载均衡。
此种方式有时也用于单台均衡设备的性能不能满足大量连接请求的情况下，是目前大型互联网公司，普遍使用的方式。
方式一，反向代理服务器（集群）可以起到缓存和动态请求分发的作用，当时静态资源缓存在代理服务器时，则直接返回到浏览器，如果动态页面则请求后面的应用负载均衡（应用集群）。
方式二，动态请求场景。因混合模式，可以根据具体场景，灵活搭配各种方式，以上两种方式仅供参考。
三、负载均衡算法
常用的负载均衡算法有，轮询，随机，最少链接，源地址散列，加权等方式。
1、轮询
将所有请求，依次分发到每台服务器上，适合服务器硬件同相同的场景。
优点：服务器请求数目相同。
缺点：服务器压力不一样，不适合服务器配置不同的情况。
2、最少链接
将请求分配到连接数最少的服务器（目前处理请求最少的服务器）。
优点：根据服务器当前的请求处理情况，动态分配。
缺点：算法实现相对复杂，需要监控服务器请求连接数。
3、Hash（源地址散列）
根据IP地址进行Hash计算，得到IP地址。
优点：将来自同一IP地址的请求，同一会话期内，转发到相同的服务器；实现会话粘滞。
缺点：目标服务器宕机后，会话会丢失。
4、随机
请求随机分配到各个服务器。
优点：使用简单。
缺点：不适合机器配置不同的场景。
5、加权
在轮询，随机，最少链接，Hash’等算法的基础上，通过加权的方式，进行负载服务器分配。
优点：根据权重，调节转发服务器的请求数目。
缺点：使用相对复杂。
四、硬件负载均衡
采用硬件的方式实现负载均衡，一般是单独的负载均衡服务器，价格昂贵，一般土豪级公司可以考虑，业界领先的有两款，F5和A10。
使用硬件负载均衡，主要考虑一下几个方面：
（1）、功能考虑：功能全面支持各层级的负载均衡，支持全面的负载均衡算法，支持全局负载均衡。
（2）、维护角度：提供良好的维护管理界面，售后服务和技术支持。
（3）、土豪公司：F5 Big Ip 价格：15w~55w不等；A10 价格：55w-100w不等。
（4）、性能考虑：一般软件负载均衡支持到5万级并发已经很困难了，硬件负载均衡可以支持。
（5）、稳定性：商用硬件负载均衡，经过了良好的严格的测试，从经过大规模使用，在稳定性方面高。
（6）、安全防护：硬件均衡设备除具备负载均衡功能外，还具备防火墙，防DDOS攻击等安全功能。
缺点：
（1）、价格昂贵；
（2）、扩展能力差；
小结：
（1）、一般硬件的负载均衡也要做双机高可用，因此成本会比较高。
（2）、互联网公司一般使用开源软件，因此大部分应用采用软件负载均衡；部分采用硬件负载均衡。
五、Ngnix负载均衡
Ngnix是一款轻量级的Web服务器/反向代理服务器，工作在七层Http协议的负载均衡系统，具有高性能、高并发、低内存使用等特点，是一个轻量级的Http和反向代理服务器，Nginx使用epoll and kqueue作为开发模型，能够支持高达50,000个并发连接数的响应。
操作系统：Liunx，Windows（Linux、FreeBSD、Solaris、Mac OS X、AIX以及Microsoft Windows）
开发语言：C
并发性能：官方支持每秒5万并发，实际国内一般到每秒2万并发，有优化到每秒10万并发的，具体性能看应用场景。
1、特点
（1）、模块化设计：良好的扩展性，可以通过模块方式进行功能扩展。
（2）、并发能力强：官方数据每秒支持5万并发。
（3）、功能丰富：优秀的反向代理功能和灵活的负载均衡策略。
（4）、高可靠性：主控进程和worker是同步实现的，一个worker出现问题，会立刻启动另一个worker。
（5）、内存消耗低：一万个长连接（keep-alive），仅消耗2.5MB内存。
（6）、支持热部署：不用停止服务器，实现更新配置文件，更换日志文件、更新服务器程序版本。
