“

1. 為什么負(fù)載均衡一般采用混合方式
2. 七層負(fù)載為什么比四層負(fù)載性能要低？
3. 四層負(fù)載概念真的對(duì)嗎？
4. 文章較長(zhǎng)，各位能不能持久到最后？

在正式開(kāi)篇之前，先說(shuō)幾個(gè)瓜：

1. 硬件負(fù)載均衡的性能最高，其次是軟件負(fù)載均衡的四層負(fù)載，最差的是七層負(fù)載，那為什么七層負(fù)載均衡反而應(yīng)用最廣泛呢？
2. 一般公司都會(huì)采用混合型的負(fù)載均衡，為什么四層負(fù)載一定要在七層負(fù)載之前呢？

說(shuō)到負(fù)載均衡，目前可以說(shuō)是程序員面試中的基礎(chǔ)題了，如果連負(fù)載均衡都沒(méi)搞過(guò)，B格多半會(huì)掉好幾個(gè)層級(jí)。遙想很多年前單體時(shí)代，一個(gè)玩過(guò)負(fù)載均衡的程序員可是很吃香的，出去面試算是自帶Buffer的那種。無(wú)論如何，在分布式橫行的現(xiàn)代擼碼過(guò)程中，負(fù)載均衡已然成為微服務(wù)乃至ServiceMesh中不可或缺的一部分。

負(fù)載均衡按照工程來(lái)說(shuō)，都是圍繞“分”字來(lái)做的，無(wú)論是硬件負(fù)載均衡還是軟件負(fù)載均衡，最終目的都是為了提高系統(tǒng)整體的負(fù)載能力。

負(fù)載均衡分類(lèi)

硬件負(fù)載均衡

典型的代表是F5，價(jià)格比較昂貴，一般中小企業(yè)不愿意采用。性?xún)r(jià)比不是F5的優(yōu)勢(shì)，F(xiàn)5有行業(yè)最全面和最領(lǐng)先的解決方案，志在為客戶(hù)提供更加安全、智能、高效的應(yīng)用服務(wù)。

硬件負(fù)載均衡獨(dú)立于實(shí)際應(yīng)用系統(tǒng)，所以它感知不到后端應(yīng)用的狀態(tài)，由于它處于網(wǎng)絡(luò)層，所以要想做到自動(dòng)踢出有問(wèn)題的業(yè)務(wù)服務(wù)器比較難。

優(yōu)點(diǎn)：能夠直接通過(guò)智能交換機(jī)實(shí)現(xiàn),處理能力更強(qiáng)，而且與系統(tǒng)無(wú)關(guān)，負(fù)載性能強(qiáng)，更適用大訪問(wèn)量、大企業(yè)使用

缺點(diǎn)：成本高，除設(shè)備價(jià)格高昂，而且配置比較麻煩，需要專(zhuān)業(yè)的運(yùn)維人員去搞。

軟件負(fù)載均衡

根據(jù)軟件負(fù)載均衡中均衡器所在的OSI網(wǎng)絡(luò)模型中的層次，業(yè)界把負(fù)載均衡分為了四層負(fù)載和七層負(fù)載。它們有著自己的優(yōu)勢(shì)和劣勢(shì)，下邊會(huì)詳細(xì)的講解。

優(yōu)點(diǎn)：基于系統(tǒng)與應(yīng)用的負(fù)載均衡，能夠更好地根據(jù)系統(tǒng)與應(yīng)用的狀況來(lái)分配負(fù)載。這對(duì)于復(fù)雜應(yīng)用是很重要的，性?xún)r(jià)比高，實(shí)際上如果幾臺(tái)服務(wù)器，用F5之類(lèi)的硬件產(chǎn)品顯得有些浪費(fèi)，而用軟件就要合算得多，因?yàn)榉?wù)器同時(shí)還可以跑應(yīng)用做集群等。

缺點(diǎn)：負(fù)載能力受服務(wù)器本身性能的影響，性能越好，負(fù)載能力越大。

四層負(fù)載

無(wú)論是四層負(fù)載均衡還是七層負(fù)載均衡，都離不開(kāi)OSI七層網(wǎng)絡(luò)模型，如果你大學(xué)沒(méi)有掌握，現(xiàn)在再給你一次機(jī)會(huì)

數(shù)據(jù)鏈路層負(fù)載

通過(guò)OSI七層網(wǎng)絡(luò)模型可以知道，數(shù)據(jù)鏈路層傳輸?shù)膬?nèi)容是“幀”，數(shù)據(jù)幀的格式這里不做詳細(xì)介紹，我們只需要知道它包含了來(lái)源MAC地址和目標(biāo)MAC地址，每一個(gè)MAC對(duì)應(yīng)一個(gè)網(wǎng)卡或者說(shuō)對(duì)應(yīng)一臺(tái)服務(wù)器（多網(wǎng)卡的服務(wù)器除外）。

數(shù)據(jù)鏈路層負(fù)載均衡器的工作就是修改接收到的數(shù)據(jù)中的目標(biāo)MAC地址，把目標(biāo)MAC地址修改為真實(shí)服務(wù)器的MAC地址，修改之后，交換機(jī)會(huì)根據(jù)修改之后的MAC地址，把請(qǐng)求發(fā)送給真實(shí)的處理服務(wù)器，由于只修改了目標(biāo)MAC地址，并沒(méi)有涉及網(wǎng)絡(luò)層數(shù)據(jù)的修改，所以上層依然可以正確的進(jìn)行數(shù)據(jù)處理。

“OSI七層模型中，每一層關(guān)注的數(shù)據(jù)并不相同

在數(shù)據(jù)鏈路層只能做到修改MAC地址，這也就意味著目標(biāo)機(jī)器必須要和負(fù)載均衡器能夠聯(lián)通才可以，不可以跨越網(wǎng)段，一般情況下，他們都處于同一個(gè)子網(wǎng)中。

“計(jì)算機(jī)要想正確的處理請(qǐng)求，數(shù)據(jù)包中的MAC和IP地址必須要和自己對(duì)應(yīng)，所以數(shù)據(jù)鏈路層負(fù)載均衡模式中，真實(shí)服務(wù)器的IP要和負(fù)載均衡器一樣才可以，這也是VIP的用武之地

數(shù)據(jù)包的返回道理類(lèi)似，只要目標(biāo)機(jī)器的IP和MAC正確，服務(wù)器就可以直接把數(shù)據(jù)包返回，在數(shù)據(jù)鏈路層負(fù)載中，這兩個(gè)數(shù)據(jù)并沒(méi)有被修改，所以真實(shí)服務(wù)器處理完請(qǐng)求就可以繞過(guò)負(fù)載均衡器而直接返回?cái)?shù)據(jù)包，整個(gè)的流程如下：

網(wǎng)絡(luò)層負(fù)載

在OSI的網(wǎng)絡(luò)層中，數(shù)據(jù)包中最重要的包含了請(qǐng)求的目標(biāo)IP和來(lái)源IP，和數(shù)據(jù)鏈路層道理類(lèi)似，網(wǎng)絡(luò)層的負(fù)載均衡設(shè)備是通過(guò)修改目標(biāo)IP來(lái)達(dá)到負(fù)載均衡的目的。交換機(jī)把請(qǐng)求轉(zhuǎn)發(fā)到真實(shí)服務(wù)器之后，由于IP和MAC就是當(dāng)前真實(shí)服務(wù)器IP和MAC，所以數(shù)據(jù)包可以被正確處理。

但是，當(dāng)應(yīng)答數(shù)據(jù)包返回的時(shí)候就有問(wèn)題了，由于數(shù)據(jù)包目標(biāo)IP被修改為了真實(shí)服務(wù)器IP（原來(lái)為負(fù)載均衡器的IP），如果直接返回給來(lái)客戶(hù)端服務(wù)器，數(shù)據(jù)包將不會(huì)得到處理。因此，只能將應(yīng)答數(shù)據(jù)包重新發(fā)回負(fù)載均衡器，負(fù)載均衡器把應(yīng)答IP修改為自己的IP再發(fā)回客戶(hù)端服務(wù)器，這樣才可以保證和客戶(hù)端服務(wù)器的正常通信。

相比較數(shù)據(jù)鏈路層負(fù)載來(lái)說(shuō)，通過(guò)修改來(lái)源IP方式的負(fù)載均衡方式性能是比較低的，因?yàn)閿?shù)據(jù)包的返回需要再次經(jīng)過(guò)負(fù)載均衡器，這不僅使負(fù)載均衡器的工作量增加，而且占用了更多的出口帶寬。

“其實(shí)還有一種數(shù)據(jù)包二次包裝的方式來(lái)實(shí)現(xiàn)網(wǎng)絡(luò)層負(fù)載均衡，負(fù)載均衡器在真實(shí)的數(shù)據(jù)包外層又增加了一層數(shù)據(jù)包，然后發(fā)往真實(shí)處理服務(wù)器，有興趣的同學(xué)可以研究一下“IP隧道”

七層負(fù)載

四層負(fù)載均衡通過(guò)直接修改數(shù)據(jù)包的方式來(lái)達(dá)到負(fù)載均衡功能，此時(shí)，客戶(hù)端和真實(shí)應(yīng)用服務(wù)器本質(zhì)上維持著同一條TCP通道，或者說(shuō)，OSI模型的下三層的數(shù)據(jù)包還未到達(dá)真實(shí)服務(wù)器。

當(dāng)數(shù)據(jù)包一旦到達(dá)真實(shí)服務(wù)器，也就是OSI是上四層，數(shù)據(jù)包的MAC和IP地址就無(wú)法被修改了。所以基于七層的負(fù)載均衡器只能通過(guò)代理的方式把數(shù)據(jù)包發(fā)送給后端真實(shí)的服務(wù)器，這個(gè)過(guò)程會(huì)新建TCP連接，這也是七層負(fù)載均衡性能要比四層負(fù)載均衡器性能要低的重要原因。

而且，由于七層負(fù)載均衡器，無(wú)法修改IP和MAC信息，所以應(yīng)答數(shù)據(jù)包只能通過(guò)再次返回負(fù)載均衡器的方式來(lái)應(yīng)答客戶(hù)端服務(wù)器，這同樣會(huì)降低負(fù)載均衡器的性能以及占用出口帶寬問(wèn)題。

由于七層負(fù)載均衡器工作在應(yīng)用層，它能夠明確的感知應(yīng)用層的協(xié)議內(nèi)容，比如最常見(jiàn)的Http協(xié)議。這樣就可以根據(jù)協(xié)議的具體內(nèi)容來(lái)實(shí)現(xiàn)更加靈活的控制規(guī)則，像Nginx最常見(jiàn)的Session粘性規(guī)則，或者對(duì)資源的緩存等。

負(fù)載均衡策略

DNS響應(yīng)均衡（Flash DNS）

在Internet上，無(wú)論是HTTP、FTP或是其它的服務(wù)請(qǐng)求，客戶(hù)端一般都是通過(guò)域名解析來(lái)找到服務(wù)器確切的IP地址的。在此均衡算法下，分處在不同地理位置的負(fù)載均衡設(shè)備收到同一個(gè)客戶(hù)端的域名解析請(qǐng)求，并在同一時(shí)間內(nèi)把此域名解析成各自相對(duì)應(yīng)服務(wù)器的IP地址（即與此負(fù)載均衡設(shè)備在同一位地理位置的服務(wù)器的IP地址）并返回給客戶(hù)端，則客戶(hù)端將以最先收到的域名解析IP地址來(lái)繼續(xù)請(qǐng)求服務(wù)，而忽略其它的IP地址響應(yīng)。在種均衡策略適合應(yīng)用在全局負(fù)載均衡的情況下，對(duì)本地負(fù)載均衡是沒(méi)有意義的。

輪循均衡（Round Robin）

這是最簡(jiǎn)單的一種負(fù)載均衡策略，每次網(wǎng)絡(luò)請(qǐng)求都會(huì)依次分配給后端服務(wù)器，即：第一個(gè)請(qǐng)求分配給第一臺(tái)服務(wù)器，第二個(gè)請(qǐng)求分配給第二臺(tái)服務(wù)器，以此類(lèi)推，然后不斷重復(fù)循環(huán)。

如果后端服務(wù)器配置不盡相同，可能會(huì)造成有的服務(wù)器負(fù)載過(guò)高或者負(fù)載過(guò)低的現(xiàn)象。

權(quán)重輪循均衡（Weighted Round Robin）

此策略在輪訓(xùn)的基礎(chǔ)上增加了權(quán)重的概念，根據(jù)服務(wù)器的處理能力分配不同的權(quán)重，處理能力強(qiáng)的權(quán)重會(huì)高一些，處理能力低的權(quán)重會(huì)低一些，這在一定程度上平衡了服務(wù)器處理能力，也很好的提高了服務(wù)器的利用率，盡量避免了造成服務(wù)器負(fù)載過(guò)高或過(guò)低的極端情況。

隨機(jī)均衡（Random）

說(shuō)實(shí)話，這種策略不提也罷，我覺(jué)得沒(méi)有任何意義，本質(zhì)上和輪訓(xùn)策略沒(méi)有什么不同。

一致性哈希均衡（Consistency Hash）

一致性哈希策略其實(shí)是一種比較重要的規(guī)則，負(fù)載均衡器可以根據(jù)請(qǐng)求中的某些數(shù)據(jù)特征保證同樣的請(qǐng)求會(huì)分配給同樣的處理服務(wù)器，也就是會(huì)話粘性。最常見(jiàn)的，我們?cè)趎ginx中利用此策略來(lái)實(shí)現(xiàn)Session機(jī)制，可以保證同一個(gè)用戶(hù)的請(qǐng)求被分配到同一臺(tái)服務(wù)器上，這種一致性的結(jié)果，就可以做很多事情了，完全可以玩出進(jìn)程內(nèi)緩存的花樣。

響應(yīng)速度均衡（Response Time）

響應(yīng)速度策略是依據(jù)負(fù)載均衡器和真實(shí)服務(wù)器之間的響應(yīng)時(shí)間來(lái)確定的，這種策略理論上可以自動(dòng)踢出有故障的服務(wù)器，因?yàn)榉?wù)器超時(shí)或者無(wú)響應(yīng)，負(fù)載均衡器將不會(huì)分配請(qǐng)求到此服務(wù)器。

最少連接數(shù)均衡（Least Connection）

這種方式可以保證每臺(tái)真實(shí)服務(wù)器的連接均衡，站在連接數(shù)的維度來(lái)說(shuō)，這才是真正的均衡，但是會(huì)造成不同配置的服務(wù)器的過(guò)高或者過(guò)低負(fù)載的現(xiàn)象發(fā)生。

故障探測(cè)

一個(gè)好的負(fù)載均衡器一定會(huì)有自動(dòng)故障探測(cè)功能，即：當(dāng)后端服務(wù)器發(fā)生問(wèn)題或者down機(jī)的時(shí)候，會(huì)自動(dòng)剔除有問(wèn)題的服務(wù)器。一般主流的探測(cè)方式有以下幾種：

1. Ping偵測(cè)：通過(guò)ping的方式檢測(cè)服務(wù)器及網(wǎng)絡(luò)系統(tǒng)狀況，此種方式簡(jiǎn)單快速，但只能大致檢測(cè)出網(wǎng)絡(luò)及服務(wù)器上的操作系統(tǒng)是否正常，對(duì)服務(wù)器上的應(yīng)用服務(wù)檢測(cè)就無(wú)能為力了。
2. TCP Open偵測(cè)：每個(gè)服務(wù)都會(huì)開(kāi)放某個(gè)通過(guò)TCP連接，檢測(cè)服務(wù)器上某個(gè)TCP端口（如Telnet的23口，HTTP的80口等）是否開(kāi)放來(lái)判斷服務(wù)是否正常。
3. HTTP URL偵測(cè)：比如向HTTP服務(wù)器發(fā)出一個(gè)對(duì)main.html文件的訪問(wèn)請(qǐng)求，如果收到錯(cuò)誤信息，則認(rèn)為服務(wù)器出現(xiàn)故障。

寫(xiě)在最后

負(fù)載均衡已經(jīng)成為了分布式中不可或缺的基礎(chǔ)設(shè)施，基于四層負(fù)載的高性能和七層負(fù)載的高靈活性，很多公司都是采用混合型負(fù)載均衡，流量的入口處為四層負(fù)載，有的甚至有多層四層負(fù)載，四層負(fù)載之后是七層負(fù)載，然后是真實(shí)服務(wù)器。例如最常用的部署架構(gòu)為：四層的LVS 七層Nginx 真實(shí)服務(wù)器，這也是為了把每層的負(fù)載均衡的優(yōu)勢(shì)最大化的一種體現(xiàn)。