搞懂異地多活,看這篇就夠了
時(shí)間:2021-10-20 16:39:26
手機(jī)看文章
掃描二維碼
隨時(shí)隨地手機(jī)看文章
[導(dǎo)讀]閱讀本文大約需要20分鐘。在軟件開(kāi)發(fā)領(lǐng)域,「異地多活」是分布式系統(tǒng)架構(gòu)設(shè)計(jì)的一座高峰,很多人經(jīng)常聽(tīng)過(guò)它,但很少人理解其中的原理。異地多活到底是什么?為什么需要異地多活?它到底解決了什么問(wèn)題?究竟是怎么解決的?這些疑問(wèn),想必是每個(gè)程序看到異地多活這個(gè)名詞時(shí),都想要搞明白的問(wèn)題。有幸...
閱讀本文大約需要 20 分鐘。在軟件開(kāi)發(fā)領(lǐng)域,「異地多活」是分布式系統(tǒng)架構(gòu)設(shè)計(jì)的一座高峰,很多人經(jīng)常聽(tīng)過(guò)它,但很少人理解其中的原理。
異地多活到底是什么?為什么需要異地多活?它到底解決了什么問(wèn)題?究竟是怎么解決的?這些疑問(wèn),想必是每個(gè)程序看到異地多活這個(gè)名詞時(shí),都想要搞明白的問(wèn)題。有幸,我曾經(jīng)深度參與過(guò)一個(gè)中等互聯(lián)網(wǎng)公司,建設(shè)異地多活系統(tǒng)的設(shè)計(jì)與實(shí)施過(guò)程。所以今天,我就來(lái)和你聊一聊異地多活背后的的實(shí)現(xiàn)原理。認(rèn)真讀完這篇文章,我相信你會(huì)對(duì)異地多活架構(gòu),有更加深刻的理解。這篇文章干貨很多,希望你可以耐心讀完。
01 系統(tǒng)可用性
要想理解異地多活,我們需要從架構(gòu)設(shè)計(jì)的原則說(shuō)起。現(xiàn)如今,我們開(kāi)發(fā)一個(gè)軟件系統(tǒng),對(duì)其要求越來(lái)越高,如果你了解一些「架構(gòu)設(shè)計(jì)」的要求,就知道一個(gè)好的軟件架構(gòu)應(yīng)該遵循以下 3 個(gè)原則:- 高性能
- 高可用
- 易擴(kuò)展
- 平均故障間隔 MTBF(Mean Time Between Failure):表示兩次故障的間隔時(shí)間,也就是系統(tǒng)「正常運(yùn)行」的平均時(shí)間,這個(gè)時(shí)間越長(zhǎng),說(shuō)明系統(tǒng)穩(wěn)定性越高
- 故障恢復(fù)時(shí)間 MTTR(Mean Time To Repair):表示系統(tǒng)發(fā)生故障后「恢復(fù)的時(shí)間」,這個(gè)值越小,故障對(duì)用戶(hù)的影響越小
可用性(Availability)= MTBF / (MTBF MTTR) * 100%這個(gè)公式得出的結(jié)果是一個(gè)「比例」,通常我們會(huì)用「N 個(gè) 9」來(lái)描述一個(gè)系統(tǒng)的可用性。
- 硬件故障:CPU、內(nèi)存、磁盤(pán)、網(wǎng)卡、交換機(jī)、路由器
- 軟件問(wèn)題:代碼 Bug、版本迭代
- 不可抗力:地震、水災(zāi)、火災(zāi)、戰(zhàn)爭(zhēng)
02 單機(jī)架構(gòu)
我們從最簡(jiǎn)單的開(kāi)始講起。假設(shè)你的業(yè)務(wù)處于起步階段,體量非常小,那你的架構(gòu)是這樣的:這個(gè)架構(gòu)模型非常簡(jiǎn)單,客戶(hù)端請(qǐng)求進(jìn)來(lái),業(yè)務(wù)應(yīng)用讀寫(xiě)數(shù)據(jù)庫(kù),返回結(jié)果,非常好理解。
但需要注意的是,這里的數(shù)據(jù)庫(kù)是「單機(jī)」部署的,所以它有一個(gè)致命的缺點(diǎn):一旦遭遇意外,例如磁盤(pán)損壞、操作系統(tǒng)異常、誤刪數(shù)據(jù),那這意味著所有數(shù)據(jù)就全部「丟失」了,這個(gè)損失是巨大的。如何避免這個(gè)問(wèn)題呢?我們很容易想到一個(gè)方案:備份。
你可以對(duì)數(shù)據(jù)做備份,把數(shù)據(jù)庫(kù)文件「定期」cp 到另一臺(tái)機(jī)器上,這樣,即使原機(jī)器丟失數(shù)據(jù),你依舊可以通過(guò)備份把數(shù)據(jù)「恢復(fù)」回來(lái),以此保證數(shù)據(jù)安全。
這個(gè)方案實(shí)施起來(lái)雖然比較簡(jiǎn)單,但存在 2 個(gè)問(wèn)題:
- 恢復(fù)需要時(shí)間:業(yè)務(wù)需先停機(jī),再恢復(fù)數(shù)據(jù),停機(jī)時(shí)間取決于恢復(fù)的速度,恢復(fù)期間服務(wù)「不可用」
- 數(shù)據(jù)不完整:因?yàn)槭嵌ㄆ趥浞?,?shù)據(jù)肯定不是「最新」的,數(shù)據(jù)完整程度取決于備份的周期
03 主從副本
你可以在另一臺(tái)機(jī)器上,再部署一個(gè)數(shù)據(jù)庫(kù)實(shí)例,讓這個(gè)新實(shí)例成為原實(shí)例的「副本」,讓兩者保持「實(shí)時(shí)同步」,就像這樣:- 數(shù)據(jù)完整性高:主從副本實(shí)時(shí)同步,數(shù)據(jù)「差異」很小
- 抗故障能力提升:主庫(kù)有任何異常,從庫(kù)可隨時(shí)「切換」為主庫(kù),繼續(xù)提供服務(wù)
- 讀性能提升:業(yè)務(wù)應(yīng)用可直接讀從庫(kù),分擔(dān)主庫(kù)「壓力」讀壓力
04 風(fēng)險(xiǎn)不可控
現(xiàn)在讓我們把視角下放,把焦點(diǎn)放到具體的「部署細(xì)節(jié)」上來(lái)。按照前面的分析,為了避免單點(diǎn)故障,你的應(yīng)用雖然部署了多臺(tái)機(jī)器,但這些機(jī)器的分布情況,我們并沒(méi)有去深究。而一個(gè)機(jī)房有很多服務(wù)器,這些服務(wù)器通常會(huì)分布在一個(gè)個(gè)「機(jī)柜」上,如果你使用的這些機(jī)器,剛好在一個(gè)機(jī)柜,還是存在風(fēng)險(xiǎn)。如果恰好連接這個(gè)機(jī)柜的交換機(jī) / 路由器發(fā)生故障,那么你的應(yīng)用依舊有「不可用」的風(fēng)險(xiǎn)。雖然交換機(jī) / 路由器也做了路線(xiàn)冗余,但不能保證一定不出問(wèn)題。部署在一個(gè)機(jī)柜有風(fēng)險(xiǎn),那把這些機(jī)器打散,分散到不同機(jī)柜上,是不是就沒(méi)問(wèn)題了?這樣確實(shí)會(huì)大大降低出問(wèn)題的概率。但我們依舊不能掉以輕心,因?yàn)闊o(wú)論怎么分散,它們總歸還是在一個(gè)相同的環(huán)境下:機(jī)房。那繼續(xù)追問(wèn),機(jī)房會(huì)不會(huì)發(fā)生故障呢?一般來(lái)講,建設(shè)一個(gè)機(jī)房的要求其實(shí)是很高的,地理位置、溫濕度控制、備用電源等等,機(jī)房廠(chǎng)商會(huì)在各方面做好防護(hù)。但即使這樣,我們每隔一段時(shí)間還會(huì)看到這樣的新聞:
- 2015 年 5 月 27 日,杭州市某地光纖被挖斷,近 3 億用戶(hù)長(zhǎng)達(dá) 5 小時(shí)無(wú)法訪(fǎng)問(wèn)支付寶
- 2021 年 7 月 13 日,B 站部分服務(wù)器機(jī)房發(fā)生故障,造成整站持續(xù) 3 個(gè)小時(shí)無(wú)法訪(fǎng)問(wèn)
- 2021 年 10 月 9 日,富途證券服務(wù)器機(jī)房發(fā)生電力閃斷故障,造成用戶(hù) 2 個(gè)小時(shí)無(wú)法登陸、交易
- ...
05 同城災(zāi)備
想要抵御「機(jī)房」級(jí)別的風(fēng)險(xiǎn),那應(yīng)對(duì)方案就不能局限在一個(gè)機(jī)房?jī)?nèi)了。現(xiàn)在,你需要做機(jī)房級(jí)別的冗余方案,也就是說(shuō),你需要再搭建一個(gè)機(jī)房,來(lái)部署你的服務(wù)。簡(jiǎn)單起見(jiàn),你可以在「同一個(gè)城市」再搭建一個(gè)機(jī)房,原機(jī)房我們叫作 A 機(jī)房,新機(jī)房叫 B 機(jī)房,這兩個(gè)機(jī)房的網(wǎng)絡(luò)用一條「專(zhuān)線(xiàn)」連通。這種方案,我們稱(chēng)之為「冷備」。為什么叫冷備呢?因?yàn)?B 機(jī)房只做備份,不提供實(shí)時(shí)服務(wù),它是冷的,只會(huì)在 A 機(jī)房故障時(shí)才會(huì)啟用。
但備份的問(wèn)題依舊和之前描述的一樣:數(shù)據(jù)不完整、恢復(fù)數(shù)據(jù)期間業(yè)務(wù)不可用,整個(gè)系統(tǒng)的可用性還是無(wú)法得到保證。所以,我們還是需要用「主從副本」的方式,在 B 機(jī)房部署 A 機(jī)房的數(shù)據(jù)副本,架構(gòu)就變成了這樣:
- B 機(jī)房所有從庫(kù)提升為主庫(kù)
- 在 B 機(jī)房部署應(yīng)用,啟動(dòng)服務(wù)
- 部署接入層,配置轉(zhuǎn)發(fā)規(guī)則
- DNS 指向 B 機(jī)房,接入流量,業(yè)務(wù)恢復(fù)
這樣的話(huà),A 機(jī)房整個(gè)掛掉,我們只需要做 2 件事即可:
- B 機(jī)房所有從庫(kù)提升為主庫(kù)
- DNS 指向 B 機(jī)房,接入流量,業(yè)務(wù)恢復(fù)
06 同城雙活
我們繼續(xù)來(lái)看這個(gè)架構(gòu)。雖然我們有了應(yīng)對(duì)機(jī)房故障的解決方案,但這里有個(gè)問(wèn)題是我們不能忽視的:A 機(jī)房掛掉,全部流量切到 B 機(jī)房,B 機(jī)房能否真的如我們所愿,正常提供服務(wù)?這是個(gè)值得思考的問(wèn)題。這就好比有兩支軍隊(duì) A 和 B,A 軍隊(duì)歷經(jīng)沙場(chǎng),作戰(zhàn)經(jīng)驗(yàn)豐富,而 B 軍隊(duì)只是后備軍,除了有軍人的基本素養(yǎng)之外,并沒(méi)有實(shí)戰(zhàn)經(jīng)驗(yàn),戰(zhàn)斗經(jīng)驗(yàn)基本為 0。如果 A 軍隊(duì)喪失戰(zhàn)斗能力,需要 B 軍隊(duì)立即頂上時(shí),作為指揮官的你,肯定也會(huì)擔(dān)心 B 軍隊(duì)能否真的擔(dān)此重任吧?我們的架構(gòu)也是如此,此時(shí)的 B 機(jī)房雖然是隨時(shí)「待命」?fàn)顟B(tài),但 A 機(jī)房真的發(fā)生故障,我們要把全部流量切到 B 機(jī)房,其實(shí)是不敢百分百保證它可以「如期」工作的。你想,我們?cè)谝粋€(gè)機(jī)房?jī)?nèi)部署服務(wù),還總是發(fā)生各種各樣的問(wèn)題,例如:發(fā)布應(yīng)用的版本不一致、系統(tǒng)資源不足、操作系統(tǒng)參數(shù)不一樣等等?,F(xiàn)在多部署一個(gè)機(jī)房,這些問(wèn)題只會(huì)增多,不會(huì)減少。另外,從「成本」的角度來(lái)看,我們新部署一個(gè)機(jī)房,需要購(gòu)買(mǎi)服務(wù)器、內(nèi)存、硬盤(pán)、帶寬資源,花費(fèi)成本也是非常高昂的,只讓它當(dāng)一個(gè)后備軍,未免也太「大材小用」了!因此,我們需要讓 B 機(jī)房也接入流量,實(shí)時(shí)提供服務(wù),這樣做的好處,一是可以實(shí)時(shí)訓(xùn)練這支后備軍,讓它達(dá)到與 A 機(jī)房相同的作戰(zhàn)水平,隨時(shí)可切換,二是 B 機(jī)房接入流量后,可以分擔(dān) A 機(jī)房的流量壓力。這才是把 B 機(jī)房資源優(yōu)勢(shì),發(fā)揮最大化的最好方案!那怎么讓 B 機(jī)房也接入流量呢?很簡(jiǎn)單,就是把 B 機(jī)房的接入層 IP 地址,加入到 DNS 中,這樣,B 機(jī)房從上層就可以有流量進(jìn)來(lái)了。這會(huì)涉及到你用的所有存儲(chǔ),例如項(xiàng)目中用到了 MySQL、Redis、MongoDB 等等,操作這些數(shù)據(jù)庫(kù),都需要區(qū)分讀寫(xiě)請(qǐng)求,所以這塊需要一定的業(yè)務(wù)「改造」成本。
因?yàn)?A 機(jī)房的存儲(chǔ)都是主庫(kù),所以我們把 A 機(jī)房叫做「主機(jī)房」,B 機(jī)房叫「從機(jī)房」。兩個(gè)機(jī)房部署在「同城」,物理距離比較近,而且兩個(gè)機(jī)房用「專(zhuān)線(xiàn)」網(wǎng)絡(luò)連接,雖然跨機(jī)房訪(fǎng)問(wèn)的延遲,比單個(gè)機(jī)房?jī)?nèi)要大一些,但整體的延遲還是可以接受的。業(yè)務(wù)改造完成后,B 機(jī)房可以慢慢接入流量,從 10%、30%、50% 逐漸覆蓋到 100%,你可以持續(xù)觀(guān)察 B 機(jī)房的業(yè)務(wù)是否存在問(wèn)題,有問(wèn)題及時(shí)修復(fù),逐漸讓 B 機(jī)房的工作能力,達(dá)到和 A 機(jī)房相同水平。現(xiàn)在,因?yàn)?B 機(jī)房實(shí)時(shí)接入了流量,此時(shí)如果 A 機(jī)房掛了,那我們就可以「大膽」地把 A 的流量,全部切換到 B 機(jī)房,完成快速切換!到這里你可以看到,我們部署的 B 機(jī)房,在物理上雖然與 A 有一定距離,但整個(gè)系統(tǒng)從「邏輯」上來(lái)看,我們是把這兩個(gè)機(jī)房看做一個(gè)「整體」來(lái)規(guī)劃的,也就是說(shuō),相當(dāng)于把 2 個(gè)機(jī)房當(dāng)作 1 個(gè)機(jī)房來(lái)用。這種架構(gòu)方案,比前面的同城災(zāi)備更「進(jìn)了一步」,B 機(jī)房實(shí)時(shí)接入了流量,還能應(yīng)對(duì)隨時(shí)的故障切換,這種方案我們把它叫做「同城雙活」。因?yàn)閮蓚€(gè)機(jī)房都能處理業(yè)務(wù)請(qǐng)求,這對(duì)我們系統(tǒng)的內(nèi)部維護(hù)、改造、升級(jí)提供了更多的可實(shí)施空間(流量隨時(shí)切換),現(xiàn)在,整個(gè)系統(tǒng)的彈性也變大了,是不是更爽了?那這種架構(gòu)有什么問(wèn)題呢?
07 兩地三中心
還是回到風(fēng)險(xiǎn)上來(lái)說(shuō)。雖然我們把 2 個(gè)機(jī)房當(dāng)做一個(gè)整體來(lái)規(guī)劃,但這 2 個(gè)機(jī)房在物理層面上,還是處于「一個(gè)城市」內(nèi),如果是整個(gè)城市發(fā)生自然災(zāi)害,例如地震、水災(zāi)(河南水災(zāi)剛過(guò)去不久),那 2 個(gè)機(jī)房依舊存在「全局覆沒(méi)」的風(fēng)險(xiǎn)。真是防不勝防?。吭趺崔k?沒(méi)辦法,繼續(xù)冗余。但這次冗余機(jī)房,就不能部署在同一個(gè)城市了,你需要把它放到距離更遠(yuǎn)的地方,部署在「異地」。通常建議兩個(gè)機(jī)房的距離要在 1000 公里以上,這樣才能應(yīng)對(duì)城市級(jí)別的災(zāi)難。假設(shè)之前的 A、B 機(jī)房在北京,那這次新部署的 C 機(jī)房可以放在上海。按照前面的思路,把 C 機(jī)房用起來(lái),最簡(jiǎn)單粗暴的方案還就是做「冷備」,即定時(shí)把 A、B 機(jī)房的數(shù)據(jù),在 C 機(jī)房做備份,防止數(shù)據(jù)丟失。
這種方案,就是我們經(jīng)常聽(tīng)到的「兩地三中心」。
兩地是指 2 個(gè)城市,三中心是指有 3 個(gè)機(jī)房,其中 2 個(gè)機(jī)房在同一個(gè)城市,并且同時(shí)提供服務(wù),第 3 個(gè)機(jī)房部署在異地,只做數(shù)據(jù)災(zāi)備。這種架構(gòu)方案,通常用在銀行、金融、政企相關(guān)的項(xiàng)目中。它的問(wèn)題還是前面所說(shuō)的,啟用災(zāi)備機(jī)房需要時(shí)間,而且啟用后的服務(wù),不確定能否如期工作。所以,要想真正的抵御城市級(jí)別的故障,越來(lái)越多的互聯(lián)網(wǎng)公司,開(kāi)始實(shí)施「異地雙活」。
08 偽異地雙活
這里,我們還是分析 2 個(gè)機(jī)房的架構(gòu)情況。我們不再把 A、B 機(jī)房部署在同一個(gè)城市,而是分開(kāi)部署,例如 A 機(jī)房放在北京,B 機(jī)房放在上海。前面我們講了同城雙活,那異地雙活是不是直接「照搬」同城雙活的模式去部署就可以了呢?事情沒(méi)你想的那么簡(jiǎn)單。如果還是按照同城雙活的架構(gòu)來(lái)部署,那異地雙活的架構(gòu)就是這樣的:注意看,兩個(gè)機(jī)房的網(wǎng)絡(luò)是通過(guò)「跨城專(zhuān)線(xiàn)」連通的。
此時(shí)兩個(gè)機(jī)房都接入流量,那上海機(jī)房的請(qǐng)求,可能要去讀寫(xiě)北京機(jī)房的存儲(chǔ),這里存在一個(gè)很大的問(wèn)題:網(wǎng)絡(luò)延遲。因?yàn)閮蓚€(gè)機(jī)房距離較遠(yuǎn),受到物理距離的限制,現(xiàn)在,兩地之間的網(wǎng)絡(luò)延遲就變成了「不可忽視」的因素了。北京到上海的距離大約 1300 公里,即使架設(shè)一條高速的「網(wǎng)絡(luò)專(zhuān)線(xiàn)」,光纖以光速傳輸,一個(gè)來(lái)回也需要近 10ms 的延遲。況且,網(wǎng)絡(luò)線(xiàn)路之間還會(huì)經(jīng)歷各種路由器、交換機(jī)等網(wǎng)絡(luò)設(shè)備,實(shí)際延遲可能會(huì)達(dá)到 30ms ~ 100ms,如果網(wǎng)絡(luò)發(fā)生抖動(dòng),延遲甚至?xí)_(dá)到 1 秒。
不止是延遲,遠(yuǎn)距離的網(wǎng)絡(luò)專(zhuān)線(xiàn)質(zhì)量,是遠(yuǎn)遠(yuǎn)達(dá)不到機(jī)房?jī)?nèi)網(wǎng)絡(luò)質(zhì)量的,專(zhuān)線(xiàn)網(wǎng)絡(luò)經(jīng)常會(huì)發(fā)生延遲、丟包、甚至中斷的情況??傊?,不能過(guò)度信任和依賴(lài)「跨城專(zhuān)線(xiàn)」。你可能會(huì)問(wèn),這點(diǎn)延遲對(duì)業(yè)務(wù)影響很大嗎?影響非常大!試想,一個(gè)客戶(hù)端請(qǐng)求打到上海機(jī)房,上海機(jī)房要去讀寫(xiě)北京機(jī)房的存儲(chǔ),一次跨機(jī)房訪(fǎng)問(wèn)延遲就達(dá)到了 30ms,這大致是機(jī)房?jī)?nèi)網(wǎng)網(wǎng)絡(luò)(0.5 ms)訪(fǎng)問(wèn)速度的 60 倍(30ms / 0.5ms),一次請(qǐng)求慢 60 倍,來(lái)回往返就要慢 100 倍以上。而我們?cè)?App 打開(kāi)一個(gè)頁(yè)面,可能會(huì)訪(fǎng)問(wèn)后端幾十個(gè) API,每次都跨機(jī)房訪(fǎng)問(wèn),整個(gè)頁(yè)面的響應(yīng)延遲有可能就達(dá)到了秒級(jí),這個(gè)性能簡(jiǎn)直慘不忍睹,難以接受。看到了么,雖然我們只是簡(jiǎn)單的把機(jī)房部署在了「異地」,但「同城雙活」的架構(gòu)模型,在這里就不適用了,還是按照這種方式部署,這是「?jìng)萎惖仉p活」!那如何做到真正的異地雙活呢?
09 真正的異地雙活
既然「跨機(jī)房」調(diào)用延遲是不容忽視的因素,那我們只能盡量避免跨機(jī)房「調(diào)用」,規(guī)避這個(gè)延遲問(wèn)題。也就是說(shuō),上海機(jī)房的應(yīng)用,不能再「跨機(jī)房」去讀寫(xiě)北京機(jī)房的存儲(chǔ),只允許讀寫(xiě)上海本地的存儲(chǔ),實(shí)現(xiàn)「就近訪(fǎng)問(wèn)」,這樣才能避免延遲問(wèn)題。還是之前提到的問(wèn)題:上海機(jī)房存儲(chǔ)都是從庫(kù),不允許寫(xiě)入啊,除非我們只允許上海機(jī)房接入「讀流量」,不接收「寫(xiě)流量」,否則無(wú)法滿(mǎn)足不再跨機(jī)房的要求。很顯然,只讓上海機(jī)房接收讀流量的方案不現(xiàn)實(shí),因?yàn)楹苌儆许?xiàng)目是只有讀流量,沒(méi)有寫(xiě)流量的。所以這種方案還是不行,這怎么辦?此時(shí),你就必須在「存儲(chǔ)層」做改造了。要想上海機(jī)房讀寫(xiě)本機(jī)房的存儲(chǔ),那上海機(jī)房的存儲(chǔ)不能再是北京機(jī)房的從庫(kù),而是也要變?yōu)椤钢鲙?kù)」。你沒(méi)看錯(cuò),兩個(gè)機(jī)房的存儲(chǔ)必須都是「主庫(kù)」,而且兩個(gè)機(jī)房的數(shù)據(jù)還要「互相同步」數(shù)據(jù),即客戶(hù)端無(wú)論寫(xiě)哪一個(gè)機(jī)房,都能把這條數(shù)據(jù)同步到另一個(gè)機(jī)房。因?yàn)橹挥袃蓚€(gè)機(jī)房都擁有「全量數(shù)據(jù)」,才能支持任意切換機(jī)房,持續(xù)提供服務(wù)。怎么實(shí)現(xiàn)這種「雙主」架構(gòu)呢?它們之間如何互相同步數(shù)據(jù)?如果你對(duì) MySQL 有所了解,MySQL 本身就提供了雙主架構(gòu),它支持雙向復(fù)制數(shù)據(jù),但平時(shí)用的并不多。而且 Redis、MongoDB 等數(shù)據(jù)庫(kù)并沒(méi)有提供這個(gè)功能,所以,你必須開(kāi)發(fā)對(duì)應(yīng)的「數(shù)據(jù)同步中間件」來(lái)實(shí)現(xiàn)雙向同步的功能。此外,除了數(shù)據(jù)庫(kù)這種有狀態(tài)的軟件之外,你的項(xiàng)目通常還會(huì)使用到消息隊(duì)列,例如 RabbitMQ、Kafka,這些也是有狀態(tài)的服務(wù),所以它們也需要開(kāi)發(fā)雙向同步的中間件,支持任意機(jī)房寫(xiě)入數(shù)據(jù),同步至另一個(gè)機(jī)房。看到了么,這一下子復(fù)雜度就上來(lái)了,單單針對(duì)每個(gè)數(shù)據(jù)庫(kù)、隊(duì)列開(kāi)發(fā)同步中間件,就需要投入很大精力了。業(yè)界也開(kāi)源出了很多數(shù)據(jù)同步中間件,例如阿里的 Canal、RedisShake、MongoShake,可分別在兩個(gè)機(jī)房同步 MySQL、Redis、MongoDB 數(shù)據(jù)。很多有能力的公司,也會(huì)采用自研同步中間件的方式來(lái)做,例如餓了么、協(xié)程、美團(tuán)都開(kāi)發(fā)了自己的同步中間件。我也有幸參與設(shè)計(jì)開(kāi)發(fā)了 MySQL、Redis/Codis、MongoDB 的同步中間件,有時(shí)間寫(xiě)一篇文章詳細(xì)聊聊實(shí)現(xiàn)細(xì)節(jié),歡迎持續(xù)關(guān)注。:)現(xiàn)在,整個(gè)架構(gòu)就變成了這樣:
- 北京機(jī)房寫(xiě)入 X = 1
- 上海機(jī)房寫(xiě)入 Y = 2
- 數(shù)據(jù)通過(guò)中間件雙向同步
- 北京、上海機(jī)房都有 X = 1、Y = 2 的數(shù)據(jù)
- 用戶(hù)短時(shí)間內(nèi)發(fā)了 2 個(gè)修改請(qǐng)求,都是修改同一條數(shù)據(jù)
- 一個(gè)請(qǐng)求落在北京機(jī)房,修改 X = 1(還未同步到上海機(jī)房)
- 另一個(gè)請(qǐng)求落在上海機(jī)房,修改 X = 2(還未同步到北京機(jī)房)
- 兩個(gè)機(jī)房以哪個(gè)為準(zhǔn)?
- 第 1 個(gè)請(qǐng)求落到北京機(jī)房,北京機(jī)房時(shí)鐘是 10:01,修改 X = 1
- 第 2 個(gè)請(qǐng)求落到上海機(jī)房,上海機(jī)房時(shí)鐘是 10:00,修改 X = 2
10 如何實(shí)施異地雙活
既然自動(dòng)合并數(shù)據(jù)的方案實(shí)現(xiàn)成本高,那我們就要想,能否從源頭就「避免」數(shù)據(jù)沖突呢?這個(gè)思路非常棒!從源頭避免數(shù)據(jù)沖突的思路是:在最上層接入流量時(shí),就不要讓沖突的情況發(fā)生。具體來(lái)講就是,要在最上層就把用戶(hù)「區(qū)分」開(kāi),部分用戶(hù)請(qǐng)求固定打到北京機(jī)房,其它用戶(hù)請(qǐng)求固定打到上海 機(jī)房,進(jìn)入某個(gè)機(jī)房的用戶(hù)請(qǐng)求,之后的所有業(yè)務(wù)操作,都在這一個(gè)機(jī)房?jī)?nèi)完成,從根源上避免「跨機(jī)房」。所以這時(shí),你需要在接入層之上,再部署一個(gè)「路由層」(通常部署在云服務(wù)器上),自己可以配置路由規(guī)則,把用戶(hù)「分流」到不同的機(jī)房?jī)?nèi)。但這個(gè)路由規(guī)則,具體怎么定呢?有很多種實(shí)現(xiàn)方式,最常見(jiàn)的我總結(jié)了 3 類(lèi):
- 按業(yè)務(wù)類(lèi)型分片
- 直接哈希分片
- 按地理位置分片
這樣按業(yè)務(wù)類(lèi)型分片,也可以避免同一個(gè)用戶(hù)修改同一條數(shù)據(jù)。
這里按業(yè)務(wù)類(lèi)型在不同機(jī)房接入流量,還需要考慮多個(gè)應(yīng)用之間的依賴(lài)關(guān)系,要盡可能的把完成「相關(guān)」業(yè)務(wù)的應(yīng)用部署在同一個(gè)機(jī)房,避免跨機(jī)房調(diào)用。例如,訂單、支付服務(wù)有依賴(lài)關(guān)系,會(huì)產(chǎn)生互相調(diào)用,那這 2 個(gè)服務(wù)在 A 機(jī)房接入流量。社區(qū)、發(fā)帖服務(wù)有依賴(lài)關(guān)系,那這 2 個(gè)服務(wù)在 B 機(jī)房接入流量。2、直接哈希分片這種方案就是,最上層的路由層,會(huì)根據(jù)用戶(hù) ID 計(jì)算「哈希」取模,然后從路由表中找到對(duì)應(yīng)的機(jī)房,之后把請(qǐng)求轉(zhuǎn)發(fā)到指定機(jī)房?jī)?nèi)。舉例:一共 200 個(gè)用戶(hù),根據(jù)用戶(hù) ID 計(jì)算哈希值,然后根據(jù)路由規(guī)則,把用戶(hù) 1 - 100 路由到北京機(jī)房,101 - 200 用戶(hù)路由到上海機(jī)房,這樣,就避免了同一個(gè)用戶(hù)修改同一條數(shù)據(jù)的情況發(fā)生。
3、按地理位置分片
這種方案,非常適合與地理位置密切相關(guān)的業(yè)務(wù),例如打車(chē)、外賣(mài)服務(wù)就非常適合這種方案。拿外賣(mài)服務(wù)舉例,你要點(diǎn)外賣(mài)肯定是「就近」點(diǎn)餐,整個(gè)業(yè)務(wù)范圍相關(guān)的有商家、用戶(hù)、騎手,它們都是在相同的地理位置內(nèi)的。針對(duì)這種特征,就可以在最上層,按用戶(hù)的「地理位置」來(lái)做分片,分散到不同的機(jī)房。舉例:北京、河北地區(qū)的用戶(hù)點(diǎn)餐,請(qǐng)求只會(huì)打到北京機(jī)房,而上海、浙江地區(qū)的用戶(hù),請(qǐng)求則只會(huì)打到上海機(jī)房。這樣的分片規(guī)則,也能避免數(shù)據(jù)沖突。
提醒:這 3 種常見(jiàn)的分片規(guī)則,第一次看不太好理解,建議配合圖多理解幾遍。搞懂這 3 個(gè)分片規(guī)則,你才能真正明白怎么做異地多活。總之,分片的核心思路在于,讓同一個(gè)用戶(hù)的相關(guān)請(qǐng)求,只在一個(gè)機(jī)房?jī)?nèi)完成所有業(yè)務(wù)「閉環(huán)」,不再出現(xiàn)「跨機(jī)房」訪(fǎng)問(wèn)。阿里在實(shí)施這種方案時(shí),給它起了個(gè)名字,叫做「單元化」。
當(dāng)然,最上層的路由層把用戶(hù)分片后,理論來(lái)說(shuō)同一個(gè)用戶(hù)只會(huì)落在同一個(gè)機(jī)房?jī)?nèi),但不排除程序 Bug 導(dǎo)致用戶(hù)會(huì)在兩個(gè)機(jī)房「漂移」。安全起見(jiàn),每個(gè)機(jī)房在寫(xiě)存儲(chǔ)時(shí),還需要有一套機(jī)制,能夠檢測(cè)「數(shù)據(jù)歸屬」,應(yīng)用層操作存儲(chǔ)時(shí),需要通過(guò)中間件來(lái)做「兜底」,避免不該寫(xiě)本機(jī)房的情況發(fā)生。(篇幅限制,這里不展開(kāi)講,理解思路即可)現(xiàn)在,兩個(gè)機(jī)房就可以都接收「讀寫(xiě)」流量(做好分片的請(qǐng)求),底層存儲(chǔ)保持「雙向」同步,兩個(gè)機(jī)房都擁有全量數(shù)據(jù),當(dāng)任意機(jī)房故障時(shí),另一個(gè)機(jī)房就可以「接管」全部流量,實(shí)現(xiàn)快速切換,簡(jiǎn)直不要太爽。不僅如此,因?yàn)闄C(jī)房部署在異地,我們還可以更細(xì)化地「優(yōu)化」路由規(guī)則,讓用戶(hù)訪(fǎng)問(wèn)就近的機(jī)房,這樣整個(gè)系統(tǒng)的性能也會(huì)大大提升。
這里還有一種情況,是無(wú)法做數(shù)據(jù)分片的:全局?jǐn)?shù)據(jù)。例如系統(tǒng)配置、商品庫(kù)存這類(lèi)需要強(qiáng)一致的數(shù)據(jù),這類(lèi)服務(wù)依舊只能采用寫(xiě)主機(jī)房,讀從機(jī)房的方案,不做雙活。雙活的重點(diǎn),是要優(yōu)先保證「核心」業(yè)務(wù)先實(shí)現(xiàn)雙活,并不是「全部」業(yè)務(wù)實(shí)現(xiàn)雙活。至此,我們才算實(shí)現(xiàn)了真正的「異地雙活」!
到這里你可以看出,完成這樣一套架構(gòu),需要投入的成本是巨大的。路由規(guī)則、路由轉(zhuǎn)發(fā)、數(shù)據(jù)同步中間件、數(shù)據(jù)校驗(yàn)兜底策略,不僅需要開(kāi)發(fā)強(qiáng)大的中間件,同時(shí)還要業(yè)務(wù)配合改造(業(yè)務(wù)邊界劃分、依賴(lài)拆分)等一些列工作,沒(méi)有足夠的人力物力,這套架構(gòu)很難實(shí)施。
11 異地多活
理解了異地雙活,那「異地多活」顧名思義,就是在異地雙活的基礎(chǔ)上,部署多個(gè)機(jī)房即可。架構(gòu)變成了這樣:這些服務(wù)按照「單元化」的部署方式,可以讓每個(gè)機(jī)房部署在任意地區(qū),隨時(shí)擴(kuò)展新機(jī)房,你只需要在最上層定義好分片規(guī)則就好了。
但這里還有一個(gè)小問(wèn)題,隨著擴(kuò)展的機(jī)房越來(lái)越多,當(dāng)一個(gè)機(jī)房寫(xiě)入數(shù)據(jù)后,需要同步的機(jī)房也越來(lái)越多,這個(gè)實(shí)現(xiàn)復(fù)雜度會(huì)比較高。所以業(yè)界又把這一架構(gòu)又做了進(jìn)一步優(yōu)化,把「網(wǎng)狀」架構(gòu)升級(jí)為「星狀」:
這種方案必須設(shè)立一個(gè)「中心機(jī)房」,任意機(jī)房寫(xiě)入數(shù)據(jù)后,都只同步到中心機(jī)房,再由中心機(jī)房同步至其它機(jī)房。
這樣做的好處是,一個(gè)機(jī)房寫(xiě)入數(shù)據(jù),只需要同步數(shù)據(jù)到中心機(jī)房即可,不需要再關(guān)心一共部署了多少個(gè)機(jī)房,實(shí)現(xiàn)復(fù)雜度大大「簡(jiǎn)化」。但與此同時(shí),這個(gè)中心機(jī)房的「穩(wěn)定性」要求會(huì)比較高。不過(guò)也還好,即使中心機(jī)房發(fā)生故障,我們也可以把任意一個(gè)機(jī)房,提升為中心機(jī)房,繼續(xù)按照之前的架構(gòu)提供服務(wù)。至此,我們的系統(tǒng)徹底實(shí)現(xiàn)了「異地多活」!多活的優(yōu)勢(shì)在于,可以任意擴(kuò)展機(jī)房「就近」部署。任意機(jī)房發(fā)生故障,可以完成快速「切換」,大大提高了系統(tǒng)的可用性。同時(shí),我們也再也不用擔(dān)心系統(tǒng)規(guī)模的增長(zhǎng),因?yàn)檫@套架構(gòu)具有極強(qiáng)的「擴(kuò)展能力」。怎么樣?我們從一個(gè)最簡(jiǎn)單的應(yīng)用,一路優(yōu)化下來(lái),到最終的架構(gòu)方案,有沒(méi)有幫你徹底理解異地多活呢?
總結(jié)
好了,總結(jié)一下這篇文章的重點(diǎn)。1、一個(gè)好的軟件架構(gòu),應(yīng)該遵循高性能、高可用、易擴(kuò)展 3 大原則,其中「高可用」在系統(tǒng)規(guī)模變得越來(lái)越大時(shí),變得尤為重要2、系統(tǒng)發(fā)生故障并不可怕,能以「最快」的速度恢復(fù),才是高可用追求的目標(biāo),異地多活是實(shí)現(xiàn)高可用的有效手段3、提升高可用的核心是「冗余」,備份、主從副本、同城災(zāi)備、同城雙活、兩地三中心、異地雙活,異地多活都是在做冗余4、同城災(zāi)備分為「冷備」和「熱備」,冷備只備份數(shù)據(jù),不提供服務(wù),熱備實(shí)時(shí)同步數(shù)據(jù),并做好隨時(shí)切換的準(zhǔn)備5、同城雙活比災(zāi)備的優(yōu)勢(shì)在于,兩個(gè)機(jī)房都可以接入「讀寫(xiě)」流量,提高可用性的同時(shí),還提升了系統(tǒng)性能。雖然物理上是兩個(gè)機(jī)房,但「邏輯」上還是當(dāng)做一個(gè)機(jī)房來(lái)用6、兩地三中心是在同城雙活的基礎(chǔ)上,額外部署一個(gè)異地機(jī)房做「災(zāi)備」,用來(lái)抵御「城市」級(jí)別的災(zāi)害,但啟用災(zāi)備機(jī)房需要時(shí)間7、異地雙活才是抵御「城市」級(jí)別災(zāi)害的更好方案,兩個(gè)機(jī)房同時(shí)提供服務(wù),故障隨時(shí)可切換,可用性高。但實(shí)現(xiàn)也最復(fù)雜,理解了異地雙活,才能徹底理解異地多活8、異地多活是在異地雙活的基礎(chǔ)上,任意擴(kuò)展多個(gè)機(jī)房,不僅又提高了可用性,還能應(yīng)對(duì)更大規(guī)模的流量的壓力,擴(kuò)展性最強(qiáng),是實(shí)現(xiàn)高可用的最終方案后記
這篇文章我從「宏觀(guān)」層面,向你介紹了異地多活架構(gòu)的「核心」思路,整篇文章的信息量還是很大的,如果不太好理解,我建議你多讀幾遍。因?yàn)槠拗?,很多?xì)節(jié)我并沒(méi)有展開(kāi)來(lái)講。這篇文章更像是講異地多活的架構(gòu)之「道」,而真正實(shí)施的「術(shù)」,要考慮的點(diǎn)其實(shí)也非常繁多,因?yàn)樗枰_(kāi)發(fā)強(qiáng)大的「基礎(chǔ)設(shè)施」才可以完成實(shí)施。不僅如此,要想真正實(shí)現(xiàn)異地多活,還需要遵循一些原則,例如業(yè)務(wù)梳理、業(yè)務(wù)分級(jí)、數(shù)據(jù)分類(lèi)、數(shù)據(jù)最終一致性保障、機(jī)房切換一致性保障、異常處理等等。同時(shí),相關(guān)的運(yùn)維設(shè)施、監(jiān)控體系也要能跟得上才行。宏觀(guān)上需要考慮業(yè)務(wù)(微服務(wù)部署、依賴(lài)、拆分、SDK、Web 框架)、基礎(chǔ)設(shè)施(服務(wù)發(fā)現(xiàn)、流量調(diào)度、持續(xù)集成、同步中間件、自研存儲(chǔ)),微觀(guān)上要開(kāi)發(fā)各種中間件,還要關(guān)注中間件的高性能、高可用、容錯(cuò)能力,其復(fù)雜度之高,只有親身參與過(guò)之后才知道。我曾經(jīng)有幸參與過(guò),存儲(chǔ)層同步中間件的設(shè)計(jì)與開(kāi)發(fā),實(shí)現(xiàn)過(guò)「跨機(jī)房」同步 MySQL、Redis、MongoDB 的中間件,踩過(guò)的坑也非常多。當(dāng)然,這些中間件的設(shè)計(jì)思路也非常有意思,有時(shí)間單獨(dú)分享一下這些中間件的設(shè)計(jì)思路。值得提醒你的是,只有真正理解了「異地雙活」,才能徹底理解「異地多活」。在我看來(lái),從同城雙活演變?yōu)楫惖仉p活的過(guò)程,是最為復(fù)雜的,最核心的東西包括,業(yè)務(wù)單元化劃分、存儲(chǔ)層數(shù)據(jù)雙向同步、最上層的分片邏輯,這些是實(shí)現(xiàn)異地多活的重中之重。希望我分享的架構(gòu)經(jīng)驗(yàn),對(duì)你有所啟發(fā)。在寫(xiě)這篇文章時(shí),我又還仔細(xì)閱讀了阿里、餓了么、微博等公司,關(guān)于異地多活架構(gòu)設(shè)計(jì)的相關(guān)資料,如果你想更深入地學(xué)習(xí)異地多活架構(gòu),可以在我的公眾號(hào)后臺(tái)回復(fù)「異地多活」獲取。最后,如果我的文章對(duì)你有所幫助,還請(qǐng)幫忙點(diǎn)贊、在看、轉(zhuǎn)發(fā)一下,你的支持會(huì)激勵(lì)我輸出更高質(zhì)量的文章,非常感謝!