互聯(lián)網(wǎng)大廠有哪些分庫(kù)分表的思路和技巧？

分庫(kù)分表

分庫(kù)分表是隨著業(yè)務(wù)的不斷發(fā)展，單庫(kù)單表無(wú)法承載整體的數(shù)據(jù)存儲(chǔ)時(shí)，采取的一種將整體數(shù)據(jù)分散存儲(chǔ)到不同服務(wù)器上的不同數(shù)據(jù)庫(kù)中的不同數(shù)據(jù)表的存儲(chǔ)方案。分庫(kù)分表能夠有效的緩解數(shù)據(jù)的存儲(chǔ)壓力，分庫(kù)分表是數(shù)據(jù)存儲(chǔ)達(dá)到一定規(guī)模時(shí)必然會(huì)遇到的問題。掌握分庫(kù)分表的思路和技巧有助于小伙伴們更好的解決實(shí)際工作中，有關(guān)數(shù)據(jù)拆分的問題。

接下來(lái)，我們就分別對(duì)分表和分庫(kù)來(lái)談?wù)勔恍┦褂玫乃悸泛图记伞?

分表

分表，最直白的意思，就是將一個(gè)表結(jié)構(gòu)分為多個(gè)表，然后，可以在同一個(gè)庫(kù)里，也可以放到不同的庫(kù)。當(dāng)然，首先要知道什么情況下，才需要分表。個(gè)人覺得單表記錄條數(shù)達(dá)到百萬(wàn)到千萬(wàn)級(jí)別時(shí)就要使用分表了。

分表的分類

1.縱向分表

將本來(lái)可以在同一個(gè)表的內(nèi)容，人為劃分為多個(gè)表。（所謂的本來(lái)，是指按照關(guān)系型數(shù)據(jù)庫(kù)的第三范式要求，是應(yīng)該在同一個(gè)表的。）

分表技巧： 根據(jù)數(shù)據(jù)的活躍度進(jìn)行分離，（因?yàn)椴煌钴S的數(shù)據(jù)，處理方式是不同的）

案例：

對(duì)于一個(gè)博客系統(tǒng)，文章標(biāo)題，作者，分類，創(chuàng)建時(shí)間等，是變化頻率慢，查詢次數(shù)多，而且最好有很好的實(shí)時(shí)性的數(shù)據(jù)，我們把它叫做冷數(shù)據(jù)。而博客的瀏覽量，回復(fù)數(shù)等，類似的統(tǒng)計(jì)信息，或者別的變化頻率比較高的數(shù)據(jù)，我們把它叫做活躍數(shù)據(jù)。所以，在進(jìn)行數(shù)據(jù)庫(kù)結(jié)構(gòu)設(shè)計(jì)的時(shí)候，就應(yīng)該考慮分表，首先是縱向分表的處理。

這樣縱向分表后：

（1）首先，存儲(chǔ)引擎的使用不同，冷數(shù)據(jù)使用MyIsam 可以有更好的查詢數(shù)據(jù)?；钴S數(shù)據(jù)，可以使用Innodb ,可以有更好的更新速度。

（2）其次，對(duì)冷數(shù)據(jù)進(jìn)行更多的從庫(kù)配置，因?yàn)楦嗟牟僮魇遣樵儯@樣來(lái)加快查詢速度。對(duì)熱數(shù)據(jù)，可以相對(duì)有更多的主庫(kù)的橫向分表處理。

其實(shí)，對(duì)于一些特殊的活躍數(shù)據(jù)，也可以考慮使用memcache ,redis之類的緩存，等累計(jì)到一定量再去更新數(shù)據(jù)庫(kù)?；蛘適ongodb 一類的nosql 數(shù)據(jù)庫(kù)，這里只是舉例，就先不說(shuō)這個(gè)。

2.橫向分表

字面意思，就可以看出來(lái)，是把大的表結(jié)構(gòu)，橫向切割為同樣結(jié)構(gòu)的不同表，如，用戶信息表，user_1,user_2 等。表結(jié)構(gòu)是完全一樣，但是，根據(jù)某些特定的規(guī)則來(lái)劃分的表，如根據(jù)用戶ID來(lái)取模劃分。

分表技巧： 根據(jù)數(shù)據(jù)量的規(guī)模來(lái)劃分，保證單表的容量不會(huì)太大，從而來(lái)保證單表的查詢等處理能力。

案例：

同上面的例子，博客系統(tǒng)。當(dāng)博客的量達(dá)到很大的時(shí)候，就應(yīng)該采取橫向分割來(lái)降低每個(gè)單表的壓力，來(lái)提升性能。例如博客的冷數(shù)據(jù)表，假如分為100個(gè)表，當(dāng)同時(shí)有100萬(wàn)個(gè)用戶在瀏覽時(shí)，如果是單表的話，會(huì)進(jìn)行100萬(wàn)次請(qǐng)求，而現(xiàn)在分表后，就可能是每個(gè)表進(jìn)行1萬(wàn)個(gè)數(shù)據(jù)的請(qǐng)求（因?yàn)椋豢赡芙^對(duì)的平均，只是假設(shè)），這樣壓力就降低了很多。

注意：數(shù)據(jù)庫(kù)的復(fù)制能解決訪問問題，并不能解決大規(guī)模的并發(fā)寫入問題，要解決這個(gè)問題就要考慮MySQL數(shù)據(jù)切分了。

數(shù)據(jù)切分

顧名思義，就是數(shù)據(jù)分散，將一臺(tái)主機(jī)上的數(shù)據(jù)分?jǐn)偟蕉嗯_(tái)，減輕單臺(tái)主機(jī)的負(fù)載壓力，有兩種切分方式，一種是分庫(kù)，即按照業(yè)務(wù)模塊分多個(gè)庫(kù)，每個(gè)庫(kù)中的表不一樣，還有一種就是分表，按照一定的業(yè)務(wù)規(guī)則或者邏輯將數(shù)據(jù)拆分到不同的主機(jī)上，每個(gè)主機(jī)上的表是一樣的，這個(gè)有點(diǎn)類似于Oracle的表分區(qū)。

分區(qū)

分庫(kù)又叫垂直分區(qū)，這種方式實(shí)現(xiàn)起來(lái)比較簡(jiǎn)單，重要的是對(duì)業(yè)務(wù)要細(xì)化，分庫(kù)時(shí)候要想清楚各個(gè)模塊業(yè)務(wù)之間的交互情況，避免將來(lái)寫程序時(shí)出現(xiàn)過多的跨庫(kù)讀寫操作。

分表又叫水平分區(qū)，這種方式實(shí)現(xiàn)起來(lái)就比垂直分區(qū)復(fù)雜些，但是它能解決垂直分區(qū)所不能解決的問題，即單張表的訪問及寫入很頻繁，這時(shí)候就可以根據(jù)一定的業(yè)務(wù)規(guī)則（PS：如互聯(lián)網(wǎng)BBS論壇的會(huì)員等級(jí)概念，根據(jù)會(huì)員等級(jí)來(lái)分表）來(lái)分表，這樣就能減輕單表壓力，并且還能解決各個(gè)模塊的之間的頻繁交互問題。

分庫(kù)的優(yōu)點(diǎn)是： 實(shí)現(xiàn)簡(jiǎn)單，庫(kù)與庫(kù)之間界限分明，便于維護(hù)，缺點(diǎn)是不利于頻繁跨庫(kù)操作，不能解決單表數(shù)據(jù)量大的問題。

分表的優(yōu)點(diǎn)是： 能解決分庫(kù)的不足點(diǎn)，但是缺點(diǎn)卻恰恰是分庫(kù)的優(yōu)點(diǎn)，分表實(shí)現(xiàn)起來(lái)比較復(fù)雜，特別是分表規(guī)則的劃分，程序的編寫，以及后期的數(shù)據(jù)庫(kù)拆分移植維護(hù)。

實(shí)際應(yīng)用

實(shí)際應(yīng)用中，一般互聯(lián)網(wǎng)企業(yè)的路線都是先分庫(kù)再分表，兩者結(jié)合使用，取長(zhǎng)補(bǔ)短，這樣發(fā)揮了MySQL擴(kuò)展的最大優(yōu)勢(shì)，但是缺點(diǎn)是架構(gòu)很大，很復(fù)雜，應(yīng)用程序的編寫也比較復(fù)雜。

以上是MySQL的數(shù)據(jù)切分的一些概念，數(shù)據(jù)切完了，現(xiàn)在要做的是怎么樣在整合起來(lái)以便于外界訪問，因?yàn)槌绦蛟L問的入口永遠(yuǎn)只有一個(gè)，現(xiàn)在比較常用的解決方案是通過中間代理層來(lái)統(tǒng)一管控所有數(shù)據(jù)源。例如，可以使用冰河深度參與開發(fā)的Mycat中間件，也可以使用亮總開源的ShardingSphere中間件。