當(dāng)前位置:首頁(yè) > 公眾號(hào)精選 > 架構(gòu)師社區(qū)
[導(dǎo)讀]作者介紹 李猛(ynuosoft),Elastic-stack產(chǎn)品深度用戶,ES認(rèn)證工程師,2012年接觸Elasticsearch,對(duì)Elastic-Stack開發(fā)、架構(gòu)、運(yùn)維等方面有深入體驗(yàn),實(shí)踐過(guò)多種Elasticsearch項(xiàng)目,最暴力的大數(shù)據(jù)分析應(yīng)用,最復(fù)雜的業(yè)務(wù)系統(tǒng)應(yīng)用;業(yè)余為企業(yè)提供Elastic-sta

ich_media_content " id="js_content">

完美避坑!記一次Elasticsearch集群遷移架構(gòu)實(shí)戰(zhàn)


作者介紹

李猛(ynuosoft),Elastic-stack產(chǎn)品深度用戶,ES認(rèn)證工程師,2012年接觸Elasticsearch,對(duì)Elastic-Stack開發(fā)、架構(gòu)、運(yùn)維等方面有深入體驗(yàn),實(shí)踐過(guò)多種Elasticsearch項(xiàng)目,最暴力的大數(shù)據(jù)分析應(yīng)用,最復(fù)雜的業(yè)務(wù)系統(tǒng)應(yīng)用;業(yè)余為企業(yè)提供Elastic-stack咨詢培訓(xùn)以及調(diào)優(yōu)實(shí)施。


前言


Elastic自身設(shè)計(jì)了集群分片的負(fù)載平衡機(jī)制,當(dāng)有新數(shù)據(jù)節(jié)點(diǎn)加入集群或者離開集群,集群會(huì)自動(dòng)平衡分片的負(fù)載分布。


需求背景


公司原有大數(shù)據(jù)平臺(tái)基于公有云構(gòu)建,由于種種原因,現(xiàn)在需要遷移到自建機(jī)房,Elasticsearch集群承擔(dān)了大數(shù)據(jù)平臺(tái)主要的對(duì)外查詢需求,也有部分實(shí)時(shí)計(jì)算需求基于Elasticsearch實(shí)現(xiàn),所以需要在不影響應(yīng)用系統(tǒng)體驗(yàn)的情況下做到平滑的遷移。本次分享講述我們?nèi)绾芜M(jìn)行平滑遷移以及如何避坑。


需要遷移的主要有兩部分:


  • 對(duì)外提供的服務(wù)API,這些API是與Elastic集群綁定的,屬于業(yè)務(wù)場(chǎng)景定制化開發(fā);

  • Elasticsearch集群遷移,數(shù)據(jù)需要遷移,節(jié)點(diǎn)也需要全部遷移。


完美避坑!記一次Elasticsearch集群遷移架構(gòu)實(shí)戰(zhàn)

圖示:公有云集群+自建機(jī)房集群示意圖,業(yè)務(wù)系統(tǒng)查詢圖


遷移策略


大數(shù)據(jù)平臺(tái)的Elastic集群直接對(duì)外提供實(shí)時(shí)查詢服務(wù),任何影響Elastic集群平穩(wěn)的操作都應(yīng)該避免,那我們的集群遷移策略也側(cè)重平穩(wěn),時(shí)間上可以寬松一些,遷移主要的工作有以下幾個(gè):


  • 關(guān)閉集群自動(dòng)平衡;

  • 啟動(dòng)自有機(jī)房新節(jié)點(diǎn)與公有云自建集群組成一個(gè)集群;

  • 人工遷移集群數(shù)據(jù)到新節(jié)點(diǎn);

  • 外圍訪問(wèn)切換到新節(jié)點(diǎn);

  • 關(guān)閉公有云節(jié)點(diǎn);

  • 開啟集群自動(dòng)平衡。

遷移步驟


遷移過(guò)程中有很多步驟操作,是有嚴(yán)格先后順序的,如果出錯(cuò)則會(huì)造成集群動(dòng)蕩,影響應(yīng)用體驗(yàn)。此時(shí)Elastic的版本是6.5.X,當(dāng)時(shí)最新的版本,遷移完成之后也全部升級(jí)到6.8.X。


1、原有集群架構(gòu)


完美避坑!記一次Elasticsearch集群遷移架構(gòu)實(shí)戰(zhàn)

圖示:原有集群架構(gòu),數(shù)據(jù)節(jié)點(diǎn)與管理節(jié)點(diǎn)分離


1)Elasticsearch節(jié)點(diǎn)有很多角色(管理節(jié)點(diǎn)、數(shù)據(jù)節(jié)點(diǎn),協(xié)調(diào)節(jié)點(diǎn)),默認(rèn)單節(jié)點(diǎn)常用角色全部開啟。所以在早期搭建Elastic集群時(shí),就按照角色分離的職責(zé)將管理節(jié)點(diǎn)與數(shù)據(jù)節(jié)點(diǎn)分離部署,這也是后面集群遷移能夠順利進(jìn)行的重要前提。多數(shù)初學(xué)者在剛剛接觸Elastic投入生產(chǎn)環(huán)境時(shí)會(huì)犯一個(gè)錯(cuò)誤,節(jié)點(diǎn)角色不分離,當(dāng)數(shù)據(jù)節(jié)點(diǎn)的資源消耗過(guò)度會(huì)導(dǎo)致集群管理節(jié)點(diǎn)響應(yīng)變慢,從而影響整體集群響應(yīng)。



#管理節(jié)點(diǎn)角色設(shè)置

 node.master: true

 node.data: false

#數(shù)據(jù)節(jié)點(diǎn)角色設(shè)置

 node.master: false

 node.data: true


2)Elastic對(duì)外提供服務(wù)時(shí)中間會(huì)增加一層負(fù)載代理,如定制服務(wù)API與實(shí)時(shí)計(jì)算應(yīng)用訪問(wèn)Elastic集群都需要走代理。


3)Hadoop集群與Elastic集群互相訪問(wèn)是基于官方提供的ES-Hadoop驅(qū)動(dòng)包,由于實(shí)現(xiàn)原理的限制,不能做代理,所以是直接訪問(wèn),都是離線任務(wù)交互。


2、配置新集群


1)因?yàn)槭沁w移到新集群節(jié)點(diǎn),原有節(jié)點(diǎn)最后都需要關(guān)閉,新集群節(jié)點(diǎn)同樣也需要管理節(jié)點(diǎn)與數(shù)據(jù)節(jié)點(diǎn)分離,新舊節(jié)點(diǎn)需要平滑遷移,所以新舊節(jié)點(diǎn)在啟動(dòng)之后就需要在同一集群中,新節(jié)點(diǎn)Hosts同時(shí)指向新管理節(jié)點(diǎn)與舊管理節(jié)點(diǎn) ,關(guān)鍵設(shè)置如下:



#配置管理節(jié)點(diǎn)IP+PORT

discovery.zen.ping.unicast.hosts: ["多個(gè)舊管理節(jié)點(diǎn) IP:PORT","多個(gè)新管理節(jié)點(diǎn) IP:PORT"]


2)新集群服務(wù)器采用的全部是物理機(jī),CPU核數(shù)很多,內(nèi)存充足,掛載了多個(gè)硬盤,為了充分利用物理機(jī)性能,所以單服務(wù)器會(huì)部署多實(shí)例,主要是部署多個(gè)數(shù)據(jù)節(jié)點(diǎn)。在同一機(jī)器啟動(dòng)多個(gè)Elastic實(shí)例,需要做資源隔離,尤其是CPU核數(shù)隔離,CPU的核數(shù)決定了Elastic默認(rèn)線程池的線程數(shù),如果不做設(shè)置,默認(rèn)啟動(dòng)多個(gè)數(shù)據(jù)實(shí)例,會(huì)出現(xiàn)資源競(jìng)爭(zhēng)問(wèn)題,設(shè)置如下:



#配置處理器數(shù)量

processors: 數(shù)值<=(CPU核數(shù)/實(shí)例數(shù))


3)公有云與自建機(jī)房直接通過(guò)專線連接,新舊集群節(jié)點(diǎn)在啟動(dòng)之后依然是一個(gè)集群。


完美避坑!記一次Elasticsearch集群遷移架構(gòu)實(shí)戰(zhàn)

圖示:新舊集群示意圖與多實(shí)例示意圖


3、禁用集群數(shù)據(jù)平衡


Elasticsearch集群有自動(dòng)的數(shù)據(jù)分片平衡分配機(jī)制,默認(rèn)是按照分片的數(shù)量平均分布,集群每個(gè)數(shù)據(jù)節(jié)點(diǎn)上的索引分片數(shù)量默認(rèn)是相同的,最多有奇偶不一致。


當(dāng)有新的帶有數(shù)據(jù)角色節(jié)點(diǎn)加入集群或者離開集群,集群會(huì)默認(rèn)啟動(dòng)自動(dòng)平衡機(jī)制,索引分片會(huì)在數(shù)據(jù)節(jié)點(diǎn)之間平衡漂移,達(dá)到平均分布之后停止,頻繁的集群節(jié)點(diǎn)加入或者下線會(huì)嚴(yán)重影響集群的IO,影響集群響應(yīng)速度,所以要盡量避免次情況發(fā)生。說(shuō)到這里,在我的從業(yè)中,發(fā)現(xiàn)很多初級(jí)運(yùn)維人員在部署Elastic集群時(shí),會(huì)很喜歡設(shè)置系統(tǒng)級(jí)別Elastic實(shí)例進(jìn)程自動(dòng)啟動(dòng),這個(gè)其實(shí)是個(gè)很糟糕的機(jī)制,當(dāng)發(fā)現(xiàn)服務(wù)器Elastic實(shí)例關(guān)閉,不是馬上重啟,而是需要人工介入分析具體原因,如果頻繁關(guān)閉重啟,這樣很容易造成集群?jiǎn)栴}。


1)第一個(gè)是禁用集群自動(dòng)平衡,首先要禁止集群新創(chuàng)建索引,新索引之間分配到新的數(shù)據(jù)節(jié)點(diǎn),其次防止新的數(shù)據(jù)節(jié)點(diǎn)啟動(dòng)之后,集群分片開始平衡遷移,影響集群IO,設(shè)置如下:



#禁用集群新創(chuàng)建索引分配

cluster.routing.allocation.enable: false 

#禁用集群自動(dòng)平衡

cluster.routing.rebalance.enable: false


2)第二個(gè)是限制已有索引數(shù)據(jù)的分布范圍,暫時(shí)只容許分布在舊的數(shù)據(jù)節(jié)點(diǎn)上,舊集群數(shù)據(jù)節(jié)點(diǎn)在早期部署時(shí)并未設(shè)置自定義標(biāo)簽,所以只能通過(guò)設(shè)置IP范圍限制,還有就是后面在遷移數(shù)據(jù)時(shí)需要按找索引維度逐步遷移,控制集群遷移的并行度。設(shè)置如下:



#限制索引的分布范圍

"index.routing.allocation.include._ip": "多個(gè)舊集群IP"


4、啟動(dòng)新集群數(shù)據(jù)節(jié)點(diǎn)


在禁用舊集群的數(shù)據(jù)自動(dòng)平衡之后,啟動(dòng)新集群數(shù)據(jù)節(jié)點(diǎn),這一步是安全的,可以全部啟動(dòng),此時(shí)集群數(shù)據(jù)節(jié)點(diǎn)有很多,舊數(shù)據(jù)節(jié)點(diǎn)有數(shù)據(jù),新數(shù)據(jù)節(jié)點(diǎn)無(wú)數(shù)據(jù),新的數(shù)據(jù)節(jié)點(diǎn)無(wú)任何查詢與寫入。


由于新數(shù)據(jù)節(jié)點(diǎn)是全新搭建,可以提前設(shè)置節(jié)點(diǎn)自定義屬性,方便之后運(yùn)維設(shè)置。設(shè)置如下:



#集群機(jī)架屬性

node.attr.rack: rack1

#集群數(shù)據(jù)中心

node.attr.zone: zone1

#實(shí)例節(jié)點(diǎn)硬盤

node.attr.disk: ssd1

#更多屬性......

node.attr.xxxx: yyy1

...


完美避坑!記一次Elasticsearch集群遷移架構(gòu)實(shí)戰(zhàn)

圖示:僅優(yōu)先啟動(dòng)數(shù)據(jù)節(jié)點(diǎn)


5、切換集群訪問(wèn)


Elasticsearch集群主要有幾個(gè)使用方:


1)Hadoop平臺(tái)離線數(shù)據(jù)寫入ES,從ES抽取數(shù)據(jù)。Elastic提供了Hadoop直連訪問(wèn)驅(qū)動(dòng)。如Hive是通過(guò)創(chuàng)建映射表與Elasticsearch索引關(guān)聯(lián)的,新的數(shù)據(jù)節(jié)點(diǎn)啟動(dòng)之后,原有所有Hive-Es映射表需要全部重新創(chuàng)建,更換其中的IP+PORT指向;由于Hive有很多與Elastic關(guān)聯(lián)的表,所以短時(shí)間內(nèi)沒有那么快替換完成,新舊數(shù)據(jù)節(jié)點(diǎn)需要共存一段時(shí)間,不能在數(shù)據(jù)遷移完成之后馬上關(guān)閉。



#Hive指定連接

es.nodes=多個(gè)數(shù)據(jù)節(jié)點(diǎn)IP+PORT


2)業(yè)務(wù)系統(tǒng)應(yīng)用實(shí)時(shí)查詢。這種切換比較簡(jiǎn)單,Elastic集群對(duì)外提供了代理訪問(wèn),業(yè)務(wù)系統(tǒng)應(yīng)用訪問(wèn)首先要調(diào)用大數(shù)據(jù)提供的API,這些定制化的API內(nèi)部也是通過(guò)代理訪問(wèn)Elastic集群。


3)大數(shù)據(jù)中心應(yīng)用實(shí)時(shí)計(jì)算數(shù)據(jù)寫入。實(shí)時(shí)計(jì)算程序上游有kafka隊(duì)列,基于kafka自帶的offset機(jī)制,在新集群?jiǎn)?dòng)實(shí)時(shí)計(jì)算應(yīng)用,然后關(guān)閉舊集群實(shí)時(shí)計(jì)算應(yīng)用,就可以完成切換。


6、手動(dòng)轉(zhuǎn)移數(shù)據(jù)


為什么要手動(dòng)遷移數(shù)據(jù) ?


  • 公有云與新集群機(jī)房是跨網(wǎng)段,網(wǎng)絡(luò)帶寬有限;

  • 集群中有很多大索引,單索引數(shù)據(jù)超過(guò)數(shù)百GB,這種索引移動(dòng)會(huì)會(huì)很傷集群IO;

  • 新舊數(shù)據(jù)節(jié)點(diǎn)會(huì)共存一段時(shí)間,自動(dòng)平衡會(huì)導(dǎo)致大量的跨網(wǎng)絡(luò)的查詢與寫入,很傷網(wǎng)絡(luò)IO。


遷移數(shù)據(jù)的原則如下:


  • 索引數(shù)據(jù)量小的優(yōu)先;

  • 離線更新的索引數(shù)據(jù)優(yōu)先;

  • 業(yè)務(wù)系統(tǒng)查詢頻率低索引數(shù)據(jù)的優(yōu)先;

  • 遷移索引數(shù)據(jù)控制并行度,每次操作控制在網(wǎng)絡(luò)帶寬限制之內(nèi)。


遷移數(shù)據(jù)也是通過(guò)限制索引分布IP范圍,設(shè)置如下:



#限制索引的分布范圍

"index.routing.allocation.include._ip": "多個(gè)新集群IP"


7、關(guān)閉舊集群數(shù)據(jù)節(jié)點(diǎn)


關(guān)閉舊集群數(shù)據(jù)節(jié)點(diǎn)是一個(gè)逐步的過(guò)程,一個(gè)一個(gè)關(guān)閉,在一段時(shí)間內(nèi)新舊集群數(shù)據(jù)節(jié)點(diǎn)需要共存,應(yīng)用訪問(wèn)切換并沒有那么快進(jìn)行,且要支持隨時(shí)回滾操作。關(guān)閉舊集群據(jù)節(jié)點(diǎn)有2個(gè)前提條件,如下:


  • 舊集群索引數(shù)據(jù)必須遷移完成;

  • 集群訪問(wèn)切換必須已經(jīng)完成。


完美避坑!記一次Elasticsearch集群遷移架構(gòu)實(shí)戰(zhàn)

圖示:關(guān)閉舊集群數(shù)據(jù)節(jié)點(diǎn)


8、啟動(dòng)新集群管理節(jié)點(diǎn)


為什么要在最后啟動(dòng)新集群管理節(jié)點(diǎn)?并且同步關(guān)閉舊集群管理節(jié)點(diǎn)?


  • 一個(gè)Elasticsearch集群只有一個(gè)工作管理節(jié)點(diǎn),負(fù)責(zé)維護(hù)集群所有的元數(shù)據(jù)信息;其余的是備選管理節(jié)點(diǎn),只是同步集群元數(shù)據(jù)信息,不參與協(xié)調(diào)管理。工作主節(jié)點(diǎn)關(guān)閉集群需要重新選舉工作主節(jié)點(diǎn),此時(shí)集群會(huì)處于半停頓狀態(tài),雖然很快,也會(huì)有影響;

  • 舊集群已經(jīng)有5個(gè)管理節(jié)點(diǎn),其中一個(gè)是工作主節(jié)點(diǎn),其余4個(gè)是備選節(jié)點(diǎn),因?yàn)镋lastic版本是6.5.X,原有的集群腦裂因子設(shè)置是3=(5/2+1),當(dāng)啟動(dòng)新集群的管理節(jié)點(diǎn),若網(wǎng)絡(luò)出現(xiàn)短暫通信問(wèn)題,集群腦裂因子設(shè)置會(huì)無(wú)效。


切換新舊管理節(jié)點(diǎn)的策略如下:


  • 每啟動(dòng)一個(gè)新集群管理節(jié)點(diǎn) ,關(guān)閉一個(gè)舊集群備選管理節(jié)點(diǎn);

  • 最后關(guān)閉舊集群工作管理節(jié)點(diǎn),集群重新選舉新的工作管理節(jié)點(diǎn)。


完美避坑!記一次Elasticsearch集群遷移架構(gòu)實(shí)戰(zhàn)

圖示:?jiǎn)?dòng)新集群管理節(jié)點(diǎn)


9、啟用集群自動(dòng)平衡


在集群遷移之前,已經(jīng)禁用了集群的自動(dòng)平衡機(jī)制,集群遷移結(jié)束之后,需要恢復(fù)這種機(jī)制。



#禁用集群新創(chuàng)建索引分配

cluster.routing.allocation.enable: true

#禁用集群自動(dòng)平衡

cluster.routing.rebalance.enable: true


涉及技術(shù)


1、集群彈性


在我們能如此平滑的完成Elasticsearch從公有云遷移到自有機(jī)房,得益于與共用集群這個(gè)概念。


  • 個(gè)人認(rèn)為這是Elasticsearch最大特性賣點(diǎn),設(shè)計(jì)上任意節(jié)點(diǎn)都可以很容易加入集群或者離開集群,集群都可以彈性的平滑擴(kuò)展,基本不影響系統(tǒng)運(yùn)行穩(wěn)定;

  • 在業(yè)務(wù)系統(tǒng)發(fā)展早期,可以部署少量節(jié)點(diǎn),發(fā)展后期可以部署更多節(jié)點(diǎn)或者部署更強(qiáng)的服務(wù)器,以達(dá)到最佳的性價(jià)比配置,從成本與性能平衡;

  • 自動(dòng)化運(yùn)維方面節(jié)約成本,相比傳統(tǒng)的關(guān)系型數(shù)據(jù)庫(kù)集群規(guī)模龐大之后,需要關(guān)注的點(diǎn)很多,而Elastic很少,大中型集群規(guī)模以下幾乎無(wú)需專門的Elastic運(yùn)維人員。


2、集群選舉


  • 主從架構(gòu)模式,一個(gè)集群只能有一個(gè)工作狀態(tài)的管理節(jié)點(diǎn),其余管理節(jié)點(diǎn)是備選,備選數(shù)量原則上不限制。很多大數(shù)據(jù)產(chǎn)品管理節(jié)點(diǎn)僅支持一主一從,如Greenplum、Hadoop、Prestodb;

  • 工作管理節(jié)點(diǎn)自動(dòng)選舉,工作管理節(jié)點(diǎn)關(guān)閉之后自動(dòng)觸發(fā)集群重新選舉,無(wú)需外部三方應(yīng)用,無(wú)需人工干預(yù)。很多大數(shù)據(jù)產(chǎn)品需要人工切換或者借助第三方軟件應(yīng)用,如Greenplum、Hadoop、Prestodb。


3、節(jié)點(diǎn)角色


Elasticsearch支持多種節(jié)點(diǎn)角色,一個(gè)節(jié)點(diǎn)可以支持多個(gè)角色,也可以支持一種角色。


完美避坑!記一次Elasticsearch集群遷移架構(gòu)實(shí)戰(zhàn)

圖示:集群節(jié)點(diǎn)角色


節(jié)點(diǎn)角色說(shuō)明:


  • Master,管理節(jié)點(diǎn),管理集群元數(shù)據(jù)信息,集群節(jié)點(diǎn)信息,集群索引元數(shù)據(jù)信息;

  • Voting,投票節(jié)點(diǎn),參與集群管理節(jié)點(diǎn)選舉投票,注意7.X以上版本才支持;

  • Data,數(shù)據(jù)節(jié)點(diǎn),存儲(chǔ)實(shí)際數(shù)據(jù),提供初步聯(lián)合查詢,初步聚合查詢,也可以作為協(xié)調(diào)節(jié)點(diǎn);

  • Ingest,數(shù)據(jù)處理節(jié)點(diǎn),類似ETL處理;

  • Coordinate,協(xié)調(diào)節(jié)點(diǎn),數(shù)據(jù)查詢協(xié)調(diào)、數(shù)據(jù)寫入?yún)f(xié)調(diào);

  • Machine Learning,機(jī)器學(xué)習(xí)節(jié)點(diǎn),模型訓(xùn)練與模型預(yù)測(cè)。

4、協(xié)調(diào)路由


Elasticsearch集群中有多個(gè)節(jié)點(diǎn),其中任一節(jié)點(diǎn)都可以查詢數(shù)據(jù)或者寫入數(shù)據(jù),集群內(nèi)部節(jié)點(diǎn)會(huì)有路由機(jī)制協(xié)調(diào),轉(zhuǎn)發(fā)請(qǐng)求到索引分片所在的節(jié)點(diǎn)。我們?cè)谶w移集群時(shí)采用應(yīng)用代理切換,外部訪問(wèn)從舊集群數(shù)據(jù)節(jié)點(diǎn)切換到新集群數(shù)據(jù)節(jié)點(diǎn),就是基于此特點(diǎn)。


完美避坑!記一次Elasticsearch集群遷移架構(gòu)實(shí)戰(zhàn)

圖示:集群路由示意圖,查詢過(guò)程/更新過(guò)程


5、分片副本


分片與副本是Elasticsearch集群實(shí)現(xiàn)分布式最重要前提。


  • 分片機(jī)制,一個(gè)索引可以分成多個(gè)分片,分片數(shù)據(jù)可以分布在任意集群數(shù)據(jù)節(jié)點(diǎn)上,此機(jī)制可以保證我們遷移大的索引數(shù)據(jù)時(shí),按照分片一個(gè)一個(gè)遷移,而不用一次性遷移所有的分片,有效減少磁盤IO與網(wǎng)絡(luò)IO;

  • 副本機(jī)制,一個(gè)索引主分片可以有多個(gè)副本分片,主分片與副本分片可以任意切換,無(wú)需人工切換。這種機(jī)制可以保證我們?cè)谶w移大的數(shù)據(jù)索引時(shí),僅遷移主分片數(shù)據(jù)即可,有效減少磁盤IO與網(wǎng)絡(luò)IO。



#副本設(shè)置

index.number_of_replicas: 數(shù)值,默認(rèn)1


#分片遷移API

POST /_cluster/reroute

{

    "commands" : [

        {

            "move" : {

                "index" : "test_index", "shard" : 0,

                "from_node" : "node1", "to_node" : "node2"

            }

        }

    ]}


6、分布過(guò)濾


Elasticsearch本身提供了多種索引分片分布過(guò)濾操作,特別是在集群規(guī)模比較大時(shí),需要按照業(yè)務(wù)領(lǐng)域隔離集群資源。如有的業(yè)務(wù)索引是歷史數(shù)據(jù),數(shù)據(jù)量很大,僅偶爾低頻率查詢,可以做一些冷熱分離設(shè)置。



# 分布過(guò)濾設(shè)置

index.routing.allocation.include.{attribute}

index.routing.allocation.require.{attribute}

index.routing.allocation.exclude.{attribute}


總結(jié)


  • Elastic集群遷移到物理機(jī)之后,運(yùn)行性能較之前有很大的提高,并行寫入性能提升好幾倍,查詢與寫入交叉影響降低很多;

  • Elastic官方文檔非常詳細(xì)的描述了各種特性功能,但并沒有針對(duì)數(shù)據(jù)遷移專門列舉一個(gè)完整的步驟,掌握Elastic最好的方式是實(shí)戰(zhàn)與理論并行,深入Elastic背后的實(shí)現(xiàn)原理,嘗試多種項(xiàng)目的實(shí)戰(zhàn)。


在跨越速運(yùn)大數(shù)據(jù)部門任職時(shí),基于公司實(shí)際需求,得出的一些經(jīng)驗(yàn)與思考,提供后來(lái)者借鑒參考。




特別推薦一個(gè)分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容,還沒關(guān)注的小伙伴,可以長(zhǎng)按關(guān)注一下:

完美避坑!記一次Elasticsearch集群遷移架構(gòu)實(shí)戰(zhàn)

長(zhǎng)按訂閱更多精彩▼

完美避坑!記一次Elasticsearch集群遷移架構(gòu)實(shí)戰(zhàn)

如有收獲,點(diǎn)個(gè)在看,誠(chéng)摯感謝

免責(zé)聲明:本文內(nèi)容由21ic獲得授權(quán)后發(fā)布,版權(quán)歸原作者所有,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。文章僅代表作者個(gè)人觀點(diǎn),不代表本平臺(tái)立場(chǎng),如有問(wèn)題,請(qǐng)聯(lián)系我們,謝謝!

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點(diǎn),本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請(qǐng)聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請(qǐng)及時(shí)聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫?dú)角獸公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

倫敦2024年8月29日 /美通社/ -- 英國(guó)汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時(shí)1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動(dòng) BSP

北京2024年8月28日 /美通社/ -- 越來(lái)越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運(yùn)行,同時(shí)企業(yè)卻面臨越來(lái)越多業(yè)務(wù)中斷的風(fēng)險(xiǎn),如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報(bào)道,騰訊和網(wǎng)易近期正在縮減他們對(duì)日本游戲市場(chǎng)的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)開幕式在貴陽(yáng)舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語(yǔ)權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機(jī) 衛(wèi)星通信

要點(diǎn): 有效應(yīng)對(duì)環(huán)境變化,經(jīng)營(yíng)業(yè)績(jī)穩(wěn)中有升 落實(shí)提質(zhì)增效舉措,毛利潤(rùn)率延續(xù)升勢(shì) 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長(zhǎng) 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競(jìng)爭(zhēng)力 堅(jiān)持高質(zhì)量發(fā)展策略,塑強(qiáng)核心競(jìng)爭(zhēng)優(yōu)勢(shì)...

關(guān)鍵字: 通信 BSP 電信運(yùn)營(yíng)商 數(shù)字經(jīng)濟(jì)

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺(tái)與中國(guó)電影電視技術(shù)學(xué)會(huì)聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會(huì)上宣布正式成立。 活動(dòng)現(xiàn)場(chǎng) NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長(zhǎng)三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會(huì)上,軟通動(dòng)力信息技術(shù)(集團(tuán))股份有限公司(以下簡(jiǎn)稱"軟通動(dòng)力")與長(zhǎng)三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉
關(guān)閉