當前位置:首頁 > 公眾號精選 > 架構師社區(qū)
[導讀]我們知道,大部分的業(yè)務場景都是讀多寫少,為了利用好這個特性,提升Redis集群系統(tǒng)的吞吐能力,通常會采用主從架構、讀寫分離如上圖所示:其中Master節(jié)點:負責業(yè)務的寫操作Slave節(jié)點:實時同步Master節(jié)點的數(shù)據(jù),提供讀能力為了提高吞吐量,采用一主多從的架構,將業(yè)務的讀壓力...


我們知道,大部分的業(yè)務場景都是讀多寫少,為了利用好這個特性,提升Redis集群系統(tǒng)的吞吐能力,通常會采用主從架構讀寫分離



如上圖所示:其中

  • Master節(jié)點:負責業(yè)務的寫操作
  • Slave節(jié)點:實時同步Master節(jié)點的數(shù)據(jù),提供讀能力
為了提高吞吐量,采用一主多從的架構,將業(yè)務的讀壓力分攤到多臺服務器上

上述方案,看似合理,但其實可能存在一定隱患!


一、拉取過期數(shù)據(jù)

Redis性能高主要得益于純內存操作,但內存存儲介質的成本過高,所以數(shù)據(jù)的存儲有一定的約束。

通常會設置過期時間,對于一些使用不是很頻繁的數(shù)據(jù),會定期刪除,提高資源的利用率。

刪除過期數(shù)據(jù),Redis提供了兩種策略:

1、惰性刪除。

也稱被動刪除,當數(shù)據(jù)過期后,并不會馬上刪除。而是等到有請求訪問時,對數(shù)據(jù)檢查,如果數(shù)據(jù)過期,則刪除數(shù)據(jù)。

優(yōu)點:不需要單獨啟動額外的掃描線程,減少了CPU資源的損耗。


缺點:大量的過期數(shù)據(jù)滯留內存中,需要主動觸發(fā)、檢查、刪除,否則會一直占用內存資源。

2、定期刪除。每隔一段時間,默認100ms,Redis會隨機挑選一定數(shù)量的Key,檢查是否過期,并將過期的數(shù)據(jù)刪除。

你可能會為問了,既然Redis有過期數(shù)據(jù)刪除策略,那為什么還會拉取到已經過期的數(shù)據(jù)呢?


這要從主從同步講起了,我們先來看張流程圖



當客戶端往主庫寫入數(shù)據(jù)后,并設置了過期時間,數(shù)據(jù)會以異步方式同步給從庫。

1、如果此時讀主庫,數(shù)據(jù)已經過期,主庫的惰性刪除會發(fā)揮作用,主動觸發(fā)刪除操作,客戶端不會拿到已過期數(shù)據(jù)

2、但是如果讀從庫,則有可能拿到過期數(shù)據(jù)。原因有兩個

原因一:

跟 Redis 的版本有關系,Redis 3.2 之前版本,讀從庫并不會判斷數(shù)據(jù)是否過期,所以有可能返回過期數(shù)據(jù)。

解決方案:

升級Redis的版本,至少要3.2 以上版本,讀從庫,如果數(shù)據(jù)已經過期,則會過濾并返回空值。

特別注意:


此時同步過來的數(shù)據(jù),雖然已經過期,但本著誰生產誰維護的原則,從庫并不會主動刪除同步的數(shù)據(jù),需要依賴于主節(jié)點同步過來的key刪除命令。


原因二:

跟過期時間的設置方式有關系,我們一般采用 EXPIRE 和 PEXPIRE,表示從執(zhí)行命令那個時刻開始,往后延長 ttl 時間。嚴重依賴于 開始時間 從什么時候算起。

  • EXPIRE:單位為秒
  • PEXPIRE:單位為毫秒

如上圖所示,簡單描述下過程:

  • 主庫在 t1 時刻寫入一個帶過期時間的數(shù)據(jù),數(shù)據(jù)的有效期一直到 t3
  • 由于網(wǎng)絡原因、或者緩存服務器的執(zhí)行效率,從庫的命令并沒有立即執(zhí)行。一直等到了 t2 才開始執(zhí)行, 數(shù)據(jù)的有效期則會延后到 t5
  • 如果,此時客戶端訪問從庫,發(fā)現(xiàn)數(shù)據(jù)依然處于有效期內,可以正常使用
解決方案:

可以采用Redis的另外兩個命令,EXPIREAT 和 PEXPIREAT,相對簡單,表示過期時間為一個具體的時間點。避免了對開始時間從什么時候算起的依賴。

  • EXPIREAT:單位為秒
  • PEXPIREAT:單位為毫秒
特別注意:


EXPIREAT 和 PEXPIREAT 設置的是時間點,所以要求主從節(jié)點的時鐘保持一致,需要與NTP 時間服務器保持時鐘同步。


主從同步,除了讀從庫可能拉取到過期數(shù)據(jù),還可能遇到數(shù)據(jù)一致性問題。

繼續(xù)往下看

二、主從數(shù)據(jù)不一致

解釋下,什么是主從數(shù)據(jù)不一致?指客戶端從庫中讀取到的值與主庫中讀取的值不一致!

如圖所示:

  • 客戶端寫入主庫,值為100
  • 然后,主庫將值100 同步給 從庫
  • 接著,客戶端又訪問主庫,將值更新為 200
  • 由于主從同步是異步進行的,有一定延遲,假如最新數(shù)據(jù)還沒有同步到從庫,那么從庫讀取的就不是最新值。
從庫同步落后的原因主要有兩個:

1、主從服務器間的網(wǎng)絡傳輸可能有延遲

2、從庫已經收到主庫的命令,由于是單線程執(zhí)行,前面正在處理一些耗時的命令(如:pipeline批處理),無法及時同步執(zhí)行。

解決方案:

1、主從服務器盡量部署在同一個機房,并保持服務器間的網(wǎng)絡良好通暢

2、監(jiān)控主從庫間的同步進度,通過info replication命令 ,查看主庫接收寫命令的進度信息(master_repl_offset),從庫的復制寫命令的進度信息(slave_repl_offset)

master_repl_offset - slave_repl_offset

得到從庫與主庫間的復制進度差

我們可以開發(fā)一個監(jiān)控程序,定時拉取主從服務器的進度信息,計算進度差值。如果超過我們設置的閾值,則通知客戶端斷開從庫的連接,全部訪問主庫,一定程度上減少數(shù)據(jù)不一致情況。

待同步進度跟上后,我們再恢復客戶端與從節(jié)點的讀操作。

本站聲明: 本文章由作者或相關機構授權發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內容真實性等。需要轉載請聯(lián)系該專欄作者,如若文章內容侵犯您的權益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或將催生出更大的獨角獸公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉型技術解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術公司SODA.Auto推出其旗艦產品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關鍵字: 汽車 人工智能 智能驅動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務能7×24不間斷運行,同時企業(yè)卻面臨越來越多業(yè)務中斷的風險,如企業(yè)系統(tǒng)復雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務連續(xù)性,提升韌性,成...

關鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產業(yè)博覽會開幕式在貴陽舉行,華為董事、質量流程IT總裁陶景文發(fā)表了演講。

關鍵字: 華為 12nm EDA 半導體

8月28日消息,在2024中國國際大數(shù)據(jù)產業(yè)博覽會上,華為常務董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權最終是由生態(tài)的繁榮決定的。

關鍵字: 華為 12nm 手機 衛(wèi)星通信

要點: 有效應對環(huán)境變化,經營業(yè)績穩(wěn)中有升 落實提質增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務引領增長 以科技創(chuàng)新為引領,提升企業(yè)核心競爭力 堅持高質量發(fā)展策略,塑強核心競爭優(yōu)勢...

關鍵字: 通信 BSP 電信運營商 數(shù)字經濟

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術學會聯(lián)合牽頭組建的NVI技術創(chuàng)新聯(lián)盟在BIRTV2024超高清全產業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術創(chuàng)新聯(lián)...

關鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(集團)股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關鍵字: BSP 信息技術
關閉
關閉