當(dāng)前位置:首頁 > 芯聞號 > 技術(shù)解析
[導(dǎo)讀]存儲,是各大電子設(shè)備不可缺少的組成之一。缺少存儲,數(shù)據(jù)將無法得以保存。上篇文章中,小編對塊存儲以及文件存儲做過初步介紹。本文中,將繼續(xù)對兩種存儲方式予以介紹。

存儲,是各大電子設(shè)備不可缺少的組成之一。缺少存儲,數(shù)據(jù)將無法得以保存。上篇文章中,小編對塊存儲以及文件存儲做過初步介紹。本文中,將繼續(xù)對兩種存儲方式予以介紹。如果你對存儲具有興趣,不妨繼續(xù)往下閱讀哦。

一、GlusterFS 和對象存儲

GlusterFS是目前做得最好的分布式存儲系統(tǒng)之一,而且已經(jīng)開始商業(yè)化運(yùn)行。但是,目前GlusterFS3.2.5版本還不支持對象存儲。如果要實現(xiàn)海量存儲,那么GlusterFS需要用對象存儲。值得高興的是,GlusterFS最近宣布要支持對象存儲。它使用openstack的對象存儲系統(tǒng)swift的上層PUT、GET等接口,支持對象存儲。

20世紀(jì)電子與信息技術(shù)迅速發(fā)展,機(jī)器計算迅速普及,馮·諾依曼在1945年6月30日,提出了存儲程序邏輯架構(gòu),即現(xiàn)有的計算機(jī)都遵循的“馮·諾依曼體系架構(gòu)。

馮諾依曼體系結(jié)構(gòu)與人腦(生物)計算模型匹配度相當(dāng)準(zhǔn)確。我們通常把運(yùn)算器和控制器合并成中央處理器(CPU),內(nèi)部小容量的存儲提供快速的訪問,外部存儲器提供大容量的存儲空間。在不同的計算機(jī)時代,我們可以按照不同的角度來理解馮諾依曼體系結(jié)構(gòu)。在單機(jī)計算時代(包括大型機(jī)、小型機(jī)、微機(jī))內(nèi)部存儲器可理解為內(nèi)存(即Memory),外部存儲器可理解為物理硬盤(包括本地硬盤和通過網(wǎng)絡(luò)映射的邏輯卷)。在本地硬盤空間不足,可靠性無法滿足業(yè)務(wù)需求的情況下,SAN存儲出現(xiàn)了,通過網(wǎng)絡(luò)映射的邏輯卷(即SAN存儲提供的LUN)成為增強(qiáng)版的硬盤。為了解決數(shù)據(jù)共享的問題,NAS存儲隨之誕生。

但馮諾依曼體系架構(gòu)沒有考慮并行計算和數(shù)據(jù)共享情形,在如今的網(wǎng)絡(luò)時代,大量計算設(shè)備通過網(wǎng)絡(luò)形成一個龐大、相互獨(dú)立但又邏輯統(tǒng)一的計算系統(tǒng),因此我們可以總結(jié)出一個數(shù)據(jù)存儲的通用模型,這個模型包括兩級存儲,其存儲容量差距約1000倍:

如果將上圖中每一個計算模塊理解為一個計算內(nèi)核,那么高速存儲單元則是CPU內(nèi)的緩存(單位為KB~MB),海量存儲單元則是內(nèi)存(單位為GB);如果把每一個計算模塊理解為一個CPU,那么高速存儲單元則是內(nèi)存(單位為GB~TB),海量存儲是物理硬盤或通過網(wǎng)絡(luò)映射給服務(wù)器的邏輯卷(或網(wǎng)絡(luò)文件系統(tǒng),單位為TB~PB);如果把計算模塊理解為針對某一項任務(wù)或某一組任務(wù)提供計算能力的服務(wù)器集群,把SAN或NAS等擁有TB~PB級存儲規(guī)模的網(wǎng)絡(luò)存儲設(shè)備理解為高速存儲單元,那么具備PB~EB級存儲容量的海量存儲單元將基于什么技術(shù)和產(chǎn)品構(gòu)建呢?

SAN和NAS技術(shù)已經(jīng)出現(xiàn)了數(shù)十年,目前單臺SAN或NAS設(shè)備最大容量已經(jīng)達(dá)到PB級別,但在應(yīng)對EB級數(shù)據(jù)挑戰(zhàn)時,還是顯得有些力不從心。這主要由于其架構(gòu)和服務(wù)接口決定的。

SAN使用SCSI協(xié)議作為底層協(xié)議,SCSI協(xié)議管理的粒度非常小,通常以字節(jié)(byte)或千字節(jié)(KB)為單位;同時SCSI協(xié)議沒有提供讀寫鎖機(jī)制以確保不同應(yīng)用并發(fā)讀寫時的數(shù)據(jù)一致性,因此難以實現(xiàn)EB級存儲資源管理和多個服務(wù)器/服務(wù)器集群之間數(shù)據(jù)共享。

NAS使用文件協(xié)議訪問數(shù)據(jù),通過文件協(xié)議存儲設(shè)備能夠準(zhǔn)確識別數(shù)據(jù)內(nèi)容,并提供了非常豐富的文件訪問接口,包括復(fù)雜的目錄/文件的讀寫鎖。文件和目錄采用樹形結(jié)構(gòu)管理,每個節(jié)點使用一種叫做inode的結(jié)構(gòu)進(jìn)行管理,每一個目錄和文件都對應(yīng)一個iNode。目錄深度或同一目錄下的子節(jié)點數(shù)隨著整體文件數(shù)量的增加而快速增加,通常文件數(shù)量超過億級時,文件系統(tǒng)復(fù)雜的鎖機(jī)制及頻繁的元數(shù)據(jù)訪問將極大降低系統(tǒng)的整體性能。

傳統(tǒng)的RAID技術(shù)和Scale-up架構(gòu)也阻止了傳統(tǒng)的SAN和NAS成為EB級高可用,高性能的海量存儲單元。傳統(tǒng)的RAID基于硬盤,通常一個RAID組最多包含20+塊硬盤,即使PB級規(guī)模的SAN或NAS也將被分割成多個存儲孤島,增加了EB級規(guī)模應(yīng)用場景下的管理復(fù)雜度;同時Scale-up架構(gòu)決定了即使SAN和NAS存儲容量達(dá)到EB級,性能也將成為木桶的短板。

那么如何才能應(yīng)對信息爆炸時代的數(shù)據(jù)洪流呢?我們設(shè)想能否有一種“超級數(shù)據(jù)圖書館”,它提供海量的、可共享的存儲空間給很多用戶(服務(wù)器/服務(wù)器集群)使用,提供超大的存儲容量,其存儲容量規(guī)模千倍于當(dāng)前的高速存儲單元(SAN和NAS),用戶或應(yīng)用訪問數(shù)據(jù)時無需知道圖書館對這些書如何擺放和管理(布局管理),只需要提供唯一編號(ID)就可以獲取到這本書的內(nèi)容(數(shù)據(jù))。如果某一本書變得老舊殘破,系統(tǒng)自動地將即將失效或已經(jīng)失效的書頁(存儲介質(zhì))上的數(shù)據(jù)抄寫(恢復(fù)/重構(gòu))到新的紙張(存儲介質(zhì))上,并重新裝訂這本書,數(shù)據(jù)使用者無需關(guān)注這一過程,只是根據(jù)需要去獲取數(shù)據(jù)資源。這種“超級數(shù)據(jù)圖書館”是否真的存在呢?

二、分布式對象存儲的誕生

對象存儲技術(shù)的出現(xiàn)和大量自動化管理技術(shù)的產(chǎn)生,使得“超級數(shù)據(jù)圖書館”不再是人類遙不可及的夢想。對象存儲系統(tǒng)(Object-Based Storage System)改進(jìn)了SAN和NAS存儲的劣勢,保留了NAS的數(shù)據(jù)共享等優(yōu)勢,通過高級的抽象接口替代了SCSI存儲塊和文件訪問接口(不同地區(qū)的用戶訪問不同的POSIX文件系統(tǒng),不僅浪費(fèi)時間,而且讓運(yùn)維管理變的更復(fù)雜。相對而言,分布式存儲系統(tǒng)的優(yōu)勢明顯。在分布式存儲系統(tǒng)上做應(yīng)用開發(fā)更便利,易維護(hù)和擴(kuò)容,自動負(fù)載平衡。以 RESTful HTTP接口代替了POSIX接口和QEMU Driver接口),屏蔽了存儲底層的實現(xiàn)細(xì)節(jié),將NAS垂直的樹形結(jié)構(gòu)改變成平等的扁平結(jié)構(gòu),從而提高了擴(kuò)展性、增強(qiáng)了可靠性、具備了平臺無關(guān)性等重要存儲特性。(Erasure Code: 是將文件轉(zhuǎn)換成一個碎片集合,每一個碎片很小,碎片被打散分布到一組服務(wù)器資源池里。只要存留的碎片數(shù)量足夠,就可以合成為原本的文件。這可以在保持原本的數(shù)據(jù)健壯性的基礎(chǔ)上大大減少需要的存儲空間。不過Erasure Code并非適應(yīng)所有的場景,尤其不適合網(wǎng)絡(luò)延遲敏感的業(yè)務(wù)( 不過Erasure Code并非適應(yīng)所有的場景,尤其不適合網(wǎng)絡(luò)延遲敏感的業(yè)務(wù)))

SNIA(網(wǎng)絡(luò)存儲工業(yè)協(xié)會)定義的對象存儲設(shè)備是這樣的:

對象是自完備的,包含元數(shù)據(jù)、數(shù)據(jù)和屬性

存儲設(shè)備可以自行決定對象的具體存儲位置和數(shù)據(jù)的分布

存儲設(shè)備可以對不同的對象提供不同的QoS

對象存儲設(shè)備相對于塊設(shè)備有更高的“智能”,上層通過對象ID來訪問對象,而無需了解對象的具體空間分布情況

換句話說對象存儲是智能化、封裝得更好的塊,是“文件”或其他應(yīng)用級邏輯結(jié)構(gòu)的組成部分,文件與對象的對應(yīng)關(guān)系由上層直接控制,對象存儲設(shè)備本身也可能是個分布式的系統(tǒng)——這就是分布式對象存儲系統(tǒng)了。

用對象替代傳統(tǒng)的塊的好處在于對象的內(nèi)容本身來自應(yīng)用,其具有內(nèi)在的聯(lián)系,具有“原子性”,因此可以做到:

在存儲層進(jìn)行更智能的空間管理

內(nèi)容相關(guān)的數(shù)據(jù)預(yù)取和緩存

可靠的多用戶共享訪問

對象級別的安全性

同時,對象存儲架構(gòu)還具有更好的可伸縮性。一個對象除了ID和用戶數(shù)據(jù)外,還包含了屬主、時間、大小、位置等源數(shù)據(jù)信息,權(quán)限等預(yù)定義屬性,乃至很多自定義屬性。

具備EB級規(guī)模擴(kuò)展性的分布式對象存儲,通過對應(yīng)用提供統(tǒng)一的命名空間,構(gòu)建EB級統(tǒng)一、可共享數(shù)據(jù)的存儲資源池,有效地填補(bǔ)上述通用計算模型中“網(wǎng)絡(luò)計算”場景海量存儲單元空白,通過高層次的數(shù)據(jù)模型抽象,可以簡化應(yīng)用對數(shù)據(jù)訪問,同時使得海量存儲更加智能。

對象是數(shù)據(jù)和自描述信息的集合,是在磁盤上存儲的基本單元。對象存儲通過簡化數(shù)據(jù)的組織形式(如將樹形的“目錄”和“文件”替換為扁平化的“ID”與“對象”)、降低協(xié)議與接口的復(fù)雜度(如簡化復(fù)雜的鎖機(jī)制,確保最終一致性),從而提高系統(tǒng)的擴(kuò)展性以應(yīng)對信息爆炸時代海量數(shù)據(jù)的挑戰(zhàn)。同時對象的智能自管理功能也能有效降低系統(tǒng)維護(hù)復(fù)雜度,幫助用戶降低整體擁有成本(TCO)。

以上便是此次小編帶來的“存儲”相關(guān)內(nèi)容,通過本文,希望大家對上述知識具備一定的了解。如果你喜歡本文,不妨持續(xù)關(guān)注我們網(wǎng)站哦,小編將于后期帶來更多精彩內(nèi)容。最后,十分感謝大家的閱讀,have a nice day!

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫?dú)角獸公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關(guān)鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運(yùn)行,同時企業(yè)卻面臨越來越多業(yè)務(wù)中斷的風(fēng)險,如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機(jī) 衛(wèi)星通信

要點: 有效應(yīng)對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅持高質(zhì)量發(fā)展策略,塑強(qiáng)核心競爭優(yōu)勢...

關(guān)鍵字: 通信 BSP 電信運(yùn)營商 數(shù)字經(jīng)濟(jì)

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術(shù)學(xué)會聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(shù)(集團(tuán))股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉
關(guān)閉