何為塊存儲(chǔ)?何為文件存儲(chǔ)?(上篇)

對(duì)于存儲(chǔ)，我們并不陌生，我們每天接觸最多的存儲(chǔ)之一便是手機(jī)存儲(chǔ)。為增進(jìn)大家對(duì)存儲(chǔ)的認(rèn)識(shí)，本文將對(duì)塊存儲(chǔ)和文件存儲(chǔ)予以介紹。此外，本文僅為上篇，更多存儲(chǔ)相關(guān)內(nèi)容請(qǐng)參考后續(xù)文章。如果你對(duì)存儲(chǔ)抑或本文即將介紹的知識(shí)具有興趣，不妨繼續(xù)往下閱讀哦。

塊存儲(chǔ)和文件存儲(chǔ)是我們比較熟悉的兩種主流的存儲(chǔ)類型，而對(duì)象存儲(chǔ)(Object-based Storage)是一種新的網(wǎng)絡(luò)存儲(chǔ)架構(gòu)，基于對(duì)象存儲(chǔ)技術(shù)的設(shè)備就是對(duì)象存儲(chǔ)設(shè)備(Object-based Storage Device)簡(jiǎn)稱OSD。

首先，我們介紹這兩種傳統(tǒng)的存儲(chǔ)類型。通常來講，所有磁盤陣列都是基于Block塊的模式(DAS)，而所有的NAS產(chǎn)品都是文件級(jí)存儲(chǔ)

一、塊存儲(chǔ)

以下列出的兩種存儲(chǔ)方式都是塊存儲(chǔ)類型：

1) DAS(Direct Attach STorage)：是直接連接于主機(jī)服務(wù)器的一種儲(chǔ)存方式，每一臺(tái)主機(jī)服務(wù)器有獨(dú)立的儲(chǔ)存設(shè)備，每臺(tái)主機(jī)服務(wù)器的儲(chǔ)存設(shè)備無法互通，需要跨主機(jī)存取資料時(shí)，必須經(jīng)過相對(duì)復(fù)雜的設(shè)定，若主機(jī)服務(wù)器分屬不同的操作系統(tǒng)，要存取彼此的資料，更是復(fù)雜，有些系統(tǒng)甚至不能存取。通常用在單一網(wǎng)絡(luò)環(huán)境下且數(shù)據(jù)交換量不大，性能要求不高的環(huán)境下，可以說是一種應(yīng)用較為早的技術(shù)實(shí)現(xiàn)。

2)SAN(Storage Area Network)：是一種用高速(光纖)網(wǎng)絡(luò)聯(lián)接專業(yè)主機(jī)服務(wù)器的一種儲(chǔ)存方式，此系統(tǒng)會(huì)位于主機(jī)群的后端，它使用高速I/O 聯(lián)結(jié)方式， 如 SCSI, ESCON 及 Fibre- Channels。一般而言，SAN應(yīng)用在對(duì)網(wǎng)絡(luò)速度要求高、對(duì)數(shù)據(jù)的可靠性和安全性要求高、對(duì)數(shù)據(jù)共享的性能要求高的應(yīng)用環(huán)境中，特點(diǎn)是代價(jià)高，性能好。例如電信、銀行的大數(shù)據(jù)量關(guān)鍵應(yīng)用。它采用SCSI 塊I/O的命令集，通過在磁盤或FC(Fiber Channel)級(jí)的數(shù)據(jù)訪問提供高性能的隨機(jī)I/O和數(shù)據(jù)吞吐率，它具有高帶寬、低延遲的優(yōu)勢(shì)，在高性能計(jì)算中占有一席之地，但是由于SAN系統(tǒng)的價(jià)格較高，且可擴(kuò)展性較差，已不能滿足成千上萬(wàn)個(gè)CPU規(guī)模的系統(tǒng)。

二、文件存儲(chǔ)

通常，NAS產(chǎn)品都是文件級(jí)存儲(chǔ)。 NAS(Network Attached Storage)：是一套網(wǎng)絡(luò)儲(chǔ)存設(shè)備，通常是直接連在網(wǎng)絡(luò)上并提供資料存取服務(wù)，一套 NAS 儲(chǔ)存設(shè)備就如同一個(gè)提供數(shù)據(jù)文件服務(wù)的系統(tǒng)，特點(diǎn)是性價(jià)比高。例如教育、政府、企業(yè)等數(shù)據(jù)存儲(chǔ)應(yīng)用。

它采用NFS或CIFS命令集訪問數(shù)據(jù)，以文件為傳輸協(xié)議，通過TCP/IP實(shí)現(xiàn)網(wǎng)絡(luò)化存儲(chǔ)，可擴(kuò)展性好、價(jià)格便宜、用戶易管理，如目前在集群計(jì)算中應(yīng)用較多的NFS文件系統(tǒng)，但由于NAS的協(xié)議開銷高、帶寬低、延遲大，不利于在高性能集群中應(yīng)用。

下面，我們對(duì)DAS、NAS、SAN三種技術(shù)進(jìn)行比較和分析：

表格 1 三種技術(shù)的比較

針對(duì)Linux集群對(duì)存儲(chǔ)系統(tǒng)高性能和數(shù)據(jù)共享的需求，國(guó)際上已開始研究全新的存儲(chǔ)架構(gòu)和新型文件系統(tǒng)，希望能有效結(jié)合SAN和NAS系統(tǒng)的優(yōu)點(diǎn)，支持直接訪問磁盤以提高性能，通過共享的文件和元數(shù)據(jù)以簡(jiǎn)化管理，目前對(duì)象存儲(chǔ)系統(tǒng)已成為L(zhǎng)inux集群系統(tǒng)高性能存儲(chǔ)系統(tǒng)的研究熱點(diǎn)，如Panasas公司的Object Base Storage Cluster System系統(tǒng)和Cluster File Systems公司的Lustre等。下面將詳細(xì)介紹對(duì)象存儲(chǔ)系統(tǒng)。

三、對(duì)象存儲(chǔ)

總體上來講，對(duì)象存儲(chǔ)同兼具SAN高速直接訪問磁盤特點(diǎn)及NAS的分布式共享特點(diǎn)(擴(kuò)展性)。

核心是將數(shù)據(jù)通路(數(shù)據(jù)讀或?qū)?和控制通路(元數(shù)據(jù))分離，并且基于對(duì)象存儲(chǔ)設(shè)備(Object-based Storage Device，OSD)構(gòu)建存儲(chǔ)系統(tǒng)。每個(gè)對(duì)象存儲(chǔ)設(shè)備具有一定的智能，能夠自動(dòng)管理其上的數(shù)據(jù)分布。

對(duì)象存儲(chǔ)結(jié)構(gòu)組成部分(對(duì)象、對(duì)象存儲(chǔ)設(shè)備、元數(shù)據(jù)服務(wù)器、對(duì)象存儲(chǔ)系統(tǒng)的客戶端)：

3.1 對(duì)象

對(duì)象是系統(tǒng)中數(shù)據(jù)存儲(chǔ)的基本單位，一個(gè)對(duì)象實(shí)際上就是文件的數(shù)據(jù)和一組屬性信息(Meta Data)的組合，這些屬性信息可以定義基于文件的RAID參數(shù)、數(shù)據(jù)分布和服務(wù)質(zhì)量等，而傳統(tǒng)的存儲(chǔ)系統(tǒng)中用文件或塊作為基本的存儲(chǔ)單位，在塊存儲(chǔ)系統(tǒng)中還需要始終追蹤系統(tǒng)中每個(gè)塊的屬性，對(duì)象通過與存儲(chǔ)系統(tǒng)通信維護(hù)自己的屬性。在存儲(chǔ)設(shè)備中，所有對(duì)象都有一個(gè)對(duì)象標(biāo)識(shí)，通過對(duì)象標(biāo)識(shí)OSD命令訪問該對(duì)象。通常有多種類型的對(duì)象，存儲(chǔ)設(shè)備上的根對(duì)象標(biāo)識(shí)存儲(chǔ)設(shè)備和該設(shè)備的各種屬性，組對(duì)象是存儲(chǔ)設(shè)備上共享資源管理策略的對(duì)象集合等。

3.2 對(duì)象存儲(chǔ)設(shè)備

對(duì)象存儲(chǔ)設(shè)備具有一定的智能，它有自己的CPU、內(nèi)存、網(wǎng)絡(luò)和磁盤系統(tǒng)，OSD同塊設(shè)備的不同不在于存儲(chǔ)介質(zhì)，而在于兩者提供的訪問接口。OSD的主要功能包括數(shù)據(jù)存儲(chǔ)和安全訪問。目前國(guó)際上通常采用刀片式結(jié)構(gòu)實(shí)現(xiàn)對(duì)象存儲(chǔ)設(shè)備。OSD提供三個(gè)主要功能：

(1) 數(shù)據(jù)存儲(chǔ)。OSD管理對(duì)象數(shù)據(jù)，并將它們放置在標(biāo)準(zhǔn)的磁盤系統(tǒng)上，OSD不提供塊接口訪問方式，Client請(qǐng)求數(shù)據(jù)時(shí)用對(duì)象ID、偏移進(jìn)行數(shù)據(jù)讀寫。

(2) 智能分布。OSD用其自身的CPU和內(nèi)存優(yōu)化數(shù)據(jù)分布，并支持?jǐn)?shù)據(jù)的預(yù)取。由于OSD可以智能地支持對(duì)象的預(yù)取，從而可以優(yōu)化磁盤的性能。

(3) 每個(gè)對(duì)象元數(shù)據(jù)的管理。OSD管理存儲(chǔ)在其上對(duì)象的元數(shù)據(jù)，該元數(shù)據(jù)與傳統(tǒng)的inode元數(shù)據(jù)相似，通常包括對(duì)象的數(shù)據(jù)塊和對(duì)象的長(zhǎng)度。而在傳統(tǒng)的NAS系統(tǒng)中，這些元數(shù)據(jù)是由文件服務(wù)器維護(hù)的，對(duì)象存儲(chǔ)架構(gòu)將系統(tǒng)中主要的元數(shù)據(jù)管理工作由OSD來完成，降低了Client的開銷。

3.3 元數(shù)據(jù)服務(wù)器(Metadata Server，MDS)

MDS控制Client與OSD對(duì)象的交互，主要提供以下幾個(gè)功能：

(1) 對(duì)象存儲(chǔ)訪問。

MDS構(gòu)造、管理描述每個(gè)文件分布的視圖，允許Client直接訪問對(duì)象。MDS為Client提供訪問該文件所含對(duì)象的能力，OSD在接收到每個(gè)請(qǐng)求時(shí)將先驗(yàn)證該能力，然后才可以訪問。

(2) 文件和目錄訪問管理。

MDS在存儲(chǔ)系統(tǒng)上構(gòu)建一個(gè)文件結(jié)構(gòu)，包括限額控制、目錄和文件的創(chuàng)建和刪除、訪問控制等。

(3) Client Cache一致性。

為了提高Client性能，在對(duì)象存儲(chǔ)系統(tǒng)設(shè)計(jì)時(shí)通常支持Client方的Cache。由于引入Client方的Cache，帶來了Cache一致性問題，MDS支持基于Client的文件Cache，當(dāng)Cache的文件發(fā)生改變時(shí)，將通知Client刷新Cache，從而防止Cache不一致引發(fā)的問題。

3.4 對(duì)象存儲(chǔ)系統(tǒng)的客戶端Client

為了有效支持Client支持訪問OSD上的對(duì)象，需要在計(jì)算節(jié)點(diǎn)實(shí)現(xiàn)對(duì)象存儲(chǔ)系統(tǒng)的Client?，F(xiàn)有的應(yīng)用對(duì)數(shù)據(jù)的訪問大部分都是通過POSIX文件方式進(jìn)行的，對(duì)象存儲(chǔ)系統(tǒng)提供給用戶的也是標(biāo)準(zhǔn)的POSIX文件訪問接口。接口具有和通用文件系統(tǒng)相同的訪問方式，同時(shí)為了提高性能，也具有對(duì)數(shù)據(jù)的Cache功能和文件的條帶功能。同時(shí)，文件系統(tǒng)必須維護(hù)不同客戶端上Cache的一致性，保證文件系統(tǒng)的數(shù)據(jù)一致。文件系統(tǒng)讀訪問流程：

1)客戶端應(yīng)用發(fā)出讀請(qǐng)求;

2)文件系統(tǒng)向元數(shù)據(jù)服務(wù)器發(fā)送請(qǐng)求，獲取要讀取的數(shù)據(jù)所在的OSD;

3)然后直接向每個(gè)OSD發(fā)送數(shù)據(jù)讀取請(qǐng)求;

4)OSD得到請(qǐng)求以后，判斷要讀取的Object，并根據(jù)此Object要求的認(rèn)證方式，對(duì)客戶端進(jìn)行認(rèn)證，如果此客戶端得到授權(quán)，則將Object的數(shù)據(jù)返回給客戶端;

5)文件系統(tǒng)收到OSD返回的數(shù)據(jù)以后，讀操作完成。

對(duì)象存儲(chǔ)文件系統(tǒng)的關(guān)鍵技術(shù)：

1、分布元數(shù)據(jù) 傳統(tǒng)的存儲(chǔ)結(jié)構(gòu)元數(shù)據(jù)服務(wù)器通常提供兩個(gè)主要功能。

(1)為計(jì)算結(jié)點(diǎn)提供一個(gè)存儲(chǔ)數(shù)據(jù)的邏輯視圖(Virtual File System，VFS層)，文件名列表及目錄結(jié)構(gòu)。

(2)組織物理存儲(chǔ)介質(zhì)的數(shù)據(jù)分布(inode層)。對(duì)象存儲(chǔ)結(jié)構(gòu)將存儲(chǔ)數(shù)據(jù)的邏輯視圖與物理視圖分開，并將負(fù)載分布，避免元數(shù)據(jù)服務(wù)器引起的瓶頸(如NAS系統(tǒng))。元數(shù)據(jù)的VFS部分通常是元數(shù)據(jù)服務(wù)器的10%的負(fù)載，剩下的90%工作(inode部分)是在存儲(chǔ)介質(zhì)塊的數(shù)據(jù)物理分布上完成的。在對(duì)象存儲(chǔ)結(jié)構(gòu)，inode工作分布到每個(gè)智能化的OSD，每個(gè)OSD負(fù)責(zé)管理數(shù)據(jù)分布和檢索，這樣90%的元數(shù)據(jù)管理工作分布到智能的存儲(chǔ)設(shè)備，從而提高了系統(tǒng)元數(shù)據(jù)管理的性能。另外，分布的元數(shù)據(jù)管理，在增加更多的OSD到系統(tǒng)中時(shí)，可以同時(shí)增加元數(shù)據(jù)的性能和系統(tǒng)存儲(chǔ)容量。

2、并發(fā)數(shù)據(jù)訪問 對(duì)象存儲(chǔ)體系結(jié)構(gòu)定義了一個(gè)新的、更加智能化的磁盤接口OSD。OSD是與網(wǎng)絡(luò)連接的設(shè)備，它自身包含存儲(chǔ)介質(zhì)，如磁盤或磁帶，并具有足夠的智能可以管理本地存儲(chǔ)的數(shù)據(jù)。計(jì)算結(jié)點(diǎn)直接與OSD通信，訪問它存儲(chǔ)的數(shù)據(jù)，由于OSD具有智能，因此不需要文件服務(wù)器的介入。如果將文件系統(tǒng)的數(shù)據(jù)分布在多個(gè)OSD上，則聚合I/O速率和數(shù)據(jù)吞吐率將線性增長(zhǎng)，對(duì)絕大多數(shù)Linux集群應(yīng)用來說，持續(xù)的I/O聚合帶寬和吞吐率對(duì)較多數(shù)目的計(jì)算結(jié)點(diǎn)是非常重要的。對(duì)象存儲(chǔ)結(jié)構(gòu)提供的性能是目前其它存儲(chǔ)結(jié)構(gòu)難以達(dá)到的，如AcTIveScale對(duì)象存儲(chǔ)文件系統(tǒng)的帶寬可以達(dá)到10GB/s。

以上便是此次小編帶來的“存儲(chǔ)”相關(guān)內(nèi)容，通過本文，希望大家對(duì)塊存儲(chǔ)和文件存儲(chǔ)具備初步的了解。如果你喜歡本文，不妨持續(xù)關(guān)注我們網(wǎng)站哦，小編將于后期帶來更多精彩內(nèi)容。最后，十分感謝大家的閱讀，have a nice day!