存儲技術(shù)在IP監(jiān)控中的應(yīng)用
標(biāo)簽:IP SAN DVR
隨著視頻監(jiān)控圖像越來越清晰,存儲時間越來越長,存儲的可靠性要求越來越高,視頻數(shù)據(jù)的存儲也從數(shù)字硬盤錄像機(jī)(DVR),逐步轉(zhuǎn)向?qū)I(yè)的IPSAN專業(yè)存儲設(shè)備,尤其在園區(qū)監(jiān)控中表現(xiàn)更加明顯。
但是,園區(qū)監(jiān)控中不但要做到園區(qū)安防監(jiān)控,還要對生產(chǎn)業(yè)務(wù)進(jìn)行監(jiān)控。傳統(tǒng)監(jiān)控中,媒體服務(wù)器文件存儲模式已經(jīng)不能很好的解決新的存儲業(yè)務(wù)的需求,比如媒體服務(wù)器的“啞鈴”效應(yīng)問題,生產(chǎn)監(jiān)控應(yīng)急的快速檢索和歷史錄像回放問題等。
上述問題的解決需要重新思考監(jiān)控中的存儲模式的選擇,打破傳統(tǒng)監(jiān)控中媒體流的文件存儲模式。
媒體流的文件存儲
傳統(tǒng)的監(jiān)控采用將流數(shù)據(jù)組成一個個文件進(jìn)行存儲,所有歷史圖像回放都是通過播放存儲下來的視頻文件完成,文件形成期間,管理人員無法讀取該文件,比如很多“DVR/DVS+流媒體服務(wù)器”方式的監(jiān)控應(yīng)用中,采用每半小時形成一個視頻文件的方式對監(jiān)控圖像進(jìn)行存儲,這就意味著在當(dāng)前時刻以前半小時以內(nèi)的歷史圖像是無法調(diào)用。
在緊急事件發(fā)生時,人們希望能夠盡快看到歷史圖像,甚至要求可以隨時回放。這就要求數(shù)據(jù)流形成文件的時間間隔盡可能短,但這樣又會給系統(tǒng)造成巨大的性能壓力。如以5分鐘形成一個視頻文件,每個監(jiān)控點(diǎn)一天就將產(chǎn)生近300個文件,如果每個監(jiān)控點(diǎn)的歷史圖像要存儲30天,就意味著每個監(jiān)控點(diǎn)需要產(chǎn)生近9000個文件,對于一個1000路的大規(guī)模監(jiān)控系統(tǒng),將需要處理900萬個文件,系統(tǒng)必然不堪重任。
對此,業(yè)界早在幾年前就開始嘗試新的數(shù)據(jù)管理方式,希望能夠提高監(jiān)控存儲的數(shù)據(jù)管理效率,滿足監(jiān)控大規(guī)模應(yīng)用的需求。其中,“塊存儲”就是比較有特點(diǎn)的一種,這種方式采用“時間索引+塊數(shù)據(jù)”的專用數(shù)據(jù)結(jié)構(gòu),拋棄了傳統(tǒng)的文件系統(tǒng),提高了監(jiān)控?cái)?shù)據(jù)的管理效率。
媒體服務(wù)器的性能瓶頸及可靠性
傳統(tǒng)模式中,當(dāng)需要實(shí)現(xiàn)集中存儲或支持多人同時看一個監(jiān)控點(diǎn)時,中間通過媒體服務(wù)器進(jìn)行轉(zhuǎn)存或復(fù)制。這種方式下,媒體服務(wù)器需將媒體流轉(zhuǎn)換為文件進(jìn)行存儲,前端的大量的媒體流數(shù)據(jù)都經(jīng)過媒體服務(wù)器轉(zhuǎn)存到后端的存儲設(shè)備中。服務(wù)器的處理性能,帶寬等都容易成為性能瓶頸,整個系統(tǒng)的性能分布成啞鈴狀,也增加了故障點(diǎn),媒體服務(wù)器的故障會影響到整個系統(tǒng)的監(jiān)控存儲業(yè)務(wù)。
媒體服務(wù)器文件存儲模式
實(shí)際上,在很多大規(guī)模監(jiān)控方案中,為了解決媒體服務(wù)器性能瓶頸的問題,一般會采用服務(wù)器群的方式完成。但又帶來新的問題,如多個服務(wù)器之間如何進(jìn)行負(fù)載分擔(dān)?某個服務(wù)器故障之后,系統(tǒng)如何將數(shù)據(jù)流量切換至其他服務(wù)器?這些服務(wù)器如何管理?如何共享一個存儲空間?等等,解決這些問題需要一個非常優(yōu)秀的集群管理系統(tǒng),增加系統(tǒng)復(fù)雜性的同時,還需要一筆不菲的預(yù)算,更遺憾的是,目前業(yè)界還沒有一個集群管理系統(tǒng)可以很好的解決該問題。
因此,前端設(shè)備到IP SAN的端到端直存就是一種很好的解決辦法。在存儲方式上,“數(shù)據(jù)塊直存”的數(shù)據(jù)管理方式拋棄了媒體服務(wù)器,在IP網(wǎng)絡(luò)的基礎(chǔ)上,在編碼設(shè)備中集成了iSCSI模塊,使得編碼設(shè)備可以基于iSCSI的協(xié)議端到端的把錄像數(shù)據(jù)寫入IP SAN存儲設(shè)備中。
監(jiān)控錄像的檢索效率
傳統(tǒng)監(jiān)控中,對于媒體流的文件存儲模式,在錄像檢索時首先要根據(jù)攝像頭、檢索的時間查找到對應(yīng)的文件,然后再進(jìn)一步定位具體的時間點(diǎn),從該時間點(diǎn)回放錄像。歷史數(shù)據(jù)檢索的最小單位是文件,顆粒度太大,精確度低。
文件系統(tǒng)本來是為隨機(jī)讀寫的數(shù)據(jù)管理應(yīng)用設(shè)計(jì)的,檢索效率較低,一個含幾百萬個文件的系統(tǒng)的檢索效率很難想象。所以,當(dāng)系統(tǒng)規(guī)模擴(kuò)大后,傳統(tǒng)數(shù)字監(jiān)控方案的效率下降很快。
在“塊直存”的系統(tǒng)中,“塊”存儲可以理解成自定義的一種文件系統(tǒng),在裸盤上進(jìn)行數(shù)據(jù)讀寫;時間作為每個數(shù)據(jù)單元的索引,并且把索引和數(shù)據(jù)單元保存在一個完全獨(dú)立的邏輯存儲空間上。錄像的索引和數(shù)據(jù)形成獨(dú)立的、完整的數(shù)據(jù)結(jié)構(gòu),這種數(shù)據(jù)結(jié)構(gòu)完全由自己管理,不再由操作系統(tǒng)和文件管理。通過時間索引+塊數(shù)據(jù)存儲這種組合,在錄像檢索上,可以基于時間進(jìn)行檢索,可以快速定位到任意時間的錄像,檢索效率大幅度提高。在檢索的顆粒度上,也不再受文件大小的限制,可以實(shí)現(xiàn)秒級的連續(xù)檢索。
H3C創(chuàng)新存儲模式—“iSCSI塊直存”
作為IP領(lǐng)域的領(lǐng)導(dǎo)廠商之一,H3C同時在IP網(wǎng)絡(luò)、IP視頻、IP存儲等領(lǐng)域有著長期的技術(shù)和產(chǎn)品積累。進(jìn)入IP監(jiān)控領(lǐng)域后,H3C將這些技術(shù)進(jìn)行融合,首家將iSCSI塊存儲的存儲方式引入監(jiān)控中,從而有效的解決了媒體服務(wù)器引入的存儲的性能、可靠性以及檢索效率的問題。
在“塊數(shù)據(jù)”和“直存”兩者的技術(shù)基礎(chǔ)上,通過全局性的資源統(tǒng)一劃分和調(diào)度,實(shí)現(xiàn)數(shù)據(jù)的全局性管理。在大型監(jiān)控系統(tǒng)里面,可能有成千上萬個攝像機(jī)和海量的存儲空間。如何管理這些攝像頭和存儲設(shè)備之間的對應(yīng)關(guān)系是一個非常復(fù)雜的難題。在“塊直存”視頻監(jiān)控系統(tǒng)中,H3C引入了數(shù)據(jù)管理服務(wù)器單元(DM),以此來實(shí)現(xiàn)存儲資源的統(tǒng)一管理。
DM是一個專用的數(shù)據(jù)管理設(shè)備,所有的攝像頭和存儲資源都由其管理。攝像頭需要存儲資源時,會統(tǒng)一向DM申請,DM會從存儲空間中選擇合適的存儲資源分配給攝像頭,使攝像頭與這一塊的存儲資源建立讀寫關(guān)系。
IP SAN設(shè)備完成某個攝像頭媒體數(shù)據(jù)塊的存儲工作后,根據(jù)監(jiān)控點(diǎn)的IP地址、寫入媒體數(shù)據(jù)的起始和終止時間,自動生成一個塊索引值。DM和IP SAN之間進(jìn)行通信,獲取最新的視頻存儲信息,對所有監(jiān)控圖像的檢索等通過DM完成。
當(dāng)然,這種存儲方式必然對監(jiān)控廠商的技術(shù)積累和實(shí)力提出了更高的要求,如要求編碼器支持雙碼流,實(shí)時監(jiān)控視頻流和存儲視頻流可以獨(dú)立編碼,同時編碼器支持iSCSI協(xié)議。雙碼流是現(xiàn)在所有高端編碼器的基本要求,實(shí)現(xiàn)的廠商較多,編碼器支持iSCSI則要求監(jiān)控廠商同時具備專業(yè)的存儲技術(shù)積累,對于目前的多數(shù)監(jiān)控廠商而言,存在一定的技術(shù)門檻??上驳氖牵覀兛吹?,越來越多的監(jiān)控廠商認(rèn)識到存儲對于一個監(jiān)控方案的重要性,開始進(jìn)行這方面的技術(shù)積累。