人工智能數(shù)據(jù)存儲(chǔ)的選擇有哪些準(zhǔn)則

企業(yè)選擇錯(cuò)誤的人工智能存儲(chǔ)平臺(tái)可能會(huì)產(chǎn)生嚴(yán)重影響。因此，人們需要了解可能影響企業(yè)選擇人工智能數(shù)據(jù)存儲(chǔ)策略的6個(gè)準(zhǔn)則。

人工智能和機(jī)器學(xué)習(xí)如今已成為企業(yè)最重要的兩個(gè)工具，可幫助企業(yè)利用其核心數(shù)字資產(chǎn)創(chuàng)造競爭優(yōu)勢。但是在采用人工智能數(shù)據(jù)存儲(chǔ)之前，企業(yè)必須根據(jù)機(jī)器學(xué)習(xí)平臺(tái)如何獲取、處理和保留數(shù)據(jù)來考慮一系列要求。

首先檢查一下機(jī)器學(xué)習(xí)軟件使用的數(shù)據(jù)的生命周期，因?yàn)檫@可以幫助企業(yè)了解為人工智能選擇存儲(chǔ)時(shí)應(yīng)考慮的事項(xiàng)。最初，企業(yè)必須獲取數(shù)據(jù)以訓(xùn)練機(jī)器學(xué)習(xí)或人工智能算法。這些是處理數(shù)據(jù)以學(xué)習(xí)任務(wù)的軟件工具，例如識(shí)別對象、處理視頻和跟蹤運(yùn)動(dòng)。數(shù)據(jù)可以從各種來源產(chǎn)生，并且通常在本質(zhì)上是非結(jié)構(gòu)化的，例如對象和文件。

訓(xùn)練過程將獲取數(shù)據(jù)資產(chǎn)，并使用機(jī)器學(xué)習(xí)或人工智能軟件來創(chuàng)建用于處理未來數(shù)據(jù)源的算法。在訓(xùn)練或開發(fā)算法時(shí)，人工智能軟件將處理源數(shù)據(jù)以開發(fā)模型，該模型可以創(chuàng)建洞察力或滿足業(yè)務(wù)需求。

開發(fā)機(jī)器學(xué)習(xí)算法很少是一個(gè)單一的過程。隨著企業(yè)積累越來越多的數(shù)據(jù)，其算法也會(huì)得到完善和改進(jìn)。這意味著很少的數(shù)據(jù)會(huì)被丟棄，而是隨著時(shí)間的推移會(huì)增長并重新處理。

采用人工智能數(shù)據(jù)存儲(chǔ)的標(biāo)準(zhǔn)

在為人工智能平臺(tái)選擇存儲(chǔ)之前，企業(yè)必須首先考慮以下事項(xiàng)：

（1）費(fèi)用。人工智能數(shù)據(jù)存儲(chǔ)的價(jià)格是企業(yè)考慮購買的關(guān)鍵因素。顯然，企業(yè)管理層和參與采購決策的人員都希望數(shù)據(jù)存儲(chǔ)盡可能具有成本效益，并且在許多情況下，這將影響企業(yè)的產(chǎn)品選擇和策略。

（2）可擴(kuò)展性。企業(yè)需要收集、存儲(chǔ)和處理大量數(shù)據(jù)以創(chuàng)建機(jī)器學(xué)習(xí)或人工智能模型。機(jī)器學(xué)習(xí)算法要求源數(shù)據(jù)呈指數(shù)增長，以實(shí)現(xiàn)精度的線性提高。創(chuàng)建可靠而準(zhǔn)確的機(jī)器學(xué)習(xí)模型可能需要數(shù)百TB甚至PB的數(shù)據(jù)，而且這會(huì)隨著時(shí)間的推移而增加。

構(gòu)建PB級存儲(chǔ)系統(tǒng)通常意味著使用對象存儲(chǔ)或橫向擴(kuò)展文件系統(tǒng)。現(xiàn)代對象存儲(chǔ)可以解決人工智能工作負(fù)載的容量需求，但是它們可能無法滿足其他條件，例如高性能。橫向擴(kuò)展文件系統(tǒng)可以提供高性能和良好的可擴(kuò)展性，但是將整個(gè)數(shù)據(jù)集存儲(chǔ)在單個(gè)平臺(tái)上可能會(huì)很昂貴。由于可擴(kuò)展性要求和大容量產(chǎn)品的成本，塊存儲(chǔ)通常不是機(jī)器學(xué)習(xí)或人工智能的正確選擇。唯一的例外是在公共云中。

存儲(chǔ)成本的變化引入了分層或使用多種類型的存儲(chǔ)來存儲(chǔ)數(shù)據(jù)的想法。例如，對象存儲(chǔ)庫是存儲(chǔ)大量非活動(dòng)人工智能數(shù)據(jù)的良好目標(biāo)。當(dāng)需要數(shù)據(jù)進(jìn)行處理時(shí)，可以將其移動(dòng)到高性能文件存儲(chǔ)集群或?qū)ο蟠鎯?chǔ)中為高性能而設(shè)計(jì)的節(jié)點(diǎn)中，一旦完成處理，就可以將數(shù)據(jù)移回。

（3）性能。人工智能數(shù)據(jù)的存儲(chǔ)性能包括三個(gè)方面。首先，可能也是最重要的是延遲。這定義了軟件發(fā)出的每個(gè)I/O請求的處理速度。低延遲很重要，因?yàn)楦纳蒲舆t會(huì)直接影響創(chuàng)建機(jī)器學(xué)習(xí)或人工智能模型所需的時(shí)間。復(fù)雜的模型開發(fā)可能需要數(shù)周或數(shù)月的時(shí)間才能運(yùn)行。通過縮短開發(fā)周期，企業(yè)可以更快地創(chuàng)建和完善模型。在檢查延遲功能時(shí)，由于對象訪問的流動(dòng)性質(zhì)，對象將參考時(shí)間存儲(chǔ)到第一個(gè)字節(jié)，而不是單個(gè)I/O請求的延遲。

性能的另一個(gè)方面是吞吐量，以及可以將數(shù)據(jù)寫入存儲(chǔ)平臺(tái)或從存儲(chǔ)平臺(tái)讀取數(shù)據(jù)的速度。系統(tǒng)吞吐量很重要，因?yàn)槿斯ぶ悄芘嘤?xùn)會(huì)處理大量數(shù)據(jù)集，通常會(huì)反復(fù)讀取和重新讀取相同的數(shù)據(jù)以準(zhǔn)確地開發(fā)模型。機(jī)器學(xué)習(xí)和人工智能數(shù)據(jù)的來源（例如自動(dòng)駕駛車輛上的傳感器）每天可以產(chǎn)生數(shù)TB的新數(shù)據(jù)。所有這些信息都必須添加到現(xiàn)有數(shù)據(jù)存儲(chǔ)中，并且對任何現(xiàn)有處理的影響最小。

正確設(shè)置存儲(chǔ)平臺(tái)至關(guān)重要，因?yàn)樯婕暗臄?shù)據(jù)量非常大。

性能的最后方面是并行訪問。機(jī)器學(xué)習(xí)和人工智能算法并行處理數(shù)據(jù)，運(yùn)行多個(gè)任務(wù)，這些任務(wù)可以多次讀取同一數(shù)據(jù)，并且可以跨越許多并行任務(wù)。對象存儲(chǔ)擅長并行讀取I/O處理，因?yàn)闆]有對象鎖定或要管理的屬性。文件服務(wù)器跟蹤內(nèi)存中打開的I/O請求或文件句柄。因此，活動(dòng)I/O請求的數(shù)量取決于平臺(tái)上可用的內(nèi)存。

機(jī)器學(xué)習(xí)數(shù)據(jù)可以包含大量的小文件。在這方面文件服務(wù)器可以提供比對象存儲(chǔ)更好的性能。向人工智能存儲(chǔ)供應(yīng)商提出的一個(gè)關(guān)鍵問題是，其產(chǎn)品的性能特征將如何在大文件和小文件類型之間發(fā)生變化。

由于大多數(shù)大型對象存儲(chǔ)太大而無法定期備份，因此可靠的擦除編碼已成為人工智能存儲(chǔ)平臺(tái)的基本功能。

（5）公共云。開發(fā)機(jī)器學(xué)習(xí)和人工智能算法需要高性能的存儲(chǔ)和高性能的計(jì)算。許多人工智能系統(tǒng)都基于GPU（例如Nvidia DGX），可以減輕開發(fā)精確算法所涉及的許多復(fù)雜數(shù)學(xué)計(jì)算的負(fù)擔(dān)。

公共云服務(wù)提供商已開始提供可用于機(jī)器學(xué)習(xí)的GPU加速虛擬實(shí)例。在公共云中運(yùn)行機(jī)器學(xué)習(xí)工具可降低構(gòu)建用于機(jī)器學(xué)習(xí)開發(fā)的基礎(chǔ)設(shè)施的投資成本，同時(shí)提供擴(kuò)展開發(fā)機(jī)器學(xué)習(xí)模型所需的基礎(chǔ)設(shè)施的能力。

使用公共云計(jì)算所面臨的挑戰(zhàn)是如何以經(jīng)濟(jì)高效且實(shí)用的方式將數(shù)據(jù)導(dǎo)入公共云?；谠朴?jì)算的對象存儲(chǔ)速度太慢，無法滿足機(jī)器學(xué)習(xí)的I/O需求;因此，必須使用本地塊存儲(chǔ)。移動(dòng)數(shù)據(jù)的延遲和機(jī)器學(xué)習(xí)的延遲意味著運(yùn)行基礎(chǔ)設(shè)施的成本增加。

公共云的另一個(gè)問題是數(shù)據(jù)出口的成本。盡管云計(jì)算服務(wù)提供商不收取將數(shù)據(jù)移入其平臺(tái)的費(fèi)用，但他們對從其平臺(tái)外部的公共網(wǎng)絡(luò)訪問的任何數(shù)據(jù)收取費(fèi)用。其結(jié)果是，盡管公共云提供了計(jì)算的靈活性，但以及時(shí)且經(jīng)濟(jì)高效的方式將數(shù)據(jù)進(jìn)出云平臺(tái)并不總是那么容易。

云計(jì)算供應(yīng)商正在開發(fā)可在公共云中運(yùn)行其產(chǎn)品的存儲(chǔ)產(chǎn)品，這些存儲(chǔ)跨越內(nèi)部部署基礎(chǔ)設(shè)施和云平臺(tái)。這些產(chǎn)品可以有效地復(fù)制數(shù)據(jù)或?qū)?shù)據(jù)移至云平臺(tái)中，并且僅在完成后才將結(jié)果移回。這些復(fù)制技術(shù)具有高帶寬效率，使在內(nèi)部部署存儲(chǔ)數(shù)據(jù)并導(dǎo)入到云平臺(tái)中進(jìn)行分析工作變得切實(shí)可行。

（6）整合。在機(jī)器學(xué)習(xí)和人工智能的存儲(chǔ)方面需要與計(jì)算隔離開來。構(gòu)建人工智能數(shù)據(jù)存儲(chǔ)可能很困難，因?yàn)榇鎯?chǔ)網(wǎng)絡(luò)和調(diào)整存儲(chǔ)必須考慮其他因素才能與機(jī)器學(xué)習(xí)應(yīng)用程序一起工作。

產(chǎn)品的預(yù)包裝使云計(jì)算供應(yīng)商能夠在將產(chǎn)品交付給客戶之前對其產(chǎn)品進(jìn)行測試和優(yōu)化。如今，有一些存儲(chǔ)產(chǎn)品將流行的人工智能軟件、CPU和GPU等計(jì)算、網(wǎng)絡(luò)和存儲(chǔ)設(shè)備結(jié)合在一起，以提供支持人工智能的平臺(tái)。在部署這些系統(tǒng)之前，許多詳細(xì)的調(diào)整工作已完成。盡管成本可能是一個(gè)問題，但對于許多客戶而言，預(yù)包裝的系統(tǒng)可以減少采用人工智能存儲(chǔ)的障礙。

顯然，選擇合適的人工智能數(shù)據(jù)存儲(chǔ)平臺(tái)是權(quán)衡指標(biāo)，例如性能、可擴(kuò)展性和成本。正確設(shè)置存儲(chǔ)平臺(tái)至關(guān)重要，因?yàn)樯婕暗臄?shù)據(jù)量非常大。選擇錯(cuò)誤的產(chǎn)品可能是一個(gè)代價(jià)高昂的錯(cuò)誤。與任何存儲(chǔ)產(chǎn)品決策一樣，企業(yè)與云計(jì)算供應(yīng)商交談以準(zhǔn)確了解其產(chǎn)品如何滿足人工智能和機(jī)器學(xué)習(xí)的需求也很重要。其參與過程應(yīng)包括演示和評估，以作為任何可能的購買決定的前奏。