深度學習服務器組裝經驗過程分享

本文作者詳細描述了自己組裝深度學習服務器的過程，從 CPU、GPU、主板、電源、機箱等的選取到部件的安裝，再到服務器的設置，可謂面面俱到。作者指出，組裝者首先要弄清自己的需求，然后根據預算做出合理的選擇。

我剛開始學習 fast.ai 課程的第一部分——“Practical Deep Learning for Coders”，我想搭建自己的服務器來訓練模型，作為使用 AWS p2 和存儲的升級。我將會使用更大的數據集，并且我不希望在訓練模型時因為缺乏足夠的處理能力而等待數小時，因此構建自己的 DL rig 服務器對我來說是一個不錯的選擇，而且從長遠來看，它將為我節(jié)省大量的時間和金錢，而且可以積累組裝服務器的良好經驗。

組裝

列出部件清單

在準備部件之前，你要弄清楚自己到底想從機器中得到什么。個人而言，我想獲得以下改進：

比 Amazon p2 更加強大

容納額外 GPU、RAM、存儲及定制液體冷卻的空間

可以用很久的硬件

預算控制在 3000 美元左右

我用 pcpartpicker.com來細化各個部件，因為它可以將對比和組裝其它部件變得非常簡單，而且還具備很不錯的部件兼容性檢查器。我將詳細解釋選擇每個部件的原因以及它們如何與整個系統(tǒng)協同工作。

GPU： GTX 1080 TI Hybrid

因為你要使用顯卡來訓練模型，所以這是組裝過程中最重要的一部分，因此，GPU 越強大，你處理大型數據集的速度就越快。GPU 內存越大，處理能力也就越強（如：訓練速度更快，批尺寸更大……）。我為自己的服務器選了兩塊這種顯卡，因為我在預算里為它們預留了空間，這樣我就能用其中一塊顯卡訓練模型，讓另一個用戶在第二塊卡上訓練其模型。你可以根據自己的預算縮減 GPU 內存（1070、1060 等），防止與其它部件爭搶預算。Hybrid 1080 GPU 也不錯，因為除了大多數 GPU 具有的正常風扇冷卻之外，它還預裝了 aio 水冷系統(tǒng)。1080 TI 在滿負載運行時會過熱，因此，在訓練模型時，良好的冷卻系統(tǒng)對于延長顯卡壽命并保持其性能至關重要。關于顯卡選擇的更多細節(jié)，請參見 ，該文幫助我真正了解了如何選擇適合深度學習環(huán)境的顯卡。

CPU： AMD Threadripper 1900x

雖然你用顯卡訓練神經網絡，但 CPU 依然很重要，因為你要用它來進行數據準備等操作，因此那些多核 CPU 將有助于加快速度。我用的是“線程撕裂者”Treadripper，因為這是市面上非常新的一款多核 CPU（ThreadRipper 2 代有 32 個內核?。冶纫蛱貭杻r格低得多。1900x 是去年發(fā)布的基礎版 TR，它只有 8 個內核，不過我對這臺服務器的整體目標是保持它的可升級性。

需要注意的一點是，在選擇 CPU 時，要確保有 8 或 16 個 pcie 插槽供顯卡使用，這樣才能保證它們在低負載下發(fā)揮最好的性能，否則就有堵塞系統(tǒng)的風險。在高端 CPU 上，如果你的服務器中有 4 個顯卡，那么你就有足夠的 pcie 插槽。

主板：MSI X399 SLI Plus

選擇這塊主板是因為它是一塊完整的 ATX 板，可容納 4 個 GPU，RAM 最多可達 128GB。正如我前面所說，這個服務器的主要目標之一是保持它可升級。

內存：32GB Corsair Vengeance LPX DDR4 （2 x 16GB）

內存越大，處理大型數據集就越容易。我的下一個升級計劃是再添加兩個 16GB RAM 內存條，這也是我沒有安裝四通道內存（4 個 8GB 內存條）的原因，盡管它會提高我的服務器的性能。

存儲：256GB Samsung SSD & 2TB HDD

我把 Ubuntu、我的所有庫、我在 SSD 上正在使用的數據集以及手里的其它所有數據都存在 2TB 的機械硬盤上。

冷卻器：Corsair H100i v2 液體冷卻器

“線程撕裂者”沒有備用冷卻器（如果你有 30 美元的余款，至少應該買一個便宜的二手冷卻器），所以我想要一個可以全天候使用的、便宜又容易維護的冷卻器。這款集各種優(yōu)點于一身的冷卻器非常容易安裝，而且非常可靠（在數十萬臺機組中，可能只有一兩臺發(fā)生冷卻液泄漏）、安靜。

電源：EVGA SuperNOVA 1000w 80 + Gold CerTIfied

最好有一個功率超過技術要求的 PSU。PCPartpicker 的功率計算器能夠大致算出你需要多大的功率（我的服務器是 824w），然而它經常在數量上出錯，因此最好進行安全操作，以防你的計算機無法打開?！癎old CerTIfied”只是指 PSU 的效率（浪費了多少功率作為熱量）。

機箱：Corsair 760T Full Tower

我選擇這個機箱是因為它的價格和內部空間大小。雖然它并不能提高你的模型訓練速度，但是透明的側面板和紅色的 LED 確實讓你看起來更酷。