國產(chǎn)AI的希望！摩爾線程夸娥千卡集群化解AI算力國產(chǎn)化難題

這是一個AI的時代，這是一個算力的時代。

遺憾的是，我們已經(jīng)無緣接觸到最先進(jìn)的AI硬件和算力，用著H20這樣閹割兩次的N卡，還要支付上百億元的費用，實在憋屈。

面對持續(xù)上漲的AI算力需求，我們唯有發(fā)展自己的國產(chǎn)方案，發(fā)展自己的大規(guī)模AI算力集群，才能突破圍追堵截，走上康莊大道。

說到這里，很多人或許會第一時間想到華為，在美國制裁下頑強(qiáng)屹立突破的中國企業(yè)標(biāo)桿，昇騰910B在AI算力領(lǐng)域也取得了一定的成就。

當(dāng)然了，中國只依靠一個華為是不夠的。中國的AI生態(tài)需要遍地開花，才有可能多點突破，讓生態(tài)更繁榮。

目前來看，摩爾線程以全功能GPU走通用計算路線是另一條希望之路，尤其是它已經(jīng)成為華為之外，另一家可以實現(xiàn)千卡千億參數(shù)大模型訓(xùn)推的全國產(chǎn)AI芯片公司。

說起來，大家對摩爾線程并不陌生，其堪稱中國自主GPU最大的希望，但很多人對摩爾線程的認(rèn)知還停留在國產(chǎn)游戲顯卡，其實不然，摩爾線程在AI上也實力突出。

自成立以來，摩爾線程做的就是通用GPU，跟英偉達(dá)一樣，除了圖形渲染，也能用于AI人工智能加速、科學(xué)計算。

經(jīng)過三年多潛心發(fā)展，摩爾線程在AI GPU方面已經(jīng)展現(xiàn)了強(qiáng)勁的實力，構(gòu)建了一張從芯片、板卡、服務(wù)器，到集群、軟件棧的全棧AI智算產(chǎn)品版圖，并且已經(jīng)多點落地、處處開花。

比如和清華系A(chǔ)I大模型公司無問芯穹的合作。摩爾線程是第一家接入無問芯穹，并成功完成千卡級別大模型訓(xùn)練的國產(chǎn)GPU公司。

摩爾線程的“夸娥”(KUAE)千卡智算集群，已與無穹Infini-AI大模型開發(fā)與服務(wù)平臺完成系統(tǒng)級融合適配，并完成了LLama2 700億參數(shù)大模型的訓(xùn)練測試。近期，雙方又完成了“MT-infini-3B” 3B(30億參數(shù))大模型的實訓(xùn)。

這意味著什么呢?這是行業(yè)首個基于國產(chǎn)GPU芯片的從0到1的端到端大模型實訓(xùn)案例?？涠鹨渤蔀闃I(yè)內(nèi)首個成功跑通并完整運行國產(chǎn)大模型的千卡集群。

無問芯穹聯(lián)合創(chuàng)始人兼CEO夏立雪表示力挺：“經(jīng)過無問芯穹Infini-AI平臺的實訓(xùn)與聯(lián)合優(yōu)化工作驗證，摩爾線程夸娥千卡智算集群在精度、性能、易用性和算力利用率上均有優(yōu)異表現(xiàn)，而且在實訓(xùn)中實現(xiàn)了長時間穩(wěn)定訓(xùn)練不中斷，可以為千億參數(shù)級別大模型訓(xùn)練提供持續(xù)高效的高性能算力支持?！?

另外，滴普科技、實在智能等也基于摩爾線程的夸娥千卡智算集群，成功完成了不同參數(shù)量級的大模型分布式訓(xùn)練測試，效率、精度、穩(wěn)定性都相當(dāng)完美?；谀柧€程夸娥千卡智算集群，滴普科技成功完成了700億參數(shù)LLaMA2大語言模型的預(yù)訓(xùn)練測試，訓(xùn)練時長共計77小時，全程無故障連續(xù)運行，集群訓(xùn)練穩(wěn)定性達(dá)到100%。

夸娥(KUAE)是摩爾線程推出的智算中心全棧解決方案，而夸娥這個名字來自我國神話傳說中的大力神夸娥氏，

可以說，為AI算力集群取這么一個名字，充分展現(xiàn)了獨屬于中國人的堅忍不拔和浪漫情懷。出自《愚公移山》：“帝感其誠，命夸娥氏二子負(fù)二山，一厝朔東，一厝雍南。自此，冀之南，漢之陰，無隴斷焉?！?

夸娥解決方案的基本節(jié)點是大模型智算加速卡MTT S4000組成的雙路八卡GPU服務(wù)器“MCCX D800”，以軟硬件一體化交付、開箱即用的方式，高可靠地解決大規(guī)模GPU算力的建設(shè)和運營管理問題。

MTT S4000是摩爾線程新一代專為AI大模型打造的智算加速卡，基于其自主研發(fā)的第三代MUSA架構(gòu)。

利用自研的MTLink互連技術(shù)，MTT S4000可以高效千卡并行，線性加速比高達(dá)91%以上。

最為關(guān)鍵的是，摩爾線程擁有自研的全功能GPU MUSA統(tǒng)一系統(tǒng)架構(gòu)，包括指令集架構(gòu)、MUSA 編程模型、驅(qū)動、運行時庫、算子庫、通訊庫、數(shù)學(xué)庫等，而且充分兼容CUDA軟件生態(tài)，代碼可以幾乎零成本遷移，也無需擔(dān)心未來的可用性問題。

MTT S4000不但可用于大規(guī)模AI計算，還具備領(lǐng)先的圖形渲染能力、視頻編解碼能力、8K超高清顯示能力。

這使得它可為數(shù)字孿生、云游戲、云渲染、數(shù)字內(nèi)容創(chuàng)作等場景提供支持，并配合大模型推理能力，服務(wù)于AIGC等多模態(tài)業(yè)務(wù)場景。

從2024年的趨勢來看，多模態(tài)需求將快速崛起，英偉達(dá)CFO Colette Kress曾預(yù)計這塊業(yè)務(wù)將從零增長至數(shù)十億美元，對國產(chǎn)芯片來說也同樣如此。