隨著生成式人工智能(GenAI)日益普及,很多組織的CIO開始優(yōu)化他們的IT系統(tǒng),以充分挖掘AI技術(shù)的潛力。例如,美國電信巨頭AT&T部署了3000多個AI機器人實施重復(fù)性任務(wù),達(dá)美航空公司(Delta Airlines)使用AI IT運營管理平臺來減少服務(wù)中斷對客戶的影響。
然而,隨著IT環(huán)境的更新,也需要對IT基礎(chǔ)設(shè)施進(jìn)行更新和改造。數(shù)據(jù)中心的發(fā)展速度難以跟上AI為組織帶來的好處。其中許多組織針對AI進(jìn)行了優(yōu)化,以實現(xiàn)運營自動化、改善資源管理、增強網(wǎng)絡(luò)安全并提供更好的服務(wù)。
盡管如此,數(shù)據(jù)中心仍無法提供大規(guī)模開發(fā)和實施AI應(yīng)用所需的資源,一個新的生態(tài)系統(tǒng)應(yīng)運而生,那就是AI工廠。
AI工廠是做什么的?
AI工廠或AI數(shù)據(jù)中心是為滿足AI的特定需求而設(shè)計的設(shè)施,為部署復(fù)雜的AI應(yīng)用程序和模型提供基礎(chǔ)設(shè)施和資源。
AI工廠的目的類似于數(shù)據(jù)中心和生產(chǎn)工廠。就像工廠生產(chǎn)產(chǎn)品一樣,AI工廠生產(chǎn)“智能”,然后采用智能運行AI模型和其他資產(chǎn)以及IT系統(tǒng)。
Artefact咨詢總監(jiān)Nina Abide表示,“AI工廠通過標(biāo)準(zhǔn)化流程簡化了AI模型的生產(chǎn),實現(xiàn)了跨行業(yè)的高效擴展。它們涵蓋了從數(shù)據(jù)準(zhǔn)備到模型部署的各個階段,并利用自動化來提高速度和效率?!?
AI工廠的一個固有特征是生成智能。AI工廠處理大量數(shù)據(jù),以產(chǎn)生智能并更新其運營的系統(tǒng),或者創(chuàng)建包括文本、圖像、視頻或音頻內(nèi)容在內(nèi)的輸出。AI工廠產(chǎn)生的智能也可以作為命令來控制機器人或超級計算機等系統(tǒng)。
2024年3月,英偉達(dá)CEO黃仁勛在GTC大會上發(fā)表演講時介紹了AI工廠的藍(lán)圖,他將其定義為“將原材料轉(zhuǎn)化為有價值的新產(chǎn)品的地方”。他將AI工廠稱之為“新工業(yè)革命的家園”。
他說,“AI工廠輸入的原材料是數(shù)據(jù)和電力,生產(chǎn)的產(chǎn)品是數(shù)據(jù)令牌(tokens)。令牌是不可見的,可以發(fā)送到世界各地,它是非常有價值的?!?
企業(yè)構(gòu)建AI工廠的方法
作為專門建造的設(shè)施,AI工廠允許在IT環(huán)境中全面實施AI。這些量身定制的數(shù)據(jù)中心擁有將GenAI部署到IT運營中所必需的硬件和軟件,從而提高效率、可擴展性和創(chuàng)新性。
Arcadis全球制造總監(jiān)Martijn Karrenbeld說,“AI工廠可以通過流程自動化和工作流程優(yōu)化來提高效率。其中一個真正的好處是能夠通過簡化制造過程來降低運營成本。這為未來的擴大業(yè)務(wù)規(guī)模提供了更多的組織靈活性和可擴展性,從而加快了上市速度?!?
AI工廠是如何運作的?
AI工廠背后的理念是訓(xùn)練AI模型來產(chǎn)生智能。為此,相關(guān)數(shù)據(jù)被輸入到計算系統(tǒng)的模型中,這樣它就可以分析數(shù)據(jù)并做出預(yù)測。
如果這些預(yù)測是準(zhǔn)確的,AI模型就會得到訓(xùn)練,并可以通過AI推理過程開始執(zhí)行所需的任務(wù)。
與傳統(tǒng)數(shù)據(jù)中心相比,AI工廠需要更多的電力、能源和冷卻解決方案。事實上,由于這些設(shè)施通常是為處理大量數(shù)據(jù)和開發(fā)或培訓(xùn)新系統(tǒng)而設(shè)計的,因此需要采用高性能服務(wù)器機架、專用硬件加速器、大型存儲系統(tǒng)和網(wǎng)絡(luò)基礎(chǔ)設(shè)施。
為了能夠處理相關(guān)的工作負(fù)載,AI工廠采用專門的IT硬件建造,其中包括定制設(shè)計的AI芯片和圖形處理單元(GPU)。