英特爾、英偉達(dá)、高通等公司人工智能下一步發(fā)展趨勢(shì)
毫無(wú)疑問(wèn),智能手機(jī)和智能家居仍將是邊緣人工智能的兩個(gè)最大市場(chǎng)。與此同時(shí),自動(dòng)駕駛汽車的潛力為邊緣人工智能公司帶來(lái)了極高的期望和市場(chǎng)估值。然而,自動(dòng)駕駛汽車的緩慢推出,以及智能手機(jī)市場(chǎng)的標(biāo)準(zhǔn)化,導(dǎo)致許多廠商在他剛才提到的市場(chǎng)之外尋求新的增長(zhǎng)機(jī)會(huì)。許多供應(yīng)商已經(jīng)轉(zhuǎn)向工業(yè)應(yīng)用和其他以移動(dòng)為中心的應(yīng)用,例如,英特爾、英偉達(dá)、高通和 Hailo 已與許多邊緣計(jì)算供應(yīng)商合作,為希望使傳統(tǒng)基礎(chǔ)設(shè)施更智能的公司提供 AI in the box 解決方案。供應(yīng)商還為機(jī)器人和無(wú)人機(jī)應(yīng)用推出了專用解決方案。此外,該行業(yè)本身見(jiàn)證了硬件和軟件供應(yīng)商之間的許多合作伙伴關(guān)系。這些關(guān)系在本質(zhì)上通常是共生的,因?yàn)樗鼈児膭?lì)領(lǐng)域?qū)I(yè)知識(shí)的交流并為垂直特定供應(yīng)商開(kāi)辟新的市場(chǎng)機(jī)會(huì)。
ZigZag 工具
關(guān)于用于以超低功耗運(yùn)行神經(jīng)網(wǎng)絡(luò)的尖端微處理器架構(gòu)的有價(jià)值的信息,開(kāi)發(fā)了一個(gè)叫做 ZigZag 的工具。幫助設(shè)計(jì)師比較硬件與不同的架構(gòu)、不同的內(nèi)存層次、不同的數(shù)據(jù)路徑、不同的組合如何以節(jié)能的方式運(yùn)行不同的神經(jīng)網(wǎng)絡(luò)。因?yàn)檩^低精度、越來(lái)越多的并行芯片可以提高能源效率,但以靈活性為代價(jià)。
它的核心是一種非??焖俚姆治龀杀灸P?。因此,它采用神經(jīng)網(wǎng)絡(luò)工作負(fù)載,采用具有內(nèi)存層次結(jié)構(gòu)、數(shù)據(jù)路徑甚至技術(shù)特征的硬件架構(gòu),并基于這種技術(shù)組合,嘗試估計(jì)在此特定設(shè)備上運(yùn)行工作負(fù)載所需的能量架構(gòu),需要多少延遲或時(shí)鐘周期,以及該架構(gòu)的區(qū)域是什么。當(dāng)然,正如他之前所展示的,你不能只說(shuō),他把工作負(fù)載映射到架構(gòu)上,不,有很多不同的方法來(lái)映射它,甚至是一個(gè)特定的工作負(fù)載,神經(jīng)網(wǎng)絡(luò)的一層,硬件架構(gòu),這與他在空間上展開(kāi)什么循環(huán)有關(guān),他暫時(shí)展開(kāi)哪些循環(huán),他將哪些數(shù)據(jù)放入 SRAM 寄存器文件、1 級(jí)內(nèi)存、2 級(jí)內(nèi)存等等。他們的工具做什么,它需要神經(jīng)網(wǎng)絡(luò)工作負(fù)載并嘗試找到所有可能的良好映射和調(diào)度,它正在嘗試數(shù)百萬(wàn)個(gè)這樣的調(diào)度,在硬件架構(gòu)上并為每個(gè)調(diào)度估計(jì)能量/延遲/面積,然后附帶一組帕累托最優(yōu)解決方案,為您提供此神經(jīng)網(wǎng)絡(luò)工作負(fù)載、此技術(shù)、在這些硬件限制下,他可以實(shí)現(xiàn)的每次推理的最佳時(shí)間、每次推理的能量等。
IBM 的目標(biāo):在 2025 年將 AI 計(jì)算性能每年提高 2.5 倍
BM Research 計(jì)劃在短期內(nèi)使用數(shù)字電子技術(shù)結(jié)合超低精度計(jì)算中的算法工作來(lái)實(shí)現(xiàn)這一目標(biāo)。有助于開(kāi)發(fā)模擬 AI 計(jì)算能力的工藝創(chuàng)新,包括 PCM、相變存儲(chǔ)器和 EC RAM、電化學(xué) RAM 技術(shù)。在推理方面,他們使用了 PCM 技術(shù),并通過(guò)使用他們所謂的投影 PCM 技術(shù)對(duì)其進(jìn)行了改進(jìn)。
這本質(zhì)上是一個(gè)精心設(shè)計(jì)的層,用于解決您在直接使用 PCM 元素進(jìn)行模擬計(jì)算進(jìn)行推理時(shí)看到的一些非理想性或抗漂移。他們絕對(duì)不希望這種漂移發(fā)生 - 每次您在模擬域中使用并使用此模型進(jìn)行推理時(shí)。在右側(cè),他們正在開(kāi)發(fā)材料,以便在深度神經(jīng)網(wǎng)絡(luò)正在編程時(shí),這些材料可用于存儲(chǔ)數(shù)千個(gè)權(quán)重或數(shù)千個(gè)不同狀態(tài)。他們正在使用他們從高 k 金屬柵極技術(shù)中學(xué)到的對(duì)氧空位產(chǎn)生和消除的一些基本理解。
他們還在開(kāi)發(fā)一種稱為 ECRAM 的技術(shù),即電化學(xué) RAM 技術(shù),它一直在利用電池技術(shù)的一些原理,但他們已經(jīng)找到了一種將其集成到 CMOS 兼容晶圓中的方法。
Cerebras新型計(jì)算機(jī)
Cerebras構(gòu)建了一種針對(duì) AI 工作進(jìn)行優(yōu)化的新型計(jì)算機(jī),他們的目標(biāo)不是變得更好,不是快兩倍或三倍,而是在 AI 工作上快 100 或 1000 倍。為此,他們解決了計(jì)算機(jī)行業(yè) 70 年來(lái)一直未解決的問(wèn)題:他們解決了構(gòu)建非常大的芯片的挑戰(zhàn)。在他們出現(xiàn)之前,最大的芯片大約有 800 平方毫米,大約是一張郵票的大小。他們制造了一個(gè)芯片,并在 2019 年 8 月宣布了它,即 46,000 平方毫米。所以它是一個(gè)餐盤(pán)的大小。
在這項(xiàng)人工智能工作中,更大的芯片處理信息的速度更快,在更短的時(shí)間內(nèi)產(chǎn)生答案。因此,他們所做的是,他們制造這些大型芯片,將它們放入他們?cè)O(shè)計(jì)的系統(tǒng)中,創(chuàng)造性地稱為 CS-2,用于 Cerebras Systems 2,然后交付給客戶。它大約有 16…15 個(gè)機(jī)架單元高,大約 26 英寸。Sally,他不確定如何為您轉(zhuǎn)換為公制。那是什么……11,000厘米或類似的東西。