讓內(nèi)存干CPU的活兒 這項技術(shù)將芯片運行速度提升百倍

近日，美國普林斯頓大學(xué)研究人員推出了一款新型計算機芯片，其運行速度是傳統(tǒng)芯片的百倍。有ý體稱其采用了“內(nèi)存計算”技術(shù)，使計算效率得到大幅提升。

這一神奇的技術(shù)到底是什ô?它為何能顯著提高芯片性能?科技日報記者就此采訪了相關(guān)專家。

高度集成，把計算與存儲功能合二為一

對于我們常用的計算機來說，存儲器可分為內(nèi)部存儲器和外部存儲器。內(nèi)部存儲器，即“內(nèi)存”，是電腦的主存儲器。它的存取速度快，但只能儲存臨時或少量的數(shù)據(jù)和程序。

外部存儲器，通常被稱為“外存”，它包括硬盤、軟盤、光盤、U盤等，通?？捎谰么鎯Υ罅繑?shù)據(jù)，如操作系統(tǒng)、應(yīng)用程序等。當(dāng)運行某一程序時，處理器(CPU)會先從內(nèi)存中讀取數(shù)據(jù)，而后將一部分結(jié)果寫入內(nèi)存，并選擇性地將另一部分結(jié)果寫入外存進行永久保存。

也就是說，通常情況下，內(nèi)存只能存儲少量數(shù)據(jù)，計算機中大部分?jǐn)?shù)據(jù)都“住”在外存。當(dāng)CPU運行程序時就需要調(diào)取數(shù)據(jù)，若調(diào)取“住”在內(nèi)存的數(shù)據(jù)，則用時較少;若調(diào)取“住”在外存的數(shù)據(jù)，則可能要費些周折。

因此科學(xué)家就想，能否把數(shù)據(jù)都存在內(nèi)存里呢?于是，內(nèi)存計算技術(shù)出現(xiàn)了。

“內(nèi)存計算技術(shù)是伴隨著大數(shù)據(jù)處理技術(shù)的興起而興盛起來的。在處理大數(shù)據(jù)過程中，由于數(shù)據(jù)量極大，處理數(shù)據(jù)時頻繁訪問硬盤這些外存會降低運算速度。隨著大容量內(nèi)存技術(shù)的興起，專家開始提出在初始階段就把數(shù)據(jù)全部加載到內(nèi)存中，而后可直接把數(shù)據(jù)從內(nèi)存中調(diào)取出來，再由處理器進行計算。這樣可以省去外存與內(nèi)存之間的數(shù)據(jù)調(diào)入/調(diào)出過程，從而大大提升計算速度?！北本┖娇蘸教齑髮W(xué)計算機學(xué)院教授、中德聯(lián)合軟件研究所所長劉軼告訴科技日報記者。

“但普林斯頓大學(xué)研發(fā)團隊采用的‘內(nèi)存計算’技術(shù)與上述概念中所指的內(nèi)存計算并不完全相同?！眲⑤W說，普林斯頓大學(xué)所采用的技術(shù)其實是PIM(Process in-memory)，通常被翻譯為“存內(nèi)計算”“存算一體”或“計算存儲一體化”。

“PIM技術(shù)是指直接在內(nèi)存中處理數(shù)據(jù)，而不是把數(shù)據(jù)從內(nèi)存讀取到處理器中進行處理?！眲⑤W指出，PIM的技術(shù)概念在1990年就已被提出，雖然相關(guān)研究論文早已發(fā)表出來，但相關(guān)技術(shù)始終難以落地。

劉軼認(rèn)為“難落地”的主要原因在于，PIM技術(shù)尚難以達到傳統(tǒng)計算機馮·諾依曼結(jié)構(gòu)的靈活性和通用性水平。“目前，學(xué)界所提出的PIM技術(shù)，只能做某些類別的應(yīng)用，難以實現(xiàn)靈活編程。”他說。

可解決“存儲墻”問題，大幅提升性能

在劉軼看來，PIM技術(shù)的重要價值在于，其能解決傳統(tǒng)計算機結(jié)構(gòu)存在的“存儲墻”問題。傳統(tǒng)計算機采用的馮·諾依曼結(jié)構(gòu)，需要CPU從內(nèi)存中取出指令并且執(zhí)行，某些指令又需要從內(nèi)存讀取數(shù)據(jù)進行處理，再將結(jié)果寫回內(nèi)存。由于處理器所執(zhí)行的程序和待處理的數(shù)據(jù)都被存在內(nèi)存中，這樣處理器在運行過程中需要頻繁訪問內(nèi)存。隨著微電子技術(shù)的發(fā)展，處理器性能的進步速度逐漸快于內(nèi)存性能。

近30年來，處理器性能ÿ年提升55%，而內(nèi)存訪問速度ÿ年僅提升7%。這使得處理器的處理速度遠(yuǎn)遠(yuǎn)快于內(nèi)存的讀取速度，直接導(dǎo)致了“存儲墻”的出現(xiàn)，嚴(yán)重拖慢了程序執(zhí)行速度。

“這好比一個人消化能力很強，飯桌上也有很多食物，但這個人的嗓子眼兒很細(xì)，咽不下去。這就使得強大的消化能力‘無用武之地’，也限制了這個人吃東西的速度?！眲⑤W說。

“近年來深度學(xué)習(xí)等新型算法的興起，對推倒‘存儲墻’提出了更迫切的需求。”劉軼指出，新型算法訪問內(nèi)存的模式跟傳統(tǒng)模式不太相同，刷臉、圖片識別、機器翻譯等新型算法往往以類似于人腦的方式實現(xiàn)對復(fù)雜數(shù)據(jù)的處理。由于這類算法涉及的神經(jīng)元數(shù)量多、訓(xùn)練樣本量大，這導(dǎo)致在通用計算機上進行深度學(xué)習(xí)計算的效率比較低。

為了提高效率，科研人員開發(fā)了各種加速部件和專用的深度學(xué)習(xí)處理器，前者的典型代表是圖形處理器(GPU)，后者的典型代表有谷歌公司的張量處理器(TPU)、國內(nèi)的寒武紀(jì)處理器等。

“CPU、GPU等處理器通過總線與內(nèi)存相連，總線的傳輸速度決定了計算的效率?！敝袊詣踊瘜W(xué)會混合智能專業(yè)委員會副主任、復(fù)旦大學(xué)計算機學(xué)院教授張軍平告訴科技日報記者，人們正在嘗試通過改進，減少數(shù)據(jù)在總線上的傳輸次數(shù)，提高計算效率。例如，科研人員讓CPU具備部分的GPU功能，或使GPU具備一些CPU的功能等。

劉軼表示，上述改進措施仍然屬于馮·諾依曼結(jié)構(gòu)，不能從根本上解決“存儲墻”問題。相比之下，PIM技術(shù)在解決“存儲墻”問題上更具優(yōu)勢。首先，它的計算模式更適合深度學(xué)習(xí)等新型計算模式;其次，PIM技術(shù)避免了馮·諾依曼結(jié)構(gòu)處理器頻繁訪問內(nèi)存這一問題，減少了數(shù)據(jù)傳輸次數(shù)，降低了功耗。

具有發(fā)展?jié)摿?，但尚難取代通用處理器

記者通過查閱資料發(fā)現(xiàn)，PIM技術(shù)應(yīng)用最大的難點在于制造工藝。

PIM技術(shù)需要利用先進的半導(dǎo)體工藝將處理器和存儲器集成在同一芯片內(nèi)，使之通過片上網(wǎng)絡(luò)相互連接。但由于目前處理器與存儲器的制造工藝不同，若要在處理器上實現(xiàn)存儲器的功能，則可能會降低存儲器的存儲密度;若要在存儲器上實現(xiàn)處理器的功能，則可能會影響處理器的運行速度。

張軍平指出，現(xiàn)階段內(nèi)存本身不具備計算功能，因此若想實現(xiàn)內(nèi)存計算或PIM技術(shù)都需要對內(nèi)存進行重新設(shè)計。

“普林斯頓大學(xué)不是專業(yè)的芯片公司，其推出的新型芯片可能只是一種技術(shù)上的探索，離真正的產(chǎn)業(yè)化應(yīng)用還有相當(dāng)長的距離?！睆堒娖秸J(rèn)為，隨著固態(tài)硬盤等技術(shù)的發(fā)展，如果硬盤讀寫速度足以媲美內(nèi)存，內(nèi)存與外存可能被集成為新型大容量高速存儲器。δ來最理想的情況是，CPU、GPU等多種處理器與大容量高速存儲器實現(xiàn)一體化高度集成。

劉軼強調(diào)，普林斯頓大學(xué)設(shè)計的這種處理器是一種專用處理器，它只針對深度學(xué)習(xí)應(yīng)用，無法取代傳統(tǒng)的通用處理器。

“正如華為、蘋果等公司推出的高端手機上大多配置了深度學(xué)習(xí)處理器，但只作為附屬部件，核心的計算和處理仍然由通用處理器來完成，只是把特定的任務(wù)和計算模塊交由深度學(xué)習(xí)處理器來進行計算，而且是在通用處理器的控制之下完成的?！眲⑤W說。

“短期來看，PIM技術(shù)只能被用于特定類別的應(yīng)用場景，難以取代通用處理器?！眲⑤W認(rèn)為，從長遠(yuǎn)來看，如果半導(dǎo)體材料和器件技術(shù)無法取得突破，集成電·的摩爾定律將在不久的δ來失效，即集成電·芯片內(nèi)的晶體管數(shù)量將停止增長。這會對傳統(tǒng)的計算機系統(tǒng)結(jié)構(gòu)乃至計算機硬件和軟件產(chǎn)業(yè)造成巨大的影響，由此也很可能引發(fā)重大的技術(shù)變革。當(dāng)新的計算結(jié)構(gòu)出現(xiàn)時，高度集成化的系統(tǒng)可能會對PIM技術(shù)有更多需求，但該技術(shù)能否成為主流仍有待觀察。