嵌入式設(shè)備中片上存儲器的有效使用方法
隨著cpu速度的迅速提高,cpu與片外存儲器的速度差異越來越大,匹配cpu與外部存儲器的方法通常是采用cache或者片上存儲器。微處理器中的片上存儲器結(jié)構(gòu)通常包含指令cache、數(shù)據(jù)cache或者片上存儲器。對于嵌入式設(shè)備上數(shù)據(jù)密集的應(yīng)用,數(shù)據(jù)cache與片上存儲器相比存在以下缺陷:①片上存儲器是固定的單周期訪問,可在設(shè)計時(不是運行時)研究數(shù)據(jù)訪問模式;而cache還要考慮不命中的情況,因而有可變的數(shù)據(jù)訪問時間,執(zhí)行時間的預(yù)測更加困難。②使用cache執(zhí)行時間的不可預(yù)測性影響編譯器的優(yōu)化。③細(xì)顆粒的cache對于圖像編碼等的規(guī)則數(shù)據(jù)訪問并不合適,因而使用cache對于嵌入式設(shè)備可能不是最優(yōu)的。對于大多數(shù)應(yīng)用,使用片上存儲器比使用數(shù)據(jù)cache能耗平均節(jié)省約40%,芯片面積與時間的乘積僅為cache的46%,因而對于嵌入式多媒體處理器,片上ram作為數(shù)據(jù)cache的替代,功耗更低。片上存儲器的有效使用對于提高嵌入式應(yīng)用的速度、降低功耗具有重要的意義。
tms320c55x(簡稱為“c55x”)具有極低的功耗(0.05 mw/mips),非常適合手持設(shè)備,現(xiàn)在已經(jīng)集成至tt公司專門針對3g手機的高性能多媒體處理器上。c55x片上除了24 kb的指令cache外,還有64 kb的雙端口存儲器(daram)和96 kb的單端口存儲器(saram)。daram和saram總共160 kb,分成20個塊,每個塊8 kb。本文以c55x上的視頻編碼器為例,討論片上存儲器的有效使用。 1 數(shù)據(jù)的片外、片上動態(tài)分配
因為片上存儲器比片外存儲器具有更強的數(shù)據(jù)訪問能力和更低的訪問功耗,所以盡可能分配數(shù)據(jù)到片上存儲器;未能分配到片上的數(shù)據(jù)可在cpu處理前轉(zhuǎn)移到片上;已經(jīng)轉(zhuǎn)移到片上的數(shù)據(jù),應(yīng)盡可能在片上保存,直到其生命期結(jié)束,以便盡可能減少數(shù)據(jù)從片外存儲器到片上存儲器的數(shù)據(jù)轉(zhuǎn)移。在視頻編碼等應(yīng)用中,標(biāo)量、常數(shù)相對矩陣而言,通常數(shù)量較少,可以分配到片上。若分配到片外,則在運算時直接存取片外數(shù)據(jù),cpu流水線將會停滯。直接存儲器存取(dma)可以在存儲器之間、存儲器與外設(shè)之間轉(zhuǎn)移數(shù)據(jù),除了dma通道參數(shù)初始化以外,dma轉(zhuǎn)移數(shù)據(jù)和cpu處理數(shù)據(jù)可以并行進(jìn)行。設(shè)置dma通道參數(shù)需要一定的時間,用dma來轉(zhuǎn)移單個變量或常數(shù)的開銷可能比直接存取更大,因此dma適合轉(zhuǎn)移具有較多數(shù)據(jù)的矩陣,并不適合片外標(biāo)量的轉(zhuǎn)移。包含大量元素的矩陣可以分配到片外,處理前使用dma轉(zhuǎn)移到片上存儲器。
局部變量由編譯器分配到軟件棧上,c55x具有兩個軟件?!獢?shù)據(jù)棧和系統(tǒng)棧。c55x的棧有3種工作模式,可設(shè)置成雙16比特快返回模式,以減小棧所占的存儲器空間,并提高其運行速度。數(shù)據(jù)棧和系統(tǒng)棧在函數(shù)調(diào)用及返回時同時訪問,可將這兩個棧分配到daram塊或者不同的saram塊內(nèi)。
本文中數(shù)據(jù)存儲器的分配,強調(diào)從實際多媒體應(yīng)用處理的基本數(shù)據(jù)塊出發(fā),分析簡單、直觀。多媒體算法總是將原始輸入數(shù)據(jù)分成一定大小的塊來處理,并產(chǎn)生對應(yīng)該輸入的最后輸出。如果片上沒有足夠的存儲器,則大量的輸入數(shù)據(jù)和最后結(jié)果僅能存儲在片外。對于元素較多的矩陣,可以根據(jù)算法特征,將矩陣分成若干數(shù)據(jù)子塊,如h.263編碼器中的宏塊和搜索窗等,或者單純根據(jù)可得到的片上存儲器數(shù)最分成適當(dāng)大小的子塊逐個運算,然后分析數(shù)據(jù)子塊的生命期和使用頻率。
這里定義數(shù)據(jù)子塊的生命期為首次使用到最后一次使用之間的間隔,而通常變量的生命期為定義到最后使用之間的間隔。例如,定義整型數(shù)組int mb[384],用來存儲待編碼宏塊的數(shù)據(jù),圖像的某個宏塊的數(shù)據(jù)在該宏塊編碼結(jié)束后,該宏塊數(shù)據(jù)的生命期也就結(jié)束}然后該數(shù)組用來存儲下一宏塊的數(shù)據(jù),因而變量的生命期遠(yuǎn)比存儲在該變量中的某一具體數(shù)據(jù)的生命期要長。若數(shù)據(jù)子塊具有不相交的生命期,則可以共享相同的片上存儲器。很多數(shù)據(jù)子塊在運算中多次使用,可在首次運算前轉(zhuǎn)移到片上,并盡可能保存到生命期結(jié)束,即直到這些數(shù)據(jù)不再使用為止,因而這些數(shù)據(jù)僅需要一次轉(zhuǎn)移。將程序執(zhí)行時間看成是由很多連續(xù)的時間間隔組成的,若在下個時間間隔內(nèi)需要轉(zhuǎn)移新的數(shù)據(jù)到片上供cpu處理,而片上又沒有足夠的存儲器存儲這些數(shù)據(jù),則這時將隨后需要蓮續(xù)頻繁使用的數(shù)據(jù)保留到片上。對于隨后較少使用的數(shù)據(jù),若片外存儲器還保存有該數(shù)據(jù)的備份,則這些數(shù)據(jù)可直接覆蓋,等到下次使用時再從片外存儲器拷貝到片上;否則,在覆蓋前將數(shù)據(jù)轉(zhuǎn)移到片外。在片上分配一定的緩沖區(qū),用來存儲需要再次使用的數(shù)據(jù),可有效地減少片外存儲器的訪問。對于中間結(jié)果,盡量在使用前分階段計算,使用后釋放,以縮減存儲中間結(jié)果的存儲器需求。通過數(shù)據(jù)的這種動態(tài)分配,既可以減小或避免訪問片外慢速存儲器所引起的指令延遲,又可以減少片外到片上的數(shù)據(jù)轉(zhuǎn)移。
在h.263視頻編碼器中,編碼是按宏塊順序進(jìn)行的。intra宏塊編碼不僅需要當(dāng)前的編碼宏塊數(shù)據(jù),還需要以當(dāng)前宏塊為中心的重建圖像搜索窗。因此,根據(jù)算法特征將整幀輸入圖像劃分成宏塊,某個宏塊數(shù)據(jù)在編碼前轉(zhuǎn)移到片上,這一宏塊編碼結(jié)