當前位置:首頁 > 模擬 > 模擬
[導讀]在分析Cache性能的基礎上介紹了當前低功耗Cache的設計方法,提出了一種可重構Cache模型和動態(tài)可重構算法。Cache模型能夠在程序運行過程中改變相聯(lián)度和大小,動態(tài)可重構算法能夠在運行時針對不同的應用程序對可重構Cache進行配置。通過對Cache的動態(tài)配置,不僅可以提高Cache命中率,還能夠有效降低處理器的功耗。

引 言
    隨著集成電路的工作速度和芯片集成度不斷提高,芯片的功耗問題變得越來越突出,高性能低功耗設計已經成為當前集成電路領域的一個重要課題。在以微處理器為核心部件的VLS1系統(tǒng)中,Cache是系統(tǒng)取得高數據傳輸率的關鍵部件。在現(xiàn)代CPU中,Cache的功耗約占處理器總功耗的30%~60%,有效降低這部分的功耗,對芯片的低功耗設計有著重大的意義。


1 Cache低功耗相關研究
    Cache平均訪問功耗是Cache性能表現(xiàn)的一個重要因素。Cache平均訪問功耗由Cache命中時的訪問功耗、失效時的訪問功耗和失效率三者決定。失效時的訪問功耗又包括兩部分:一部分是Cache失效時Cache電路的功耗,另一部分則是下一級存儲系統(tǒng)的訪問功耗。因此降低Cache功耗可以從三個方面考慮:一是降低Cache的失效率,二是降低Cache訪問能量,三是降低主存訪問能量。
    為了達到低功耗的目的,對Cache結構做了一些改進:Phase—lookup Cache結構,應用兩級查詢的機制,即先訪問tag array,只有命中的那一路data才會在第二相去訪問,這樣就降低了組相聯(lián)Cache中數據array部分的功耗,但增加了Cache訪問的時間;Way predictive組相聯(lián)Cache結構,在默認情況下只訪問一個tag array和一個data array,只有在默認訪問失效時才會去訪問其他的tag和data array,這種方法也以增加Cache訪問時間的代價來換取低功耗;偽組相聯(lián)Cache結構,是具有多個命中時間的Cache結構,Cache中的每一路可以被順序讀取,從而可以比傳統(tǒng)的同時讀取結構節(jié)省一部分功耗;另外還有基于壓縮方法方面的研究,針對高頻值的局部性,在讀寫Cache的過程中,對高頻出現(xiàn)的數據值進行壓縮存儲,用較少存儲空間保存編碼后的數據,在一定程度上減少了Cache的訪問功耗。
    低功耗可重構的Cache研究在最近幾年得到關注,通過改變Cache的結構參數,不管是用硬件實現(xiàn)還是用軟件實現(xiàn),針對不同的程序來配置優(yōu)化的Cache結構,盡可能地關閉不使用的Cache,兼顧了系統(tǒng)的性能和功耗。Cache的結構參數很多,主要的參數有容量大小、相聯(lián)度、塊大小、替換算法、寫回策略等。一般而言,系統(tǒng)中的Cache替換算法和寫策略是固定的,如果改變也可以在軟件層面上實現(xiàn)。所以主要關注Cache的硬件結構是否可重構,僅研究其中幾個參數(如Cache容量、塊大小和相聯(lián)度)對訪問功耗的影響。在設計芯片之前可以使用CAD工具來確定對命中時間和功耗的影響。CACTI程序是一個可以評估CMOS微處理器各種Cache結構訪問時間和功耗的CAD工具。對于一個給定的最小特征值,可以改變Cache容量、相聯(lián)度和讀/寫端口的數目,以估計各種情況的Cache命中時間和功耗??芍貥婥ache結構需要綜合考慮Cache的命中率、平均訪問時間和訪問能量等性能,合理選擇Cache的配置參數。

2 可重構Cache的體系結構
   
要實現(xiàn)可重構Cache,首先Cache的結構要支持運行過程中的動態(tài)劃分,其次要有檢測Cache命中率的硬件或者軟件機制,并且有相應的動態(tài)配置算法。
2.1 可重構Cache系統(tǒng)設計
   
文獻提出了一種可重構的數據Cache結構。該Cache的數據區(qū)被平均分為4個子分區(qū)(subarray),每個子分區(qū)又分為4組。在Cache訪問時,只有一個子分區(qū)打開,其他子分區(qū)的線路不被激活,從而節(jié)省了功耗。圖1給出了整個Cache體系結構及功能模塊。

    與傳統(tǒng)Cache結構相比,圖1中增加了Cache配置動態(tài)選擇器(Cache Configuration Dynamic Selector, CCDS),CCDS用來更新內部狀態(tài)機,并決定合適的Cache配置。通過配置CCDS,可以使整個子陣列無效,或者使有效子陣列中的某些路無效。對于無效的子陣列或者路,局部自選線(Local Word Line)、預充電(Precharge)和讀出放大器(Sense Amplifier)都無激勵。通過這些改進使得傳統(tǒng)的固定劃分的Cache具備了動態(tài)配置能力。
    改進后的Cache外在表現(xiàn)為一個虛擬的兩級Cache:Ll/L2。這種分級方式同傳統(tǒng)的L1/L2兩級Cache結構不同,L1 Cache由激活的不同子分區(qū)以及子分區(qū)內不同的路數構成,未激活的部分為L2,在L1未命中時激活以進行訪問,L1和L2在物理實現(xiàn)上表現(xiàn)為同一級。Cache的地址劃分仍為三部分:標志位、索引位和塊內地址。圖2給出了Cache的地址劃分情況,可分為塊地址(Block Address)和塊內偏移(Block offset)。塊地址可以進一步分為標志字段(Tag)和索引字段(Index)。其中Tag的后兩位SS用來做子分區(qū)的選擇位。訪問Cache時,首先訪問L1,當L1命中時就直接返回,只有在L1訪問失效時才會將所有數據區(qū)打開。對不同的應用程序,L1和L2大小的劃分不同,其訪閩時間和運行功耗也會有較大差異。

2.2 動態(tài)重構算法
   
在程序運行過程中,通過軟件監(jiān)測自動選擇優(yōu)化的Cache結構。一般采用啟發(fā)式算法,即根據程序過去執(zhí)行的狀況預測未來的運行情況,并為其配置相應的優(yōu)化結構。重構流程是:在程序運行的時候,CPU按固定的時間間隔檢查一系列的硬件計數器;這些計數器記錄上一時間段內的Cache缺失率和分支跳轉的發(fā)生頻率,如果改變的程度超過設定閾值則進入重構過程,否則程序繼續(xù)運行。
    圖3是可重構算法的狀態(tài)圖。RESET為程序開始運行時的初始狀態(tài);UNSTABLE為非穩(wěn)定狀態(tài),該狀態(tài)下進行結構的搜索與重構;STABLE為選擇好優(yōu)化的Cache結構進入穩(wěn)定運行的狀態(tài);TRANSl,TRANS2為狀態(tài)相互切換時的中間狀態(tài)。圖4是在UNSTABLE狀態(tài)下的搜索流程。首先根據統(tǒng)計將各種配置的Cache結構按照失效率進行排序。進入重構搜索狀態(tài)后,如果引起重構的原因是失效率的上升,則沿著排序表開始,朝失效率降低的方向依次搜索新的Cache結構。如果引起重構的原因是程序分支頻率的改變,則需要搜索所有的Cache結構。

2.3 可重構Cache中問題
    (1)數據重名問題
    Cache中的數據重名問題是指主存中同一地址的數據同時出現(xiàn)在Cache中兩個不同的位置。實地址Cache中本來不存在數字重名問題,但引入可重構概念的同時,也帶來了數據重名問題。解決這一問題的簡單辦法是在Cache重構的時候讓Cache中的內容全部無效,需要寫回的內容都進行寫回。但這樣會導致Cache性能下降,特別是在Cache重構比較頻繁的時候。但是如果動態(tài)重構的指令片段較大,則影響比較小。
    (2)映射錯誤問題
    Cache在重構時,其組數量會變化,從而導致需要比較的Tag位的數量也發(fā)生變化,這會導致映射錯誤的出現(xiàn)。為了保證處于任何一種狀態(tài)的時候都有足夠的Tag來做比較,按照Tag位最長的一種配置來保存Cache地址結構,也就是組數量最少的情況。這樣做雖然會增加一些無用的比較,但卻能避免刷新Cache帶來的性能損失。

結 論
    本文在傳統(tǒng)Cache結構的基礎上分析了一種可重構Cache的體系結構及其動態(tài)重構的配置算法,指出了可重構Cache可能會遇到的問題。通過對傳統(tǒng)Cache結構的改進,在嵌入式處理器上實現(xiàn)Cache可重構技術,這對嵌入式處理器的存儲器體系結構功耗優(yōu)化有著重要意義??芍貥婥ache的設計方法具有非常好的低功耗潛力,也是目前計算機體系結構方面的研究熱點之一。

本站聲明: 本文章由作者或相關機構授權發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內容真實性等。需要轉載請聯(lián)系該專欄作者,如若文章內容侵犯您的權益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或將催生出更大的獨角獸公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數字化轉型技術解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關鍵字: AWS AN BSP 數字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術公司SODA.Auto推出其旗艦產品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關鍵字: 汽車 人工智能 智能驅動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務能7×24不間斷運行,同時企業(yè)卻面臨越來越多業(yè)務中斷的風險,如企業(yè)系統(tǒng)復雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務連續(xù)性,提升韌性,成...

關鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據媒體報道,騰訊和網易近期正在縮減他們對日本游戲市場的投資。

關鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數據產業(yè)博覽會開幕式在貴陽舉行,華為董事、質量流程IT總裁陶景文發(fā)表了演講。

關鍵字: 華為 12nm EDA 半導體

8月28日消息,在2024中國國際大數據產業(yè)博覽會上,華為常務董事、華為云CEO張平安發(fā)表演講稱,數字世界的話語權最終是由生態(tài)的繁榮決定的。

關鍵字: 華為 12nm 手機 衛(wèi)星通信

要點: 有效應對環(huán)境變化,經營業(yè)績穩(wěn)中有升 落實提質增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務引領增長 以科技創(chuàng)新為引領,提升企業(yè)核心競爭力 堅持高質量發(fā)展策略,塑強核心競爭優(yōu)勢...

關鍵字: 通信 BSP 電信運營商 數字經濟

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術學會聯(lián)合牽頭組建的NVI技術創(chuàng)新聯(lián)盟在BIRTV2024超高清全產業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術創(chuàng)新聯(lián)...

關鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(集團)股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關鍵字: BSP 信息技術
關閉
關閉