當前位置:首頁 > 芯聞號 > 充電吧
[導讀]LevelDB默認使用的是小端字節(jié)序存儲,低位字節(jié)排放在內存的低地址端,高位字節(jié)排放在內存的高地址端。?編碼分為變長的EncodeVarint和固定大小的EncodeFixed兩種,每種又分32位和6

LevelDB默認使用的是小端字節(jié)序存儲,低位字節(jié)排放在內存的低地址端,高位字節(jié)排放在內存的高地址端。?
編碼分為變長的EncodeVarint和固定大小的EncodeFixed兩種,每種又分32位和64位。
一.EncodeFixed

void?EncodeFixed32(char*?buf,?uint32_t?value)?{
#if?__BYTE_ORDER?==?__LITTLE_ENDIAN
??memcpy(buf,?&value,?sizeof(value));
#else
??buf[0]?=?value?&?0xff;
??buf[1]?=?(value?>>?8)?&?0xff;
??buf[2]?=?(value?>>?16)?&?0xff;
??buf[3]?=?(value?>>?24)?&?0xff;
#endif
}
void?EncodeFixed64(char*?buf,?uint64_t?value)?{
#if?__BYTE_ORDER?==?__LITTLE_ENDIAN
??memcpy(buf,?&value,?sizeof(value));
#else
??buf[0]?=?value?&?0xff;
??buf[1]?=?(value?>>?8)?&?0xff;
??buf[2]?=?(value?>>?16)?&?0xff;
??buf[3]?=?(value?>>?24)?&?0xff;
??buf[4]?=?(value?>>?32)?&?0xff;
??buf[5]?=?(value?>>?40)?&?0xff;
??buf[6]?=?(value?>>?48)?&?0xff;
??buf[7]?=?(value?>>?56)?&?0xff;
#endif
}

這兩個函數非常簡單,功能就是判斷系統(tǒng)是否為小端存儲,如果是,直接將value拷貝到buf,如果不是,則將value轉換為小端字節(jié)序存儲到buf中。
解碼函數DecodeFixed32和DecodeFixed64是編碼的逆過程,也很簡單。
二.EncodeVarint
為什么要把整型(int)編碼成變長整型(varint)呢?是為了盡可能的節(jié)約存儲空間。
varint是一種緊湊的表示數字的方法,它用一個或多個字節(jié)來表示一個數字,值越小的數字使用越少的字節(jié)數。比如int32類型的數字,一般需要4個字節(jié)。但是采用Varint,對于很小的int32類型的數字,則可以用1個字節(jié)來表示。當然凡事都有好的也有不好的一面,采用varint表示法,大的數字則可能需要5個字節(jié)來表示。從統(tǒng)計的角度來說,一般不會所有消息中的數字都是大數,因此大多數情況下,采用varint后,可以用更小的字節(jié)數來表示數字信息。
varint中的每個字節(jié)的最高位(bit)有特殊含義,如果該位為1,表示后續(xù)的字節(jié)也是這個數字的一部分,如果該位為0,則結束。其他的7位(bit)都表示數字。7位能表示的最大數是127,因此小于128的數字都可以用一個字節(jié)表示。大于等于128的數字,比如說300,會用兩個字節(jié)在內存中表示為:
低 ? ? ? ? ? ? ? 高
1010 1100 0000 0010
實現過程如下:
300的二進制為100101100,取低7位也就是010 1100放在內存低字節(jié)中,由于第二個字節(jié)也是數字的一部分,因此內存低字節(jié)的最高位為1,則完整的內存低字節(jié)為1010 1100。300的高2位也就是10放到內存的高字節(jié)中,因為數字到該字節(jié)結束,因此該字節(jié)包括最高位的其他6位都用0填充,則完整的內存高字節(jié)為0000 0010。
正常情況下,int需要32位,varint用一個字節(jié)的最高位作為標識位,所以,一個字節(jié)只能存儲7位,如果整數特別大,可能需要5個字節(jié)才能存放(5*8-5(標志位)>32),下面if語句的第五個分支就是處理這種情況。

char*?EncodeVarint32(char*?dst,?uint32_t?v)?{
??//?Operate?on?characters?as?unsigneds
??unsigned?char*?ptr?=?reinterpret_cast(dst);
??static?const?int?B?=?128;
??if?(v?<?(1<<7))?{???????????????//如果v小于128
????*(ptr++)?=?v;
??}?else?if?(v?<?(1<>7;??????????????//把300(0000?0001?0010?1100)右移7位得到000?0000?0000?0001?0,給內存高字節(jié)。
??}?else?if?(v?<?(1<>7)?|?B;
????*(ptr++)?=?v>>14;
??}?else?if?(v?<?(1<>7)?|?B;
????*(ptr++)?=?(v>>14)?|?B;
????*(ptr++)?=?v>>21;
??}?else?{
????*(ptr++)?=?v?|?B;
????*(ptr++)?=?(v>>7)?|?B;
????*(ptr++)?=?(v>>14)?|?B;
????*(ptr++)?=?(v>>21)?|?B;
????*(ptr++)?=?v>>28;
??}
??return?reinterpret_cast(ptr);
}

對于64位整型,我們最多需要10個字節(jié)(10*8-10(標志位)>64),如果像EncodeVarint32一樣寫代碼,需要有10個if分支,大??隙]這么勤快。其實EncodeVarint32也可以像EncodeVarint64這么寫。

char*?EncodeVarint64(char*?dst,?uint64_t?v)?{
??static?const?int?B?=?128;
??unsigned?char*?ptr?=?reinterpret_cast(dst);
??while?(v?>=?B)?{
????*(ptr++)?=?(v?&?(B-1))?|?B;
????v?>>=?7;
??}
??*(ptr++)?=?static_cast(v);
??return?reinterpret_cast(ptr);
}

下面的函數是計算整型編碼后的長度,也就是varint的長度。


int?VarintLength(uint64_t?v)?{
??int?len?=?1;
??while?(v?>=?128)?{
????v?>>=?7;
????len++;
??}
??return?len;
}

三.varint解碼

解了編碼的原理,再來看解碼就很輕松了,直接調用GetVarint32Ptr函數,該函數處理value < 128的情況,即varint只占一個字節(jié)的情況,對于varint 大于一個字節(jié)的情況,GetVarint32Ptr調用GetVarint32PtrFallback來處理。

inline?const?char*?GetVarint32Ptr(const?char*?p,
??????????????????????????????????const?char*?limit,
??????????????????????????????????uint32_t*?value)?{
??if?(p?<?limit)?{
????uint32_t?result?=?*(reinterpret_cast(p));
????if?((result?&?128)?==?0)?{
??????*value?=?result;
??????return?p?+?1;
????}
??}
??return?GetVarint32PtrFallback(p,?limit,?value);
}

在GetVarint32Ptr和GetVarint32PtrFallback函數中,參數p是指向一個包含varint的字符串,limit在調用的時候都是賦值為limit= p + 5, 這是因為varint最多占用5個字節(jié)。value用于存儲返回的int值。

const?char*?GetVarint32PtrFallback(const?char*?p,
???????????????????????????????????const?char*?limit,
???????????????????????????????????uint32_t*?value)?{
??uint32_t?result?=?0;
??for?(uint32_t?shift?=?0;?shift?<=?28?&&?p?<?limit;?shift?+=?7)?{
????uint32_t?byte?=?*(reinterpret_cast(p));
????p++;
????if?(byte?&?128)?{
??????//?More?bytes?are?present
??????result?|=?((byte?&?127)?<<?shift);
????}?else?{
??????result?|=?(byte?<<?shift);
??????*value?=?result;
??????return?reinterpret_cast(p);
????}
??}
??return?NULL;
}

64位的解碼與32位的類似。


本站聲明: 本文章由作者或相關機構授權發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內容真實性等。需要轉載請聯(lián)系該專欄作者,如若文章內容侵犯您的權益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或將催生出更大的獨角獸公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數字化轉型技術解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關鍵字: AWS AN BSP 數字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術公司SODA.Auto推出其旗艦產品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關鍵字: 汽車 人工智能 智能驅動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務能7×24不間斷運行,同時企業(yè)卻面臨越來越多業(yè)務中斷的風險,如企業(yè)系統(tǒng)復雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務連續(xù)性,提升韌性,成...

關鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據媒體報道,騰訊和網易近期正在縮減他們對日本游戲市場的投資。

關鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數據產業(yè)博覽會開幕式在貴陽舉行,華為董事、質量流程IT總裁陶景文發(fā)表了演講。

關鍵字: 華為 12nm EDA 半導體

8月28日消息,在2024中國國際大數據產業(yè)博覽會上,華為常務董事、華為云CEO張平安發(fā)表演講稱,數字世界的話語權最終是由生態(tài)的繁榮決定的。

關鍵字: 華為 12nm 手機 衛(wèi)星通信

要點: 有效應對環(huán)境變化,經營業(yè)績穩(wěn)中有升 落實提質增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務引領增長 以科技創(chuàng)新為引領,提升企業(yè)核心競爭力 堅持高質量發(fā)展策略,塑強核心競爭優(yōu)勢...

關鍵字: 通信 BSP 電信運營商 數字經濟

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術學會聯(lián)合牽頭組建的NVI技術創(chuàng)新聯(lián)盟在BIRTV2024超高清全產業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現場 NVI技術創(chuàng)新聯(lián)...

關鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(集團)股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關鍵字: BSP 信息技術
關閉
關閉