基于FPGA的彩色圖像Bayer變換實(shí)現(xiàn)
圖像工程在國(guó)防、教育、金融、醫(yī)療、印刷、智能交通、工業(yè)自動(dòng)化、消費(fèi)類電子等許多領(lǐng)域獲得了廣泛應(yīng)用,發(fā)展十分迅速。眾所周知,圖像傳感器作為圖像系統(tǒng)的重要部件,基本分為兩類:CCD sensor或CMOSsensor。兩者都是利用感光二極管(photodiode)進(jìn)行光電轉(zhuǎn)換,將圖像轉(zhuǎn)換為數(shù)字?jǐn)?shù)據(jù),而其主要差異是數(shù)據(jù)傳送的方式不同。
sensor3彩色數(shù)字相機(jī)需要3個(gè)單色sensor獲得彩色圖像的R,G,B分量,成本較高。單CCD獲得彩色圖像的方法是在CCD表面覆蓋1個(gè)只含紅、綠、藍(lán)3色的馬賽克濾鏡,對(duì)其輸出信號(hào)通過(guò)一定的處理算法實(shí)現(xiàn)。這個(gè)設(shè)計(jì)理念最初由拜爾提出,所以這種濾鏡也被稱作拜爾模板(bayer pattern)。
LatticeECP FPGA將高效的FPGA結(jié)構(gòu)和高速的專用功能集于一身。LatticeECP-DSP(Economy plus DSP)是其中的第1個(gè)產(chǎn)品系列,它在芯片上集成了專用的高性能DSP塊。LatticeECP-DSP器件最適合用在具有成本優(yōu)勢(shì)的DSP功能應(yīng)用系統(tǒng)中,比如由軟件定義的無(wú)線電、無(wú)線通信、軍事、圖像和視頻處理系統(tǒng)等。
l Bayer插值方法
Bayer Pattern的排列格式如圖1所示。
盡管通過(guò)帶有Bayer濾鏡的單sensor相機(jī)采集的原始圖像帶有R,G,B三基色分量,但是不能不加任何算法處理.僅簡(jiǎn)單地將3種分量分離。這樣不僅圖像分辨率很差,而且各像素點(diǎn)的三基色分量比例與被攝目標(biāo)相比,失真也很嚴(yán)重。在圖2中,圖2(a)為原始彩色圖像;圖2(b)為僅取紅色分量,以灰度模式顯示的圖像;圖2(c)為僅取綠色分量,以灰度模式顯示的圖像;圖2(d)為僅取藍(lán)色分量,以灰度模式顯示的圖像。將圖2(b)~(d)圖像簡(jiǎn)單疊加后,即可得到原始圖像圖2(a)??墒荂CD或CMOS sensor采集的原始Bayer圖像是不符合這種分離原則的,必須經(jīng)過(guò)一定的圖像算法實(shí)現(xiàn)。
在圖像處理領(lǐng)域廣泛應(yīng)用的Bayer插值方法有多種,M.C.Poilpre對(duì)JPEG圖像的處理;H.S.Malvar,等的線性插值法;Remi Jean的像素雙插值法以及T.Guseo的低分辨率圖像處理。具有代表性的有3種:雙線性插值法、Ron Kimmel方法和OptimalRecovery方法。這三種方法各有優(yōu)劣。
1.1 雙線性插值法
如圖3所示,每個(gè)像素位置原本僅有一種彩色分量,缺少的2種彩色分量由3×3鄰域內(nèi)具有相同顏色分量的像素平均值獲得。圖3中B7和G3處像素的R,G,B分量由下式計(jì)算:
雙線性插值法具有運(yùn)算簡(jiǎn)單,易于實(shí)現(xiàn)的優(yōu)點(diǎn)。其本質(zhì)是一低通濾波器,缺點(diǎn)是忽略了不同彩色分量之間的相關(guān)信息以及圖像的邊緣。這樣,錯(cuò)誤數(shù)據(jù)在復(fù)原的圖像邊緣會(huì)造成模糊甚至出現(xiàn)顏色混疊。
1.2 Ron Kimmel方法
Ron Kimmel方法對(duì)于綠色像素,計(jì)算該點(diǎn)在各個(gè)方向的梯度,然后對(duì)梯度值加權(quán)進(jìn)行平均;對(duì)紅色和藍(lán)色像素分量,取則紅色和藍(lán)色分量對(duì)綠色的比值進(jìn)行加權(quán)平均。這種方法可以顯著改善圖像中物體邊緣的顏色混疊。
1.3 Optimal Recovery方法
Optimal Recovery方法計(jì)算復(fù)雜度較高,但也是目前公開(kāi)發(fā)表的圖像質(zhì)量最佳的算法。一般的嵌入式系統(tǒng)很難實(shí)時(shí)完成。本文圖像處理系統(tǒng)采用Lattice的FPGA芯片LFECPRIM50,充分利用FPGA的天然并行結(jié)構(gòu),實(shí)時(shí)(1 208×1 024圖像,12幀/s)實(shí)現(xiàn)Bayer轉(zhuǎn)換算法,收到了很好的效果。Optimal Recovery算法如下:
(1)如圖4所示,完成圖中所示P5處綠色像素插值盡可能利用精細(xì)尺度模式。
(2)計(jì)算藍(lán)色分量需要2步:
1.4 峰值信噪比PSNR
峰值信噪比PSNR和歸一化色彩差NCD的計(jì)算公式分別為:
式中:MSE是原圖像與處理圖像之間均方誤差(mean square error);I表示原圖像第n個(gè)像素值;P表示處理后的圖像第n個(gè)像素值;Fram-esize表示圖像大小,如l 280×1 024;PSNR值越大,就代表失真越少。
2 結(jié)果分析
經(jīng)過(guò)實(shí)時(shí)圖像采集系統(tǒng)獲取的圖像如圖5所示,其中圖5(a1)。(b1),(c1)為經(jīng)過(guò)插值變換的圖像,色彩明亮,主觀感覺(jué)良好。圖5(a2),(b2),(c2)為采集的原始Bayer圖像,局部放大后可看到原始的馬賽克效應(yīng),如圖5中(a3),(b3),(c3)所示。峰值信噪比計(jì)算結(jié)果見(jiàn)表1,其中PSNRl為雙線性插值法,PSNR2為Optimal Recovery方法。
3 結(jié)語(yǔ)
目前FPGA技術(shù)發(fā)展很快,內(nèi)部資源越來(lái)越豐富,性價(jià)比不斷提高。充分發(fā)掘FPGA資源的潛力,盡可能將圖像預(yù)處理算法在系統(tǒng)的前端完成,這必將大大提高系統(tǒng)的實(shí)時(shí)特性,拓展嵌入式系統(tǒng)的應(yīng)用領(lǐng)域。盡管著眼點(diǎn)是彩色圖像的Bayer插值變換,但對(duì)于其他使用FPGA器件的嵌入式系統(tǒng)設(shè)計(jì)方法也有積極的借鑒意義。