引 言
視頻運動目標跟蹤作為當前計算機領域最為熱門的技術(shù)之一,對視頻中目標行為能夠進行準確地追蹤定位,而且隨著算法的不斷更新,目標跟蹤理論也越來越完善,應用的領域涉及智能視頻監(jiān)控、無人機偵察、智能駕駛等。簡單來說, 目標跟蹤就是在第一幀時給出目標的初始位置,利用跟蹤算法計算出后續(xù)每幀圖像中目標的位置信息。理論上來說,目標跟蹤能夠進行實時的跟蹤,但是在實際應用中,由于光照、遮擋、尺度變化等因素,很容易導致目標丟失。
通常,從構(gòu)建目標模型的角度可將目標跟蹤算法分為生成式方法和判別式方法。
生成式方法對目標進行特征提取以及模型構(gòu)建,在下一幀中找到與模型相似的區(qū)域即為目標的預測區(qū)域。
判別式方法將跟蹤問題歸結(jié)于二分類問題,主要研究如何將目標和背景區(qū)分出來。
比較兩種方法,判別式方法更能適應背景變化等復雜問題。判別式方法近年來不斷被改進,在技術(shù)方面有了極大的突破,研究人員不斷地從特征、尺度等方面改進算法,使得目標跟蹤更加適應復雜多變的環(huán)境。
本文將從 3 個方面介紹目標跟蹤的發(fā)展歷程,分別為經(jīng)典的目標跟蹤算法、基于相關濾波的跟蹤算法、基于深度學習的算法,最后對跟蹤領域的發(fā)展趨勢進行展望。
1 經(jīng)典的目標跟蹤算法
經(jīng)典的目標跟蹤算法主要包括均值漂移算法 [1]、卡爾曼濾波算法 [2] 和粒子濾波算法 [3]?;诰灯频母櫵惴ê唵斡行В瑢πD(zhuǎn)等問題有較好的魯棒性。均值漂移算法在目標被遮擋時,對中心位置進行分塊加權(quán)處理,有效地屏蔽了錯誤位置信息對跟蹤結(jié)果的影響。均值漂移算法引入高斯核函數(shù)讓低維不可分數(shù)據(jù)變成高維可分數(shù)據(jù),簡化了計算,但是針對尺度變化等問題不能得到較好的跟蹤結(jié)果。
在基于概率推導的目標跟蹤算法中,粒子濾波和卡爾曼濾波有效地解決了遞歸貝葉斯濾波概率在實際應用中很難獲得最優(yōu)解的問題。當貝葉斯濾波中存在線性時變函數(shù),噪聲為高斯形式時,卡爾曼濾波對數(shù)據(jù)進行最優(yōu)化處理,得到目標最優(yōu)狀態(tài)估計 ;當噪聲不符合高斯分布時,粒子濾波采用序列蒙特卡羅的濾波方法得到目標最優(yōu)位置分析。卡爾曼濾波和粒子濾波這兩種經(jīng)典的運動模型能夠準確地計算出視頻中目標的預測區(qū)域,提高了目標跟蹤的準確率。
2 基于相關濾波的跟蹤算法
相關濾波跟蹤算法實質(zhì)上是根據(jù)第一幀目標樣本訓練濾波器,利用濾波器搜索目標所在的區(qū)域,根據(jù)響應值判斷目標位置,并且在跟蹤過程中不斷更新濾波器。相比于傳統(tǒng)的跟蹤算法,基于相關濾波的跟蹤算法利用快速傅里葉變換將濾波過程從時域轉(zhuǎn)到頻域進行計算,極大地提高了跟蹤速度。
首次提出用于跟蹤算法的相關濾波器是由 Bolme 等提出的最小均方誤差濾波器(Minimum Output Sum of Squared Error,MOSSE)。MOSSE 算法提取灰度特征 [4]時,采用一種自適應訓練策略,以最大響應值作為目標中心。后續(xù)的相關濾波跟蹤算法在 MOSSE 算法的基礎上從特征表達、尺度自適應、解決邊界效應問題等方面進行一系列的改進。
2.1 特征改進
Henriques等提出核相關濾波算法(KernelCorrelation Filter,KCF)。KCF將 MOSSE中單通道的灰度特征拓展到了 31維的方向梯度直方圖(HistogramofOrientedGradient, HOG)特征,提高了相關濾波跟蹤算法的魯棒性 [5]。KCF 算法引入核函數(shù),利用循環(huán)矩陣特有的傅里葉空間對角化性質(zhì) 來簡化計算,從而提升了算法的執(zhí)行效率。顏色命名(Color Name,CN)算法是由 Danelljan等提出,算法主要特點有 : 將 RGB顏色空間轉(zhuǎn)換成 CN顏色空間,降低光照、遮擋對顏色失真的影響程度 [6];引入貝葉斯公式,區(qū)分前景與背景, 大大降低了背景的干擾程度。Zhu等提出利用不同顏色的空間梯度來描述目標,將 RGB圖像轉(zhuǎn)變?yōu)轭伾臻g,隨后收集各通道的HOG特征,豐富了算法對目標的特征表達能力[7]。在特征融合方面,Bertinetto等提出在響應階段把 HOG特征和簡單顏色直方圖兩種特征結(jié)合在一起,將濾波響應圖和概 率圖以一定的比例結(jié)合在一起,根據(jù)得分圖來定位目標,兩 種特征的結(jié)合使得該方法對光照、形變、運動模糊都具有很 好的魯棒性 [8]。
2.2 尺度自適應算法
為了解決尺度變化問題,Danelljan等提出的判斷尺度空間跟蹤器(DiscriminativeScaleSpaceTracker,DSST)在核相關濾波算法的基礎上引入了尺度估計 [9]。DSST算法除了用于估計目標中心的平移濾波器外,還單獨訓練了一個一維的尺度濾波器,估計出目標在當前幀的位置中心后,在當前位置處提取多個不同大小的圖像塊,并使用尺度濾波器進行尺度估計,以最大響應對應的尺度作為最優(yōu)尺度。DSST算法不僅對尺度的處理方式快速有效,而且尺度模塊還可以遷移到任意算法中。
Li等提出一種具有特征集成的尺度自適應核相關濾波跟蹤器 [10],主要的特點有 :將單一的特征擴展為多特征,即融合了灰度、CN和 HOG 特征,算法性能有很明顯的提高 ;引入尺度池的方法,在比較階段對候選區(qū)域的目標分別做 7個尺度的估計,與上一幀進行比較,最大響應值對應的尺度因子作為當前幀目標的尺度,實現(xiàn)尺度自適應。Huang等人提出將目標檢測算法和 KCF算法結(jié)合在一起的算法 [11]。KCF 算法負責目標位置的初步估計,使用邊緣框在目標附近搜索, 進行搜索后會產(chǎn)生候選區(qū)域,對候選區(qū)域進行評估和檢測選取最終目標位置。
Li等提出積分邊界和中心相關濾波器跟蹤算法(IntegratingBoundaryandCenterCorrelationFilters,IBCCF),該算法采用二維濾波器和一維邊界濾波器相結(jié)合的框架來解決尺度的問題 [12]。主要思路是利用中心和 4 個邊界的近正交性,將近正交性正則化加入到損失函數(shù)中進行求解。在進行參數(shù)更新時,先利用奇異值分解得到一個參數(shù)的近似解,然后更新其他參數(shù),最終獲得解決方案。IBCCF 算法有效地解決了尺度變化問題,但是計算冗余,極大地影響了跟蹤速度。
2.3 處理邊界效應問題
為了解決邊界效應問題,較早的解決方法是由 Danelljan 等 提 出 的 空 間 約 束 相 關 濾 波 器 (Spatially Regularized Correlation Filter,SRDCF)[13] 。 相 比 于 KCF 等 算 法 , SRDCF 算法加大了搜索區(qū)域, 采用空域正則化對濾波器邊界函數(shù)加大權(quán)重約束,并進行迭代優(yōu)化,分類器能夠更準確地進行追蹤。Kiani 等提出有限邊界的相關濾波器算法(Correlation Filters with Limited Boundaries,CFLB), 該算法采用單通道灰度特征,速度較快,但是算法性能并不理想 [14]。在 CFLB 算法中使用了較大的檢測圖像和作用域較小的濾波器,同時循環(huán)移位樣本左乘掩模矩陣,掩模矩陣是在原循環(huán)移位樣本大圖像塊中裁剪出小圖像塊,使得總體循環(huán)移位樣本減少,真實樣本增多。
除此之外,隨著深度學習技術(shù)的興起,研究者們開始將深度特征與相關濾波算法進行結(jié)合,進一步提高了相關濾波跟蹤算法的跟蹤性能。
3 基于深度學習的跟蹤算法
近年來,深度學習應用在目標跟蹤領域取得了極大的成功?;谏疃葘W習的跟蹤算法主要分為兩類 :一類是結(jié)合深度特征和相關濾波設計跟蹤算法 ;另一類是基于深度網(wǎng)絡對目標進行端到端的跟蹤。
3.1 深度特征結(jié)合相關濾波
Ma 等提出的 HCF 算法使用 VGGNet-19 作為特征提取器,對輸入的圖像提取多層卷積特征分別訓練相關濾波器,在判別階段將經(jīng)過 3 個相關濾波得到的響應圖進行加權(quán),得到最終的響應圖,并通過最大響應定位目標中心 [15]。VGGNet-19 不同層次輸出的特征分別具有不同的特點。HCF 針對 VGGNet-19 的各層特征的特點,由粗粒度到細粒度, 最終準確定位目標的中心點,以一種簡潔的方式將卷積特征與相關濾波有效地結(jié)合了起來。
Danelljian 等在 SRDCF 的基礎上加入深度特征,雖然提高了算法性能,但由于深度特征的提取速度較慢,導致算法的實時性較差 [16]。連續(xù)域卷積相關濾波跟蹤算法(Continuous Convolution Operators for visual Tracking,C-COT)[17] 在 連續(xù)空間域中學習濾波器模型,該算法允許多分辨率特征圖的自然整合,對子像素能夠進行更精確的定位。Danelljan 等對 C-COT 算法進行了改進, 提出高效卷積操作(Efficient Convolution Operators,ECO)提高 C-COT 算法的跟蹤速度 [18]。ECO 算法實現(xiàn)了傳統(tǒng)的人工特征和卷積特征的融合, 從特征維度、樣本、模板更新等方面去除冗余操作。具體來說,ECO 算法采用了間隔多幀進行一次更新的策略,進一步提高了算法的效率 ;使用主成分分析方法,對所融合的卷積特征、HOG 特征及 CN 特征進行大幅的降維,極大地提高了算法的執(zhí)行效率 ;采用高斯混合模型既可以保持訓練集的有效性,又可以防止訓練集的不斷擴大。
3.2 端到端的深度網(wǎng)絡跟蹤
不同于深度特征結(jié)合相關濾波的算法,Nam 等提出一種新思路,訓練了一個多域?qū)W習的網(wǎng)絡結(jié)構(gòu)(Multi-Domain Network,MDNet),端到端地解決跟蹤問題 [19]。MDNet 算法中使用大量跟蹤視頻對網(wǎng)絡進行預訓練,以獲得通用的目標表示。網(wǎng)絡由共享層和多分支的特定域?qū)咏M成,其中,域?qū)讵毩⒌挠柧毜燃?,并且每個分支負責一個二分類去識別每個域中的目標,算法針對每個域迭代的訓練網(wǎng)絡來獲得共享層中的通用目標表示。當跟蹤一個新的視頻序列中的目標時,MDNet 算法更新特定域?qū)樱Y(jié)合預訓練的共享層組成新的端到端網(wǎng)絡,回歸目標框的位置。與現(xiàn)有跟蹤基準中的最新方法相比,所提出的算法表現(xiàn)出優(yōu)異的性能。
4 結(jié) 語
視頻運動目標跟蹤算法發(fā)展至今,在特征表達、處理尺度變化、解決遮擋問題等方面都取得了長足的進步,顯著提升了算法的跟蹤精度和跟蹤速度。目前,運動目標跟蹤算法在目標跟蹤領域存在的主要問題 :
(1) 如何提升深度特征結(jié)合相關濾波算法的跟蹤速度 ;
(2) 如何訓練出更適合于目標跟蹤問題的端到端模型。
可以預見的是,相關濾波和深度學習的結(jié)合仍會是領域內(nèi)的研究熱點,未來如何充分發(fā)揮其各自優(yōu)勢,從而進一步提高跟蹤性能,值得期待。