通過LabVIEW圖形化開發(fā)平臺有效優(yōu)化多核處理器環(huán)境下的信號處理性能

多核處理器環(huán)境下的編程挑戰(zhàn)
摩爾定律問世40余年來，人們業(yè)已看到半導(dǎo)體芯片制造工藝水平以一種令人目眩的速度在提高，Intel微處理器的最高主頻甚至超過了4G。雖然主頻的提升一定程度上提高了程序運行效率，但越來越多的問題也隨之出現(xiàn)，耗電、散熱都成為阻礙設(shè)計的瓶頸所在，芯片成本也相應(yīng)提高。當單獨依靠提高主頻已不能實現(xiàn)性能的高效率時，雙核乃至多核成為了提高性能的唯一出路。隨著AMD率先打破摩爾定律、終結(jié)頻率游戲后，Intel和AMD都開始逐步推出了基于雙核、四核甚至八核的處理器，工程師們逐漸投入到基于多核處理器的新型應(yīng)用開發(fā)中去時，大家開始發(fā)現(xiàn)，借助這些新的多核處理器，并在應(yīng)用開發(fā)中利用并行編程技術(shù)，可以實現(xiàn)最佳的性能和最大的吞吐量，大大提高應(yīng)用程序的運行效率。
然而，業(yè)界專家們也同時認識到，對于實際的編程應(yīng)用，多核處理器的并行編程卻是一個巨大的挑戰(zhàn)。比爾蓋茨是這樣論述的：
 “要想充分利用并行工作的處理器的威力，…軟件必須能夠處理并發(fā)性問題。但正如任何一位編寫過多線程代碼的開發(fā)者告訴你的那樣，這是編程領(lǐng)域最艱巨的任務(wù)之一?！?br />比如用C++寫一個多線程的程序，程序員必須要非常熟悉 C++，了解如何將C++程序分成多個線程和并在各個線程間進行任務(wù)調(diào)度，此外還要了解 Windows 多線程的機制，熟悉 Windows API 的調(diào)用方法和MFC 的架構(gòu)等等。在 C++ 上調(diào)試多線程程序，更是被很多程序員視為噩夢。
所以，對于測試測量行業(yè)的工程師來說，在傳統(tǒng)開發(fā)環(huán)境下要想獲得多核下的效率提升意味著大量而復(fù)雜的多線程編程任務(wù)，而使得工程師脫離了自動化測試及其信號處理任務(wù)本身，于是，要想在當前的多核機器上充分利用其架構(gòu)和并行運算的優(yōu)勢，反而成為工程師們“不可能”完成的任務(wù)。
LabVIEW降低并行編程的復(fù)雜性，快速開發(fā)并行構(gòu)架的信號處理應(yīng)用
幸運的是，NI LabVIEW圖形化開發(fā)平臺為我們提供了一個理想的多核處理器編程環(huán)境。作為一種并行結(jié)構(gòu)的編程語言，LabVIEW能將多個并列的程序分支自動分配成多個線程并分派到各個處理核上，讓一些計算量較大的數(shù)學(xué)運算或信號處理應(yīng)用得以提高運行效率，并獲取最佳性能。
我們以自動化測試中最常見的多通道信號處理分析為例。由于多通道中的頻率分析是一項占用處理器資源較多的操作，如果能夠讓程序并行地將每個通道的信號處理任務(wù)分配至多個處理器核，對于提高程序執(zhí)行速度來說，就顯得尤為重要。而目前，從LabVIEW編程人員的角度來看，要想獲得這一原本“不可能”的技術(shù)優(yōu)勢，唯一需要改變的只是算法結(jié)構(gòu)的細微調(diào)整，而并不需要復(fù)雜且耗時耗力的代碼重建工作。
以雙通道采樣為例，我們需要分別對高速數(shù)字化儀的兩個通道上的數(shù)據(jù)進行快速傅立葉變換(FFT)。假設(shè)我們采用的高速數(shù)字化儀的兩個通道均以100 MS/s采樣率采集信號并實時分析。首先，我們來看LabVIEW中對于這一操作的傳統(tǒng)順序編程模型。
 
圖1. 利用順序執(zhí)行的LabVIEW代碼
和其他文本編程語言一樣，處理多通道信號的傳統(tǒng)方法是將各個通道信號按順序讀入并逐通道的進行分析，上面基于LabVIEW的順序編程模型很好的說明了這點，0、1兩通道的數(shù)據(jù)被按順序讀入后，整合為一路數(shù)組，并由一個FFT函數(shù)進行信號分析并輸出。雖然順序結(jié)構(gòu)能夠順利地在多核機器上運行，但確不能使得CPU負擔得到有效的分攤，因為即使在雙核的機器上， FFT程序也只能在一個CPU上被執(zhí)行，而此時另一個CPU卻被閑置了。
實際上，兩個通道的FFT運算相互獨立，如果程序能夠?qū)蓚€FFT自動分配到一臺雙核機器上的的兩個CPU上，那么理論上程序的運行效率將提高一倍。在LabVIEW的圖形化編程平臺上，情況正是如此，我們可以通過并行化處理這兩個通道來真正提高算法性能。圖2表示了一種采用并行結(jié)構(gòu)的LabVIEW代碼，從圖形化編程的角度來看，僅僅是增加了一路并行的FFT函數(shù)而已。
 
圖2. 利用并行執(zhí)行的LabVIEW代碼
由于數(shù)據(jù)量越大，信號處理運算在工程應(yīng)用中所占的處理器時間就越長，所以通過簡單的程序改動將原來的信號處理程序并行化，可以改善程序性能，減少了總的執(zhí)行時間。
 
圖3. 對于大于1M采樣（100 Hz精度帶寬）的數(shù)據(jù)塊，并行方式實現(xiàn)了80%或更高的性能增長。
圖3描述了性能隨采集數(shù)據(jù)塊大?。ㄒ圆蓸訑?shù)為單位）增大而提高的精確百分比。事實上，對于更大的數(shù)據(jù)塊，并行算法方法確實實現(xiàn)了近2倍的性能改進。工程師們不需要創(chuàng)建特殊的代碼來支持多線程，在多核處理器環(huán)境下，只需通過最少的編程調(diào)整，利用LabVIEW自動分配每一個線程到多核處理器的特性，可以方便的實現(xiàn)信號處理能力的大幅度提升，從而達到了自動化測試應(yīng)用的性能改進。
程序性能的進一步優(yōu)化
LabVIEW并行的信號處理算法不僅幫助工程師提高程序性能，而且可以更清楚的劃分多個處理器核在項目中的不同用途。比如，將控制采樣輸入，顯示輸出和信號分析的模塊獨立分開。
以HIL(Hareware-in-the-loop)或在線信號處理應(yīng)用為例。首先，使用高速數(shù)字化儀或高速數(shù)字I/O模塊來采集信號，并在軟件中執(zhí)行數(shù)字信號處理算法。然后，通過另一個模塊化儀器生成結(jié)果。常見HIL應(yīng)用包括在線數(shù)字信號處理（如濾波、插值等等）、傳感器仿真和定制組件模擬等等。
一般來說，HIL可以使用兩種基本的編程結(jié)構(gòu)來完成，單循環(huán)結(jié)構(gòu)和帶有隊列的流水線式多循環(huán)結(jié)構(gòu)。單循環(huán)結(jié)構(gòu)實現(xiàn)簡單，對于小數(shù)據(jù)塊具有較低時延，但單循環(huán)結(jié)構(gòu)受限于各個環(huán)節(jié)的順序結(jié)構(gòu)而無法實現(xiàn)并發(fā)性，例如，由于處理器只能執(zhí)行一個函數(shù)，在處理數(shù)據(jù)的同時就無法執(zhí)行儀器IO，所以單循環(huán)結(jié)構(gòu)無法有效利用多核CPU的優(yōu)勢。相比之下，多循環(huán)結(jié)構(gòu)則能夠更好的利用到多核處理器，從而支持高得多的吞吐量。
對于一項多循環(huán)結(jié)構(gòu)的HIL應(yīng)用來說，可以通過三個獨立的while循環(huán)和兩個隊列結(jié)構(gòu)，實現(xiàn)其間的數(shù)據(jù)傳遞。在此情況下，第一個循環(huán)從儀器采集數(shù)據(jù)，第二個循環(huán)專門執(zhí)行信號處理分析，而第三個循環(huán)將數(shù)據(jù)寫入到另一臺儀器。這樣的處理方式，也被稱之為流水線式信號處理(pipeline)。
 
圖4.帶有多個循環(huán)與隊列結(jié)構(gòu)的流水線式信號處理。
圖4中，最上面的循環(huán)是一個生產(chǎn)者（Producer）循環(huán)，它從一個高速數(shù)字化儀采集數(shù)據(jù)，并將其傳遞至第一個隊列結(jié)構(gòu)（FIFO）。中間的循環(huán)同時作為生產(chǎn)者和消費者（Consumer）工作。每次迭代中，它從隊列結(jié)構(gòu)中接收（消費）若干個數(shù)據(jù)集，并以流水線的方式獨立為四個不同數(shù)據(jù)塊的內(nèi)容進行7階低通濾波的處理，同時中間的循環(huán)也作為一個生產(chǎn)者工作，將處理后的數(shù)據(jù)傳遞至第二個隊列結(jié)構(gòu)。最后，最下面的循環(huán)將處理后的數(shù)據(jù)寫入至高速數(shù)字I/O模塊。于是，在多核的系統(tǒng)下， LabVIEW能夠自動地將上面的程序結(jié)構(gòu)中獨立運行的的不同循環(huán)分配在不同的處理器上，同時，還可以根據(jù)CPU的運行情況將中間循環(huán)中四個數(shù)據(jù)塊的信號處理任務(wù)也分配在不同的處理器上，實現(xiàn)了在多核處理器環(huán)境下的性能改進。
并行處理算法改善了多核CPU的處理器利用率。事實上，總吞吐量取決于兩個因素，處理器利用率和總線傳輸速度。通常，CPU和數(shù)據(jù)總線在處理大數(shù)據(jù)塊時工作效率最高。而且，我們可以進一步使用具有更快傳輸速度的PXI(PCI) Express儀器，來減小數(shù)據(jù)傳輸時間。
利用NI強大的并行性計算的優(yōu)勢以及PCIe高速數(shù)據(jù)流傳輸加上Intel的多核技術(shù)，在DELL的PowerEdge 2950八核處理器上，以10KHz(2.56MB/s)的速率同步采樣并處理128個通道的數(shù)據(jù)，NI幫助ASDEX Tokamak——德國最先進的核聚變裝置，完成了“不可能完成的任務(wù)”——為了保證Tokamak裝置中等離子體的高速穩(wěn)定的運轉(zhuǎn)，將其裝置外壁上的88個磁感應(yīng)器上的大量數(shù)據(jù)轉(zhuǎn)換成64*128個點格上的偏微分方程組，并同時在短短的1ms內(nèi)完成了整個計算過程！
正如德國開發(fā)負責人Dr. Louis Giannone所說的：
“利用LabVIEW編程所完成的并行化應(yīng)用控制，我們在8核機器上將速度提高了5倍，使得我們成功達到1ms閉環(huán)控制速率的要求！”。