在嵌入式軟件開發(fā)過程中,花在測試和花在編碼的時間比通常在3:1左右(實際上可能更多)。這個比例會隨著工程師編程、測試水平的提高而不斷下降,但無論如何,軟件測試都是嵌入式軟件開發(fā)中至關重要的部分。
在嵌入式計算機軟件測試中,由宿主機將軟件測試數(shù)據(jù),通過移動通信技術,發(fā)送到目標機之中。
為了能夠進行更為準確的測試,可以將一些故障輸入到目標機中,針對受測計算機軟件的某一個模塊進行充分的測試。
嵌入式計算機軟件測試在運行時,為了能夠快速處理大量的信息,對計算機硬件有著較高的要求,因而在運行嵌入式計算機軟件的時候,應考慮到這一問題,對受測計算機軟件進行內存分析,測試受測計算機軟件對內存的需求,是否能夠合理的分配和調用內存,調用內存時是否會出現(xiàn)內存不足,受測計算機軟件運行卡頓的問題。通過運行內存分析技術,可以發(fā)現(xiàn)受測計算機軟件的優(yōu)化程度和流暢性。
對目標機進行性能分析技術,主要是通過宿主機向目標機發(fā)送數(shù)據(jù),然后在目標機上,實際運行受測試的嵌入式計算機軟件。
如可以將受測計算機軟件的某一功能,如圖片識別、信息處理等,就其常發(fā)故障進行分析,然后將故障信息輸入到目標機之中,觀察故障信息在目標機中的運行狀況,并進行相關的記錄,判定受測計算機軟件是否易發(fā)生類似故障。
多年前,一位工程師為了對嵌入式擁有更深層次理解的追求,曾發(fā)出這樣的疑問:“我怎么才能知道并懂得我的系統(tǒng)到底在干些什么呢?”。同時代的嵌入式開發(fā)人員問得最多的問題大都圍繞“我怎么才能使程序跑得更快”、“什么編譯器最好”,這個問題雖然不同尋常,但卻異乎成熟。今天就讓我們一起了解10條在業(yè)界廣為流傳的嵌入式開發(fā)測試秘訣。
1.懂得使用工具
嵌入式系統(tǒng)通常對可靠性要求較高,一旦發(fā)生安全問題可能就會導致災難性的后果,即使與安全無關也會帶來嚴重的經(jīng)濟損失,對嵌入式系統(tǒng)及軟件有著嚴格的測試、確認和驗證要求。隨著越來越多的領域的嵌入式設備開始被軟件和微處理器控制,對日益復雜的嵌入式軟件進行快速有效的測試顯得愈加重要。
好的修車匠需要好工具,好的程序員應該能夠熟練運用各種軟件工具。不同的工具有不同的使用范圍、功能。合適的工具可以讓工程師看到系統(tǒng)在干些什么,它又占用什么資源、到底和外界哪些東西打交道。工程師不應該害怕加入測試工具或測試模塊到代碼需要的技巧或可能引入新的錯誤,光靠不斷修改、重新編譯代碼來消除Bug是不夠的;也不應該因習慣使用printf之類的簡單測試手段而不進行新的學習和探索。下面是一些嵌入式常用的測試工具。
源碼級調試器【Source-levelDebugger】:此類調試器一般提供單步或多步調試、斷點設置、內存檢測、變量查看等功能,是嵌入式調試最基本的調試方法。
簡單實用的打印顯示工具【printf】:printf及類似的打印顯示工具估計是最靈活、最簡單的調試工具。打印代碼執(zhí)行過程中的各種變量可以讓工程師獲知代碼執(zhí)行的情況,但printf對正常的代碼執(zhí)行干擾比較大(一般printf會占用CPU較長時間),需要慎重使用,最好設置打印開關來控制打印。
ICE或JTAG調試器【In- circuitEmulator】:ICE是用來仿真CPU核心的設備,可以在不干擾運算器的正常運行情況下,實時檢測CPU內部工作情況,也能像桌面調試軟件一樣提供復雜的條件斷點、先進的實時跟蹤、性能分析和端口分析等功能。ICE一般都有一個較為特殊的CPU,被稱為外合(bond-out)CPU,是一種被打開了封裝且通過特殊的連接可以訪問CPU內部信號的CPU,這些信號在CPU被封裝時是沒法被“看到”的。當和工作站上強大的調試軟件聯(lián)合使用時,ICE就能提供幾乎最全面的調試功能。然而ICE同樣有著昂貴、不能全速工作的缺點;同樣,并不是所有的CPU都可以作為外合CPU的,從另一個角度說,這些外合CPU也不大可能及時被新出的CPU所更換。JTAG(Joint Test Action Group)最初開發(fā)目的是監(jiān)測IC和電路連接,但其擴展了包括調試支持在內的用途。
ROM監(jiān)視器【ROMMonitor】:一款駐留在嵌入系統(tǒng)ROM中的小程序,通過串行或網(wǎng)絡連接和運行在工作站上的調試軟件通信。這是最低端的技術,相對便宜,除了要求一個通信端口和少量的內存空間外,不需要其它任何專門的硬件,提供下載代碼、運行控制、斷點、單步步進,以及觀察、修改寄存器和內存等功能。由于ROM監(jiān)控器是操作軟件的一部分,所以如果想要檢查CPU和應用程序的狀態(tài),必須先停下應用程序,再次進入ROM監(jiān)控器。
Data監(jiān)視器【DataMonitor】:在不停止CPU運行的情況下不僅可以顯示指定變量內容,還可以收集并以圖形形式顯示各個變量的變化過程。
OS監(jiān)視器【Operating System Monitor】:操作系統(tǒng)監(jiān)視器可以顯示諸如任務切換、信號量收發(fā)、中斷等事件。這些監(jiān)視器能夠呈現(xiàn)事件之間的關系和時間聯(lián)系,還可以提供對信號量優(yōu)先級反轉、死鎖和中斷延時等問題的診斷。
性能分析工具【Profiler】:可以用來測試CPU消耗所在,了解系統(tǒng)瓶頸、CPU的使用率以及需要優(yōu)化之處。
內存測試工具【MemoryTeseter】:可以找到內存使用的問題所在,比如內存泄露、內存碎片、內存崩潰等問題。如果發(fā)現(xiàn)系統(tǒng)出現(xiàn)不可預知或間歇性的問題,就應該使用內存測試工具進行嘗試。
運行跟蹤器【ExecutionTracer】:可以顯示CPU執(zhí)行了哪些函數(shù)、誰在調用、參數(shù)是什么、何時調用等情況,主要用于測試代碼邏輯,可在大量事件中發(fā)現(xiàn)異常。
覆蓋工具【CoverageTester】:主要顯示CPU具體執(zhí)行了哪些代碼,便于了解代碼分支未被執(zhí)行的區(qū)域,有助于提高代碼質量并消除無用代碼。
GUI測試工具【GUITester】:大多嵌入式應用都帶有某種特定形式的圖形用戶交互界面,部分系統(tǒng)的性能測試是根據(jù)用戶輸入響應時間來進行的。GUI測試工具可以作為開發(fā)環(huán)境中運行測試用例的腳本工具,其功能包括對操作的記錄和回放、抓取屏幕顯示供后續(xù)分析比較、設置和管理測試過程(Rational公司的robot和Mercury的Loadrunner工具是之中的杰出代表)。沒有GUI的嵌入式設備可通過插裝來運行GUI測試腳本,雖然需要更改被測代碼,但是節(jié)省了功能測試和回歸測試的時間。
天目全數(shù)字實時仿真軟件【SkyEye】:作為基于可視化建模的硬件行為級仿真平臺,為嵌入式系統(tǒng)提供虛擬化運行環(huán)境,支持主流嵌入式硬件平臺,可運行國內外主流的操作系統(tǒng),對國產(chǎn)生態(tài)的支持尤為出色。工程師可基于SkyEye的虛擬硬件快速搭建模型并提前進行開發(fā)、測試和驗證工作,實現(xiàn)高效率、高質量的軟件交付。
2.盡早發(fā)現(xiàn)內存問題
內存問題存在較大危害且不容易排查,主要有三種類型:內存泄露、內存碎片和內存崩潰。對待內存問題必須要明確早發(fā)現(xiàn)、早“治療”的態(tài)度。
內存泄漏
內存泄露是軟件設計最常見的內存難題,指由于不斷分配的內存無法及時地被釋放,逐漸耗盡系統(tǒng)內存。即使細心的編程老手也會遭遇內存泄露問題,因其一般隱藏很深,很難通過代碼閱讀發(fā)現(xiàn),甚至可能出現(xiàn)在庫當中——有可能庫中本就有bug,也有可能是因為工程師沒有正確理解接口說明文檔而造成了錯用。
大多數(shù)的內存泄露雖然無法探測,但會表現(xiàn)為隨機的故障,往往會被認為是硬件問題。如果用戶對系統(tǒng)穩(wěn)定性要求較高,此類問題會導致客戶對產(chǎn)品失去信心,項目也會因此失敗??紤]到內存泄漏的巨大危害,現(xiàn)在已有眾多解決工具,通過查找沒有被引用或重復使用的代碼塊、垃圾內存收集、庫跟蹤等技術來發(fā)現(xiàn)內存泄露,盡管每款工具都有利有弊,但還是應防患于未然,盡量測試內存泄漏。
內存碎片
內存碎片比內存泄露有著更深的隱匿性。隨著內存不斷被分配并釋放,大塊內存被不斷分解為小塊內存,從而形成碎片,后續(xù)需要申請大塊內存時就有可能會失敗。系統(tǒng)內存夠大或許可能可以堅持較長時間,但最終還是逃不出分配失敗的厄運。在使用動態(tài)分配的系統(tǒng)中,內存碎片經(jīng)常發(fā)生。
該問題當前最為有效的方法便是使用工具,通過顯示系統(tǒng)內存使用情況來找到內存碎片的罪魁禍首并進行改進。很多公司為避免動態(tài)內存管理問題,會選擇在嵌入式應用中禁用malloc/free來以絕后患。
內存崩潰
內存崩潰是內存使用最為嚴重的結果,主要造成原因有數(shù)組訪問越界、指針計算錯誤、重復釋放同一段內存、釋放非動態(tài)內存等。此類問題發(fā)生通常是隨機的,極難事先排查,目前也很少有可供排查的工具。
綜上,使用內存管理單元必須要小心謹慎,嚴格遵守其使用規(guī)則。
3.深入理解代碼優(yōu)化
人們對嵌入式系統(tǒng)的關注點通常在于實時性和速度,這兩個要素直接影響著代碼效率,需要對代碼進行優(yōu)化。了解如何優(yōu)化代碼是每個嵌入式軟件開發(fā)人員必須具備的技能,而優(yōu)化代碼的前提和必要條件則是找到真正需要優(yōu)化之處,然后再對癥下藥。
上文提到的profile能夠記錄如各任務CPU占用率、優(yōu)先級分配、數(shù)據(jù)拷貝次數(shù)、磁盤訪問次數(shù)、是否調用網(wǎng)絡收發(fā)程序、測試代碼是否已經(jīng)關閉等數(shù)據(jù),但在分析實時系統(tǒng)性能方面仍有不足。一方面,profile的使用往往是在系統(tǒng)出現(xiàn)問題,即CPU耗盡之后,而profile本身對CPU占用較大,所以很有可能不起作用。根據(jù)Heisenberg效應,任何測試手段或多或少都會改變系統(tǒng)運行。
4.不要大海撈針
大海撈針是對調試的生動比喻。尋找bug時應先確實是否在開發(fā)時有過為了尋求捷徑而沒有嚴格遵守編碼設計規(guī)范的情況,或是沒有檢測部分假設條件或算法的正確性、沒有將可能存在問題的代碼打上記號。可參照《高質量c++/c編程指南》或《關于C的0x8本“經(jīng)書”》來學習。
為了盡可能地暴露和捕捉問題根源,可以設計較為全面的錯誤跟蹤代碼:盡可能處理每一個函數(shù)調用失敗,盡可能檢測每個參數(shù)輸入輸出的有效性,包括指針及是否過多或過少地調用某個過程。錯誤跟蹤能夠了解bug的大概位置。
5.重現(xiàn)并隔離問題
對于模塊獨立的大型項目,如果問題的出現(xiàn)是間歇性的,則有必要設法去重現(xiàn)并進行記錄完整過程,以備在下一次出現(xiàn)問題是進行復用。
確保問題重現(xiàn)后可用隔離的方法來解決問題:用#ifdef把一些可能和問題無關的代碼關閉,把系統(tǒng)最小化到仍能夠重現(xiàn)問題的地步。如果還是無法定位問題所在,可以考慮打開“工具箱”:試著用ICE或數(shù)據(jù)監(jiān)視器去查看某個可疑變量的變化;使用跟蹤工具獲得函數(shù)調用的情況(包括參數(shù)的傳遞);檢查內存是否崩潰以及堆棧溢出的問題。
6.以退為進
獵人為了不使自己在森林里迷路常常會在樹木上留下標記,對過去代碼修改進行跟蹤記錄對將來出現(xiàn)問題之后的調試也很有幫助。代碼控制系統(tǒng)SCS或代碼控制系統(tǒng)SCS可以很好地解決修改回溯問題,將上個版本checkin下來后和當前測試版本比較,可采用SCS/VCS/CVS自帶的diff工具或其他功能更強的比較工具,比如BeyondCompare和ExamDiff。通過比較、分析所有改動代碼,可以得到所有可能導致問題的可疑代碼的分析結果。
7.確定測試的完整性
覆蓋率測試可供確認CPU到底執(zhí)行了哪些代碼,從而確認測試的完整性。覆蓋率工具有不同的測試級別,用戶可以根據(jù)自己的需要選擇某個級別。
即使單元測試已經(jīng)很全面且沒有deadcode,覆蓋率工具還是可以指出一些潛在問題。
以下方代碼為例:
if(i>=0&& (almostAlwaysZero==0||(last=i)))
如果almostAlwaysZero為非0,那么last=i賦值語句就被跳過,無法完成目標。
此類問題可輕松通過覆蓋率工具的條件測試功能完成解決,覆蓋率測試工具對提高代碼質量是很有幫助的。
8.提高代碼質量意味著節(jié)省時間
有研究表明,超過80%的軟件開發(fā)時間被用在下面幾個方面:調試自己的代碼(單元測試)、調試自己和其他相關的代碼(模塊間測試)、調試整個系統(tǒng)(系統(tǒng)測試),更糟糕的則是可能需要花費10-200倍的時間來找一個最開始時很容易就能發(fā)現(xiàn)的bug。
千里之堤毀于蟻穴,即使bug對整個系統(tǒng)的性能沒有太大的影響,但仍然很可能會影響可以被看得到的部分,必須養(yǎng)成良好的編碼習慣和測試手段,以求更高的代碼質量,縮短代碼的調試。
9.發(fā)現(xiàn)它,分析它,解決它
世界沒有萬能的膏藥,工具再好用也有無法實現(xiàn)之處,對于隱藏很深、用盡所有工具也無法查到其根源的問題,則需要通過問題的外在表現(xiàn)或數(shù)據(jù)輸出來尋找其中規(guī)律,從而找出異常。任何異常的發(fā)現(xiàn)都應深入理解并回溯其根源。
10.請利用初學者思維
“有些事情在初學者的腦子里可能有各種各樣的情況,可在專家的頭腦里可能就很單一”,簡單問題想復雜、簡單系統(tǒng)設計復雜很可能就是由于“專家思維”。被問題難住時,不妨換個思路,或許就能得到意想不到的啟發(fā)。