人工智能時代下，網(wǎng)絡(luò)安全問題備受關(guān)注

在人工智能時代，網(wǎng)絡(luò)安全問題備受關(guān)注。對此，安全研究人員轉(zhuǎn)向了機器學(xué)習(xí)。機器學(xué)習(xí)的確提供了強有力的幫助，但在當前網(wǎng)絡(luò)攻防態(tài)勢下，機器學(xué)習(xí)也難以“一肩挑”。

在人工智能時代，各行各業(yè)最怕聽到的是“取代”：人工智能被認為將一步取代法官、取代速記員，取代建筑工人和出租車司機……不過，目前在許多行業(yè)，人工智能仍然只能扮演配角，網(wǎng)絡(luò)安全就是目前人工智能尚難解決的問題之一。

對此，安全研究人員轉(zhuǎn)向了機器學(xué)習(xí)——人工智能的一種形式。對于機器學(xué)習(xí)來講，最主要的兩個概念分別是“有監(jiān)督學(xué)習(xí)”和“無監(jiān)督學(xué)習(xí)”。有監(jiān)督學(xué)習(xí)就是人們“告訴”機器“哪些數(shù)據(jù)是屬于哪一類的”，然后進行數(shù)據(jù)訓(xùn)練；反之，無監(jiān)督學(xué)習(xí)就是“不告訴”機器，直接由人們對最終輸出的結(jié)果進行定義。

之前，機器學(xué)習(xí)只是一個很有希望但并不成熟的技術(shù)，但在過去五年，機器學(xué)習(xí)獲得了長足的進步，在很多任務(wù)上，機器學(xué)習(xí)這項技術(shù)都可以達到與人類接近的水平。

遭遇新軟件時，機器學(xué)習(xí)系統(tǒng)會計算其是惡意軟件的概率，根據(jù)既定閾值進行屏蔽或放行。若有惡意軟件潛入，只需調(diào)整計算或重設(shè)閾值即可。時不時地，研究人員就會用新行為訓(xùn)練機器學(xué)習(xí)算法。

業(yè)內(nèi)人士也表示，“在處理財務(wù)數(shù)據(jù)時，機器學(xué)習(xí)可以解決匹配客戶聯(lián)系方式、地址或從數(shù)據(jù)中發(fā)現(xiàn)趨勢的經(jīng)典問題。你訓(xùn)練的應(yīng)用程序越‘理解’數(shù)據(jù)，你得出的分析和預(yù)測結(jié)果就越準確?！?/p>

盡管機器學(xué)習(xí)在網(wǎng)絡(luò)安全方面已經(jīng)具備一定的防御能力，但是也存在漏洞。在成都召開的C3安全峰會上，亞信安全通用安全產(chǎn)品中心總經(jīng)理、亞信網(wǎng)絡(luò)安全產(chǎn)業(yè)技術(shù)研究院副院長童寧表示，機器學(xué)習(xí)的確提供了強有力的幫助，但在當前網(wǎng)絡(luò)攻防態(tài)勢下，機器學(xué)習(xí)也難以“一肩挑”。

其實，機器學(xué)習(xí)所存在的問題并非近期才出現(xiàn)。早在眾多關(guān)于機器學(xué)習(xí)的相關(guān)論文中，研究者們就曾多次提出機器學(xué)習(xí)的不準確性——對某些像素進行微調(diào)，就能欺騙神經(jīng)網(wǎng)絡(luò)。原因在于：雖然這些復(fù)雜的網(wǎng)絡(luò)由多層處理器組成，但各個層面本質(zhì)上都是通過分段線性函數(shù)來轉(zhuǎn)換輸入內(nèi)容的，這種線性使得相關(guān)模型對推論容易盲從。

在某些情況下，通過惡意輸入，機器學(xué)習(xí)算法可能在訓(xùn)練期間“中毒”，或者在訓(xùn)練之后被復(fù)制。通過對圖像進行人眼幾不可見的微小改變，黑客可以愚弄視覺處理系統(tǒng)，對其進行欺騙。

此外，惡意軟件作者也可獲得這些安全工具，調(diào)整自己的代碼，查看能否規(guī)避檢測。有些網(wǎng)站已提供了用主流安全系統(tǒng)檢測軟件的接口。最終，惡意軟件作者會開始創(chuàng)建他們自己的機器學(xué)習(xí)模型，對戰(zhàn)安全人工智能。