神經(jīng)網(wǎng)絡(luò)如何助力人工智能算法

美陸軍聯(lián)合工業(yè)部門研究人員共同研發(fā)一種神經(jīng)網(wǎng)絡(luò)衡量標(biāo)準(zhǔn)，用于評估下一代人工智能和機(jī)器學(xué)習(xí)算法的可靠性與可信度。

背景

深度神經(jīng)網(wǎng)絡(luò)（DNNs）是一種利用訓(xùn)練數(shù)據(jù)學(xué)習(xí)的機(jī)器學(xué)習(xí)形式，一旦數(shù)據(jù)接受訓(xùn)練，即可在獲取新信息或輸入信息時做出預(yù)測；但如果新的信息超出訓(xùn)練范圍，則很容易做出虛假判斷。研究人員表示，鑒于訓(xùn)練數(shù)據(jù)和潛在輸入數(shù)據(jù)的信息多樣性，解決上述問題非常具有挑戰(zhàn)性。

研究成果應(yīng)用

美陸軍研究實驗室研究人員認(rèn)為，此項研究為創(chuàng)造下一代強(qiáng)大而有彈性的算法提供了一個新的研究機(jī)會，該方法用途廣泛，可作為附加模塊應(yīng)用于陸軍眾多現(xiàn)代化算法中。新的衡量標(biāo)準(zhǔn)可幫助陸軍開發(fā)更加安全可靠的機(jī)器學(xué)習(xí)技術(shù)，并可應(yīng)用于指揮控制系統(tǒng)、精確打擊和決策支持系統(tǒng)。

雖然目前工作已經(jīng)取得一定成果，但尚未研發(fā)出可檢測新型攻擊的方法。在研究過程中，研究團(tuán)隊提出了一個生成模型，該模型可以調(diào)整底層原始深層神經(jīng)網(wǎng)絡(luò)中原始輸入圖像的各個方面，然后評估原始深層神經(jīng)網(wǎng)絡(luò)對這些生成的輸入的響應(yīng)，以測量模型的一致性。該方法不需要訪問訓(xùn)練數(shù)據(jù)，不需要使用集合或需要在與訓(xùn)練集不同的驗證數(shù)據(jù)集上訓(xùn)練校準(zhǔn)模型。

下一步計劃

研究人員將繼續(xù)與測試和評估團(tuán)隊合作，完善算法，以衡量各種算法在不同應(yīng)用程序中的可信度。該方法也對陸軍發(fā)展現(xiàn)代化優(yōu)先事項具有重要意義，對下一代網(wǎng)絡(luò)解決方案具有很重要的應(yīng)用價值，向戰(zhàn)場作戰(zhàn)人員提供技術(shù)能力。