人工智能提供安全性承諾的同時(shí)也帶來了風(fēng)險(xiǎn)

（文章來源：教育新聞網(wǎng)）

人工智能有望成為2019年的技術(shù)流行語，多家機(jī)構(gòu)正在探索應(yīng)對無數(shù)挑戰(zhàn)的自動(dòng)化解決方案，并開發(fā)了一些用例，以使它們能夠更有效地實(shí)現(xiàn)其使命。但是，一些IT領(lǐng)導(dǎo)者告誡不要在未先確定正確的使用案例或不考慮其缺點(diǎn)以及優(yōu)點(diǎn)的情況下追趕AI作為新興技術(shù)中的新亮點(diǎn)。

空軍首席技術(shù)官弗蘭克·科涅奇尼(Frank Konieczny)在周二的FedScoop安全轉(zhuǎn)型論壇上發(fā)表講話說：“我們非常擔(dān)心偏見?！薄爱?dāng)我們查看一個(gè)系統(tǒng)時(shí)，請根據(jù)基準(zhǔn)數(shù)據(jù)查看它的分析。您將為實(shí)際使用它提供什么數(shù)據(jù)……尤其是當(dāng)我們使用救生系統(tǒng)時(shí)，我們對此非常關(guān)注?！笨哲娬谘芯咳斯ぶ悄芎?u>機(jī)器學(xué)習(xí)功能，但擔(dān)心該技術(shù)涉及的一些風(fēng)險(xiǎn)，尤其是考慮到機(jī)器學(xué)習(xí)所需的基線數(shù)據(jù)。

“安全基準(zhǔn)的問題是，'敵人已經(jīng)在基準(zhǔn)中了嗎?'然后您就將敵人打入您的系統(tǒng)?！笨颇婺嵴f。“這是您必須提出的問題。另一個(gè)問題是，“您的基準(zhǔn)是否有變化?”我們的基線一直在變化。因此，如果總是發(fā)生更改，您如何使用ML系統(tǒng)檢測更改?”Konieczny解釋說，提出這些問題使空軍能夠明智地選擇AI和機(jī)器學(xué)習(xí)應(yīng)用程序，從而確保它是一種力的乘數(shù)，而不是對用戶沒有實(shí)際好處的附加組件。

交通運(yùn)輸部CIO Ryan Cote同樣在不首先考慮收益的情況下猶豫是否實(shí)施AI。他警告說：“我認(rèn)為我們處于將AI應(yīng)用于網(wǎng)絡(luò)的早期，早期階段。”“我認(rèn)為我們今天能做的最好的事情就是看機(jī)器學(xué)習(xí)，并嘗試自動(dòng)化網(wǎng)絡(luò)衛(wèi)生的一些基本步驟?！盋ote迅速關(guān)閉了有關(guān)AI / ML的宣傳，鼓勵(lì)客戶將那些功能與數(shù)據(jù)分析和其他類似服務(wù)區(qū)分開。

他開玩笑說：“我會(huì)說營銷炒作是10，交貨是1?！钡?，他的確感謝許多公司通過提供軟件即服務(wù)(SaaS)而不是一次性購買的方式顯示了對其產(chǎn)品的承諾。這種新模式使公司可以對其產(chǎn)品進(jìn)行持續(xù)更新，而不必每隔幾年就“簽入一次”以銷售更新版本。除了風(fēng)險(xiǎn)，AI及其短期表親自動(dòng)化確實(shí)提供了一些有希望的用例。一種是增加當(dāng)前網(wǎng)絡(luò)安全專業(yè)人員的工作，以緩解勞動(dòng)力差距。

司法部CISO Nickolous Ward解釋說：“即使我們有足夠的[專業(yè)人士]，也無法[分析]進(jìn)入任何SOC的數(shù)據(jù)量，并迅速采取行動(dòng)?！薄叭绻覀儾荒茉趲追昼娭畠?nèi)采取行動(dòng)，一旦他們做出了最初的妥協(xié)，一個(gè)好的民族國家演員就已經(jīng)跳上了其他系統(tǒng)。”沃德說，司法部正在短期內(nèi)探索自動(dòng)化安全解決方案，包括機(jī)器人流程自動(dòng)化和編排，以填補(bǔ)這一空白并認(rèn)識到日益嚴(yán)峻的技術(shù)挑戰(zhàn)。

他說：“我不能雇用足夠的人，也不能足夠快地訓(xùn)練他們，以便能夠查看我們每天處理的數(shù)據(jù)量?！薄澳軌驌碛衃自動(dòng)化]……如果沒有它，我們將無法贏得勝利。” Ward估計(jì)，司法部每天都會(huì)收到“數(shù)百萬”的日志和警報(bào)。退伍軍人事務(wù)部CISO保羅·坎寧安(Paul Cunningham)同意，新興技術(shù)有助于縮小差距。

他說：“我們不會(huì)在一夜之間解決[勞動(dòng)力問題]，但可以肯定的是，可能不會(huì)有人。它正在尋找技術(shù)來幫助我們減少進(jìn)行可靠的網(wǎng)絡(luò)安全所需的人員數(shù)量，并確保我們擁有合適的人員來查看這些事情是最重要的。那就是我認(rèn)為AI將成為解決方案的一部分—但不是唯一的一部分。”坎寧安說，VA的底線是“從頭到尾一直保護(hù)記錄和體驗(yàn)?！盬ard說，從長遠(yuǎn)來看，關(guān)鍵重點(diǎn)是確保網(wǎng)絡(luò)安全專業(yè)人員了解AI和機(jī)器學(xué)習(xí)的攻守方面。

他說：“我的勞動(dòng)力將不得不發(fā)展?！薄肮粽咴絹碓蕉嗟厥褂肹AI]逃避我的安全技術(shù)。我們必須使用它來攻擊他們并阻止他們。但不僅如此。攻擊者開始學(xué)習(xí)如何利用AI自身的弱點(diǎn)來擊敗AI。我的安全團(tuán)隊(duì)需要能夠充分了解AI，以便他們能夠?qū)贯槍I本身的攻擊，并…利用它來加快檢測和防御的速度?！毙l(wèi)生與公共服務(wù)部CIO高級顧問Oki Mek建議使用區(qū)塊鏈作為保護(hù)數(shù)據(jù)集免受攻擊并同時(shí)利用它們進(jìn)行AI和機(jī)器學(xué)習(xí)的一種方法。
? ? ? ?