量子人工智能技術(shù)的安全性成為研究熱點(diǎn)，脆弱性和防御手段還面臨諸多挑戰(zhàn)

研究人員已經(jīng)提出了許多量子算法來增強(qiáng)各種人工智能任務(wù)。隨著量子增強(qiáng)人工智能的迅速建立，一個(gè)緊迫的基本問題自然出現(xiàn)了：量子人工智能技術(shù)在各種攻擊下是否值得信賴?

經(jīng)典神經(jīng)網(wǎng)絡(luò)容易受到對抗性擾動(dòng)的影響，例如，帶有小涂鴉的停車標(biāo)志可能會(huì)被誤分類為讓行標(biāo)志。最近的理論工作表明，量子神經(jīng)網(wǎng)絡(luò)同樣具有脆弱性，這將給未來量子機(jī)器學(xué)習(xí)在安全場景中的應(yīng)用帶來嚴(yán)重問題。由此，研究人員建立了量子對抗機(jī)器學(xué)習(xí)的基礎(chǔ)。

然而，從實(shí)驗(yàn)上演示量子分類器的對抗例子，并顯示所提出的對抗措施在實(shí)踐中的有效性是具有挑戰(zhàn)性的，以前從未報(bào)道過?，F(xiàn)在，由浙江大學(xué)王浩華、清華大學(xué)鄧東靈等組成的團(tuán)隊(duì)克服了這些困難，并報(bào)告了用10個(gè)可編程超導(dǎo)量子比特陣列進(jìn)行量子對抗學(xué)習(xí)的首次實(shí)驗(yàn)演示。論文于11月28日發(fā)表在《自然·計(jì)算科學(xué)》上[1]。

值得一提的是，在最近舉辦的第三屆和第四屆“科學(xué)探索獎(jiǎng)”頒獎(jiǎng)典禮上，浙江大學(xué)王浩華教授榮獲“科學(xué)探索獎(jiǎng)”數(shù)學(xué)物理學(xué)獎(jiǎng)，獎(jiǎng)金300萬人民幣。

12月3日電隨著發(fā)展量子計(jì)算和人工智能成為世界各國的重要戰(zhàn)略，兩者交匯而生的量子人工智能更是發(fā)展迅速。但由于神經(jīng)網(wǎng)絡(luò)容易受到對抗擾動(dòng)的影響，量子人工智能技術(shù)的安全性成為研究熱點(diǎn)。

近日，清華大學(xué)交叉信息研究院鄧東靈研究組與浙江大學(xué)物理學(xué)院王浩華、宋超研究組等合作，在超導(dǎo)系統(tǒng)中首次實(shí)驗(yàn)實(shí)現(xiàn)了量子對抗機(jī)器學(xué)習(xí)。相關(guān)成果“通過可編程超導(dǎo)量子比特實(shí)現(xiàn)量子對抗學(xué)習(xí)的實(shí)驗(yàn)演示”以封面論文形式發(fā)表在《自然·計(jì)算科學(xué)》，并獲得了該期刊的專欄評論。

對抗機(jī)器學(xué)習(xí)的早期研究可以追溯到垃圾郵件過濾問題，涉及垃圾郵件的發(fā)送方與抵制方之間的博弈。一般來說，當(dāng)用戶的郵箱地址被外界得知后，一些惡意方可能為了商業(yè)利益向這個(gè)郵箱發(fā)送廣告郵件、電腦病毒等。為了抵御這種行為，人們開發(fā)了郵件過濾器來區(qū)分正常郵件與惡意郵件并對后者加以阻擋。而惡意郵件的發(fā)送者為了躲過郵件過濾器的檢測，便會(huì)采取一系列的手段，如修改惡意郵件中的特征詞匯、增加正常詞匯等。

隨著深度學(xué)習(xí)的發(fā)展，深度學(xué)習(xí)模型在人臉識(shí)別、自動(dòng)駕駛、醫(yī)療診斷等領(lǐng)域得到了廣泛的應(yīng)用。然而，人們發(fā)現(xiàn)深度學(xué)習(xí)模型同樣也存在著被對抗樣本攻擊的威脅。

“比如，在一輛自動(dòng)駕駛汽車上，如果前方的一個(gè)停車告示牌被貼上一層精心設(shè)計(jì)的對抗擾動(dòng)薄膜，被汽車的識(shí)別程序判斷為常速行駛，便可能引發(fā)安全事故。在機(jī)器學(xué)習(xí)輔助醫(yī)療診斷中，如果核磁共振的圖片被惡意添加了微小擾動(dòng)，也可能引發(fā)醫(yī)療事故?！毖芯咳藛T表示，如果這類攻擊沒有得到解決而且被惡意利用，可能導(dǎo)致嚴(yán)重的安全隱患。

最近兩年，量子對抗機(jī)器學(xué)習(xí)的概念被提出并受到了廣泛關(guān)注。然而，在當(dāng)前中等規(guī)模帶噪聲量子設(shè)備上演示量子學(xué)習(xí)模型面對對抗攻擊的脆弱性和防御手段還面臨諸多挑戰(zhàn)。

量子糾纏實(shí)際上將消除現(xiàn)代互聯(lián)網(wǎng)面臨的所有安全問題。至少這是理論。根據(jù)新的研究，有一種(理論上的)方法可以“引導(dǎo)”糾纏的光子以避免信息丟失。

Mehul Malik教授研究量子技術(shù)已有15年。馬利克與他在赫瑞瓦特光子和量子科學(xué)研究所的團(tuán)隊(duì)一起構(gòu)思了一種在光纖上發(fā)送量子信息的新方法——一種有助于避免數(shù)據(jù)丟失并使量子互聯(lián)網(wǎng)概念更接近現(xiàn)實(shí)的方法。

量子互聯(lián)網(wǎng)是基于屬于量子計(jì)算理論的奇怪現(xiàn)象的下一代網(wǎng)絡(luò)的理論模型。最奇怪的現(xiàn)象被稱為量子糾纏，因?yàn)樗枋隽藘蓚€(gè)粒子或粒子組(例如，兩個(gè)光子)，無論距離多遠(yuǎn)，它們都保持連接。無論光速如何，糾纏粒子的量子態(tài)都不能獨(dú)立于另一個(gè)粒子的狀態(tài)來描述。

量子技術(shù)試圖利用亞原子粒子的量子特性來開發(fā)令人難以置信的強(qiáng)大計(jì)算機(jī)，或者大大提高網(wǎng)絡(luò)通信和導(dǎo)航系統(tǒng)的安全性。然而，量子糾纏的問題在于，由于噪聲和信息丟失，在光纖上“傳輸”糾纏光子變得難以長距離。

即使是世界上最好的光纖，每公里也會(huì)有一定的損耗，所以這是量子通信成為可能的一大障礙。然而，Mehul Malik教授與團(tuán)隊(duì)一起開發(fā)的新研究首次表明，量子糾纏可以容忍噪聲和損失 - 并且仍然以稱為量子轉(zhuǎn)向的強(qiáng)大形式存在。

量子轉(zhuǎn)向是一種可以通過使用“qudits”來提高糾纏魯棒性的技術(shù)，“qudits”本質(zhì)上是排列在多個(gè)維度上的量子位數(shù)組(量子計(jì)算中位的等效物)。研究人員利用光的空間結(jié)構(gòu)在由光的“像素”組成的53維空間中糾纏光子。