要想不被取代,決策權(quán)不能完全交給機(jī)器

　　  人類(lèi)的力量是有限的，未來(lái)機(jī)器必將會(huì)代替目前人類(lèi)所能做的任何事。到那個(gè)時(shí)候，人類(lèi)又將何去何從。有人提出，要想不被器取代，我們必須有所防備。

          史蒂芬·霍金曾說(shuō)，“全面化人工智能可能意味著人類(lèi)的終結(jié)。”他認(rèn)為，機(jī)器可以自行啟動(dòng)，并且自動(dòng)對(duì)自身進(jìn)行重新設(shè)計(jì)，速率也會(huì)越來(lái)越快。而受到漫長(zhǎng)的生物進(jìn)化歷程的限制，人類(lèi)無(wú)法與之競(jìng)爭(zhēng)，終將被取代。

　　霍金的預(yù)言是否會(huì)成真并不重要，重要的是他在提醒我們要對(duì)人工智能進(jìn)行管控。在算法和數(shù)據(jù)高速發(fā)展的當(dāng)下，社會(huì)生活的各方面都在悄無(wú)聲息地與人工智能發(fā)生聯(lián)系。誠(chéng)然，人工智能給我們的生活帶來(lái)了極大的便利，但完全依賴(lài)人工智能，人類(lèi)將如何自處？面對(duì)人工智能可能會(huì)帶來(lái)的不利后果，我們又該做些什么來(lái)對(duì)其進(jìn)行規(guī)避？

　　日前安理律師事務(wù)所合伙人、互聯(lián)網(wǎng)法律專(zhuān)家王新銳從理論和實(shí)操兩個(gè)層面出發(fā)，提出了AI監(jiān)管的思路，并著重強(qiáng)調(diào)了數(shù)據(jù)保護(hù)問(wèn)題。

　　很多人覺(jué)得AI的法律和監(jiān)管問(wèn)題離我們還比較遠(yuǎn)，但我們?cè)趯?shí)務(wù)中其實(shí)已經(jīng)接觸到很多跟人工智能相關(guān)的法律問(wèn)題，其中既有比較具有普遍意義但抽象的問(wèn)題，比如產(chǎn)生糾紛時(shí)雙方舉證責(zé)任和賠償責(zé)任的分配原則;也有比較具體、個(gè)性化的問(wèn)題，比如用于訓(xùn)練算法的數(shù)據(jù)集的一些知識(shí)產(chǎn)權(quán)問(wèn)題。這些問(wèn)題在具體的語(yǔ)境下，也許是有解的，也許是無(wú)解的，但如果把這些問(wèn)題串在一起看，至少會(huì)觀察到，人工智能技術(shù)對(duì)很多行業(yè)的影響越來(lái)越大，產(chǎn)生了新的利益和風(fēng)險(xiǎn)，也需要新的規(guī)則。

　　我把實(shí)務(wù)中遇到的AI法律問(wèn)題分為兩大類(lèi)：算法和數(shù)據(jù)。按照人工智能產(chǎn)業(yè)的普遍看法，大數(shù)據(jù)是人工智能快速發(fā)展的基礎(chǔ)。其中數(shù)據(jù)在法律上是一個(gè)很宏大的問(wèn)題，并非人工智能領(lǐng)域所獨(dú)有，其中對(duì)于個(gè)人信息和隱私保護(hù)很多國(guó)家都有相對(duì)成熟的立法和監(jiān)管機(jī)制，中國(guó)在《網(wǎng)絡(luò)安全法》出臺(tái)后也進(jìn)一步加強(qiáng)了對(duì)個(gè)人信息的保護(hù);而數(shù)據(jù)權(quán)屬問(wèn)題在全球范圍內(nèi)也沒(méi)有達(dá)成共識(shí)，爭(zhēng)議很大;除此以外，數(shù)據(jù)的保密和公開(kāi)以及跨境傳輸，也有一些復(fù)雜的規(guī)則。而算法的監(jiān)管問(wèn)題在法律上則更為前沿，舉個(gè)例子，歐盟制定了《通用數(shù)據(jù)保護(hù)條例》（GDPR），其中規(guī)定歐盟國(guó)家公民將有權(quán)要求“審查某項(xiàng)特定服務(wù)中如何做出特定算法決策”，這對(duì)算法影響非常大，具體如何落地，可能會(huì)引發(fā)監(jiān)管機(jī)構(gòu)和人工智能公司之間的沖突。

　　我認(rèn)為在人工智能發(fā)展早期的很多因技術(shù)bug產(chǎn)生的問(wèn)題并不是那么重要（盡管很容易被新聞媒體夸大），因?yàn)閺拈L(zhǎng)遠(yuǎn)來(lái)看，這些問(wèn)題會(huì)隨著技術(shù)發(fā)展自然而然地解決掉，監(jiān)管和法律介入的必要性也不是很大。而重要的是大的框架，也就是人工智能中數(shù)據(jù)和算法的監(jiān)管、立法等問(wèn)題，這些不達(dá)成共識(shí)，行業(yè)發(fā)展到一定階段就會(huì)受阻，影響公眾對(duì)人工智能的信任和接受。

　　人工智能的邊界到底哪里？我認(rèn)為在可能出現(xiàn)重大危機(jī)或者影響人類(lèi)利益的場(chǎng)景下，要實(shí)現(xiàn)對(duì)算法和數(shù)據(jù)的約束。對(duì)人工智能的監(jiān)管思路，從實(shí)務(wù)或者理論架構(gòu)來(lái)看有三個(gè)方面：

　　第一，對(duì)于事后結(jié)果的監(jiān)管。雖然現(xiàn)在深度學(xué)習(xí)只能是機(jī)器學(xué)習(xí)的一小塊，甚至連1%都沒(méi)有，但是我們必須承認(rèn)深度學(xué)習(xí)的推動(dòng)作用。算法和數(shù)據(jù)有時(shí)候像個(gè)黑盒子，我們不確切的知道里面發(fā)生了什么事情，但是我們?nèi)匀豢梢詫?duì)結(jié)果進(jìn)行監(jiān)管，或者通過(guò)嚴(yán)格責(zé)任追究開(kāi)發(fā)者的法律責(zé)任。

　　第二，對(duì)于數(shù)據(jù)采集進(jìn)行事中監(jiān)管。比如美國(guó)建立了禁止數(shù)據(jù)采集的負(fù)面清單，中國(guó)人民銀行在關(guān)于征信的相關(guān)法規(guī)中對(duì)于不同人群和機(jī)構(gòu)能采集什么數(shù)據(jù)也有規(guī)定。哪些數(shù)據(jù)不適合提供給人工智能公司，或不允許用于人工智能，也是需要研究的。

　　第三，在采集行為發(fā)生前，從根上避免一些不宜公開(kāi)的數(shù)據(jù)被采集。比如，犯罪記錄數(shù)據(jù)的采集。在很多國(guó)家，包括中國(guó)，犯罪記錄既是個(gè)人信息，也是管理信息，超過(guò)一定犯罪期限內(nèi)的數(shù)據(jù)不能隨便公開(kāi)，更不要說(shuō)未成年人信息。

　　現(xiàn)在發(fā)展很快的人臉識(shí)別技術(shù)和指紋識(shí)別最大的區(qū)別在于，人臉識(shí)別不需要接觸就可以實(shí)現(xiàn)，那么人臉識(shí)別數(shù)據(jù)采集環(huán)節(jié)怎么進(jìn)行約束是值得考慮的問(wèn)題。

　　人工智能在開(kāi)發(fā)過(guò)程中需要考慮不同場(chǎng)景下的不同影響，并有所區(qū)別，有時(shí)需要預(yù)先設(shè)置黑名單或白名單。以智能音箱為例，國(guó)外就有因?yàn)樗惴▽?duì)指令的識(shí)別有誤而直接播放色情內(nèi)容給小孩的案例，所以對(duì)于直接提供給未成年人的東西就需要限制，這樣才不會(huì)引起家長(zhǎng)和社會(huì)的恐慌，否則也會(huì)招致批量的法律糾紛。

　　而在某些關(guān)系重大的場(chǎng)景中，做決策不能單純依靠人工智能。中國(guó)最早發(fā)布人工智能相關(guān)規(guī)范的就是衛(wèi)計(jì)委，因?yàn)榧幢闳斯ぶ悄軐?duì)醫(yī)療有很大的幫助（這一點(diǎn)已有較多的實(shí)例支持），但決策權(quán)依然不能完全交給機(jī)器，因?yàn)樨?zé)任是由醫(yī)生來(lái)承擔(dān)的。醫(yī)學(xué)倫理問(wèn)題更加復(fù)雜，不能用簡(jiǎn)單的標(biāo)準(zhǔn)化程式解決，更不可能交給機(jī)器來(lái)判斷。衛(wèi)計(jì)委今年出臺(tái)四個(gè)技術(shù)規(guī)范，這是關(guān)注人工智能邊界的體現(xiàn)。

　　更公平的AI也是可追責(zé)的AI，在不同的場(chǎng)景和階段采用不同的方法，對(duì)新技術(shù)的應(yīng)用進(jìn)行約束。那么法律干預(yù)的必要性在什么地方？這可能是需要思考和解決的問(wèn)題。