人工智能治理的全球圖景與技術(shù)是怎樣的

當(dāng)講到人工智能愿景的時候，很多提案提到人工智能必須要以人類為中心。這個觀點有一點狹隘，而更為長遠的愿景應(yīng)該是以生態(tài)系統(tǒng)為中心，因為我們必須要考慮到人類發(fā)展與生態(tài)之間的平衡與和諧發(fā)展。人工智能的愿景不同組織與國家都提出了不同提案，例如日本更傾向以人為中心的愿景，歐盟認為可信任是非常重要的。來自于加州伯克利大學(xué)的觀點是與人類相容。

對于可持續(xù)發(fā)展來說，人工智能是未來的一個非常重要的途徑和工具。人工智能不僅僅能夠提升經(jīng)濟，雖然很多目標(biāo)不直接與經(jīng)濟掛鉤，但與全球可持續(xù)發(fā)展愿景息息相關(guān)。中國支持聯(lián)合國的愿景，人工智能真的是我們實現(xiàn)可持續(xù)發(fā)展的重要使能技術(shù)并提供相應(yīng)的工具與系統(tǒng)。

我們可以看到，至今為止全球至少有53個不同的人工智能的原則提案，但根據(jù)主題分類來看，沒有一個提案能夠覆蓋所有精細的主題。即使是國家層面的人工智能原則，也沒有涵蓋跟AI所有相關(guān)的主題，最多的涵蓋了67%的相關(guān)主題。我們認為AI的原則不必要涵蓋所有主題。這些原則其實是從不同的角度，以不同的文化背景為基礎(chǔ)提出的，所以這些原則不應(yīng)該是相互競爭的，而應(yīng)該是互為補充的。比如有些提案提出的原則，強調(diào)該提案所在組織并不像美國一樣引領(lǐng)AI的技術(shù)，也不像中國一樣引領(lǐng)AI的應(yīng)用，他們希望引領(lǐng)AI的道德。但是他的這些所謂道德只是涵蓋了20%和AI相關(guān)的主題。所以，不同的AI愿景與原則絕對不應(yīng)是競爭關(guān)系，跨文化的交互使得我們對于AI的未來有更清晰的認識。只有具備這樣的思想，才能夠提供全球AI的更有效治理方案，開啟人工智能更好的未來。

科技部新一代人工智能治理原則的提出，首先是中國發(fā)展新一代人工智能的發(fā)展與治理雙輪驅(qū)動的愿景。這并不是說這個原則完全會適用于任何國家。我想中國的治理原則與實踐如果發(fā)展的好，那么對于發(fā)展中國家可能是很好的借鑒，但未必會直接適用于發(fā)達國家。有些國家以產(chǎn)業(yè)首先提出AI倫理與治理原則，有些國家則是政府和學(xué)術(shù)界走在前列，不同層面和視角的AI原則將在不同視角發(fā)揮作用，為實現(xiàn)AI的總體愿景貢獻力量。

至今為止中國至少在不同層面提出了10個不同的宣言，分別來自學(xué)術(shù)界、產(chǎn)業(yè)，甚至是科研工作者單獨的提案，有些是政府所，涵蓋的主題也是截然不同的。即使在中國，我們也發(fā)現(xiàn)不同的原則是相互補充的，無論是頂層設(shè)計、自下而上的以科學(xué)家或產(chǎn)業(yè)為首提出的原則，都是互為補充的?！度斯ぶ悄鼙本┕沧R》是以科學(xué)家和行業(yè)為首的，是自下而上的。提出兩天以后，百度熱詞搜索就顯示有超過500萬的搜索。這說明AI領(lǐng)域的工作者和公眾對AI的未來有很大的關(guān)切。北京是科技部發(fā)布的首個新一代人工智能創(chuàng)新發(fā)展示范區(qū)，我們做了很多新興的舉措。麻省理工科技評論的文章提出為什么北京會突然關(guān)注AI的倫理問題？其實科技部兩年前發(fā)布的新一代人工智能發(fā)展規(guī)劃中，就15次提到AI倫理的問題，所以這顯然不是突然的決定。

科技部新一代人工智能治理原則我們今天也許沒有時間談?wù)撈渲猩婕暗乃性瓌t，但至少可以對其中幾個要點展開討論。首先是總體愿景的問題。中國人工智能的愿景與聯(lián)合國可持續(xù)發(fā)展目標(biāo)高度一致，我們的目標(biāo)是通過人工智能的穩(wěn)健發(fā)展實現(xiàn)人類命運共同體。

對于未來而言，AI需要尊重人類的價值觀，比如公平、公正、誠實、信任、自由、友情、民主等等。同時，人工智能不應(yīng)該被濫用或者被惡用，否則會對社會造成巨大的風(fēng)險。我們觀察到很多數(shù)據(jù)都是在沒有知情同意的情況下被使用的，人們不應(yīng)當(dāng)為了利益和發(fā)展而忽視潛在的風(fēng)險。所以，誤用和濫用都應(yīng)當(dāng)盡可能避免，比如致命性自主武器就應(yīng)當(dāng)嚴(yán)格禁止。偏見問題也是很重要的，比如對于黑人，人臉識別準(zhǔn)確性會下降大約20%，也就是說人臉識別技術(shù)對于不同種族是存在風(fēng)險的，帶有偏見的數(shù)據(jù)甚至?xí)⒎缸镲L(fēng)險與種族信息掛鉤，這些社會的偏見被從不完善的數(shù)據(jù)中獲取，導(dǎo)致AI產(chǎn)生可能的偏見，我們要對這個問題予以足夠的重視。

此外，隱私問題也非常重要。世界上有些城市已經(jīng)禁止使用人臉識別這個技術(shù)了，不僅是因為人臉識別可能會帶來隱私的問題，還會帶來偏見、歧視的問題?？墒俏覀儜?yīng)當(dāng)重視的是如何去改善技術(shù)中可能存在的風(fēng)險，善用技術(shù)。僅僅禁用一個可能存在風(fēng)險的技術(shù)并不是面向未來發(fā)展的方式。例如對于其他生物特征識別，可能存在相似的潛在風(fēng)險，比如指紋識別、步態(tài)識別，都可能造成隱私泄露與偏見等問題。需要去積極規(guī)避可能存在的風(fēng)險，再促進技術(shù)對社會可能產(chǎn)生的積極貢獻。我們必須要有足夠的平臺和管控機制，來確保隱私受保護以及獲得真正的用戶知情同意。

在技術(shù)層面上，我們需要做到足夠的努力，讓這些AI技術(shù)在開發(fā)和應(yīng)用時，能有一個內(nèi)置的機制，可以保護隱私?，F(xiàn)在中國有一些關(guān)于隱私的管理和使用，尤其是對兒童的數(shù)據(jù)使用和應(yīng)用的法律法規(guī)，這是中國政府為保護人類隱私做的一些切實舉措。更為關(guān)鍵的是在企業(yè)和政府層面如何支持這些努力的落地。

人工智能模型在取得進展的同時，仍然存在不同的技術(shù)風(fēng)險。比如在圖像識別中，1個像素的變化就可能導(dǎo)致識別類別的顛覆（如飛機識別為狗），當(dāng)自動駕駛遭受外部攻擊，就會造成災(zāi)難性的影響。在可控性方面，人工智能需要我們更多的關(guān)注。在中國，人工智能不僅需要進一步的研發(fā)，還需要研發(fā)人員、用戶、產(chǎn)品和服務(wù)供應(yīng)商，以及政府和其他利益相關(guān)方形成良性循環(huán)，將人工智能穩(wěn)健發(fā)展的理念能夠在AI的整個生命周期落地。

其次是開放和合作。科技部正在推動企業(yè)為主的新一代人工智能開放平臺，能夠進一步地推動人工智能的發(fā)展并與全球接軌。此外AI治理原則需要隨著技術(shù)的進展不斷被審視并做出必要的更新，適應(yīng)技術(shù)的變革。

可以看到，不同組織對于AI有不同的關(guān)切，比如安全性方面，企業(yè)講到了AI技術(shù)的內(nèi)部安全（Safety），但是政府講得很少。所以對于企業(yè)從業(yè)者來講，必須要他們的政府知道人工智能內(nèi)部安全還有很多的威脅和風(fēng)險。政府更多關(guān)注公平性，但是企業(yè)討論公平公正相對較少。所以，所有這些和AI治理相關(guān)的主題，必須要放在全球觀中討論。我們經(jīng)常以一個小的角度，就某一個主題進行討論，但是我們需要一個更全局的觀點。

AI治理需要自底向上和自頂向下的設(shè)計與實踐。科技部新一代人工智能治理原則可以通過新一代AI創(chuàng)新示范區(qū)、新一代AI開放創(chuàng)新平臺、科技部發(fā)布的項目等渠道落實頂層設(shè)計，而人工智能北京共識的實踐則是自底向上的。以北京為例， AI安全、AI道德自主學(xué)習(xí)、以及AI風(fēng)險評估和規(guī)制等具體的技術(shù)項目就已經(jīng)通過北京智源人工智能研究院與中國科學(xué)院、清華大學(xué)、北京大學(xué)、以及相關(guān)企業(yè)的協(xié)同開始技術(shù)落地。現(xiàn)在我們正在推進建立一個風(fēng)險評估和治理平臺，這個平臺未來推廣到其他城市和國家一定有其必要的意義。

全球?qū)τ贏I與人類社會的關(guān)系有完全不同的認識。有些國家發(fā)展人工智能技術(shù)是作為一項幫助人類解決問題的工具，而有些國家將未來的AI視作社會的一員，例如日本人工智能學(xué)會的AI倫理原則認為AI可以成為社會的“準(zhǔn)成員”。西方國家特別在科幻電影中會將AI視作人類的敵人。對于AI的長期愿景，我們必須深度思考AI與人類的關(guān)系。終極的AI與人類究竟是協(xié)作關(guān)系還是競爭關(guān)系，在這個方面，我們需要有長遠的戰(zhàn)略性規(guī)劃，確保人類與人工智能的和諧共生。我們是否真的應(yīng)該把AI關(guān)在道德的牢籠里呢？200年前，著作弗蘭肯斯坦中就引發(fā)了我們深刻的思考。如果未來的人工智能真的發(fā)展出一定程度的自我和意識，他們是否也可以擁有自己的隱私，我們應(yīng)該對他們持有偏見嗎？有些哲學(xué)家指出其實人類是世界上最可怕的動物，如果人對未來人工智能有嫉妒、歧視和偏見，那就不可能產(chǎn)生人和人工智能之間真正的和諧共生。人工智能融入社會，人類應(yīng)當(dāng)如何轉(zhuǎn)型，是我們更為值得深度思考的科學(xué)與哲學(xué)問題。