歐盟立法者制定生成式人工智能法草案

根據(jù)澎湃新聞報(bào)道，近日歐洲議會(huì)兩個(gè)委員會(huì)通過了《The AI Act》提案的談判授權(quán)草案。草案就對(duì) ChatGPT 等生成式人工智能大模型的一系列要求達(dá)成一致，標(biāo)志著歐盟對(duì)人工智能實(shí)施強(qiáng)監(jiān)管方面又邁出了一步。

草案嚴(yán)格禁止了「對(duì)人類安全造成不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)」，包括有目的地操縱技術(shù)、利用人性弱點(diǎn)或根據(jù)行為、社會(huì)地位和個(gè)人特征等進(jìn)行評(píng)價(jià)的系統(tǒng)等。草案提出了新的保障措施，并禁止各種危險(xiǎn)用例，包括禁止在公共場(chǎng)所進(jìn)行大規(guī)模面部識(shí)別程序，以及禁止使用預(yù)測(cè)性警務(wù)系統(tǒng)(即AI犯罪預(yù)測(cè)系統(tǒng))。草案還要求建立一個(gè)公共數(shù)據(jù)庫(kù)，記錄政府部門部署的“高風(fēng)險(xiǎn)”人工智能系統(tǒng)，公開數(shù)據(jù)，以便公民能夠了解他們將何時(shí)以及如何受到這項(xiàng)技術(shù)的影響。

預(yù)計(jì)該草案將于 6 月中旬提交歐洲議會(huì)全會(huì)表決，之后歐洲議會(huì)將與歐盟理事會(huì)就法律的最終形式進(jìn)行談判。歐洲議會(huì)的聲明說，一旦獲得批準(zhǔn)，這將成為全世界首部有關(guān)人工智能的法規(guī)。

該草案由兩個(gè)關(guān)鍵委員會(huì)批準(zhǔn)：內(nèi)部市場(chǎng)委員會(huì)(Internal Market Committee)和公民自由委員會(huì)(Civil Liberties Committee)。這些委員會(huì)由負(fù)責(zé)監(jiān)督立法制定的歐洲議會(huì)議員組成。他們最終以84票贊成、7票反對(duì)、12票棄權(quán)批準(zhǔn)了完成的草案。

歐洲議會(huì)表示，在草案中，歐洲議會(huì)議員旨在確保人工智能系統(tǒng)由人監(jiān)督，且確保其安全、透明、可追溯、非歧視和環(huán)保。他們還希望對(duì)人工智能有一個(gè)統(tǒng)一的定義，旨在保持技術(shù)中立，以便其可以適用于現(xiàn)在和以后出現(xiàn)的人工智能系統(tǒng)。

修正案包括擴(kuò)大禁止行為清單，以禁止對(duì)人工智能系統(tǒng)的“侵入性”和“歧視性”使用，禁止行為包括：在公共可訪問空間建立實(shí)時(shí)遠(yuǎn)程生物特征識(shí)別系統(tǒng);使用遠(yuǎn)程生物特征識(shí)別系統(tǒng)，唯一的例外是執(zhí)法部門起訴嚴(yán)重犯罪，并且只有在司法授權(quán)后;使用敏感特征(例如性別、種族、民族、公民身份、宗教、政治取向)的生物識(shí)別分類系統(tǒng);預(yù)測(cè)性警務(wù)系統(tǒng)(基于貌相、地點(diǎn)或過去的犯罪行為預(yù)測(cè)犯罪);執(zhí)法、邊境管理、工作場(chǎng)所和教育機(jī)構(gòu)中的情感識(shí)別系統(tǒng);從社交媒體或監(jiān)控?cái)z像頭中抓取生物特征數(shù)據(jù)以創(chuàng)建面部識(shí)別數(shù)據(jù)庫(kù)(侵犯人權(quán)和隱私權(quán))。

除了禁令之外，更新后的草案還引入了旨在監(jiān)管“通用人工智能”的新措施，適用于由微軟、谷歌和OpenAI等科技巨頭構(gòu)建的資源密集型人工智能系統(tǒng)，其中包括GPT-4和ChatGPT等語言模型，以及Stable Diffusion、Midjourney和DALL-E等人工智能圖像生成器。

根據(jù)擬議的立法，人工智能大模型的創(chuàng)建者需要在人工智能使用之前進(jìn)行評(píng)估并減輕各種風(fēng)險(xiǎn)，包括評(píng)估訓(xùn)練人工智能系統(tǒng)可能造成的環(huán)境損害。相關(guān)公司必須公開訓(xùn)練人工智能使用的數(shù)據(jù)，以確保其使用受版權(quán)法保護(hù)的數(shù)據(jù)訓(xùn)練。

有業(yè)內(nèi)人士認(rèn)為，版權(quán)問題可能會(huì)在美國(guó)產(chǎn)生重大影響。在美國(guó)，版權(quán)所有者已經(jīng)對(duì)未經(jīng)同意使用其數(shù)據(jù)的人工智能圖像生成器提起了一系列訴訟，許多科技公司，如谷歌和OpenAI，都通過拒絕披露訓(xùn)練系統(tǒng)的數(shù)據(jù)(通常聲稱這些信息是商業(yè)機(jī)密)來避免這類法律挑戰(zhàn)，若歐盟要求公開訓(xùn)練數(shù)據(jù)，則可能會(huì)產(chǎn)生新的訴訟。