美國聯(lián)邦貿(mào)易委員會提出來怎樣的AI發(fā)展建議

美國聯(lián)邦貿(mào)易委員會（FTC）下屬的消費(fèi)者保護(hù)局局長安德魯-史密斯（Andrew Smith）本周發(fā)布了一篇文章，名為《使用人工智能和算法》。該文章旨在對正在開發(fā)和使用消費(fèi)級人工智能的企業(yè)提供一些幫助。

文章中的經(jīng)驗(yàn)主要來自于 FTC 過去的執(zhí)法行動、行業(yè)報(bào)告以及研討會，其中一個最重要的信息就是建議企業(yè)在開發(fā)和使用人工智能時，不要讓消費(fèi)者或者他們自身感到驚訝。

謹(jǐn)慎對待人工智能，除了有助于避免 FTC 的審查之外，還能帶來一些好處。比如還可以幫助避免與消費(fèi)者和商業(yè)伙伴的關(guān)系受損。此次 FTC 在文中提出的建議主要分為四大類：

要透明。

向消費(fèi)者解釋你的決定；

確保你的決定是公平的；

確保你的數(shù)據(jù)和模型是穩(wěn)健的、經(jīng)驗(yàn)性的。

盡管其中許多信息涉及到 FTC 執(zhí)行的特定行業(yè)法律，如《公平信用報(bào)告法》（FCRA）和《平等信用機(jī)會法》（ECOA）等，但其實(shí)很多建議具有更廣泛的適用性。

擔(dān)起企業(yè)的責(zé)任

諸如 FCRA、ECOA 和 1964 年《民權(quán)法》第七章等行之已久的法律，他們分別適用于消費(fèi)者報(bào)告、消費(fèi)信貸、投票、教育和提供公共場所等領(lǐng)域的人工智能使用。要履行這些法律的義務(wù)，有賴于承認(rèn)這些法律是否以及何時適用。

然而，F(xiàn)TC 的文章中討論的法律遠(yuǎn)非詳盡無遺。在文章中提到的法律之外，還有一條重要的法律需要補(bǔ)充 —— 健康保險(xiǎn)便利和責(zé)任法案（HIPAA）。

該法案制定了一系列安全標(biāo)準(zhǔn)，就保健計(jì)劃、供應(yīng)商以及結(jié)算中心如何以電子文件的形式來傳送、訪問和存儲受保護(hù)的健康信息做出詳細(xì)的規(guī)定。法案規(guī)定在確保私密性的情況下保存病人信息檔案六年，還詳細(xì)規(guī)定了醫(yī)療機(jī)構(gòu)處理病人信息規(guī)范，以及違法保密原則、通過電子郵件或未授權(quán)的網(wǎng)絡(luò)注銷病人檔案的處罰方案。

雖然通常情況下，當(dāng)一個企業(yè)作為醫(yī)療服務(wù)提供者、保險(xiǎn)人或信息交換中心時，通常是很清楚的，但要確定公司何時成為受保實(shí)體的「商業(yè)伙伴」可能更具挑戰(zhàn)性。

此次新冠疫情的影響加速了和醫(yī)療健康相關(guān)的 AI 產(chǎn)業(yè)發(fā)展，而這些企業(yè)在尋求技術(shù)突破的同事，更需要了解企業(yè)應(yīng)該擔(dān)負(fù)的責(zé)任。

全面評估數(shù)據(jù)和 AI 模型

根據(jù)文章所述，F(xiàn)TC 已經(jīng)制定了評估 AI 系統(tǒng)是否存在非法歧視的法律和經(jīng)濟(jì)標(biāo)準(zhǔn)。

具體來說，該機(jī)構(gòu)將查看輸入的信息，以確定它們是否包括「基于種族的因素，或此類因素的替代信息」。

文章中表達(dá)了一個強(qiáng)烈的觀點(diǎn)，就是 FTC 對通過使用 AI 可能產(chǎn)生的歧視的關(guān)注度相當(dāng)高?！笆褂萌斯ぶ悄芎退惴üぞ叩墓緫?yīng)該考慮是否應(yīng)該對人工智能結(jié)果進(jìn)行自我測試，以管理這類模型所固有的消費(fèi)者保護(hù)風(fēng)險(xiǎn)”。

對供應(yīng)商進(jìn)行盡職調(diào)查，約束下游用戶

FTC 的 AI 指南中貫穿著另一個主題：公司應(yīng)仔細(xì)評估 AI 相關(guān)數(shù)據(jù)和分析的上游供應(yīng)商如何遵守其法律義務(wù)，并對其進(jìn)行適當(dāng)?shù)募s束，以防止自己的客戶以不適當(dāng)或非法的方式使用 AI 服務(wù)。

雖然 FTC 重點(diǎn)關(guān)注 FCRA 和 ECOA 下的上游和下游要求，但遠(yuǎn)離更多的高監(jiān)管活動才是其意圖。

在簽訂人工智能相關(guān)業(yè)務(wù)關(guān)系之前進(jìn)行盡職調(diào)查，要求在合同條款中寫明人工智能系統(tǒng)和數(shù)據(jù)輸入的允許用途，以及監(jiān)督業(yè)務(wù)合作伙伴的表現(xiàn)，都是實(shí)現(xiàn)這些目的的關(guān)鍵。

FTC 在監(jiān)督人工智能在經(jīng)濟(jì)領(lǐng)域的使用方面的作用還處于起步階段，并將繼續(xù)發(fā)展。但不管怎么說，該機(jī)構(gòu)此次發(fā)布的文章，對于隨著科技發(fā)展而新興的法律和企業(yè)對自我監(jiān)管的思考，都提供了一個有用的資源。