美國(guó)號(hào)召全球 AI 巨頭承諾保證安全并添加水印

據(jù)業(yè)內(nèi)消息，上周美國(guó)白宮召集了全球 7 家全球 AI 巨頭自愿承諾幫助實(shí)現(xiàn)人工智能安全、可靠和透明的發(fā)展，包括亞馬遜、Anthropic、Inflection、Meta、OpenAI、Alphabet以及微軟。

為了充分發(fā)揮人工智能的潛力，拜登政府鼓勵(lì)該行業(yè)堅(jiān)持最高標(biāo)準(zhǔn)，以確保創(chuàng)新不會(huì)以犧牲美國(guó)人的權(quán)利和安全為代價(jià)，抓住 AI 帶來的巨大前景并管理其帶來的風(fēng)險(xiǎn)，開發(fā)這些新興技術(shù)的公司有責(zé)任確保其產(chǎn)品的安全。

這 7 家公司選擇做出的承諾強(qiáng)調(diào)了人工智能未來的三個(gè)基本原則：安全、保障和信任，標(biāo)志著朝著開發(fā)負(fù)責(zé)任的人工智能邁出了關(guān)鍵一步。承諾內(nèi)容包括：

在向公眾推出產(chǎn)品之前確保其安全

• 兩家公司承諾在發(fā)布人工智能系統(tǒng)之前對(duì)其進(jìn)行內(nèi)部和外部安全測(cè)試。 這項(xiàng)測(cè)試將部分由獨(dú)立專家進(jìn)行，旨在防范一些最重要的人工智能風(fēng)險(xiǎn)來源，例如生物安全和網(wǎng)絡(luò)安全及其更廣泛的社會(huì)影響。
• 這些公司致力于在整個(gè)行業(yè)以及與政府、民間社會(huì)和學(xué)術(shù)界分享有關(guān)管理人工智能風(fēng)險(xiǎn)的信息。 這包括最佳安全實(shí)踐、有關(guān)試圖規(guī)避保障措施的信息以及技術(shù)合作。

構(gòu)建將安全放在首位的系統(tǒng)

• 兩家公司承諾投資網(wǎng)絡(luò)安全和內(nèi)部威脅防護(hù)措施，以保護(hù)專有和未發(fā)布的模型權(quán)重。 這些模型權(quán)重是人工智能系統(tǒng)最重要的部分，公司一致認(rèn)為，僅在有意且考慮到安全風(fēng)險(xiǎn)時(shí)才發(fā)布模型權(quán)重，這一點(diǎn)至關(guān)重要。
• 兩家公司致力于促進(jìn)第三方發(fā)現(xiàn)和報(bào)告其人工智能系統(tǒng)中的漏洞。 即使人工智能系統(tǒng)發(fā)布后，一些問題可能仍然存在，而強(qiáng)大的報(bào)告機(jī)制可以使問題快速發(fā)現(xiàn)并修復(fù)。

贏得公眾的信任

• 兩家公司致力于開發(fā)強(qiáng)大的技術(shù)機(jī)制，以確保用戶知道內(nèi)容何時(shí)由人工智能生成，例如水印系統(tǒng)。 這一行動(dòng)使人工智能的創(chuàng)造力得以蓬勃發(fā)展，同時(shí)減少了欺詐和欺騙的危險(xiǎn)。
• 兩家公司承諾公開報(bào)告其人工智能系統(tǒng)的功能、局限性以及適當(dāng)和不適當(dāng)使用的領(lǐng)域。 該報(bào)告將涵蓋安全風(fēng)險(xiǎn)和社會(huì)風(fēng)險(xiǎn)，例如對(duì)公平和偏見的影響。
• 兩家公司承諾優(yōu)先研究人工智能系統(tǒng)可能帶來的社會(huì)風(fēng)險(xiǎn)，包括避免有害的偏見和歧視以及保護(hù)隱私。 人工智能的歷史記錄顯示了這些危險(xiǎn)的陰險(xiǎn)性和普遍性，這些公司承諾推出人工智能來減輕這些危險(xiǎn)。
• 兩家公司致力于開發(fā)和部署先進(jìn)的人工智能系統(tǒng)，以幫助解決社會(huì)面臨的最大挑戰(zhàn)。 從癌癥預(yù)防到緩解氣候變化，以及介于兩者之間的許多事情，如果管理得當(dāng)，人工智能可以為所有人的繁榮、平等和安全做出巨大貢獻(xiàn)。