當(dāng)前位置:首頁 > 智能硬件 > 人工智能AI
[導(dǎo)讀] 人工智能是一項了不起的技術(shù),它正在以不可思議的方式改變世界。如果你看過電影《終結(jié)者》,肯定知道先進(jìn)的人工智能技術(shù)蘊含一些危險。 正因如此,伊隆·馬斯克(Elon Musk)

人工智能是一項了不起的技術(shù),它正在以不可思議的方式改變世界。如果你看過電影《終結(jié)者》,肯定知道先進(jìn)的人工智能技術(shù)蘊含一些危險。

正因如此,伊隆·馬斯克(Elon Musk)、史蒂芬·霍金(Stephen Hawking)才連同另外數(shù)百名研究人員、科技領(lǐng)袖和科學(xué)家聯(lián)名支持人工智能應(yīng)該在生產(chǎn)力、道德和安全領(lǐng)域遵守的23條基本原則。

在未來生活研究院(Future of Life InsTItute)組織數(shù)十名專家共同參加Beneficial A.I. 2017大會之后,便正式發(fā)布了《艾斯羅馬人工智能23定律》(Asilomar A.I. Principles)。這些專家包括機(jī)器人學(xué)家、物理學(xué)家、經(jīng)濟(jì)學(xué)家、哲學(xué)家,他們對人工智能在安全、經(jīng)濟(jì)和道德等領(lǐng)域產(chǎn)生的影響展開了激烈辯論。要讓這套定律最終獲得通過,必須獲得多達(dá)90%的與會專家認(rèn)可。

“我們起草了23條定律,范圍從研究戰(zhàn)略到數(shù)字權(quán)益,再到可能出現(xiàn)的超級智能等未來的各種問題。認(rèn)可這些定律的專家已經(jīng)在上面簽下自己的名字。”未來生活研究院網(wǎng)站寫道,“這些定律并不全面,顯然也可以有不同的解讀,但它也凸顯出一個問題:目前圍繞許多相關(guān)問題開展的很多‘默認(rèn)’行為,可能會破壞在多數(shù)與會人員看來十分重要的原則。”

共有892名人工智能或機(jī)器人研究人員以及另外1445名專家在這份定律上簽字,包括特斯拉CEO馬斯克和著名物理學(xué)家霍金。

其中一些定律(例如透明度和共享研究成果)實現(xiàn)的可能性較低。即便這些定律無法得到全面落實,但這23條定律仍然可以改進(jìn)人工智能開發(fā)過程,確保這些技術(shù)符合道德標(biāo)準(zhǔn),避免邪惡勢力崛起。

以下是《艾斯羅馬人工智能23定律》的全部內(nèi)容:

1、研究目標(biāo):

人工智能研究目標(biāo)不能不受約束,必須發(fā)展有益的人工智能。

2、研究資金:

人工智能投資應(yīng)該附帶一部分專項研究基金,確保其得到有益的使用,解決計算機(jī)科學(xué)、經(jīng)濟(jì)、法律、倫理道德和社會研究方面的棘手問題:

——如何確保未來的人工智能系統(tǒng)健康發(fā)展,使之符合我們的意愿,避免發(fā)生故障或遭到黑客入侵?

——如何通過自動化實現(xiàn)繁榮,同時保護(hù)人類的資源,落實人類的目標(biāo)?

——如何更新法律制度,使之更加公平、效率更高,從而跟上人工智能的發(fā)展步伐,控制與人工智能有關(guān)的風(fēng)險?

——人工智能應(yīng)該符合哪些價值觀,還應(yīng)該具備哪些法律和道德地位?

3、科學(xué)政策聯(lián)系:

人工智能研究人員應(yīng)該與政策制定者展開有建設(shè)性的良性交流。

4、研究文化:

人工智能研究人員和開發(fā)者之間應(yīng)該形成合作、互信、透明的文化。

5、避免競賽:

人工智能系統(tǒng)開發(fā)團(tuán)隊?wèi)?yīng)該主動合作,避免在安全標(biāo)準(zhǔn)上出現(xiàn)妥協(xié)。

6、安全性:

人工智能系統(tǒng)應(yīng)當(dāng)在整個生命周期內(nèi)確保安全性,還要針對這項技術(shù)的可行性以及適用的領(lǐng)域進(jìn)行驗證。

7、故障透明度:

如果人工智能系統(tǒng)引發(fā)破壞,應(yīng)該可以確定原因。

8、司法透明度:

在司法決策系統(tǒng)中使用任何形式的自動化系統(tǒng),都應(yīng)該提供令人滿意的解釋,而且需要由有能力的人員進(jìn)行審查。

9、責(zé)任:

對于先進(jìn)的人工智能系統(tǒng)在使用、濫用和應(yīng)用過程中蘊含的道德意義,設(shè)計者和開發(fā)者都是利益相關(guān)者,他們有責(zé)任也有機(jī)會塑造由此產(chǎn)生的影響。

10、價值觀一致性:

需要確保高度自動化的人工智能系統(tǒng)在運行過程中秉承的目標(biāo)和采取的行動,都符合人類的價值觀。

11、人類價值觀:

人工智能系統(tǒng)的設(shè)計和運行都必須符合人類的尊嚴(yán)、權(quán)利、自由以及文化多樣性。

12、個人隱私:

人類應(yīng)該有權(quán)使用、管理和控制自己生成的數(shù)據(jù),為人工智能賦予數(shù)據(jù)的分析權(quán)和使用權(quán)。

13、自由和隱私:

人工智能在個人數(shù)據(jù)上的應(yīng)用決不能不合理地限制人類擁有或理應(yīng)擁有的自由。

14、共享利益:

人工智能技術(shù)應(yīng)當(dāng)讓盡可能多的人使用和獲益。

15、共享繁榮:

人工智能創(chuàng)造的經(jīng)濟(jì)繁榮應(yīng)當(dāng)廣泛共享,為全人類造福。

16、由人類控制:

人類應(yīng)當(dāng)有權(quán)選擇是否及如何由人工智能系統(tǒng)制定決策,以便完成人類選擇的目標(biāo)。

17、非破壞性:

通過控制高度先進(jìn)的人工智能系統(tǒng)獲得的權(quán)力,應(yīng)當(dāng)尊重和提升一個健康的社會賴以維繼的社會和公民進(jìn)程,而不是破壞這些進(jìn)程。

18、人工智能軍備競賽:

應(yīng)該避免在自動化致命武器上開展軍備競賽。

19、能力警告:

目前還沒有達(dá)成共識,我們應(yīng)該避免對未來人工智能技術(shù)的能力上限做出強假定。

20、重要性:

先進(jìn)的人工智能代表了地球生命歷史上的一次深遠(yuǎn)變革,應(yīng)當(dāng)以與之相稱的認(rèn)真態(tài)度和充足資源對其進(jìn)行規(guī)劃和管理。

21、風(fēng)險:

針對人工智能系統(tǒng)的風(fēng)險,尤其是災(zāi)難性風(fēng)險和存在主義風(fēng)險,必須針對其預(yù)期影響制定相應(yīng)的規(guī)劃和緩解措施。

22、不斷自我完善:

對于能夠通過自我完善或自我復(fù)制的方式,快速提升質(zhì)量或增加數(shù)量的人工智能系統(tǒng),必須輔以嚴(yán)格的安全和控制措施。

23、共同利益:

超級人工智能只能服務(wù)于普世價值,應(yīng)該考慮全人類的利益,而不是一個國家或一個組織的利益。

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫毥谦F公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關(guān)鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運行,同時企業(yè)卻面臨越來越多業(yè)務(wù)中斷的風(fēng)險,如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機(jī) 衛(wèi)星通信

要點: 有效應(yīng)對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅持高質(zhì)量發(fā)展策略,塑強核心競爭優(yōu)勢...

關(guān)鍵字: 通信 BSP 電信運營商 數(shù)字經(jīng)濟(jì)

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術(shù)學(xué)會聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(shù)(集團(tuán))股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉
關(guān)閉