OpenAI 回應(yīng)馬斯克：訓(xùn)練人工智能確實(shí)非常危險

據(jù)業(yè)內(nèi)信息報道，隨著 ChatGPT 的爆火，馬斯克之前批評 OpenAI 并表示：訓(xùn)練人工智能非常危險。近日 OpenAI 聯(lián)合創(chuàng)始人兼總裁 Greg·Brockman 對馬斯克的言論表示認(rèn)同，承認(rèn)訓(xùn)練 ChatGPT 是犯了一個錯誤。

ChatGPT 是去年 11 月推出的由 OpenAI 開發(fā)的一個人工智能聊天機(jī)器人程序，該程序使用基于 GPT-3.5 架構(gòu)的大型語言模型并通過強(qiáng)化學(xué)習(xí)進(jìn)行訓(xùn)練。

OpenAI 是馬斯克和另一個合伙人山姆(OpenAI 的 CEO)共同創(chuàng)辦的，目前在美國舊金山，和馬斯克的腦機(jī)接口公司(Neuralink)在同一座大樓辦公。其最終目的是通過和全球研究者的合作向公眾開放專利以及研究成果，促進(jìn)和發(fā)展對人類友好的人工智能，最終使得全人類受益。

據(jù)說，馬斯克創(chuàng)辦 OpenAI 公司的動機(jī)是出于對超強(qiáng)人工智能潛在風(fēng)險和人類命運(yùn)的擔(dān)憂。不得不承認(rèn)他在這方面和 Tony·Stark 確實(shí)挺相似的，也難怪被稱為硅谷鋼鐵俠。

不少業(yè)內(nèi)研究人員對此表示，ChatGPT 很有可能會重新定義現(xiàn)有定義人工智能的體系。就在大家紛紛表示看好該 AI 產(chǎn)品及其未來的市場時，也有不少人表現(xiàn)出擔(dān)憂或恐懼，畢竟電影《終結(jié)者》中的 SkyNet 就是以此成長起來的超級人工智能，亞馬遜近日就警告員工不要將公司內(nèi)部的任何信息包括代碼等數(shù)據(jù)分享給 ChatGPT。

馬斯克之前多次批評 OpenAI 沒有實(shí)施保護(hù)措施以阻止聊天機(jī)器人回復(fù)一些可能被視為具有冒犯性的內(nèi)容。對此 Greg·Brockman 表示：“OpenAI 可能犯了一個錯誤，即實(shí)施的系統(tǒng)并沒有反映出我們的價值觀，我認(rèn)為我們解決這個問題的速度不夠快，我們是合理的。”

據(jù)悉，不少用戶批評 ChatGPT 生成的回復(fù)內(nèi)容帶有政治偏見。比如上個月在某社交媒體平臺中有一段 ChatGPT 聊天對話截圖，內(nèi)容為 ChatGPT 拒絕生成關(guān)于美國前總統(tǒng)川普的正面的詩歌，并表示它所設(shè)置的程序不是用來生成關(guān)于“黨派、偏見或政治的”內(nèi)容，但當(dāng)用同樣的提示內(nèi)容為成現(xiàn)任總統(tǒng)拜登時，ChatGPT 卻輸出了一首熱情洋溢的詩。

對此，馬斯克表示智能聊天機(jī)器人拒絕創(chuàng)作關(guān)于特朗普的詩是非常一個嚴(yán)重的問題。而且之前馬斯克多次曾批評過關(guān)于人工智能的訓(xùn)練模型，馬斯克認(rèn)為訓(xùn)練人工智能覺醒、訓(xùn)練人工智能撒謊的危險是致命的。