OpenAI前安全負(fù)責(zé)人離職加盟Anthropic，投入競(jìng)爭(zhēng)對(duì)手懷抱

日前從OpenAI辭職的前首席安全研究員Jan Leike在5月28日宣布，正式加盟AI初創(chuàng)公司Anthropic。后者也被視為是OpenAI的最大競(jìng)爭(zhēng)對(duì)手。

Leike于5月15日宣布了從OpenAI離職的決定。令人驚訝的是，短短幾天之后，OpenAI就解散了他共同領(lǐng)導(dǎo)的超級(jí)聯(lián)盟小組。

該研究團(tuán)隊(duì)成立于2023年，專注于AI長(zhǎng)期風(fēng)險(xiǎn)的探索與研究。而就在Leike離職的前一天，OpenAI的聯(lián)合創(chuàng)始人Ilya Sutskever也宣布離職。

Leike在社交媒體平臺(tái)X上表示：“我很高興能夠加入Anthropic AI，將繼續(xù)追求超級(jí)對(duì)齊的使命。我將帶領(lǐng)新的團(tuán)隊(duì)致力于可擴(kuò)展的監(jiān)督學(xué)習(xí)、從弱到強(qiáng)的泛化以及自動(dòng)對(duì)齊技術(shù)的創(chuàng)新研究和探索?！?

Anthropic的發(fā)展得到了亞馬遜的支持。亞馬遜已經(jīng)承諾為Anthropic的少數(shù)股權(quán)提供高達(dá)40億美元的資金，幫助該公司在AI領(lǐng)域取得更大的突破。

在離職之后，Leike在一篇帖子中寫道：“決定從OpenAI離職是我做出的最艱難的決定之一，因?yàn)槲覀兤惹行枰私馊绾我龑?dǎo)和控制比我們聰明得多的AI系統(tǒng)?！?

自從OpenAI于2022年底推出ChatGPT以來，AI安全在科技行業(yè)的重要性迅速提高，催生了AI產(chǎn)品和投資的熱潮。而一些業(yè)內(nèi)人士表示擔(dān)心，一些科技公司在沒有充分考慮潛在的社會(huì)危害的情況下，過于急迫地向公眾發(fā)布強(qiáng)大的AI產(chǎn)品。

OpenAI在5月28日宣布設(shè)立了一個(gè)全新的安全和保障委員會(huì)，該委員會(huì)由包括該公司CEO薩姆·奧特曼在內(nèi)的高層管理團(tuán)隊(duì)領(lǐng)導(dǎo)，主要職責(zé)是向董事會(huì)提供有關(guān)“OpenAI項(xiàng)目和運(yùn)營(yíng)的安全與保障決策”的建議。

Anthropic由Dario Amodei和Daniela Amodei兄妹以及OpenAI的其他前高管于2021年共同創(chuàng)立。今年3月，Anthropic成功推出了ChatGPT的競(jìng)爭(zhēng)對(duì)手Claude 3，進(jìn)一步鞏固了其在AI領(lǐng)域的地位。

除了獲得亞馬遜的投資之外，Anthropic還獲得了谷歌、Salesforce和Zoom等科技巨頭的資金支持。