OpenAI 創(chuàng)始人：通用人工智能十年超越人類專業(yè)水平

據(jù)業(yè)內(nèi)媒體報道，上周六在北京舉辦的 2023 智源人工智能大會上，OpenAI 聯(lián)合創(chuàng)始人兼 CEO 山姆阿爾特曼(Sam ·ltman)以視頻連線的方式發(fā)表演講，并表示通用人工智能十年就會超越人類 90 年代初的專業(yè)水平。

阿爾特曼認為，世界的注意力主要集中在解決當(dāng)今的人工智能問題上，很多問題的解決非常迫切。人工智能能力正在迅速增長，現(xiàn)在需要負責(zé)任地將其應(yīng)用到世界中去，通用人工智能(AGI)最終可能超過人類最大體量公司的總體生產(chǎn)力。

阿爾特曼表示 AI 正在快速變得強大，全球合作的利益變得前所未有地重要，一定要共同合作實現(xiàn)目標并共同管理風(fēng)險，否則 AI 系統(tǒng)可能會通過提供不平衡的建議來破壞整個集體系統(tǒng)，推進通用人工智能安全也是 AI 行業(yè)最重要領(lǐng)域之一。

阿爾特曼表示行業(yè)必須為開發(fā)和部署可能引發(fā)的問題負起責(zé)任，其中最重要的兩個領(lǐng)域是：一，建立起包容的國際準則和標準，并在所有國家對 AGI 的使用中建立平等、統(tǒng)一的防護措施;二，需要國際合作，以可驗證的方式在全球范圍內(nèi)建立對越來越強大的AGI系統(tǒng)安全開發(fā)的信任。

據(jù)悉，阿爾特曼當(dāng)初針對 GPT-4 的訓(xùn)練和部署花費了八個月的時間來預(yù)判風(fēng)險以及應(yīng)對策略，但對于更高級的系統(tǒng)來說仍是一個尚未解決的問題，需要新的技術(shù)方法以及加強治理監(jiān)督，未來面對一個十萬行二進制代碼的 AGI 系統(tǒng)，人類是無法完全監(jiān)督的。

對此，阿爾特曼表示 OpenAI 正在投資新的方向，第一種是可擴展監(jiān)督，嘗試使用 AI 系統(tǒng)來協(xié)助人類監(jiān)督其他 AI 系統(tǒng);第二是更好地理解模型內(nèi)部發(fā)生的事情，比如用 GPT-4 來解釋計算機的復(fù)雜狀態(tài)，最終的目標是訓(xùn)練 AI 系統(tǒng)具備更好的優(yōu)化自身的能力。