[導(dǎo)讀]整理?|禾木木出品|?AI科技大本營（ID:rgznai100）OpenAI，這次真的要Open了。OpenAI在2020年6月開放了GPT-3API接口，但只是開放商用，隨即吸引了大量的公司：客服、視頻游戲、輔導(dǎo)服務(wù)和心理健康應(yīng)用程序等。近日，OpenAI宣布，將取消訪問其自然...

整理 | 禾木木出品 | AI科技大本營（ID:rgznai100）OpenAI，這次真的要 Open 了。OpenAI 在 2020 年 6 月開放了 GPT-3 API 接口，但只是開放商用，隨即吸引了大量的公司：客服、視頻游戲、輔導(dǎo)服務(wù)和心理健康應(yīng)用程序等。近日，OpenAI宣布，將取消訪問其自然語言處理程序GPT-3 API 的等候名單。

GPT-3 是一種大型語言模型，可以自動編寫電子郵件和文章、撰寫詩歌、跨十幾種編程語言創(chuàng)建代碼等等。從11月18日開始，對于受任何支持國家/地區(qū)的開發(fā)者都可以注冊，開始將該模型與他們的應(yīng)用程序或服務(wù)集成。由 OpenAI 構(gòu)建，GPT-3 及其微調(diào)衍生產(chǎn)品（如 Codex）可以進行定制，來處理需要深入理解語言的應(yīng)用程序，從而將自然語言轉(zhuǎn)換為軟件代碼，到匯總大量文本并生成問題答案。自 2020 年以來，GPT-3 一直通過 OpenAI API 公開提供；截至 3 月，OpenAI 表示有成千上萬的開發(fā)者在 300 多個不同的應(yīng)用程序中使用，并且每天產(chǎn)生 45 億個單詞。根據(jù) OpenAI 的說法，“安全進展”使 GPT-3 從內(nèi)測轉(zhuǎn)向測試版成為可能。在過去的一年里，該公司開發(fā)了用于“更真實”的回答問題端點，提供了一個內(nèi)容過濾器來幫助減少濫用，并實施了表面上更符合人類指令的模型—— Instruct 模型。例如，OpenAI 聲稱，具有共享基礎(chǔ) GPT-3 的自然語言生成能力的指令模型更善于理解和遵循，“用幾句話向 6 歲兒童解釋登月”這樣的指令?；卮饐栴}的端點允許開發(fā)者為那些需要基于真實來源（如文檔和知識庫）的“高準(zhǔn)確度”生成的應(yīng)用程序提供額外的上下文。內(nèi)容過濾器的目的是檢測來自 API 生成的敏感性文本。OpenAI 在一篇博客中寫道：“我們相信，通過一個易于使用的 API 開放對這些模型的訪問，更多的開發(fā)者將找到創(chuàng)造性的方法，將人工智能應(yīng)用于大量有用的應(yīng)用和開放問題?！薄盀榱舜_保 API 支持的應(yīng)用程序是負責(zé)任地方式構(gòu)建的，我們會提供工具并幫助開發(fā)人員使用最佳實踐，以便他們能夠快速、安全地將應(yīng)用程序投入生產(chǎn)。隨著我們系統(tǒng)的發(fā)展，我們努力提高對于安全措施的能力，我們期望繼續(xù)為開發(fā)者簡化流程，完善我們的使用指南，并隨著時間的推移允許更多的用例。”“我們的政策一直禁止以不符合我們章程中描述的原則的方式使用我們的 API，并且仍然禁止仇恨言論之類的內(nèi)容......我們一直在努力使我們的內(nèi)容過濾器更加強大，我們打算允許可接受的隨著我們系統(tǒng)的改進，可以在某些類別中使用，”O(jiān)penAI 寫道?！拔覀兒芨吲d能夠為更多的開發(fā)者開放 GPT-3 的安全措施。隨著我們的安全措施不斷改進，我們將擴展 API 的使用方式，同時進一步改善我們的用戶體驗?！?/span>

人工智能保障措施

但 OpenAI 承認(rèn)，這些改進并不能解決大型語言模型中固有的毒性問題。GPT-3 在技術(shù)上還遠遠不夠完事，該模型是在超過 600GB 的網(wǎng)絡(luò)文本上進行訓(xùn)練的，其中一部分來自具有性別、種族、身體和宗教偏見的社區(qū)。研究表明，與其他大型語言模型一樣，它會放大訓(xùn)練數(shù)據(jù)的偏差。在一篇論文中，米德爾伯里國際研究所的恐怖主義、極端主義和反恐中心發(fā)現(xiàn)， GPT-3 可以生成“有影響力的”文本，可以將人們激進到極右的極端主義思想。喬治城大學(xué)( Georgetown University )的一個研究小組使用 GPT-3 生成了錯誤信息，包括圍繞虛假敘述的故事、為推動虛假觀點而修改的文章，以及針對特定錯誤信息點的推文。最近的工作表明，語言模型可能難以理解少數(shù)民族方言的某些方面，迫使使用模型的人轉(zhuǎn)向“白人英語”以確保模型可以繼續(xù)為他們工作。隨著 API 的 Beta 版可用，OpenAI 更新了其內(nèi)容指南，以闡明其 API 不能用于生成哪些類型的內(nèi)容，例如與政治、暴力、騷擾、仇恨、垃圾郵件、惡意軟件、欺騙和自我傷害有關(guān)的內(nèi)容。該公司表示，它正在與一些客戶測試特定內(nèi)容類別的“目標(biāo)過濾器”，并禁止其 API 上的某些類型的內(nèi)容，如成人內(nèi)容，其系統(tǒng)“目前無法可靠地識別有害的可接受的使用?！?/span>OpenAI 寫道“我們的政策始終禁止不遵守我們章程中描述的原則的方式使用我們的 API，像仇恨言論這樣的內(nèi)容會一直被禁止……我們正在不斷努力，使我們的內(nèi)容過濾器更加強大，隨著系統(tǒng)的改進，我們打算允許在某些類別內(nèi)可接受的使用?！薄拔覀兒芨吲d有保障措施為更多的開發(fā)者開放 GPT-3 。隨著我們的安全措施不斷改進，我們將擴展 API 的使用方法，同時進一步改進用戶的體驗。”GPT-3 的廣泛應(yīng)用是在微軟推出 Azure OpenAI 服務(wù)之后推出的，該服務(wù)旨在讓企業(yè)能夠訪問 GPT-3 及其衍生產(chǎn)品，以及安全、合規(guī)、治理和其他以業(yè)務(wù)為中心的功能。微軟與 OpenAI 關(guān)系密切，2020 年已向該公司投資 10 億美元，并獨家授權(quán) GPT-3 為 Azure 客戶開發(fā) AI 解決方案。這次的 OpenAI 是真的open了，你怎么看呢？