斯坦福大學?AI100?報告發(fā)布：AI?發(fā)展速度驚人，但風險也正走進現(xiàn)實
[導讀]??作者|陽光來源|學術頭條語言處理、計算機視覺和模式識別的巨大進步，意味著人工智能（ArtificialIntelligence，AI）每天都在與人們的生活進行交互，從幫助人們選擇電影，到幫助人們解決醫(yī)療診斷難題方面都在積極發(fā)揮作用。圖|關于AI應用領域的暢想（來源：AI100...
??
作者 | 陽光來源 | 學術頭條
語言處理、計算機視覺和模式識別的巨大進步，意味著人工智能（Artificial Intelligence，AI）每天都在與人們的生活進行交互，從幫助人們選擇電影，到幫助人們解決醫(yī)療診斷難題方面都在積極發(fā)揮作用。
圖 | 關于 AI 應用領域的暢想（來源：AI100 Stanford）
然而，伴隨著這些成功的案例，人們迫切需要重新了解和降低 AI 驅動系統(tǒng)的風險和缺點，例如 AI 算法歧視或者利用 AI 進行惡意欺騙的行為。計算機科學專家們必須與社會科學專家和法律專家合作，以確保使 AI 帶來的陷阱最小化。
毫無疑問，AI 的發(fā)展已經到達了一個非常關鍵的轉折點。
圖 | 報告標題（來源：AI100 Stanford）
9 月 16 日，來自計算機科學、公共政策、心理學、社會學和一些其他學科的專門評估 AI 領域狀況的國際專家小組，在斯坦福 AI100 的網站上，以"Gathering Strength, Gathering Storms "為題，共同發(fā)表了人工智能百年研究 2021 年研究小組報告。
AI100 是由斯坦福大學 Human-Centered AI 研究所主持的一個正在進行的項目，旨在監(jiān)測 AI 的進展并指導其未來的發(fā)展。這份新報告是 AI100 項目發(fā)布的第二份報告，評估了 2016 年到 2021 年間 AI 方面的發(fā)展。
圖 | AI100 旨在關注的 14 個問題（來源：AI100 Stanford）
這份報告的重點在于回答 14 個 AI 相關的問題，并探討 AI 發(fā)展的關鍵領域。這些問題由 AI100 常務委員會制定，而這個委員會由一些著名的 AI 領導者組成。
這些問題包括：“AI 最重要的進步是什么？”和“AI 方面最鼓舞人心的開放式挑戰(zhàn)是什么？”。其他的問題則涉及 AI 主要風險和危險、AI 對社會的影響、公眾對于 AI 認知和 AI 領域的未來。并且在報告中，委員會召集了一個由 17 名研究人員和專家組成的小組解答了這些問題。
AI 逐步走出實驗室
報告小組的主席、布朗大學計算機科學教授 Michael Littman 表示：“在過去的五年里，AI 已經從主要發(fā)生在研究實驗室或其他高度控制環(huán)境中的事情，跨越到社會上影響人們生活的事情。”
Michael Littman 繼續(xù)補充說：“這是一件很令人興奮的事情，因為這項技術正在做一些我們在 5 年或 10 年前只能在夢里才可以實現(xiàn)的事情。但與此同時，AI 領域正在著手應對這項技術的帶來社會影響，我認為下一個前沿的方式是考慮如何從 AI 中獲益，同時將 AI 的風險降至最低。”
在 AI 的進步方面，專家組成員們注意到 AI 各個子領域的重大進展，包括語音和語言處理、機器視覺和其他領域。這一進步在很大程度上是由機器學習技術的進步推動的，特別是深度學習系統(tǒng)方面的進步，近年來這些技術從學術環(huán)境逐漸轉變到了日常應用。
圖 | OpenAI 的“DALL-E”生成圖像表明這套系統(tǒng)不僅僅是檢索相關圖像，而是產生新的視覺特征組合。（來源：AI100 Stanford）
例如，在自然語言處理領域，AI 驅動的系統(tǒng)現(xiàn)在不僅能夠識別單詞，還能夠理解它們在語法上的使用方式以及單詞的含義在不同的上下文中發(fā)生的變化。這使得網絡搜索、預測文本應用程序、聊天機器人等功能更加完善。其中一些系統(tǒng)現(xiàn)在可以生成難以與人工生成區(qū)分開來的原始文本。
在一些其他的領域，AI 系統(tǒng)診斷癌癥和其他疾病的準確度可以與訓練有素的病理學家媲美?；?AI 的研究技術對人類基因組產生了新的見解，并加速了新藥物的發(fā)現(xiàn)。雖然人們承諾已久的自動駕駛汽車尚未得到廣泛地應用，但是基于 AI 的駕駛輔助系統(tǒng)，如車道偏離警告和自適應巡航控制，已經成為了大多數(shù)新車的標準配置。
圖 | 人工智能已經離開了實驗室，并以新的方式進入了人們的生活（來源：Nick Dentamaro/布朗大學）
Littman 說，最近的一些 AI 進展可能會被該領域之外的觀察者忽視，但實際上反映了基礎 AI 技術的巨大進步。一個相關的例子是在新冠疫情大流行期間，在視頻會議中使用背景圖像，成為了許多人在家工作中普遍存在的現(xiàn)象。
“為了將人們置于背景圖像的前面，系統(tǒng)必須將人們與身后的東西區(qū)分開來，而僅僅從一組像素上區(qū)分是十分困難的。能夠很好地理解圖像以區(qū)分前景和背景可能是五年前在實驗室中發(fā)生的事情，但肯定不是在每個人的計算機上實時以高幀速率發(fā)生的事情。這是一個相當驚人的進步?！?/span>
AI 風險需保持警惕
至于 AI 的風險和危險，這個專家小組并沒有設想一個反烏托邦的情景，即超級智能機器接管世界。AI 的真正危險雖然微小，但是同樣令人擔憂。
報告中提到的一些危險源于故意濫用 AI，即用于傳播錯誤信息或損害人們聲譽的深度偽造圖像和視頻，或用于操縱公共言論和輿論的在線機器人。其他風險源于“公眾意識的某些角落與 AI 決策相關的中立和公正氛圍，導致系統(tǒng)被視為客觀的，即使它們可能是有偏見的歷史決策，甚至是公然歧視的結果。”
圖 | 利用 AI 生成的高分辨率圖像，這種技術引起人們對虛假信息傳播的擔憂（來源：AI100 Stanford）
在執(zhí)法等領域，這是一個特別令人關注的問題，犯罪預測系統(tǒng)已被證明對有色人種社區(qū)產生不利影響，或者在醫(yī)療保健領域，保險算法中嵌入的種族偏見可能會影響人們獲得適當護理的機會。
隨著 AI 使用的增加，這類問題可能會變得更加普遍。Littman 表示，好消息是 AI 領域正在認真對待這些危險，并積極尋求心理學、公共政策等領域專家們的意見，從而探索出減輕這些危險的方法。
圖 | 家用傳感器和機器人正在興起，提供支持和護理的同時也引起了人們對普遍監(jiān)視的負面影響的擔憂。（來源：AI100 Stanford）
Littman 說，編寫這份報告的小組成員來自不同的領域，可以反映出 AI 領域正在擴大的視野?！斑@個小組由幾乎一半的社會科學家和一半的計算機科學人員組成，我對社會科學家對人工智能的了解如此之深感到非常驚喜。我們現(xiàn)在有在各種不同領域工作的人，他們被認為是 AI 專家，這是一個積極的趨勢?！?br />
展望未來，專家小組得出結論，政府、學術界和工業(yè)界需要發(fā)揮出更大的作用，以確保人工智能的發(fā)展為更大的利益服務。
AI100 更深層背后的意義
總部位于西雅圖的 Allen AI 研究所首席執(zhí)行官 Oren Etzioni 曾經是 2016 年報告研究小組的成員。他對 AI100 的更新表示歡迎并表示，“2021 年這份報告代表了 AI 領域內外頂級專家的大量工作和見解。報告避免了聳人聽聞的說法，而傾向于有節(jié)制的學術義務。我認為這份報告關于人與 AI 合作的前景、AI 素養(yǎng)的需求以及來自學術界和非營利組織強有力的非商業(yè)視角的重要作用是正確的?！?br />
Etzioni 唯一的質疑是報告聲稱到目前為止，人工智能的經濟意義“相對較小——特別是相對于預期而言”。對此，Etzioni 表示“實際上，我認為這份報告可能低估了 AI 的經濟影響，因為 AI 通常是蘋果、亞馬遜、谷歌和其他一些大公司產品中的一項組件技術。”
圖 | AI 應用于 Apple/Amaze/Google 等大公司產品中（來源：Wired）
德克薩斯大學奧斯汀分校計算機科學教授、索尼AI美國公司執(zhí)行董事兼 AI100 常務委員會主席 Peter Stone 說：“雖然過去的一些年中，有很多關于 AI 影響的報告。但是 AI100 報告的獨特之處在于，它們都是由 AI 內部人士撰寫的。這些 AI 內部人士是創(chuàng)建 AI 算法或研究 AI 對社會影響的專家，并將 AI 領域作為主要職業(yè)活動。這也是一項持續(xù)的、縱向的、長達一個世紀的研究的一部分。2021 年的 AI100 報告對于的這個百年計劃來講至關重要，因為它通過評論 AI 在這五年間的變化與 2016 年的報告緊密相連。”
微軟首席科學官、AI 百年研究的聯(lián)合創(chuàng)始人 Eric Horvitz 稱贊了研究小組的工作說：“不同的 AI 專家小組在這份里程碑報告中分享的見解給我留下了深刻的印象。2021 年的報告在描述 AI 的現(xiàn)狀和發(fā)展方向方面做得很好，包括評估我們當前理解的 AI 前沿，以及 AI 對人類和社會影響的關鍵機遇和挑戰(zhàn)的理解和指導。”
關于 AI 100
歷史首次出現(xiàn) AI100 的字眼是在 2016 年報告的序言中。
圖 | AI100 概念圖（來源：AI100 Stanford）
人工智能百年研究（AI100）于 2014 年秋季啟動，是對 AI 領域及 AI 對人類、社區(qū)和社會影響的長期調查。它考慮 AI 計算系統(tǒng)的科學、工程和部署。作為其核心活動，監(jiān)督百年研究的常務委員會每五年組成一個研究小組，以評估 AI 當前的狀態(tài)。研究小組回顧了上一份報告之后幾年 AI 的進展，展望了 AI 未來的潛在進展，并描述了這些進展帶來的技術和社會挑戰(zhàn)和機遇，包括在倫理、經濟和與人類認知相容的系統(tǒng)設計等領域。
百年研究定期專家審查的首要目的，是提供一組關于 AI 及其影響的思考。這些研究為 AI 研究、開發(fā)和系統(tǒng)設計方向提供專家的指導，以及幫助確保這些系統(tǒng)廣泛造福個人和社會的計劃和政策。
“百年研究以早期的一項非正式研究“AAAI-Asilomar研究”為藍本。2008-2009年間，時任人工智能促進協(xié)會（AAAI）主席的 Eric Horvitz 召集了來自多個機構和領域的AI專家，以及認知科學、哲學和法律學者。參與者在分布式小組中工作，討論近期AI的發(fā)展、長期可能性以及法律和道德方面的問題，然后在 Asilomar 舉行為期三天的會議，分享和討論他們的研究結果。
圖 | Eric Horvitz 微軟首席執(zhí)行官 （來源：Eric Horvitz 個人主頁）
與會者隨后與其他同事進行的討論進一步擴大了關于密集會議討論的簡短書面報告，引起了該領域內外的廣泛興趣和辯論。Asilomar 會議的影響，以及 AI 領域的重要進展，包括 AI 算法和技術開始進入全球日常生活，激發(fā)了對 AI 及其對人類和社會的影響進行長期反復研究的想法。這項百年研究隨后被一所大學資助，以促進深入思考和跨學科學術調查，從而激發(fā)創(chuàng)新，并為政府機構和行業(yè)提供明智的建議。
參考資料：
https://www.brown.edu/news/2021-09-16/ai100
https://ai100.stanford.edu/2021-report/gathering-strength-gathering-storms-one-hundred-year-study-artificial-intelligence
作者 | 陽光來源 | 學術頭條語言處理、計算機視覺和模式識別的巨大進步，意味著人工智能（Artificial Intelligence，AI）每天都在與人們的生活進行交互，從幫助人們選擇電影，到幫助人們解決醫(yī)療診斷難題方面都在積極發(fā)揮作用。
圖 | 關于 AI 應用領域的暢想（來源：AI100 Stanford）然而，伴隨著這些成功的案例，人們迫切需要重新了解和降低 AI 驅動系統(tǒng)的風險和缺點，例如 AI 算法歧視或者利用 AI 進行惡意欺騙的行為。計算機科學專家們必須與社會科學專家和法律專家合作，以確保使 AI 帶來的陷阱最小化。
毫無疑問，AI 的發(fā)展已經到達了一個非常關鍵的轉折點。
圖 | 報告標題（來源：AI100 Stanford）9 月 16 日，來自計算機科學、公共政策、心理學、社會學和一些其他學科的專門評估 AI 領域狀況的國際專家小組，在斯坦福 AI100 的網站上，以"Gathering Strength, Gathering Storms "為題，共同發(fā)表了人工智能百年研究 2021 年研究小組報告。
AI100 是由斯坦福大學 Human-Centered AI 研究所主持的一個正在進行的項目，旨在監(jiān)測 AI 的進展并指導其未來的發(fā)展。這份新報告是 AI100 項目發(fā)布的第二份報告，評估了 2016 年到 2021 年間 AI 方面的發(fā)展。
圖 | AI100 旨在關注的 14 個問題（來源：AI100 Stanford）這份報告的重點在于回答 14 個 AI 相關的問題，并探討 AI 發(fā)展的關鍵領域。這些問題由 AI100 常務委員會制定，而這個委員會由一些著名的 AI 領導者組成。
這些問題包括：“AI 最重要的進步是什么？”和“AI 方面最鼓舞人心的開放式挑戰(zhàn)是什么？”。其他的問題則涉及 AI 主要風險和危險、AI 對社會的影響、公眾對于 AI 認知和 AI 領域的未來。并且在報告中，委員會召集了一個由 17 名研究人員和專家組成的小組解答了這些問題。
AI 逐步走出實驗室報告小組的主席、布朗大學計算機科學教授 Michael Littman 表示：“在過去的五年里，AI 已經從主要發(fā)生在研究實驗室或其他高度控制環(huán)境中的事情，跨越到社會上影響人們生活的事情。”
Michael Littman 繼續(xù)補充說：“這是一件很令人興奮的事情，因為這項技術正在做一些我們在 5 年或 10 年前只能在夢里才可以實現(xiàn)的事情。但與此同時，AI 領域正在著手應對這項技術的帶來社會影響，我認為下一個前沿的方式是考慮如何從 AI 中獲益，同時將 AI 的風險降至最低。”
在 AI 的進步方面，專家組成員們注意到 AI 各個子領域的重大進展，包括語音和語言處理、機器視覺和其他領域。這一進步在很大程度上是由機器學習技術的進步推動的，特別是深度學習系統(tǒng)方面的進步，近年來這些技術從學術環(huán)境逐漸轉變到了日常應用。
圖 | OpenAI 的“DALL-E”生成圖像表明這套系統(tǒng)不僅僅是檢索相關圖像，而是產生新的視覺特征組合。（來源：AI100 Stanford）
例如，在自然語言處理領域，AI 驅動的系統(tǒng)現(xiàn)在不僅能夠識別單詞，還能夠理解它們在語法上的使用方式以及單詞的含義在不同的上下文中發(fā)生的變化。這使得網絡搜索、預測文本應用程序、聊天機器人等功能更加完善。其中一些系統(tǒng)現(xiàn)在可以生成難以與人工生成區(qū)分開來的原始文本。
在一些其他的領域，AI 系統(tǒng)診斷癌癥和其他疾病的準確度可以與訓練有素的病理學家媲美?；?AI 的研究技術對人類基因組產生了新的見解，并加速了新藥物的發(fā)現(xiàn)。雖然人們承諾已久的自動駕駛汽車尚未得到廣泛地應用，但是基于 AI 的駕駛輔助系統(tǒng)，如車道偏離警告和自適應巡航控制，已經成為了大多數(shù)新車的標準配置。
圖 | 人工智能已經離開了實驗室，并以新的方式進入了人們的生活（來源：Nick Dentamaro/布朗大學）Littman 說，最近的一些 AI 進展可能會被該領域之外的觀察者忽視，但實際上反映了基礎 AI 技術的巨大進步。一個相關的例子是在新冠疫情大流行期間，在視頻會議中使用背景圖像，成為了許多人在家工作中普遍存在的現(xiàn)象。
“為了將人們置于背景圖像的前面，系統(tǒng)必須將人們與身后的東西區(qū)分開來，而僅僅從一組像素上區(qū)分是十分困難的。能夠很好地理解圖像以區(qū)分前景和背景可能是五年前在實驗室中發(fā)生的事情，但肯定不是在每個人的計算機上實時以高幀速率發(fā)生的事情。這是一個相當驚人的進步?！?/span>
AI 風險需保持警惕至于 AI 的風險和危險，這個專家小組并沒有設想一個反烏托邦的情景，即超級智能機器接管世界。AI 的真正危險雖然微小，但是同樣令人擔憂。
報告中提到的一些危險源于故意濫用 AI，即用于傳播錯誤信息或損害人們聲譽的深度偽造圖像和視頻，或用于操縱公共言論和輿論的在線機器人。其他風險源于“公眾意識的某些角落與 AI 決策相關的中立和公正氛圍，導致系統(tǒng)被視為客觀的，即使它們可能是有偏見的歷史決策，甚至是公然歧視的結果。”
圖 | 利用 AI 生成的高分辨率圖像，這種技術引起人們對虛假信息傳播的擔憂（來源：AI100 Stanford）在執(zhí)法等領域，這是一個特別令人關注的問題，犯罪預測系統(tǒng)已被證明對有色人種社區(qū)產生不利影響，或者在醫(yī)療保健領域，保險算法中嵌入的種族偏見可能會影響人們獲得適當護理的機會。
隨著 AI 使用的增加，這類問題可能會變得更加普遍。Littman 表示，好消息是 AI 領域正在認真對待這些危險，并積極尋求心理學、公共政策等領域專家們的意見，從而探索出減輕這些危險的方法。
圖 | 家用傳感器和機器人正在興起，提供支持和護理的同時也引起了人們對普遍監(jiān)視的負面影響的擔憂。（來源：AI100 Stanford）Littman 說，編寫這份報告的小組成員來自不同的領域，可以反映出 AI 領域正在擴大的視野?！斑@個小組由幾乎一半的社會科學家和一半的計算機科學人員組成，我對社會科學家對人工智能的了解如此之深感到非常驚喜。我們現(xiàn)在有在各種不同領域工作的人，他們被認為是 AI 專家，這是一個積極的趨勢?！?br />
展望未來，專家小組得出結論，政府、學術界和工業(yè)界需要發(fā)揮出更大的作用，以確保人工智能的發(fā)展為更大的利益服務。
AI100 更深層背后的意義總部位于西雅圖的 Allen AI 研究所首席執(zhí)行官 Oren Etzioni 曾經是 2016 年報告研究小組的成員。他對 AI100 的更新表示歡迎并表示，“2021 年這份報告代表了 AI 領域內外頂級專家的大量工作和見解。報告避免了聳人聽聞的說法，而傾向于有節(jié)制的學術義務。我認為這份報告關于人與 AI 合作的前景、AI 素養(yǎng)的需求以及來自學術界和非營利組織強有力的非商業(yè)視角的重要作用是正確的?！?br />
Etzioni 唯一的質疑是報告聲稱到目前為止，人工智能的經濟意義“相對較小——特別是相對于預期而言”。對此，Etzioni 表示“實際上，我認為這份報告可能低估了 AI 的經濟影響，因為 AI 通常是蘋果、亞馬遜、谷歌和其他一些大公司產品中的一項組件技術。”
圖 | AI 應用于 Apple/Amaze/Google 等大公司產品中（來源：Wired）德克薩斯大學奧斯汀分校計算機科學教授、索尼AI美國公司執(zhí)行董事兼 AI100 常務委員會主席 Peter Stone 說：“雖然過去的一些年中，有很多關于 AI 影響的報告。但是 AI100 報告的獨特之處在于，它們都是由 AI 內部人士撰寫的。這些 AI 內部人士是創(chuàng)建 AI 算法或研究 AI 對社會影響的專家，并將 AI 領域作為主要職業(yè)活動。這也是一項持續(xù)的、縱向的、長達一個世紀的研究的一部分。2021 年的 AI100 報告對于的這個百年計劃來講至關重要，因為它通過評論 AI 在這五年間的變化與 2016 年的報告緊密相連。”
微軟首席科學官、AI 百年研究的聯(lián)合創(chuàng)始人 Eric Horvitz 稱贊了研究小組的工作說：“不同的 AI 專家小組在這份里程碑報告中分享的見解給我留下了深刻的印象。2021 年的報告在描述 AI 的現(xiàn)狀和發(fā)展方向方面做得很好，包括評估我們當前理解的 AI 前沿，以及 AI 對人類和社會影響的關鍵機遇和挑戰(zhàn)的理解和指導。”
關于 AI 100歷史首次出現(xiàn) AI100 的字眼是在 2016 年報告的序言中。
圖 | AI100 概念圖（來源：AI100 Stanford）人工智能百年研究（AI100）于 2014 年秋季啟動，是對 AI 領域及 AI 對人類、社區(qū)和社會影響的長期調查。它考慮 AI 計算系統(tǒng)的科學、工程和部署。作為其核心活動，監(jiān)督百年研究的常務委員會每五年組成一個研究小組，以評估 AI 當前的狀態(tài)。研究小組回顧了上一份報告之后幾年 AI 的進展，展望了 AI 未來的潛在進展，并描述了這些進展帶來的技術和社會挑戰(zhàn)和機遇，包括在倫理、經濟和與人類認知相容的系統(tǒng)設計等領域。
百年研究定期專家審查的首要目的，是提供一組關于 AI 及其影響的思考。這些研究為 AI 研究、開發(fā)和系統(tǒng)設計方向提供專家的指導，以及幫助確保這些系統(tǒng)廣泛造福個人和社會的計劃和政策。
“百年研究以早期的一項非正式研究“AAAI-Asilomar研究”為藍本。2008-2009年間，時任人工智能促進協(xié)會（AAAI）主席的 Eric Horvitz 召集了來自多個機構和領域的AI專家，以及認知科學、哲學和法律學者。參與者在分布式小組中工作，討論近期AI的發(fā)展、長期可能性以及法律和道德方面的問題，然后在 Asilomar 舉行為期三天的會議，分享和討論他們的研究結果。
圖 | Eric Horvitz 微軟首席執(zhí)行官 （來源：Eric Horvitz 個人主頁）與會者隨后與其他同事進行的討論進一步擴大了關于密集會議討論的簡短書面報告，引起了該領域內外的廣泛興趣和辯論。Asilomar 會議的影響，以及 AI 領域的重要進展，包括 AI 算法和技術開始進入全球日常生活，激發(fā)了對 AI 及其對人類和社會的影響進行長期反復研究的想法。這項百年研究隨后被一所大學資助，以促進深入思考和跨學科學術調查，從而激發(fā)創(chuàng)新，并為政府機構和行業(yè)提供明智的建議。
參考資料：
https://www.brown.edu/news/2021-09-16/ai100
https://ai100.stanford.edu/2021-report/gathering-strength-gathering-storms-one-hundred-year-study-artificial-intelligence
下載文檔
