在 COP26 氣候會議結(jié)束后，私營公司和政府都在加緊承諾應(yīng)對氣候變化，采用公共政策和創(chuàng)新技術(shù)的組合來應(yīng)對我們這個時代的決定性挑戰(zhàn)之一。
其中一家公司是 Nvidia，它是超級計算機（稱為“Earth-2”）的創(chuàng)造者，它利用預(yù)測模型幫助科學家了解未來幾十年全球氣候變化可能如何顯現(xiàn)。但是，盡管設(shè)想一個人工智能有助于應(yīng)對氣候危機的世界可能會令人興奮，但人工智能本身帶有 顯著的碳足跡這一諷刺性的諷刺是無法逃避的。
恰當?shù)睦樱菏褂脗鹘y(tǒng)神經(jīng)架構(gòu)搜索構(gòu)建的單個基于變壓器的神經(jīng)網(wǎng)絡(luò)（2.13 億個參數(shù)）會產(chǎn)生超過 600,000 磅的二氧化碳，幾乎是普通汽車在其生命周期內(nèi)產(chǎn)生的排放量的六倍。
只有當我們首先了解問題的范圍時，才有可能縮小人工智能的碳足跡。幸運的是，科技行業(yè)領(lǐng)導(dǎo)者可以采取一些措施來確保人工智能創(chuàng)新不會以犧牲地球健康為代價。從重新思考硬件和模型的復(fù)雜性，到減少訓(xùn)練和推理階段所需的處理，這就是實現(xiàn)生態(tài)友好型人工智能創(chuàng)新所需要的。
禁止低功耗模型
人工智能模型需要大量的能量才能運行，并且它們對計算能力的渴望隨著模型的準確性而增長。AI 模型越大（因此通常預(yù)測更準確），它需要的能量就越多。
為了將這種巨大的能源消耗放在背景下，在 2020 年， 用于解決魔方的算法 需要的能量相當于三個核電站在一小時內(nèi)產(chǎn)生的能量。盡管這個例子是一個異常值（并且 AI 模型傾向于專注于解決更多實際問題，而不是簡單地解決魔方），但它仍然說明了一個總體趨勢：隨著 AI 模型的規(guī)模和準確性不斷增長，它們的負面影響也在不斷增長。環(huán)境。
提供一個不那么異想天開的統(tǒng)計數(shù)據(jù)：早在 2018 年，進行電力推理的數(shù)據(jù)中心每年估計使用 200 太瓦時 (TWh)，超過了一些國家的國家能源消耗量。
直到最近，訓(xùn)練階段仍占 AI 算力消耗的大部分。但隨著越來越多的公司將他們的人工智能產(chǎn)品商業(yè)化，更多的能源消耗將用于推理。
隨著這一趨勢的加速，與人工智能相關(guān)的二氧化碳排放量將呈指數(shù)級增長——除非該行業(yè)采取措施減少排放。
更重要的是，我們目睹了 AI 模型復(fù)雜性和大小的持續(xù)增加，模型大小從 2012 年的 26MB 增長到 2019 年的1TB 。這種增長相應(yīng)地推動了對更多計算能力的需求。
與氣候變化本身一樣，人工智能正越來越不可逆轉(zhuǎn)地融入我們的日常生活。所以，人工智能先驅(qū)者必須要問的問題是：我們?nèi)绾尾拍茏審?fù)雜的人工智能更環(huán)保？
幸運的是，在它所關(guān)注的行業(yè)中，人們越來越意識到這個問題。2021 年初，MLPerf 推出了?MLPerf 功率測量?——一套新的技術(shù)和指標，可補充 AI 流程的性能基準。這些指標的引入為報告和比較模型和硬件性能建立了一個急需的標準，同時還考慮了能耗而不是僅僅跟蹤延遲。
測量和跟蹤人工智能碳足跡的能力是朝著正確方向邁出的一步，但整個行業(yè)需要做更多的事情。值得慶幸的是，有些步驟可以很容易地實施。
工作更聰明，而不是更難
任何希望在氣候變化面前表現(xiàn)出可敬的責任感的企業(yè)都必須更聰明地了解他們?nèi)绾我约盀槭裁催\行他們的人工智能項目。在不影響計算能力的情況下提高效率的一種方法是簡單地投資于更節(jié)能的硬件來部署模型。高通等硬件制造商——他們的新 Cloud AI 100 芯片在設(shè)計時考慮到了降低功耗——通過在設(shè)計新產(chǎn)品時考慮能源問題，開辟了一條有希望的道路。
而隨著 MLPerf 發(fā)布 了另一個 試圖測量和比較硬件功率效率的基準，不乏降低 AI 芯片功耗的重要工作。
更小更環(huán)保
另一個重要的難題是模型本身——尤其是它們的尺寸和配置。簡而言之，現(xiàn)在是企業(yè)重新思考越大越好的傳統(tǒng)智慧的時候了。
在無影響的真空中，準確性可以說是人工智能計算最重要的方面。但對于實際應(yīng)用，僅靠準確性不足以成功部署，而且從環(huán)境的角度來看，不能以犧牲模型效率為代價。
好消息是，有一些方法可以優(yōu)化深度學習模型的核心架構(gòu)，可以在不影響其準確性的情況下提高性能效率。根據(jù) Deci 在降低計算能力和模型增強方面的內(nèi)部估計和經(jīng)驗，優(yōu)化核心架構(gòu)有助于將推理所需的計算功耗降低 50% 到 80% ——對于希望保持領(lǐng)先地位的企業(yè)來說，這是一個充滿希望的前景。人工智能游戲，同時為地球盡自己的一份力量。
從表面上看，有太多行業(yè)的投資回報率考慮與環(huán)境問題不一致——這就是氣候變化的痛苦歷史。幸運的是，人工智能不一定是這種情況，效率優(yōu)化是雙贏的局面。
需要更少處理能力的更小、更高效的模型運行起來更便宜，而且對環(huán)境更友好。深度學習模型可以在不加劇氣候變化的情況下滿足他們設(shè)定的所有目的。
下載文檔