AI熱潮下，董事會(huì)和CEO必須能夠全面洞悉AI

AI已經(jīng)成為我們?nèi)粘Ｉ畹囊徊糠?，這一點(diǎn)你無(wú)法否認(rèn)。幾乎來(lái)自所有不同行業(yè)的財(cái)富1000強(qiáng)企業(yè)領(lǐng)導(dǎo)者，都在積極開(kāi)展AI計(jì)劃。大中型全球企業(yè)都在加速創(chuàng)新，利用AI的誘人前景提高收入、增加利潤(rùn)、并在產(chǎn)品和服務(wù)產(chǎn)品中發(fā)現(xiàn)新的價(jià)值。

盡管AI的發(fā)展迅速，但董事會(huì)和CEO們?cè)贏I語(yǔ)言素養(yǎng)和風(fēng)險(xiǎn)管理實(shí)踐方面仍然遠(yuǎn)遠(yuǎn)落后。AI的崛起就像是一場(chǎng)暴風(fēng)雨，一場(chǎng)完美的風(fēng)暴可能正在醞釀之中，但很少有董事會(huì)和CEO能回答這個(gè)問(wèn)題：你的AI算法和AI模型位于何處，AI算法或者模型是否存在風(fēng)險(xiǎn)?

AI的發(fā)展是迅猛的：2020年7月初發(fā)布的最新全球研究報(bào)告指出，AI市場(chǎng)的復(fù)合年增長(zhǎng)率超過(guò)42%，在美國(guó)AI市場(chǎng)規(guī)模超過(guò)7337億美元。根據(jù)麻省理工學(xué)院斯隆研究中心(MIT Sloan Research)的說(shuō)法，超過(guò)90%的大型企業(yè)正在利用AI改善他們的客戶交互旅程。AI創(chuàng)業(yè)投資的增長(zhǎng)讓人想起了互聯(lián)網(wǎng)時(shí)代的牛市，但你可能還記得，2002年3月牛市下跌了76%，這喚醒了人們對(duì)價(jià)值實(shí)現(xiàn)和盈利能力重要性的覺(jué)醒。

根據(jù)CBI Insights的數(shù)據(jù)，2019年AI初創(chuàng)公司總共募集了266億美金，涉及全球2200多筆交易，盡管遭遇了疫情，但醫(yī)療應(yīng)急和智能機(jī)器、醫(yī)療機(jī)器人等變革性技術(shù)，正在迅速興起成為幫助應(yīng)對(duì)疫情的AI解決方案。

平均而言，到2022年，高級(jí)分析方面的投資將超過(guò)整體市場(chǎng)預(yù)算的11%。隨著企業(yè)組織將AI和機(jī)器學(xué)習(xí)工具納入他們的業(yè)務(wù)流程，到2025年，AI軟件相關(guān)支出將達(dá)到1250億美元。

你可能會(huì)認(rèn)為，董事會(huì)和CEO們可以輕松地了解他們所有的AI算法和AI模型位于何處，非常清楚各種風(fēng)險(xiǎn)狀況，并且能夠通過(guò)清晰的KPI和ROI來(lái)證明價(jià)值的實(shí)現(xiàn)。

遺憾的是，很多企業(yè)被采用黑盒AI實(shí)踐的AI計(jì)劃吸引，這就意味著沒(méi)有清晰的問(wèn)責(zé)制，是不透明的，更不用說(shuō)審計(jì)風(fēng)險(xiǎn)了。董事會(huì)董事和CEO們知道他們的員工身處何方(無(wú)論是遠(yuǎn)程辦公還是在辦公室)，知道應(yīng)該聯(lián)系誰(shuí)來(lái)解決客戶服務(wù)或個(gè)人問(wèn)題。

但是，恐怕沒(méi)有一家跨國(guó)企業(yè)的董事會(huì)或者CEO可以在不到五分鐘的時(shí)間內(nèi)，拿出一份該企業(yè)所有AI算法或者AI模型資產(chǎn)的完整列表，也不知道上一次修訂模型是在什么時(shí)候，給不出可靠的、經(jīng)過(guò)第三方驗(yàn)證的風(fēng)險(xiǎn)分類證據(jù)。

隨著數(shù)據(jù)的民主化逐漸成為實(shí)現(xiàn)AI的基礎(chǔ)，我們必須提高AI和機(jī)器學(xué)習(xí)的相關(guān)KPI，讓AI KPI比財(cái)務(wù)KPI更加重要，從而提高透明度，就像審計(jì)師受到損益表信托責(zé)任制的約束一樣。世界正在發(fā)生巨變，數(shù)據(jù)已經(jīng)成為我們最具戰(zhàn)略意義的資產(chǎn)，但是鮮有企業(yè)成為數(shù)據(jù)管理實(shí)踐的標(biāo)桿，他們不知道數(shù)據(jù)是在哪里設(shè)計(jì)、收集和存儲(chǔ)的以實(shí)現(xiàn)和跟蹤AI轉(zhuǎn)型所能帶來(lái)的價(jià)值。

盡管有不少企業(yè)已經(jīng)投資了機(jī)器學(xué)習(xí)運(yùn)營(yíng)(MLOps)，但很少有企業(yè)擁有成熟的AI卓越中心，其中，MLOps是一項(xiàng)核心能力。New Relic最近一項(xiàng)研究發(fā)現(xiàn)，受訪的750位全球高級(jí)IT決策者中，有89%的人認(rèn)為，AI和機(jī)器學(xué)習(xí)對(duì)于企業(yè)組織的IT運(yùn)營(yíng)至關(guān)重要。有近84%的受訪者認(rèn)為，AI和機(jī)器學(xué)習(xí)將讓他們的職責(zé)變得更易于管理。這一樂(lè)觀的預(yù)測(cè)，將加速數(shù)據(jù)管理實(shí)踐的不斷完善，而這正是AI建模和風(fēng)險(xiǎn)管理實(shí)踐的關(guān)鍵。

筆者在過(guò)去18個(gè)月中對(duì)超過(guò)500位全球大型B2B企業(yè)C級(jí)高管的交流中發(fā)現(xiàn)，沒(méi)有一家企業(yè)可以在5分鐘時(shí)間內(nèi)回答大多數(shù)以下問(wèn)題。

要保持領(lǐng)先地位，就要恰當(dāng)?shù)靥岢龈鞣NAI相關(guān)的問(wèn)題，每一個(gè)使用AI算法構(gòu)建定制化AI模型以解決特定問(wèn)題或業(yè)務(wù)挑戰(zhàn)的項(xiàng)目，都應(yīng)能夠回答以下這些問(wèn)題：

使用場(chǎng)景歷史

AI模型/算法用于什么用途? AI模型/算法解決了哪些業(yè)務(wù)問(wèn)題或者挑戰(zhàn)? 在設(shè)計(jì)、構(gòu)建和實(shí)施各種用例之前，企業(yè)最初估算的AI模型和AI方法ROI是多少?

AI模型所有權(quán)歷史

誰(shuí)編寫了算法或者開(kāi)發(fā)了AI模型? 流程負(fù)責(zé)人目前還在該企業(yè)嗎? 考慮到AI模型和算法方法的風(fēng)險(xiǎn)，AI模型是否有二級(jí)流程負(fù)責(zé)人? 算法和模型結(jié)構(gòu)是否經(jīng)過(guò)了創(chuàng)建者之外其他人的審核?審核者是誰(shuí)?

創(chuàng)建和修訂歷史

AI模型或者AI算法是何時(shí)構(gòu)建的? 自第一次用于生產(chǎn)環(huán)境中以來(lái)，對(duì)AI模型或AI算法進(jìn)行了多少次修訂? 正在使用哪種類型的AI算法? 該算法是開(kāi)源的嗎?還是有人編寫了獨(dú)特的AI算法來(lái)解決獨(dú)有的業(yè)務(wù)挑戰(zhàn)?

AI算法或模型方法歷史

AI算法的數(shù)學(xué)結(jié)構(gòu)或數(shù)學(xué)公式是什么? 這些是否經(jīng)過(guò)了第三方專家對(duì)準(zhǔn)確性的驗(yàn)證? 負(fù)責(zé)監(jiān)督正在使用中的AI算法模型的負(fù)責(zé)人? AI模型開(kāi)發(fā)的數(shù)據(jù)類型(結(jié)構(gòu)化/非結(jié)構(gòu)化數(shù)據(jù))和數(shù)據(jù)源(內(nèi)部、外部、兩者兼有)是什么? 數(shù)據(jù)集有多大? 在被分析之前，數(shù)據(jù)集是否經(jīng)過(guò)了清洗?如果是的話，是誰(shuí)清洗的，使用了什么方法? AI模型中使用的數(shù)據(jù)源，質(zhì)量和準(zhǔn)確性怎么樣? 與所有版本的歷史記錄相比，預(yù)測(cè)準(zhǔn)確性的基準(zhǔn)得分是多少? AI模型和AI算法是否有風(fēng)險(xiǎn)分類，是否制定了風(fēng)險(xiǎn)緩解計(jì)劃? 開(kāi)發(fā)的AI模型是否經(jīng)過(guò)了數(shù)據(jù)偏差測(cè)試? 使用了哪些數(shù)據(jù)偏差方法? 進(jìn)行了幾種數(shù)據(jù)偏差風(fēng)險(xiǎn)評(píng)估? 上一次審查和優(yōu)化/重新訓(xùn)練AI模型是在什么時(shí)候?

AI算法或模型的價(jià)值實(shí)現(xiàn)

就投資回報(bào)率而言，AI模型能給企業(yè)組織帶來(lái)什么價(jià)值? 是否有效率或者效果值能夠清晰定義ROI? 第一個(gè)用例的ROI/價(jià)值結(jié)果預(yù)測(cè)，與實(shí)際AI產(chǎn)生的ROI結(jié)果相差多少? AI價(jià)值結(jié)果是否已經(jīng)經(jīng)過(guò)了財(cái)務(wù)或者第三方專家的驗(yàn)證、審核或簽署?如果是的話，是否已經(jīng)提交了報(bào)告? 這種AI模型方法與其他行業(yè)最佳實(shí)踐相比如何? 是否有針對(duì)AI模型或文件的有效流程改進(jìn)計(jì)劃?

盡管還有很多其他問(wèn)題，但要監(jiān)督AI卓越中心來(lái)跟蹤AI模型的演進(jìn)發(fā)展，董事會(huì)和CEO們可以從年度審計(jì)風(fēng)險(xiǎn)評(píng)估和治理運(yùn)營(yíng)流程開(kāi)始著手。

遺憾的是，多數(shù)情況下AI模型都是由數(shù)據(jù)科學(xué)家、計(jì)算機(jī)程序員或者專業(yè)服務(wù)公司(第三方供廠商)開(kāi)發(fā)的，他們都致力于構(gòu)建一個(gè)特定的AI模型，不管是預(yù)測(cè)美國(guó)熱點(diǎn)區(qū)域第二波疫情情況，還是使用AI無(wú)人機(jī)預(yù)測(cè)害蟲(chóng)給收獲季帶來(lái)的影響，還是預(yù)測(cè)收入，以及確保AI方法的潛在風(fēng)險(xiǎn)管理實(shí)踐，在大多數(shù)情況下，設(shè)計(jì)和構(gòu)建AI模型的參與者都是用心良苦的。

董事會(huì)和CEO們必須意識(shí)到，AI素養(yǎng)是他們發(fā)展和培養(yǎng)人才所需的一種新能力。AI模型需要不斷優(yōu)化才能成功用于生產(chǎn)環(huán)境，而對(duì)數(shù)據(jù)管理基礎(chǔ)設(shè)施進(jìn)行現(xiàn)代化投資，是確保數(shù)據(jù)和機(jī)器學(xué)習(xí)與時(shí)俱進(jìn)的關(guān)鍵。如果管理層不監(jiān)控AI模型的生產(chǎn)環(huán)境，對(duì)模型進(jìn)行再訓(xùn)練，并且隨著時(shí)間的推移增加其他數(shù)據(jù)源以加強(qiáng)模型洞察的話，他們就會(huì)犯錯(cuò)。

AI就像是建造一座花園，施肥和除草是收獲美麗的一項(xiàng)長(zhǎng)期投資。AI不是雕塑，你不能構(gòu)建一個(gè)模型然后未來(lái)幾年一直保持它的原始狀態(tài)不變。有人說(shuō)AI是一種新型石油，而我更愿意說(shuō)AI是一種新型氧氣，因?yàn)锳I越來(lái)越普及，像氣候變化一樣，潮起潮落無(wú)處不在。你想要能夠洞悉花園中的一切生長(zhǎng)狀態(tài)，就需要卓越的遠(yuǎn)見(jiàn)才能做出明智的規(guī)劃。

對(duì)于董事會(huì)和CEO們來(lái)說(shuō)，遺憾的是很多技術(shù)負(fù)責(zé)人或者CIO并不擅長(zhǎng)AI和數(shù)據(jù)科學(xué)實(shí)踐，這進(jìn)一步提高了實(shí)施AI的企業(yè)所面臨的風(fēng)險(xiǎn)。首席數(shù)據(jù)官(CDO)和首席數(shù)據(jù)科學(xué)家官(CDSO)的興起，推動(dòng)了AI進(jìn)化、模型構(gòu)建、風(fēng)險(xiǎn)管理實(shí)踐的發(fā)展，盡管大多數(shù)公司在數(shù)據(jù)支持系統(tǒng)方面的投資，不得不和保護(hù)算法和AI模型安全性方面的投資節(jié)奏保持一致。

董事會(huì)和CEO們有責(zé)任確保AI審核和風(fēng)險(xiǎn)管理框架得到合理實(shí)施，推進(jìn)AI治理的向前邁進(jìn)。