人工智能在醫(yī)療領(lǐng)域應(yīng)用風(fēng)險(xiǎn)很大

雖然醫(yī)學(xué)人工智能是發(fā)展的大趨勢(shì)，但目前AI還有很多不成熟的地方，如果大規(guī)模在臨床應(yīng)用的話是很危險(xiǎn)的。在資源不足且分布不均的醫(yī)療領(lǐng)域，人們開始把希望寄托在機(jī)器上，醫(yī)療成為人工智能（AI）賦能的熱門領(lǐng)域。前瞻產(chǎn)業(yè)研究院數(shù)據(jù)顯示，2017年中國(guó)醫(yī)療人工智能市場(chǎng)規(guī)模超過130億元，并有望在2018年達(dá)到200億元，醫(yī)療人工智能空間廣闊。但現(xiàn)實(shí)情況是，AI進(jìn)入醫(yī)療領(lǐng)域，頭上有一面穿不透的天花板。

人工智能要一分為二地看待。一方面，從積極的態(tài)度看，醫(yī)學(xué)人工智能目前是發(fā)展大趨勢(shì)。大數(shù)據(jù)技術(shù)的發(fā)展使得AI已成為一個(gè)行業(yè)發(fā)展的必經(jīng)之路和重要方向。從需求上來說，無論是大醫(yī)院的醫(yī)生，還是基層醫(yī)生，都需要一些輔助用具，都需要一些用以決策的數(shù)據(jù)依據(jù)。按照人的記憶能力，是沒法完成數(shù)字化大規(guī)模運(yùn)算和大規(guī)模記憶存儲(chǔ)的，這是人腦的局限性，而機(jī)器正好彌補(bǔ)了人類的短板。所以在很大程度上，我們對(duì)AI有很大的期待，將來在各個(gè)領(lǐng)域，AI都會(huì)產(chǎn)生重要的作用。但回過頭來說，我們要清醒地看待AI現(xiàn)在發(fā)展的歷程。

目前AI還處在非常初級(jí)的階段，有很多不成熟的地方，包括數(shù)據(jù)模型的建立、數(shù)據(jù)的來源以及知識(shí)模型和知識(shí)標(biāo)準(zhǔn)等，這些方面都很初級(jí)。而且，目前都是工程師在建立模型，很少有臨床醫(yī)學(xué)的專家參與這個(gè)過程。所以在這個(gè)階段，AI還存在很多缺陷和風(fēng)險(xiǎn)，如果大規(guī)模臨床應(yīng)用的話是很危險(xiǎn)的，因?yàn)獒t(yī)療是不能出錯(cuò)的。IT界有個(gè)行話叫開著飛機(jī)修飛機(jī)，但醫(yī)療是不行的，一定得把飛機(jī)修好了才能開上去，這是由行業(yè)的特點(diǎn)決定的，醫(yī)療和電商等領(lǐng)域都不太一樣。

現(xiàn)在的AI是基于國(guó)際開源的一些公用的模型和算法，所以它局限在我們的語音識(shí)別、圖像識(shí)別，對(duì)于很多其他邏輯數(shù)據(jù)的建立，目前還很難建造一個(gè)非常符合臨床醫(yī)學(xué)規(guī)律的數(shù)據(jù)模型。所以，這就需要更多的數(shù)學(xué)家參與到醫(yī)學(xué)AI的開發(fā)中來。我們的醫(yī)學(xué)數(shù)據(jù)模型沒有建立的話，將來AI的應(yīng)用場(chǎng)景就會(huì)非常受限，會(huì)很膚淺。

所以在目前這個(gè)狀態(tài)下，AI用在基層醫(yī)療上是不行的，是一個(gè)風(fēng)險(xiǎn)所在?；蛟S很多大專家有判斷能力，但是基層醫(yī)生是沒有判斷能力的，你把這樣一個(gè)機(jī)器給他，他無法判定是采取機(jī)器的建議還是拒絕機(jī)器的建議，這對(duì)診斷疾病來說就會(huì)有潛在風(fēng)險(xiǎn)。

在AI不太成熟的時(shí)候，我們不主張大規(guī)模在醫(yī)療領(lǐng)域推廣，但是我們需要實(shí)驗(yàn)，需要一個(gè)局限性的、小范圍的、特定環(huán)境下的實(shí)驗(yàn)，目的是為了幫助AI工程師們?nèi)ソ⒏玫臄?shù)學(xué)模型。

現(xiàn)在AI的整個(gè)設(shè)計(jì)邏輯還存在短板，它是基于一種完全可控的、可知的、可預(yù)測(cè)的數(shù)學(xué)邏輯去建立的模型，換句話說，它是符合現(xiàn)代簡(jiǎn)單數(shù)學(xué)邏輯的，比如“1+1=2”的這種。但我們的臨床疾病很多情況下不是如此清楚的數(shù)學(xué)邏輯，它是因果關(guān)系，其中會(huì)涉及很多潛在的干擾因素，還有未知因素，所以目前建立起來的AI模型還無法模擬臨床上的這種因果關(guān)系。簡(jiǎn)單一句話就是，目前的AI不具備邏輯推理能力，因?yàn)槿诉€不知道自己的邏輯推理是怎么算出來的。

從生物學(xué)上來說，我們對(duì)人的這些跳躍性思維還不完全掌握，我們看到科學(xué)界有很多報(bào)告也對(duì)AI的一些優(yōu)點(diǎn)和弊端做了相關(guān)鑒定。一方面，AI具備大規(guī)模的運(yùn)算能力、存儲(chǔ)能力、深度搜索能力以及快速學(xué)習(xí)能力。它目前解決的包括精確控制和遠(yuǎn)程操控，都是勞動(dòng)密集型問題，也就是重復(fù)性的、簡(jiǎn)單邏輯很明確的工作關(guān)系。但是對(duì)臨床診斷來說，它需要邏輯推理能力，這是AI的短板。所以目前整個(gè)AI的運(yùn)用還有很大風(fēng)險(xiǎn)。

從思維方式上來說，積極的深度學(xué)習(xí)是一個(gè)連續(xù)性的學(xué)習(xí)，我們?cè)谌四X上叫連續(xù)性思維，但目前機(jī)器無法做到的是跳躍性思維。比如，我們?nèi)祟愑袀€(gè)事情解決不了，睡了一覺后，第二天早上突然靈光一現(xiàn)，找到了解決方案，這種跳躍性思維目前從生理學(xué)上是怎么誕生的，我們并不知道，這是腦科學(xué)還沒有解決的問題，所以無法用機(jī)器去模擬這種跳躍性思維，這時(shí)候就無法完成邏輯推理層面上的治病過程。

從AI發(fā)展的技術(shù)上來說，技術(shù)本身存在很多缺陷，比如說魯棒性的問題。魯棒性是系統(tǒng)面臨決策產(chǎn)生的干擾因素時(shí)表現(xiàn)出來的穩(wěn)健性。人在判斷錯(cuò)誤的時(shí)候會(huì)有一些其他因素來補(bǔ)償，人會(huì)及時(shí)終止自己的邏輯，會(huì)有一些潛意識(shí)的反應(yīng)去防范一些惡性問題的發(fā)生。所以科學(xué)界說，人的魯棒性是好的，后果不是很嚴(yán)重。但機(jī)器的魯棒性是差的，它出現(xiàn)錯(cuò)誤時(shí)自己都不知道是錯(cuò)的，會(huì)繼續(xù)錯(cuò)下去，帶來的后果很嚴(yán)重，因?yàn)樗鼪]有修正的過程。所以我們目前對(duì)AI的認(rèn)識(shí)必須要看到背后的風(fēng)險(xiǎn)。