通用電氣為算法引入業(yè)務(wù)風(fēng)險(xiǎn)考量，試用“謙遜人工智能”

通用電氣認(rèn)為，人工智能可以具備一定程度的謙遜，算法將有足夠的意識(shí)來了解它們不知道的東西。

通用電氣研究公司表示，它一直在其風(fēng)電場和燃?xì)廨啓C(jī)的數(shù)字化雙胞胎部署試用“謙遜人工智能”。該計(jì)劃旨在將謙遜人工智能注入GE的數(shù)字化雙胞胎產(chǎn)品和服務(wù)。

謙遜人工智能指的是在遇到算法無法識(shí)別的情況時(shí)，具備默認(rèn)切換到已知安全操作模式的能力。

在安全模式下操作時(shí)，謙遜人工智能可以通過收集更多操作數(shù)據(jù)、人類工程師的輸入，與其他資產(chǎn)的關(guān)聯(lián)以及運(yùn)行其他模擬和場景來學(xué)習(xí)新情況。

通用電氣全球研究公司軟件研究副總裁Colin Parris表示，該公司的謙遜人工智能方法正在風(fēng)電場進(jìn)行試點(diǎn)。Parris表示：“我們希望向算法引入業(yè)務(wù)風(fēng)險(xiǎn)的概念，并為你提供模型失敗的早期預(yù)警和預(yù)測……了解我將這些資產(chǎn)引入哪些商業(yè)風(fēng)險(xiǎn)。”

Parris解釋說，人工智能背后的主要思想是，模型將了解他們的能力以及他們具有高度自信的領(lǐng)域。如果模型看到的是其置信區(qū)之外的東西，比如溫度范圍，那么該模型將足夠謙遜，知道自己在這方面不自信。

Parris 解釋說：“人工智能應(yīng)該謙虛地知道它不在其能力范圍之內(nèi)，并轉(zhuǎn)向標(biāo)準(zhǔn)操作。”

Parris表示，歸根結(jié)底，謙遜人工智能的承諾是，它能夠以更低的商業(yè)風(fēng)險(xiǎn)提供更快的價(jià)值。