阿里達(dá)摩院自然語言理解技術(shù)奪冠 AI技術(shù)將進(jìn)一步落地發(fā)展
3月3日消息,在全球自然語言處理領(lǐng)域頂級(jí)賽事GLUE Benchmark中,阿里巴巴達(dá)摩院以平均分90.3分的成績(jī)奪冠,刷新自然語言理解技術(shù)世界紀(jì)錄,與阿里同場(chǎng)競(jìng)技的還有來自Google、微軟、Facebook、斯坦福大學(xué)等企業(yè)和高校的團(tuán)隊(duì)。
比賽結(jié)果,GLUE Benchmark官網(wǎng)截圖
自然語言理解是人工智能的核心技術(shù)之一,GLUE Benchmark(通用語言理解評(píng)估基準(zhǔn))比賽排名是衡量自然語言理解技術(shù)水平的重要指標(biāo)。比賽設(shè)置了自然語言推斷、語義相似度、問答匹配、情感分析等9項(xiàng)任務(wù),最后按平均分綜合排名。
達(dá)摩院NLP團(tuán)隊(duì)取得了CoLA、MRPC、QQP、WNLI等4個(gè)任務(wù)的最佳效果,以平均分90.3分位列第一,阿里AI的表現(xiàn)已經(jīng)顯著超越人類水平(87.1分)。
在自然語言理解領(lǐng)域,阿里AI實(shí)力雄厚。早在2018年初,阿里AI就在機(jī)器閱讀理解頂級(jí)賽事SQuAD中打破世界紀(jì)錄,首次超越人類成績(jī);在2019年阿里AI也曾登頂GLUE榜單,并于2019年6月在常識(shí)QA領(lǐng)域的權(quán)威數(shù)據(jù)集CommonsenseQA中奪冠,還刷新了MS MARCO文本閱讀理解挑戰(zhàn)賽的紀(jì)錄,在開放域問答任務(wù)上超越人類閱讀水平。
達(dá)摩院AI團(tuán)隊(duì)在自然語言理解相關(guān)比賽的歷史成績(jī)
自然語言理解技術(shù)的目的是讓機(jī)器理解人類語言,在人工智能研究者的努力下,人類為機(jī)器研發(fā)的“基礎(chǔ)語言模型”正不斷演進(jìn)。
Google于2018年底推出的BERT模型是業(yè)界廣泛使用的自然語言預(yù)訓(xùn)練模型,達(dá)摩院NLP團(tuán)隊(duì)在BERT的基礎(chǔ)上提出優(yōu)化模型StructBERT,能讓機(jī)器更好地掌握人類語法,加深對(duì)自然語言的理解。
使用StructBERT模型好比給機(jī)器內(nèi)置一個(gè)“語法識(shí)別器”,使機(jī)器在面對(duì)語序錯(cuò)亂或不符合語法習(xí)慣的詞句時(shí),仍能準(zhǔn)確理解并給出正確的表達(dá)和回應(yīng),大大提高機(jī)器對(duì)詞語、句子以及語言整體的理解力。其相關(guān)成果論文已被國(guó)際人工智能領(lǐng)域頂級(jí)會(huì)議ICLR-2020收錄。
據(jù)悉,這一技術(shù)已廣泛使用于阿里旗下阿里小蜜、螞蟻金服、優(yōu)酷等業(yè)務(wù)。阿里達(dá)摩院的語言模型和閱讀理解技術(shù)也被用于行業(yè)賦能,推進(jìn)AI技術(shù)在醫(yī)療、電力、金融等行業(yè)的落地。