機(jī)器學(xué)習(xí)與數(shù)據(jù)挖掘的關(guān)系
掃描二維碼
隨時(shí)隨地手機(jī)看文章
在大多數(shù)非計(jì)算機(jī)專(zhuān)業(yè)人士以及部分計(jì)算機(jī)專(zhuān)業(yè)背景人士眼中,機(jī)器學(xué)習(xí)(Data Mining)以及數(shù)據(jù)挖掘(Machine Learning)是兩個(gè)高深的領(lǐng)域。在筆者看來(lái),這是一種過(guò)高”瞻仰“的習(xí)慣性錯(cuò)誤理解(在這里我加了好多定語(yǔ))。事實(shí)上,這兩個(gè)領(lǐng)域與計(jì)算機(jī)其他領(lǐng)域一樣都是在融匯理論和實(shí)踐的過(guò)程中不斷熟練和深入,不同之處僅在于滲透了更多的數(shù)學(xué)知識(shí)(主要是統(tǒng)計(jì)學(xué)),在后面的文章中我會(huì)努力將這些數(shù)學(xué)知識(shí)以一種更容易理解的方式講解給大家。本文從基本概念出發(fā)淺析他們的關(guān)系和異同,不講具體算法和數(shù)學(xué)公式。希望對(duì)大家能有所幫助。
一、概念定義機(jī)器學(xué)習(xí)(Machine Learning,ML)是一門(mén)多領(lǐng)域交叉學(xué)科,涉及概率論、統(tǒng)計(jì)學(xué)、逼近論、凸分析、算法復(fù)雜度理論等多門(mén)學(xué)科。其專(zhuān)門(mén)研究計(jì)算機(jī)是怎樣模擬或?qū)崿F(xiàn)人類(lèi)的學(xué)習(xí)行為,以獲取新的知識(shí)或技能,重新組織已有的知識(shí)結(jié)構(gòu),使之不斷改善自身的性能。
數(shù)據(jù)挖掘是從海量數(shù)據(jù)中獲取有效的、新穎的、潛在有用的、最終可理解的模式的非平凡過(guò)程。數(shù)據(jù)挖掘中用到了大量的機(jī)器學(xué)習(xí)界提供的數(shù)據(jù)分析技術(shù)和數(shù)據(jù)庫(kù)界提供的數(shù)據(jù)管理技術(shù)。
學(xué)習(xí)能力是智能行為的一個(gè)非常重要的特征,不具有學(xué)習(xí)能力的系統(tǒng)很難稱(chēng)之為一個(gè)真正的智能系統(tǒng),而機(jī)器學(xué)習(xí)則希望(計(jì)算機(jī))系統(tǒng)能夠利用經(jīng)驗(yàn)來(lái)改善自身的性能,因此該領(lǐng)域一直是人工智能的核心研究領(lǐng)域之一。在計(jì)算機(jī)系統(tǒng)中,“經(jīng)驗(yàn)”通常是以數(shù)據(jù)的形式存在的,因此,機(jī)器學(xué)習(xí)不僅涉及對(duì)人的認(rèn)知學(xué)習(xí)過(guò)程的探索,還涉及對(duì)數(shù)據(jù)的分析處理。實(shí)際上,機(jī)器學(xué)習(xí)已經(jīng)成為計(jì)算機(jī)數(shù)據(jù)分析技術(shù)的創(chuàng)新源頭之一。由于幾乎所有的學(xué)科都要面對(duì)數(shù)據(jù)分析任務(wù),因此機(jī)器學(xué)習(xí)已經(jīng)開(kāi)始影響到計(jì)算機(jī)科學(xué)的眾多領(lǐng)域,甚至影響到計(jì)算機(jī)科學(xué)之外的很多學(xué)科。機(jī)器學(xué)習(xí)是數(shù)據(jù)挖掘中的一種重要工具。然而數(shù)據(jù)挖掘不僅僅要研究、拓展、應(yīng)用一些機(jī)器學(xué)習(xí)方法,還要通過(guò)許多非機(jī)器學(xué)習(xí)技術(shù)解決數(shù)據(jù)倉(cāng)儲(chǔ)、大規(guī)模數(shù)據(jù)、數(shù)據(jù)噪聲等實(shí)踐問(wèn)題。機(jī)器學(xué)習(xí)的涉及面也很寬,常用在數(shù)據(jù)挖掘上的方法通常只是“從數(shù)據(jù)學(xué)習(xí)”。然而機(jī)器學(xué)習(xí)不僅僅可以用在數(shù)據(jù)挖掘上,一些機(jī)器學(xué)習(xí)的子領(lǐng)域甚至與數(shù)據(jù)挖掘關(guān)系不大,如增強(qiáng)學(xué)習(xí)與自動(dòng)控制等。所以筆者認(rèn)為,數(shù)據(jù)挖掘是從目的而言的,機(jī)器學(xué)習(xí)是從方法而言的,兩個(gè)領(lǐng)域有相當(dāng)大的交集,但不能等同。
二、關(guān)系與區(qū)別關(guān)系:數(shù)據(jù)挖掘可以認(rèn)為是數(shù)據(jù)庫(kù)技術(shù)與機(jī)器學(xué)習(xí)的交叉,它利用數(shù)據(jù)庫(kù)技術(shù)來(lái)管理海量的數(shù)據(jù),并利用機(jī)器學(xué)習(xí)和統(tǒng)計(jì)分析來(lái)進(jìn)行數(shù)據(jù)分析。其關(guān)系如下圖:
數(shù)據(jù)挖掘受到了很多學(xué)科領(lǐng)域的影響,其中數(shù)據(jù)庫(kù)、機(jī)器學(xué)習(xí)、統(tǒng)計(jì)學(xué)無(wú)疑影響最大。粗糙地說(shuō),數(shù)據(jù)庫(kù)提供數(shù)據(jù)管理技術(shù),機(jī)器學(xué)習(xí)和統(tǒng)計(jì)學(xué)提供數(shù)據(jù)分析技術(shù)。由于統(tǒng)計(jì)學(xué)界往往醉心于理論的優(yōu)美而忽視實(shí)際的效用,因此,統(tǒng)計(jì)學(xué)界提供的很多技術(shù)通常都要在機(jī)器學(xué)習(xí)界進(jìn)一步研究,變成有效的機(jī)器學(xué)習(xí)算法之后才能再進(jìn)入數(shù)據(jù)挖掘領(lǐng)域。從這個(gè)意義上說(shuō),統(tǒng)計(jì)學(xué)主要是通過(guò)機(jī)器學(xué)習(xí)來(lái)對(duì)數(shù)據(jù)挖掘發(fā)揮影響,而機(jī)器學(xué)習(xí)和數(shù)據(jù)庫(kù)則是數(shù)據(jù)挖掘的兩大支撐技術(shù)。
區(qū)別:數(shù)據(jù)挖掘并非只是機(jī)器學(xué)習(xí)在工業(yè)上的簡(jiǎn)單應(yīng)用,他們之間至少包含如下兩點(diǎn)重要區(qū)別:
1.傳統(tǒng)的機(jī)器學(xué)習(xí)研究并不把海量數(shù)據(jù)作為處理對(duì)象,因此,數(shù)據(jù)挖掘必須對(duì)這些技術(shù)和算法進(jìn)行專(zhuān)門(mén)的、不簡(jiǎn)單的改造。
2.作為一個(gè)獨(dú)立的學(xué)科,數(shù)據(jù)挖掘也有其獨(dú)特的東西,即:關(guān)聯(lián)分析。簡(jiǎn)單地說(shuō),關(guān)聯(lián)分析就是希望從數(shù)據(jù)中找出“買(mǎi)尿布的人很可能會(huì)買(mǎi)啤酒”這樣看起來(lái)匪夷所思但可能很有意義的模式。