大數(shù)據(jù)分析與數(shù)據(jù)挖掘發(fā)展前景分析
大數(shù)據(jù)分析需要通過數(shù)據(jù)分析來發(fā)現(xiàn)現(xiàn)狀,并且通過模型與預測分析技術來對改善進行預測與優(yōu)化,國內(nèi),不論是國企還是民企,真正在業(yè)務決策中以數(shù)據(jù)分析結果為依據(jù)的,主要集中在銀行、保險、電信和電商等幾個行業(yè)。
大數(shù)據(jù)”時代到來了嗎?潮流是一股可笑又可敬的力量:今天,如果打開任何媒體,要是不提“大數(shù)據(jù)”,恐怕都不好意思出版。這股潮流,鋪天蓋地,連國家領導人都不例外。問題在于:為什么人人言必稱大數(shù)據(jù)?
數(shù)據(jù)的價值,隨著數(shù)據(jù)量的幾何級數(shù)增長,已經(jīng)不再能夠通過傳統(tǒng)的圖表得以顯現(xiàn),這正是為什么商業(yè)智能還沒來得及流行,便已被“數(shù)據(jù)分析”擠下舞臺。因為,價值隱藏在數(shù)據(jù)中,需要數(shù)據(jù)分析方可釋放這些價值。
數(shù)據(jù)分析能力的高低,決定了價值發(fā)現(xiàn)過程的好壞與成敗??梢哉f,沒有數(shù)據(jù)分析,“大數(shù)據(jù)”只是一堆IT庫存,成本高而收益為零。但是國內(nèi)熱潮的“大數(shù)據(jù)”概念,目前仍然停留在數(shù)據(jù)收集、整理、存儲和簡單報表等幾個初級階段。能夠對大數(shù)據(jù)進行基本分析和運用的,只有少數(shù)幾個行業(yè)的少數(shù)企業(yè)。
對于國內(nèi)數(shù)據(jù)分析市場,我們的感覺如下:
市場巨大,許多企業(yè)(無論是互聯(lián)網(wǎng)的新銳還是傳統(tǒng)的企業(yè))都在討論這個,也有實際的需求并愿意為此付錢,但是比較零碎尚不系統(tǒng)化。目前對數(shù)據(jù)需求最強烈的行業(yè)依此是:金融機構(從基金到銀行到保險公司到P2P公司),以廣告投放及電商為代表的互聯(lián)網(wǎng)企業(yè)等
尚沒出現(xiàn)平臺級公司的模式(這或許往往是大市場或者大機會出現(xiàn)之前的混沌期)
ToB服務的氛圍在國內(nèi)尚沒完全形成,對于一些有能力的技術公司,如果數(shù)據(jù)需求強烈的話,考慮到自身能力的健全以及數(shù)據(jù)安全性,往往不會外包或者采用外部模塊,而傾向于自建這塊業(yè)務
未來BAT及京東、58和滴滴打車等企業(yè),憑借其自身產(chǎn)生的海量數(shù)據(jù),必然是數(shù)據(jù)領域的大玩家。但是整個行業(yè)很大而且需求旺盛,即使沒有留給創(chuàng)業(yè)公司出現(xiàn)平臺級巨型企業(yè)的機會,也將留出各種各樣的細分市場機會讓大家可以獲得自己的領地
數(shù)據(jù)沉淀用大白話說就是數(shù)據(jù)抓取,目前有四大方式獲取數(shù)據(jù)
網(wǎng)絡爬蟲,用Python及Go等開發(fā)了自己的爬蟲平臺,對幾十個網(wǎng)站進行每日抓取獲得相關信息
Wi-Fi接入方案,我們自己開發(fā)了一套完整的軟硬件方案,優(yōu)勢是超高的ROI(投資回報比),且免費提供給物業(yè)管理者,幫助其實現(xiàn)靠網(wǎng)費賺錢以及推廣費賺錢。在與其協(xié)商的基礎上,獲得用戶數(shù)據(jù)。這主要是OpenWRT的開發(fā)以及一些智能硬件和客戶端的開發(fā)。
提供一些圖像方面的API,進行圖片搜索及人臉搜索,滿足客戶在圖像處理和圖像識別方面的一些需求。開發(fā)主要用到一些Machine Learning和Deep Learning的算法,使用C++/Open CV/Matlab等。
數(shù)據(jù)服務需求方自行提供。
數(shù)據(jù)挖掘用大白話說,就是利用數(shù)據(jù)分析產(chǎn)生深層次有價值的理解?;谝陨细鞣N方式獲得的數(shù)據(jù),我們可以做最簡單的統(tǒng)計分析、用戶及品牌理解、用戶畫像、各品牌或各產(chǎn)品型號之間的關系等等,了解現(xiàn)在和歷史并爭取預測未來。
常用的工具是Python/R/SPSS等,算法包括最簡單的統(tǒng)計、稍微復雜一些的Machine Learning、現(xiàn)在被捧上天的Deep Learning以及CollaboraTIve Filtering等等。
數(shù)據(jù)呈現(xiàn)
用大白話說,就是把分析結果用最美觀和最容易理解的方式(圖標或者圖形)展現(xiàn)出來。目前,我們大概有幾種形式:
網(wǎng)站(兼容PC端和移動端):提供給付費的B端客戶,不對外公開,大致形勢如下
一個SaaS的公有云平臺,方便大家把自己的數(shù)據(jù)利用我們的工具來制作成為便于在網(wǎng)上特別是移動端傳播的圖文報表,即將上線,大致形態(tài)見下圖。產(chǎn)品的邏輯很簡單:讀數(shù)讀圖的需求越來越強烈,但是卻缺乏這樣的工具或者平臺來制作這樣圖文并茂的內(nèi)容,即使是Excel,也不能制作出適合于網(wǎng)絡傳播的圖文內(nèi)容
常使用的技術是JS+Node JS+MongoDB等等。