比如說(shuō)在生產(chǎn)線上,在生產(chǎn)的數(shù)據(jù)庫(kù)里面,各種各樣的數(shù)據(jù),可能是銀行的業(yè)務(wù)數(shù)據(jù),也可能是電信運(yùn)營(yíng)商在交換機(jī)里面采集下來(lái)的數(shù)據(jù)等等,然后這些生產(chǎn)的數(shù)據(jù)通過(guò)ETL,是英文 Extract-Transform-Load 的縮寫,用來(lái)描述將數(shù)據(jù)從來(lái)源端經(jīng)過(guò)抽取(extract)、轉(zhuǎn)換(transform)、加載(load)至目的端的過(guò)程,通過(guò)這個(gè)過(guò)程,我們可以把需要的數(shù)據(jù)放到數(shù)據(jù)倉(cāng)庫(kù)里面,那這個(gè)數(shù)據(jù)倉(cāng)庫(kù)就是多層模型中的第二層。
數(shù)據(jù)倉(cāng)庫(kù)主要是給我們需要存放的數(shù)據(jù)提供一個(gè)物理基礎(chǔ),我們對(duì)數(shù)據(jù)進(jìn)行分析,原材料都放在這個(gè)數(shù)據(jù)倉(cāng)庫(kù)里面,這幾年以來(lái),除了數(shù)據(jù)倉(cāng)庫(kù)這個(gè)概念,還興起了數(shù)據(jù)集市這個(gè)概念,數(shù)據(jù)集市其實(shí)就是部門級(jí)的數(shù)據(jù)倉(cāng)庫(kù),規(guī)模比較小一點(diǎn)的數(shù)據(jù)倉(cāng)庫(kù)。
再上面一層是Data Exploration,這層主要做統(tǒng)計(jì)分析的事情,比如我們算均值、標(biāo)準(zhǔn)差、方差、排序、求最小\大值、中位數(shù)、眾數(shù)等等,這些統(tǒng)計(jì)學(xué)比較常用的指標(biāo),另外還有些SQL查詢語(yǔ)句,總的來(lái)說(shuō)主要是做一些目標(biāo)比較明確,計(jì)算方法比較清楚的事情。
第四層是Data Mining數(shù)據(jù)挖掘?qū)?,?shù)據(jù)挖掘與數(shù)據(jù)分析(統(tǒng)計(jì)分析)有什么區(qū)別呢,數(shù)據(jù)分析往往是統(tǒng)計(jì)量和算法比較清楚,數(shù)據(jù)挖掘往往是目標(biāo)不是很清楚,在實(shí)現(xiàn)目標(biāo)的過(guò)程中采用什么方法不能確定,所以數(shù)據(jù)挖掘比數(shù)據(jù)分析難度要高很多。
常用的數(shù)據(jù)分析工具,包括一些廠商的數(shù)據(jù)庫(kù)產(chǎn)品,包括IBM的DB2、甲骨文的Oracle數(shù)據(jù)庫(kù)。這些廠商的數(shù)據(jù)庫(kù)本身帶有一些統(tǒng)計(jì)分析的包,里面有些標(biāo)準(zhǔn)的功能可以做數(shù)據(jù)分析工作,但用這些自帶的數(shù)據(jù)分析工具功能相對(duì)不夠?qū)I(yè)。主要反映在缺乏標(biāo)準(zhǔn)的統(tǒng)計(jì)函數(shù),比如做一個(gè)線性回歸模型,需要寫一大堆SQL語(yǔ)句,甚至要寫一個(gè)plsql程序才能完成。但是在專業(yè)的統(tǒng)計(jì)軟件只需要寫一個(gè)簡(jiǎn)單的函數(shù)就可以完成。
展現(xiàn)層在數(shù)據(jù)分析中是一個(gè)很重要的組成部分,在大家的心目中數(shù)據(jù)分析軟件只是讀數(shù)據(jù)和算數(shù)據(jù),結(jié)果算出來(lái)就OK了。但其實(shí)結(jié)果算出來(lái)以后對(duì)于數(shù)據(jù)分析還遠(yuǎn)沒(méi)有結(jié)束,還需要把結(jié)果展現(xiàn)出來(lái),有些時(shí)候可能結(jié)果的展現(xiàn)比計(jì)算花的時(shí)間還要多。
根據(jù)信息圖顯示,Android先生的頭發(fā)有47%的可能是黑色的,戴眼鏡的幾率為37%,有36%的可能是北美人,30%的可能臉上長(zhǎng)雀斑。71%的時(shí) 間會(huì)穿T恤,下身穿牛仔褲的時(shí)間占了62%。工作只占了38%,玩游戲卻占了62%,平均每個(gè)月會(huì)用掉582MB的數(shù)據(jù)流量。這種圖稱為信息圖,在數(shù)據(jù)分析這個(gè)行業(yè)里面,是數(shù)據(jù)展現(xiàn)工作的主要組成部分。