建設(shè)數(shù)據(jù)倉庫
建立數(shù)據(jù)倉庫是一個解決企業(yè)問題的過程,業(yè)務(wù)人員往往不懂如何建立和使用數(shù)據(jù)倉庫,發(fā)揮其決策支持的作用;信息部門的人員往往又不懂業(yè)務(wù),不知道應(yīng)該建立哪些決策主題,從數(shù)據(jù)源中抽取哪些數(shù)據(jù)。因此數(shù)據(jù)倉庫的項目小組應(yīng)該由業(yè)務(wù)人員和信息部門的人員共同組成,雙方需要相互溝通,協(xié)作開發(fā)數(shù)據(jù)倉庫。
開發(fā)數(shù)據(jù)倉庫的過程包括以下幾個步驟。
1.系統(tǒng)分析,確定主題
建立數(shù)據(jù)倉庫的第一個步驟就是通過與業(yè)務(wù)部門的充分交流,了解建立數(shù)據(jù)倉庫所要解決的問題的真正含義,確定各個主題下的查詢分析要求。
業(yè)務(wù)人員往往會羅列出很多想解決的問題,信息部門的人員應(yīng)該對這些問題進行分類匯總,確定數(shù)據(jù)倉庫所實現(xiàn)的業(yè)務(wù)功能。一旦確定問題以后,信息部門的人員還需要確定一下幾個因素:
·操作出現(xiàn)的頻率,即業(yè)務(wù)部門每隔多長時間做一次查詢分析。
·在系統(tǒng)中需要保存多久的數(shù)據(jù),是一年、兩年還是五年、十年。
·用戶查詢數(shù)據(jù)的主要方式,如在時間維度上是按照自然年,還是財政年。
·用戶所能接受的響應(yīng)時間是多長、是幾秒鐘,還是幾小時。
由于雙方在理解上的差異,確定問題和了解問題可能是一個需要多次往復(fù)的過程,信息部門的人員可能需要做一些原型演示給業(yè)務(wù)部門的人員看,以最終確定系統(tǒng)將要實現(xiàn)的功能確實是業(yè)務(wù)部門所需要的。
2.選擇滿足數(shù)據(jù)倉庫系統(tǒng)要求的軟件平臺
在數(shù)據(jù)倉庫所要解決的問題確定后,第二個步驟就是選擇合適的軟件平臺,包括數(shù)據(jù)庫、建模工具、分析工具等。這里有許多因素要考慮,如系統(tǒng)對數(shù)據(jù)量、響應(yīng)時間、分析功能的要求等,以下是一些公認的選擇標(biāo)準:
·廠商的背景和支持能力,能否提供全方位的技術(shù)支持和咨詢服務(wù)。
·數(shù)據(jù)庫對大數(shù)據(jù)量(TB級)的支持能力。
·數(shù)據(jù)庫是否支持并行操作。
·能否提供數(shù)據(jù)倉庫的建模工具,是否支持對元數(shù)據(jù)的管理。
·能否提供支持大數(shù)據(jù)量的數(shù)據(jù)加載、轉(zhuǎn)換、傳輸工具(ETT)。
·能否提供完整的決策支持工具集,滿足數(shù)據(jù)倉庫中各類用戶的需要。
3.建立數(shù)據(jù)倉庫的邏輯模型
具體步驟如下:
(1)確定建立數(shù)據(jù)倉庫邏輯模型的基本方法。
(2)基于主題視圖,把主題視圖中的數(shù)據(jù)定義轉(zhuǎn)到邏輯數(shù)據(jù)模型中。
(3)識別主題之間的關(guān)系。
(4)分解多對多的關(guān)系。
(5)用范式理論檢驗邏輯數(shù)據(jù)模型。
(6)由用戶審核邏輯數(shù)據(jù)模型。
4.邏輯數(shù)據(jù)模型轉(zhuǎn)化為數(shù)據(jù)倉庫數(shù)據(jù)模型
具體步驟如下:
(1)刪除非戰(zhàn)略性數(shù)據(jù):數(shù)據(jù)倉庫模型中不需要包含邏輯數(shù)據(jù)模型中的全部數(shù)據(jù)項,某些用于操作處理的數(shù)據(jù)項要刪除。
(2)增加時間主鍵:數(shù)據(jù)倉庫中的數(shù)據(jù)一定是時間的快照,因此必須增加時間主鍵。
(3)增加派生數(shù)據(jù):對于用戶經(jīng)常需要分析的數(shù)據(jù),或者為了提高性能,可以增加派生數(shù)據(jù)。
(4)加入不同級別粒度的匯總數(shù)據(jù):數(shù)據(jù)粒度代表數(shù)據(jù)細化程度,粒度越大,數(shù)據(jù)的匯總程度越高。粒度是數(shù)據(jù)倉庫設(shè)計的一個重要因素,它直接影響到駐留在數(shù)據(jù)倉庫中的數(shù)據(jù)量和可以執(zhí)行的查詢類型。顯然,粒度級別越低,則支持的查詢越多;反之,能支持的查詢就有限。
對數(shù)據(jù)操作的效率與能得到數(shù)據(jù)的詳細程度是一對矛盾,通常,人們希望建成的系統(tǒng)既有較高的效率,又能得到所需的詳細資料。實施數(shù)據(jù)倉庫的一個重要原則就是不要試圖包括所有詳細數(shù)據(jù),因為90%的分析需求是在匯總數(shù)據(jù)上進行的。試圖將粒度細化到最低層,只會增加系統(tǒng)的開銷,降低系統(tǒng)的性能。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- GitLab將告別中國區(qū)用戶:是時候選擇新的“極狐”或保護賬號了
- 蘋果明年推至少22款新品,阿里非洲首站啟動,科技新品盛宴拉開帷幕
- SUSE預(yù)測:未來私有AI平臺崛起,讓我們共同見證AI的未來
- AI伴侶“小奇”:奇富科技重塑金融服務(wù)體驗的探索之作
- 揭秘軟銀孫正義神秘芯片計劃:打造超越NVIDIA的未來科技新星
- 大模型創(chuàng)企星辰資本獲數(shù)億融資,騰訊啟明等巨頭入局,人工智能新篇章開啟
- 大模型獨角獸階躍星辰融資新動態(tài):數(shù)億美金B(yǎng)輪,揭秘星辰未來之路
- 哪吒汽車創(chuàng)始人資金遭凍結(jié),1986萬元股權(quán)風(fēng)波引關(guān)注
- 本田與日產(chǎn)醞釀合并:明年6月敲定協(xié)議,新公司社長待本田推薦
- 金融大模型新突破:百川智能Baichuan4-Finance引領(lǐng)行業(yè),準確率領(lǐng)先GPT-4近20%,變革金融業(yè)未來
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。