精品欧美一区二区三区在线观看 _久久久久国色av免费观看性色_国产精品久久在线观看_亚洲第一综合网站_91精品又粗又猛又爽_小泽玛利亚一区二区免费_91亚洲精品国偷拍自产在线观看 _久久精品视频在线播放_美女精品久久久_欧美日韩国产成人在线

數倉公共層,還有存在的必要嗎?

大數據 數據倉庫
自我接觸數倉以來,數倉建模就是最為核心的工作,而數倉建模的主要目的是建立公共層,公共層主要起到兩個作用,第一個是屏蔽底層的變動對上層應用的影響,第二個作用是通過復用沉淀的公共層來提升應用支撐的效率,但在長期的數倉公共層運營實踐中中,我發現公共層的表現不總是沿著我們設想的軌跡演進。

?自我接觸數倉以來,數倉建模就是最為核心的工作,而數倉建模的主要目的是建立公共層,公共層主要起到兩個作用,第一個是屏蔽底層的變動對上層應用的影響,第二個作用是通過復用沉淀的公共層來提升應用支撐的效率,但在長期的數倉公共層運營實踐中中,我發現公共層的表現不總是沿著我們設想的軌跡演進。

1、無論數倉公共層開始的時候設計的多么完美,數倉公共層最后的使用比例2/8現象明顯,大量的公共層模型是沒人使用的,項目投入的80%都被浪費了。

2、當前的數倉公共層和5年前的數倉公共層差別不是很大,意味著新業務沒必要用新的公共層去支撐,間接否認了公共層存在的必然性。

3、數據倉庫公共層經常會由于積重難返而被推道重來,比如5年一次,對于公共層的投資似乎并不是很劃算的生意。

我們當然不能否認公共層的價值,但其價值也許的確被高估了,設想一種場景,假如不預先做數倉公共層的建模,我們對業務的支持真的會變得很糟糕嗎?恰好,我也有實踐。

1、在遙遠的報表時代,為了實現報表會做大量的臨時匯總表,那個時候沒怎么考慮復用,但似乎也沒什么大問題。在報表時代過度到數據倉庫時代的時候,其實并沒有什么強烈的業務驅動要做什么公共層,但由于那個時候數倉關系建模已經興起,大家都覺得做公共層成了理所當然的事情,畢竟復用是很先進的理念,但其實大多就是把臨時匯總表搞成了公共層而已。

2、在大數據時代,我們在hadoop上開出了很多租戶,雖然主租戶做了大量公共層模型,但各個部門的租戶基本上是隨著應用的需要建立起的一堆中間表和寬表,復用主租戶的公共模型并不是很多,但大多卻活得很好,我們經常指責租戶沒用復用意識,導致大量的計算資源浪費,但要說浪費,我們80%的公共模型沒人使用何嘗不是更大的浪費呢?事實上,各個部門租戶的資源是有限的,但各部門還是靠自己的運營保證了基本的生產需要。

數倉公共層的理想很好,但大多數據團隊實際并不具備什么公共層的運營能力,為什么呢?

1、大多公司的業務團隊比較強勢,數據團隊很難堅持一些數據架構的原則

2、業務部門提需求沒有什么成本,大量低質量的需求把數據團隊有限的資源耗光了,數據團隊很難有時間去考慮公共層的優化

3、公共層的價值體現很慢,大家更多的精力還是投在了應用建模上

4、公共層對于業務、技術、數據的綜合要求很高,數據團隊普遍缺乏此類人才

與此同時,數據湖、湖倉一體等新技術的出現都對數倉公共層的建設必要性提出挑戰,技術的趨勢似乎都在朝著數倉公共層的反面進行,即強調原始數據分析的所見即所得,強調對不可知數據和不可知業務的探索分析。

數據倉庫通常預先定義 schema,外部數據需要按照標準寫入(比如清洗轉化等)并對外提供數據服務查詢接口,數倉公共層進一步延伸了這種設計思想,通過事先的生成和約束來確保良好的數據性能,所謂先建模再使用,強調的是未來的成長性。

數據湖則是反過來的,外部數據幾乎不受限制的進入數據湖,只有在需要使用的時候才明確 schema來建模,數據湖也不存在所謂的公共層,應用需要就即席建模,強調的是靈活性。

10年前數據倉庫是主流,因為業務需求主要就是循規蹈矩、按部就班的報表和BI,這種計劃性很強的應用場景非常適合數據倉庫的技術特點,數倉公共層更是讓報表和BI如虎添翼。

靈活性和成長性,對于處于不同時期的企業來說,重要性也是不同的,數倉公共層對于業務成熟的企業來講比較適用,對于初創企業或初創數據團隊來講必要性就很低了,想想自己也是這么過來的,只不過那個時候公司的數據量不是很大,數據結構簡單,ORACLE就是那個時候的數據湖。

但現在是數字化時代,數據的應用場景逐漸向復雜數據(比如非結構化數據)的快速探索、分析、推薦和預測等方向延伸,這些場景不確定性很強,數據的維度很多,導致公共層很難提前準備,數據湖顯然更適應了這些數據和應用的特點。

但我們也知道,數倉公共層必然還是需要的,因為穩定的報表不會消失,問題只在于度的問題,數倉公共層不要過度設計,也許30%的公共層比例是合理的,未來也許更低,當你家的公共層模型比例超過60%的時候,就要想想是否出現了問題。

那這個度在哪里呢?

至少不能簡單的使用公共層模型覆蓋度、復用度這種技術指標來指導公共層模型的建設,因為復用度高并不意味著全局價值最大,甚至較大影響業務的拓展,這里給出公共層模型建設的三個策略:

第一種是技術驅動,就是某些數據量特別大的表如果各個應用單獨匯總會嚴重影響整個系統穩定的,這些表需通過匯總等手段構成公共層然后統一對外提供。

第二種是管理驅動,就是由于數據一致性等經營管理需要必需確保數據的源頭唯一的,這個時候公共層的建設也很有必要。

第三種是業務驅動,就是那些被存量業務馴化出來的高復用公共模型(比如項目建設時期總結提煉出來的寬表),或者已經被業務多次投訴并確認為可以通過建立或優化公共層模型來解決的。

面對新的業務場景,當沒法確認到底是優化公共層模型支撐好還是另起爐灶好的時候,可以先讓子彈飛一會兒,直到以上三種情況的出現為止。當然如果你的團隊有很厲害的架構師并且愿意做公共層模型的工作,那的確可以隨心所欲,因為有足夠的能力來進行全局最優的判斷,但大多時候,我們并不具備這種條件。

我還有一種大膽的設想,就是除了嚴肅的報表,所有的應用支撐都不要搞什么公共層模型復用,自己管自己的就可以了,也許也可以活得很好。?

責任編輯:華軒 來源: 大魚的數據人生
相關推薦

2023-10-04 20:18:50

性價比SSDHDD

2023-10-13 07:14:54

HDD存儲服務

2021-12-05 21:05:49

前端JSON API

2025-05-13 05:11:00

推理模型微調

2023-04-17 09:32:29

IP地址MAC

2024-10-06 13:41:25

2014-12-02 09:58:00

2013-08-08 16:25:08

項目加班

2025-04-09 10:24:36

2022-08-22 17:46:56

虛擬數倉Impala

2025-09-08 09:39:25

2022-07-26 15:38:58

數據倉數據治理數據團隊

2024-01-08 09:08:53

2021-12-02 08:41:30

數倉建模設計

2010-01-07 09:06:15

Windows 7系統優化

2021-01-31 23:54:23

數倉模型

2025-04-08 11:30:00

DIM數據倉庫架構

2024-09-30 14:10:00

2021-12-14 16:06:05

戴爾

2018-07-27 08:47:06

GitHub代碼開發者
點贊
收藏

51CTO技術棧公眾號

xxav国产精品美女主播| 日本蜜桃在线观看| 欧美大片免费| 偷偷www综合久久久久久久| 午夜视频一区二区三区| 亚洲在线观看视频| 91制片厂在线| 国家队第一季免费高清在线观看| 欧美国产高潮xxxx1819| 欧美老女人第四色| 亚洲欧洲国产精品久久| 天天爱天天做天天爽| 欧美成人一区在线观看| 亚洲夂夂婷婷色拍ww47| 51精品国产人成在线观看| 2014亚洲天堂| 四虎影视精品永久在线观看| 欧美国产日韩精品免费观看| 九九久久综合网站| 制服丝袜中文字幕第一页| 电影在线一区| 麻豆久久久久久| 中文字幕无线精品亚洲乱码一区| 国产视频在线视频| 国产精品99999| 成人久久视频在线观看| 韩国精品久久久999| 精品国产aⅴ一区二区三区东京热| caopon在线免费视频| 国产一区二区三区四| 美女性感视频久久久| 日韩a一级欧美一级| 在线中文字幕-区二区三区四区| 国内外成人在线视频| 欧美另类xxx| 殴美一级黄色片| 在线一级成人| 欧美四级电影网| 特级毛片在线免费观看| 国产精品无码白浆高潮| 综合色一区二区| 欧美精品一区二区三区视频| 91免费视频网站在线观看| 国产在线免费观看| 91在线视频免费观看| 国产精品爱久久久久久久| 亚洲一区 欧美| 国产精品一区二区精品视频观看| 亚洲一区在线观看网站| 欧美日韩精品免费在线观看视频| 中文字幕男人天堂| 欧美精品国产| 亚洲人在线观看| 污视频在线观看免费网站| heyzo中文字幕在线| 久久精品亚洲精品国产欧美 | 久久aⅴ国产紧身牛仔裤| 日韩国产中文字幕| 少妇一级淫免费播放| 国产福利视频在线| 亚洲视频 欧洲视频| 国产在线一区二| 亚洲熟妇av乱码在线观看| 欧美深夜福利| 久久99热精品| 国产精品第一页在线观看| 中日韩免视频上线全都免费| 亚洲欧美国产高清va在线播| 午夜天堂在线视频| 精品国产亚洲一区二区三区| 疯狂欧美牲乱大交777| 这里只有精品66| 欧美色视频免费| 国产不卡视频一区| 日韩免费在线观看视频| 国产精品九九九九九九| 久久超碰99| 亚洲电影中文字幕| 做a视频在线观看| 亚洲日本va中文字幕| 欧美亚洲免费在线一区| 欧美一级视频在线| 亚洲一级大片| 亚洲精品网站在线播放gif| 日本中文字幕有码| 国产一区二区三区亚洲| 日韩欧美一级二级三级久久久| 日本熟妇人妻中出| 国产精品久久久久久av公交车| 亚洲成人激情在线| 一区二区伦理片| 久久久久影视| 日韩三级.com| 91福利免费观看| 91精品啪在线观看国产手机| 亚洲精品视频久久| √天堂中文官网8在线| 欧美日韩第一| 亚洲天堂av网| 男人的天堂久久久| 91精品国产乱码久久久久久| 中文字幕亚洲字幕| 久久综合加勒比| 中文字幕一区二区av| 国外成人在线直播| 亚洲一区 视频| 亚洲精品三级| 性欧美暴力猛交69hd| 中文字幕久久久久| 99re这里只有精品首页| 小说区视频区图片区| 999av小视频在线| 69久久夜色精品国产69蝌蚪网 | 久久精品久久99精品久久| 成人在线视频网址| 精品人妻一区二区三区四区不卡| 经典一区二区三区| 日本成人黄色| 成人在线二区| 国产精品久99| 三级在线免费观看| 国产一线二线在线观看| 亚洲国产日韩在线一区模特 | 蜜桃传媒一区二区亚洲| 激情欧美一区| 91sa在线看| 特级西西444www大胆免费看| 麻豆国产精品官网| 美乳视频一区二区| 在线观看麻豆蜜桃| 亚洲视频香蕉人妖| 男女视频在线看| 四虎精品在线观看| 亚洲一二三在线| 一区二区三区四区五区| 日本美女一区二区三区| 91久久久久久国产精品| 高清国产mv在线观看| youjizz久久| 日本视频一区二区在线观看| missav|免费高清av在线看| 日韩一级视频免费观看在线| 欧美肥妇bbwbbw| 精油按摩中文字幕久久| 国产日韩一区二区三区| 制服丝袜中文字幕在线| 91精品国产一区二区三区香蕉| 天天躁日日躁狠狠躁免费麻豆| 天天躁日日躁狠狠躁欧美巨大小说| 亚洲色图校园春色| 在线精品免费视| 韩国成人在线视频| 伊人久久大香线蕉成人综合网| 成人黄色毛片| 精品国产伦一区二区三区免费| 免费看一级大片| 国产一区二区福利| 97中文字幕在线| 日本少妇一区| 精品剧情在线观看| 国产一区二区三区精品在线| 欧美精选在线| 国产成人亚洲欧美| 国产h片在线观看| 欧美老人xxxx18| 亚洲成人生活片| 国产成人亚洲综合a∨猫咪| 欧美日韩精品久久久免费观看| 成人性生交大片免费网站| 制服丝袜日韩国产| www.av视频| 成人a免费在线看| 一区二区高清视频| 亚洲黄色网址| 日韩精品中文字幕一区| 国产一级片久久| 91年精品国产| www.九色.com| 欧美日韩导航| 成人春色激情网| 精品无人乱码| 在线播放日韩导航| www.av视频在线观看| 久久亚洲一级片| 天天干天天色天天爽| 欧美一区久久久| 日韩在线中文字| 成年人视频免费| 亚洲欧美一区二区不卡| 中文字幕三级电影| 免费在线观看一区二区三区| 久久久久久精| 草草视频在线观看| 综合国产在线视频| 成人av一区二区三区在线观看 | 久久躁日日躁aaaaxxxx| 亚洲成熟少妇视频在线观看| 成人一区二区三区| 日韩av片网站| 亚洲美女一区| 国产福利一区二区三区在线观看| 毛片免费看不卡网站| 久热99视频在线观看| 牛牛澡牛牛爽一区二区| 日韩精品在线一区| 中文字幕久久熟女蜜桃| 欧美视频在线观看免费| 亚洲综合自拍网| 日韩视频二区| 99精品一级欧美片免费播放| 精品中文一区| 国精产品99永久一区一区| 国产精品99| 欧美中文字幕精品| 国产在线超碰| 亚洲国产成人精品一区二区| 国产精品爽爽久久久久久| 色偷偷久久人人79超碰人人澡| 免费人成又黄又爽又色| 国产成人小视频| www.国产视频.com| 91成人观看| 色香蕉久久蜜桃| 在线免费观看av的网站| 香蕉久久夜色精品国产| 久久久久久久久久码影片| www.成人在线.com| 久久久久久12| 五月天激情开心网| 欧美日韩一区二区精品| 国产一级做a爰片在线看免费| 国产精品不卡在线观看| 国产又黄又粗视频| 国产亚洲欧美一级| 四季av一区二区三区| 日韩和欧美一区二区三区| 中文字幕在线亚洲精品| 欧美伦理影院| 色播亚洲婷婷| 99精品视频在线免费播放| 国产精品观看在线亚洲人成网| 自拍一区在线观看| 91产国在线观看动作片喷水| 国模雨婷捆绑高清在线| 九九精品视频在线| 污污网站在线看| 日韩成人av在线播放| 亚洲男人第一天堂| 日韩三级免费观看| 亚洲精品字幕在线观看| 色999韩欧美国产综合俺来也| 日韩av影视综合网| 人妻少妇精品无码专区久久| 色婷婷亚洲综合| 久久精品无码av| 91黄色在线观看| 久久无码精品丰满人妻| 尤物在线观看一区| 日韩精品无码一区二区三区久久久| www.色综合.com| 人妻丰满熟妇aⅴ无码| 极品少妇xxxx精品少妇偷拍| 男人午夜视频在线观看| 国产电影一区在线| 成人在线观看一区二区| 蜜臂av日日欢夜夜爽一区| 91看片在线免费观看| 精品一区二区三区在线播放| 樱花草www在线| 成人激情视频网站| 久久久久久九九九九九| 国产盗摄女厕一区二区三区| 精品伦一区二区三区| 99免费精品视频| 在线不卡av电影| 中文字幕一区在线观看| 在线免费日韩av| 欧美在线网站| 2019中文字幕在线| 成人精品一区二区三区免费| 中文字幕不卡av| 亚洲妇熟xxxx妇色黄| 午夜精品一区二区三区av| 欧美第一视频| 91精品视频免费看| 少妇一区二区三区| 一区二区三区精品国产| 精品福利电影| caoporn超碰97| 国产91在线|亚洲| 精品人妻无码一区二区三区换脸| 中文字幕在线不卡国产视频| 亚洲精品国产精品乱码| 夜夜揉揉日日人人青青一国产精品 | 日韩免费av网站| 欧美精品在欧美一区二区少妇| 粉嫩小泬无遮挡久久久久久| 国产亚洲精品日韩| 久久国产精品黑丝| 美女福利精品视频| 国产污视频在线播放| 国产精品久在线观看| 免费成人美女女| 亚洲在线免费观看| 岳的好大精品一区二区三区| 欧洲金发美女大战黑人| 日韩黄色免费电影| 岛国av免费观看| 中文字幕综合网| 国产精品99久久久久久成人| 午夜精品久久久| 国产精品久久久久久69| 精品香蕉在线观看视频一| 一色桃子av在线| 国产精品夜色7777狼人| 欧美三级电影网址| 91久久久久久久久久久| 免费观看久久av| 人妻少妇精品久久| 亚洲制服少妇| 国产伦精品一区二区三区妓女下载 | 天天色综合av| 亚洲精品久久视频| 青青草视频免费在线观看| 亚洲精品一区在线观看香蕉| 成人福利在线观看视频| 国产精品久久久久99| 亚洲a级精品| 国产极品尤物在线| 欧美日韩精品| 三上悠亚在线一区| 日本一区二区三区免费乱视频 | 久久国产主播精品| 一区在线视频观看| 不卡的一区二区| 亚洲精品乱码久久久久久日本蜜臀| 中国精品一区二区| 亚洲人成五月天| 久久电影tv| 欧美日韩精品免费在线观看视频| 国产精品久久久久毛片大屁完整版| 蜜臀久久99精品久久久酒店新书| 日韩国产在线一| 久久久视频6r| 在线观看成人小视频| 国产日韩一级片| 亚洲国产精品99| 91超碰在线免费| 国产一区二区在线网站| 1024日韩| 中文字幕日韩三级片| 欧美日韩免费观看中文| 视频在线不卡| 欧美成aaa人片免费看| 疯狂欧洲av久久成人av电影| 中文字幕日韩精品一区二区| 激情综合色丁香一区二区| 亚洲国产123| 日韩欧美在线网站| 免费污视频在线观看| 国产无套精品一区二区| 免费精品视频| 日韩视频在线观看免费视频| 欧美私模裸体表演在线观看| 国产成人l区| 国产亚洲精品自在久久| 翔田千里一区二区| 中国1级黄色片| 亚洲va国产天堂va久久en| 熟妇人妻中文av无码| 青草青草久热精品视频在线观看| 欧美日韩在线网站| 在线播放黄色av| 五月天亚洲婷婷| 99在线小视频| 永久免费精品影视网站| 国产资源在线观看入口av| 欧美极品色图| 韩国一区二区三区| 久久精品国产亚洲av香蕉| 国产丝袜一区二区三区免费视频| av在线不卡精品| 久久狠狠久久综合桃花| 日韩电影在线一区二区| 黄色片子在线观看| 亚洲第一中文字幕| 性欧美freehd18| 成人黄色片免费| 国产自产2019最新不卡| 国产网址在线观看| 亚洲新声在线观看| 日韩一区二区三区精品| 精品少妇人妻av一区二区| 成人av免费在线观看| 性高潮视频在线观看| 欧美激情网友自拍| 凹凸成人精品亚洲精品密奴| 人妻内射一区二区在线视频| 成人avav在线| 亚洲中文字幕一区二区|