本文作者:Mark Cusackis the CTO atYellowbrick.
使用 Kubernetes 進行架構(gòu)是必不可少的核心部分,它使數(shù)據(jù)分析異常靈活,可在業(yè)務(wù)需要的任何地方運行,并以高并發(fā)、高性能、效率和可用性大規(guī)模運行。從金融服務(wù)和保險到制造和醫(yī)療保健等垂直領(lǐng)域的無數(shù)企業(yè)發(fā)現(xiàn),他們需要公共和私有云、混合和邊緣部署來最好地滿足他們的數(shù)據(jù)管理和分析需求。因此,分布式云的概念是云成熟的一部分也就不足為奇了。將數(shù)據(jù)倉庫、數(shù)據(jù)湖和高級分析引入分布式云架構(gòu)是市場的發(fā)展方向。擴展此架構(gòu)以包含更高級別的數(shù)據(jù)管理和分析服務(wù)自然會產(chǎn)生分布式數(shù)據(jù)云的想法。
在分布式數(shù)據(jù)云中,企業(yè)數(shù)據(jù)倉庫將不僅用于為公司中的數(shù)百名業(yè)務(wù)分析師或數(shù)據(jù)科學家提供分析,而且最終能夠為企業(yè)端直接使用的實時分析應(yīng)用提供支持數(shù)以萬計的客戶。這些數(shù)據(jù)將可以在任何地方立即訪問并產(chǎn)生洞察力。
終極目標探索云原生(Cloud-native)是一個被廣泛使用的術(shù)語,但當軟件架構(gòu)從頭開始設(shè)計以利用分布式云的優(yōu)勢時,它具有真正的意義。一個完全實現(xiàn)的云原生數(shù)據(jù)倉庫應(yīng)該在邏輯上利用分布式數(shù)據(jù)云架構(gòu)。從最廣泛的意義上講,這將分析帶到數(shù)據(jù)所在的任何位置,降低集中風險,顯著提高效率,并為控制支出和競爭優(yōu)勢帶來現(xiàn)代化。
更詳細地說,云原生數(shù)據(jù)管理和分析技術(shù)應(yīng)顯示五個關(guān)鍵特征,以與分布式數(shù)據(jù)云藍圖保持一致:
與平臺無關(guān)的運行時,允許在任何地方提供數(shù)據(jù)和分析隨時隨地的通用用戶體驗任何部署目標上的通用安全和治理功能任何地方的成本和技術(shù)效率,最大限度地減少資源并允許強大的成本管理 (FinOps) 和支出限制單個控制界面,將所有部署、公共云、本地和網(wǎng)絡(luò)邊緣捆綁在一起可在任何需要的地方部署,遵循此模式的完全實現(xiàn)的云原生數(shù)據(jù)倉庫還將從最終用戶那里抽象出云、本地和網(wǎng)絡(luò)邊緣基礎(chǔ)設(shè)施的復雜性。關(guān)鍵是將他們從基礎(chǔ)設(shè)施細節(jié)中解放出來,讓他們專注于從分析和管理數(shù)據(jù)中產(chǎn)生價值,同時仍然賦予云的原生力量。選擇正確的方法
那么,這個終極目標是如何實現(xiàn)的呢?開源容器編排工具 Kubernetes 提供了最流行的云原生操作路徑。雖然 Unix 中對工作負載進行分區(qū)的想法自 1970 年代就已經(jīng)存在,但僅在大約十年前,容器才被廣泛實施,以使應(yīng)用程序開發(fā)更容易、更便攜且資源使用效率更高。但事實證明,在龐大的微服務(wù)架構(gòu)中部署數(shù)百或數(shù)千個應(yīng)用程序非常棘手。雖然存在其他選擇,但 Google 的開源 Kubernetes 項目(現(xiàn)在由云原生計算基金會維護)在解決微服務(wù)應(yīng)用編排方面聲名遠揚——使應(yīng)用能夠在通用基礎(chǔ)架構(gòu)上運行,以標準方式進行監(jiān)控和管理,并通過使用開放標準。這對應(yīng)用來說很好。但是數(shù)據(jù)世界呢?云原生數(shù)據(jù)倉庫需要相同的基礎(chǔ)容器編排,以提供跨公共和私有云、網(wǎng)絡(luò)邊緣、混合和完全分布式云的彈性和部署靈活性。橫向擴展 Web 應(yīng)用的云原生重新架構(gòu)是很常見的,但數(shù)據(jù)庫大多只是被“提升并轉(zhuǎn)移”到云原生世界中。將數(shù)據(jù)庫放入容器中允許它在現(xiàn)代基礎(chǔ)設(shè)施中運行,但它并不能提供展示云所有好處的體驗。該軟件在很大程度上不知道它是在容器環(huán)境中運行的,并且管理彈性集群等操作必須使用 Operators 和破解 Helm 圖表從數(shù)據(jù)庫外部笨拙地處理。允許多個彈性按需計算集群共享對象存儲中相同的底層數(shù)據(jù)等功能通常不可用。尋求從基于云的彈性數(shù)據(jù)倉庫獲得業(yè)務(wù)價值的用戶不想了解 Helm 圖表、pod、節(jié)點或配置文件。他們只想配置數(shù)據(jù)倉庫、管理彈性集群并從數(shù)據(jù)中獲得洞察力。答案是在 Kubernetes 上提供 SQL 接口來按需配置多個彈性集群,并向 DBA 和最終用戶隱藏 Kubernetes 的復雜性。
通過這種方式,可以分配不同的用戶在不同的計算集群上運行工作負載,并且可以在運行時通過 SQL 更改正在使用的計算集群,但需要獲得許可。集群可以配置為在空閑期后自動掛起,并根據(jù)需要重新啟動。例如,可以創(chuàng)建一個單獨的計算集群來在需要時運行 ETL 流程,一個用于臨時商業(yè)智能 (BI) 和多個數(shù)據(jù)科學集群。計算集群可以在使用量大的時候在線擴展,或者在安靜的時候關(guān)閉以節(jié)省資金??梢詣?chuàng)建集群來運行僅在這些時間段內(nèi)活動的每日、每周或每月批量報告任務(wù)。
在該模型中,計算集群中節(jié)點的大小以及節(jié)點的數(shù)量都是可控的,并且可以在實例級別建立資源消耗限制以實現(xiàn)可預(yù)測性。同樣,可以建立一個低成本的副本系統(tǒng),從主數(shù)據(jù)倉庫實例接收復制流量,然后在需要使用副本時按需擴展。這種彈性不僅通過與 Kubernetes 的深度集成來實現(xiàn),還通過使用 SQL 本身作為創(chuàng)建、掛起、恢復和管理集群的“用戶界面”而不是開發(fā)人員工具來實現(xiàn)。 Kubernetes 是所有集群狀態(tài)的權(quán)威信息來源。顯示集群狀態(tài)的系統(tǒng)視圖使用其 API 從 Kubernetes 獲取數(shù)據(jù)。當輸入集群管理 SQL 語句時,云原生數(shù)據(jù)倉庫向 Kubernetes 伸出援手,改變實例所需的狀態(tài);然后 Kubernetes 實施必要的更改。如果集群中的某個節(jié)點變得不健康,Kubernetes 會帶一個替代品上線。這代表了與 Kubernetes 的一種獨特的、由內(nèi)而外的關(guān)系:Kubernetes 不再是驅(qū)動集群狀態(tài)的“用戶界面”,而是由 Kubernetes 管理的數(shù)據(jù)庫本身成為用戶界面。這種架構(gòu)創(chuàng)建了一種共生關(guān)系,可提供獨特的、完全實現(xiàn)的云體驗。 Kubernetes 的強大功能和跨平臺靈活性可用于數(shù)據(jù)倉庫,完全通過 SQL 驅(qū)動。隨著更多數(shù)據(jù)的生成和更多用例的部署,企業(yè)很容易進入惡性循環(huán),其生態(tài)系統(tǒng)在特定云中越來越根深蒂固。系統(tǒng)性風險可能出現(xiàn)在單一云中,這對金融服務(wù)和保險等受到嚴格監(jiān)管的行業(yè)的關(guān)鍵 IT 基礎(chǔ)設(shè)施造成了過多的風險。使用 Kubernetes 進行架構(gòu)并不是將完全實現(xiàn)的云原生數(shù)據(jù)倉庫帶入生活的唯一核心概念。它不是唯一符合分布式數(shù)據(jù)云模式的架構(gòu)組件。但它是必不可少的核心部件,它使數(shù)據(jù)分析異常靈活,可在業(yè)務(wù)需要的任何地方運行,并以高并發(fā)、高性能、效率和可用性大規(guī)模運行。結(jié)果是,任何給定企業(yè)中的數(shù)千名用戶,跨越不同的業(yè)務(wù)線和地理區(qū)域,都可以做出極其快速的決策,并通過近乎實時的動態(tài)分析產(chǎn)生價值。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- MediaTek發(fā)布天璣8400 5G全大核智能體AI芯片,賦能高階智能手機
- 千方科技:擬以1.198億元受讓車聯(lián)網(wǎng)基金20%合伙份額
- 中國鐵塔:高同慶因年齡原因辭任公司非執(zhí)行董事等職務(wù)
- MediaTek發(fā)布天璣8400 5G全大核智能體AI芯片,賦能高階智能手機
- 榮耀官宣成為《哪吒之魔童鬧海》官方合作伙伴,2025魔法科技年貨節(jié)開啟
- 榮耀Magic7 RSR保時捷設(shè)計發(fā)布:大王影像升級,重塑影像創(chuàng)作與處理邊界
- VR和AR技術(shù)的未來趨勢:重塑互動與體驗
- 6G技術(shù)和頻譜需求:解鎖下一代無線連接
- 關(guān)于數(shù)據(jù)存儲的四個驚人事實
- 千家周報|上周熱門資訊 排行榜(12月16日-12月22日)
免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。