原標(biāo)題:分布式技術(shù)“上位”進(jìn)行時
我們身處數(shù)據(jù)大爆炸的時期,想必沒人會質(zhì)疑這一點(diǎn)。網(wǎng)絡(luò)用戶規(guī)模越來越大,由此產(chǎn)生的訪問數(shù)據(jù)也在指數(shù)倍增長,最典型的,每逢大型年度購物節(jié)、流量明星出軌、春晚搶紅包等特殊事件,都如同一場服務(wù)器系統(tǒng)性能的“極限挑戰(zhàn)”,某幾家互聯(lián)網(wǎng)公司總會被拉出來示眾,成則頂禮膜拜,敗則集體吐槽。
如何在極限繁忙的情況下,依然能流暢、安全地提供服務(wù),又不過度增加服務(wù)器成本?想要解決這一問題,傳統(tǒng)的服務(wù)器架構(gòu)就有些力不從心了。
分布式技術(shù),作為一種專門針對海量數(shù)據(jù)場景的解決方案,就成為了一劑“特效藥”。
在基礎(chǔ)“療效”之外,更關(guān)鍵的是,技術(shù)本身還埋藏著交給未來的“彩蛋”。
分布式技術(shù)為什么“上位”?
如果關(guān)注一下互聯(lián)網(wǎng)公司的技術(shù)趨勢,會發(fā)現(xiàn)大規(guī)模或超大規(guī)模的分布式應(yīng)用已經(jīng)成為主流,而隨著云計(jì)算逐步向大眾生活滲透,中小規(guī)模的分布式應(yīng)用也在各個領(lǐng)域開始廣泛出現(xiàn)。最為直接的體現(xiàn)就是,今天的開發(fā)工程師想要找到一份工作,“熟悉分布式系統(tǒng)”“能對分布式常用技術(shù)進(jìn)行合理應(yīng)用”等都是常規(guī)要求了。
但對于非專業(yè)人群來說,恐怕就有不少疑問了,分布式技術(shù)為什么會上位,它是如何運(yùn)行的,相比傳統(tǒng)系統(tǒng)究竟強(qiáng)在哪里,又是如何影響我們的“沖浪”體驗(yàn)的?
簡單來說,所謂分布式(distributed),就是將不同的服務(wù)模塊部署在多臺不同的服務(wù)器上,然后通過遠(yuǎn)程調(diào)用協(xié)同工作,共同對外提供服務(wù)。對于用戶來說,就像是一臺計(jì)算機(jī)在服務(wù)一樣。
我們知道,初代的服務(wù)器架構(gòu)往往比較簡單,應(yīng)用程序、數(shù)據(jù)庫、文件、代碼等所有資源都放在一臺服務(wù)器上,也就是單機(jī)結(jié)構(gòu)。隨著企業(yè)業(yè)務(wù)量的增多,一臺服務(wù)器已經(jīng)難以滿足數(shù)據(jù)處理的需求了,那么就對單機(jī)進(jìn)行“復(fù)制粘貼”,就能收獲一個處理能力高出好幾倍的“服務(wù)器集群”。
不過,集群式擴(kuò)展很容易到達(dá)物理上限,最直接的反映就是無論怎么增加節(jié)點(diǎn),整個集群的性能似乎也沒有被提升多少,這時候,就需要分布式系統(tǒng)登場了。
在實(shí)際業(yè)務(wù)中,分布式系統(tǒng)可以將不同的業(yè)務(wù)功能對應(yīng)到一個個獨(dú)立的子系統(tǒng)中去,比如針對電商平臺,可以將用戶服務(wù)、產(chǎn)品服務(wù)、店鋪管理、數(shù)據(jù)分析等不同的數(shù)據(jù)處理項(xiàng)目部署在不同的計(jì)算機(jī)集群上。這些獨(dú)立的集群可能是在不同的機(jī)房,甚至是不同的城市中,有的大型數(shù)據(jù)中心還會分布在不同的國家和地區(qū)。它們之間通過RPC消息傳遞進(jìn)行通信和協(xié)調(diào),再向用戶提供服務(wù)。
通過幾種架構(gòu)的運(yùn)行邏輯不難發(fā)現(xiàn),分布式系統(tǒng)至少具備三個特點(diǎn):
首先是能夠?qū)崿F(xiàn)高并發(fā)、低延遲的網(wǎng)絡(luò)服務(wù)需求。面對超大規(guī)模的訪問請求,很容易造成網(wǎng)頁打開很慢、游戲擁堵卡頓甚至App直接宕機(jī)的情況。這時候需要多臺服務(wù)器共同高效協(xié)作,去處理盡可能多的任務(wù),才能達(dá)到相應(yīng)流量的吞吐量。這就要企業(yè)需要將多個服務(wù)器部署在不同的地域,才有可能規(guī)避全球用戶可能導(dǎo)致的網(wǎng)絡(luò)擁堵和延遲問題。換句話說,分布式系統(tǒng)是全球網(wǎng)絡(luò)業(yè)務(wù)發(fā)展的基礎(chǔ)前提。
另外,分布式系統(tǒng)的可擴(kuò)展性能夠大幅度降低企業(yè)的網(wǎng)絡(luò)成本。由于分布式系統(tǒng)的多臺計(jì)算機(jī)可以在空間位置上隨意分布,機(jī)器性能也可以獨(dú)立運(yùn)行和隨時變動,這就使得多個獨(dú)立服務(wù)可以得到針對性地升級,而不是傳統(tǒng)架構(gòu)下的“大鍋飯”。比如在商城大促期間,只需要針對產(chǎn)品系統(tǒng)、訂單系統(tǒng)等跟下單量級直接相關(guān)的節(jié)點(diǎn),其他服務(wù)模塊維持原有水平,可以有效降低網(wǎng)絡(luò)使用成本。一些基礎(chǔ)模塊也可以為其他新增服務(wù)所復(fù)用,無需重復(fù)開發(fā),又進(jìn)一步降低了企業(yè)的經(jīng)營風(fēng)險。可以說,在各行業(yè)競爭進(jìn)入精益時期和白熱化的當(dāng)下,分布式系統(tǒng)無疑是競爭力的前提。
更關(guān)鍵的一點(diǎn),是分布式系統(tǒng)的高安全性。由于該系統(tǒng)中計(jì)算機(jī)沒有主/從之分,也就是說所有計(jì)算機(jī)節(jié)點(diǎn)都是對等的,在對外服務(wù)時分布式系統(tǒng)都會對數(shù)據(jù)和服務(wù)進(jìn)行副本處理,從而直接有效地防止了企業(yè)關(guān)鍵數(shù)據(jù)丟失無法找回等“慘劇”,也因此成為網(wǎng)絡(luò)防災(zāi)的重要保障。
正是出于這些技術(shù)特征,毫不夸張地說,計(jì)算機(jī)系統(tǒng)正在經(jīng)歷一場從集中式向分布式過渡的整體變革。
分布式云計(jì)算:受益人與鼓吹手
如果說分布式系統(tǒng)代表著網(wǎng)絡(luò)服務(wù)的發(fā)展方向,那么云計(jì)算的社會化,可能是其快速普及的重要推手。
今天,我們在諸多云服務(wù)商的技術(shù)架構(gòu)里,能夠看到不少分布式技術(shù)的身影,比如分布式存儲、分布式數(shù)據(jù)庫、分布式消息中間件等等。某種程度上,分布式系統(tǒng)在資源池化、硬件故障容錯能力、性能提升等方面的技術(shù)優(yōu)勢,賦予了云計(jì)算真正觸摸服務(wù)市場的可能性。
這種影響,主要體現(xiàn)在三個關(guān)鍵環(huán)節(jié):
一是分布式存儲。云服務(wù)作為智能化的輸出載體,對數(shù)據(jù)的存儲和分析是不可或缺的能力之一,而傳統(tǒng)的數(shù)據(jù)存儲模式往往都有容量大小限制或是空間局限,云端需要的可支撐龐大數(shù)據(jù)的存儲方案恰恰只有分布式能夠?qū)崿F(xiàn),比如 Apache Hadoop HDFS。
二是分布式計(jì)算。資源池的規(guī)模越大,對于資源使用效率,即計(jì)算效率的要求也就提出了更高的要求。傳統(tǒng)的集群結(jié)構(gòu)采用的并行計(jì)算往往需要耗費(fèi)相當(dāng)長的時間,而分布式計(jì)算會將任務(wù)拆分成諸多子任務(wù)再分配給多臺計(jì)算機(jī),這種高效率的計(jì)算方式也有效提升了云服務(wù)的整體性能。
三是分布式管理。我們知道,云服務(wù)的核心價值之一,就是能夠幫助客戶隨時獲得IT資源及應(yīng)用,并且按需付費(fèi)。這意味著云廠商的應(yīng)用和服務(wù),也需要基于可擴(kuò)張性、靈活性與可靠性來進(jìn)行設(shè)計(jì)。因此,能夠?qū)⒉煌?wù)模塊進(jìn)行分割、復(fù)用的分布式框架就顯得非常必要了。
當(dāng)然,除了以受益人角色不斷與分布式技術(shù)產(chǎn)生化學(xué)反應(yīng)之外,云服務(wù)商也成為企業(yè)部署分布式系統(tǒng)的最佳選擇。
之所以大部分企業(yè)需要借助云廠商的力量,核心原因還是在于分布式系統(tǒng)的復(fù)雜性,大大提升了網(wǎng)絡(luò)運(yùn)維和調(diào)用的難度。
對于大中型企業(yè)來說,越來越多的服務(wù)和業(yè)務(wù)被切割和部署在不同的網(wǎng)絡(luò)計(jì)算單元上時,服務(wù)間的依賴關(guān)系也因此變得錯蹤復(fù)雜,不僅管理配置的難度變得越來越大,有時候甚至連編寫系統(tǒng)的架構(gòu)師都不能完整描述應(yīng)用之間的關(guān)系,分不清應(yīng)用啟動的先后順序,進(jìn)而引發(fā)一系列擴(kuò)容、調(diào)用、線路故障等問題。
另外,敏捷開發(fā)模式要求工程師不斷更新程序,來滿足新業(yè)務(wù)、新功能的網(wǎng)絡(luò)需求。要讓企業(yè)自己緊跟IT產(chǎn)業(yè)的前沿技術(shù),及時引入最新算法模型,修正安全bug,并對成千上百個服務(wù)器完成迭代升級,無疑是一個極其龐大且效率低下的工作。
在這種背景下,引入云服務(wù)模式,借助虛擬服務(wù)器操作系統(tǒng),即SaaS技術(shù),在云服務(wù)商的統(tǒng)一運(yùn)行環(huán)境下實(shí)現(xiàn)部署,就大大降低了需要維護(hù)的硬件數(shù)量,從而讓分布式系統(tǒng)管理不再消耗企業(yè)大量時間和精力。
從這個角度來講,云計(jì)算和分布式技術(shù)捆綁在一起,兩種技術(shù)方案相互補(bǔ)益,成就了新數(shù)據(jù)規(guī)模背景下最佳收益比的網(wǎng)絡(luò)基礎(chǔ)設(shè)施。
走入“硬件虛擬化”的美妙時代
前面我們感受到了云計(jì)算與分布式技術(shù)相結(jié)合所蘊(yùn)含的可能性,隨著基礎(chǔ)設(shè)施迭代升級的完成,技術(shù)如何向應(yīng)用端釋放自己的迷人之處,恐怕才是我等普通人真正關(guān)心的焦點(diǎn)。
目前看來,分布式系統(tǒng)與云計(jì)算結(jié)合,首先帶來的就是服務(wù)能力的共享。
云端計(jì)算能力結(jié)合虛擬化技術(shù),能夠?qū)⒃S多業(yè)務(wù)端模型抽象成的固定軟件統(tǒng)一起來,進(jìn)而利用分布式系統(tǒng)進(jìn)行管理和輸出。
許多原本需要專門開發(fā)對應(yīng)應(yīng)用才能實(shí)現(xiàn)的功能,比如AI運(yùn)算,通過云端進(jìn)行虛擬化之后就能夠變成共享資源。比如Nvidia 與 VMWare 針對 VMWare Cloud on AWS 推出的GPU加速服務(wù),就能夠讓AWS的客戶將各種VMware vSphere 的應(yīng)用與容器無需變更即可無縫轉(zhuǎn)移至云端,實(shí)現(xiàn)AI運(yùn)算分析。
除此之外,終端能力也可以被虛擬化到云端,再通過分布式技術(shù)釋放給其他硬件。
舉個例子,智能音箱的語音功能、智能手機(jī)的視頻功能、無人機(jī)的實(shí)時拍攝功能、筆記本電腦的多功能操作,這些原本各自獨(dú)立的終端能力通過云端虛擬化之后,再借助分布式系統(tǒng)進(jìn)行調(diào)用,就能夠?qū)崿F(xiàn)終端之間不同能力的靈活組裝。
比如手機(jī)來電可以通過車載音箱來接聽,無人機(jī)畫面可以實(shí)時通過視頻通話直播,手機(jī)與電腦無縫傳輸……對于用戶來說,不再需要浪費(fèi)精力去考慮某個產(chǎn)品的性能,只需要看當(dāng)下場景需要什么硬件能力發(fā)出調(diào)用指令就好。同時,分布式系統(tǒng)的分工協(xié)同調(diào)用,能將硬件設(shè)備之間通訊的功耗降到最低。
從為不同場景設(shè)計(jì)不同硬件,到不同硬件主動適配不同場景,AIoT智能互聯(lián)后可能面臨的跨終端體驗(yàn)割裂問題,正在被分布式技術(shù)消弭于無形之中。
同時,分布式系統(tǒng)也讓不同機(jī)器之間的安全通訊成為可能,從而進(jìn)一步推動萬物智聯(lián)的到來。
我們知道,如果攻擊者利用漏洞獲取對整個主機(jī)的存取權(quán),那么在很長一段時間內(nèi)就可以攻擊主機(jī)上運(yùn)行的其他每個設(shè)備,從而危害整個系統(tǒng)的安全。由于這種攻擊方式很難被標(biāo)準(zhǔn)的IDS/IPS檢測到,正在變得越來越流行。
試想一下,如果在車聯(lián)網(wǎng)、工業(yè)物聯(lián)等場景中發(fā)生遷移式攻擊,亦或是黑客通過空調(diào)/咖啡機(jī)訪問家中任何一個聯(lián)網(wǎng)設(shè)備,這將會引發(fā)怎樣可怕的連鎖反應(yīng)?
因此,不少云服務(wù)商和硬件廠商都已經(jīng)開始著手將分布式技術(shù)引入安全服務(wù)。一方面分布式系統(tǒng)各個網(wǎng)絡(luò)節(jié)點(diǎn)之間之間通訊都需要驗(yàn)證并批準(zhǔn),能夠有效保護(hù)和控制復(fù)雜設(shè)備網(wǎng)絡(luò),在惡意軟件進(jìn)行控制之前實(shí)現(xiàn)檢測和隔離;與此同時,分布式網(wǎng)絡(luò)的“副本”模式,也能夠很好地保證數(shù)據(jù)被復(fù)制并存儲在每個設(shè)備中,避免因黑客入侵而發(fā)生無可挽回的損失。
今天,我們看到萬物智聯(lián)已經(jīng)在AI、5G、云計(jì)算等基礎(chǔ)設(shè)施的共同鋪陳下,展示出了越來越清晰的未來圖景。
如何讓其變得可靠、可用、可信,還需要像分布式技術(shù)這樣的助攻攙扶下,邁出實(shí)用化的關(guān)鍵一步。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 美媒聚焦比亞迪“副業(yè)”:電子代工助力蘋果,下個大計(jì)劃瞄準(zhǔn)AI機(jī)器人
- 微信零錢通新政策:銀行卡轉(zhuǎn)入資金提現(xiàn)免手續(xù)費(fèi)引熱議
- 消息稱塔塔集團(tuán)將收購和碩印度iPhone代工廠60%股份 并接管日常運(yùn)營
- 蘋果揭秘自研芯片成功之道:領(lǐng)先技術(shù)與深度整合是關(guān)鍵
- 英偉達(dá)新一代Blackwell GPU面臨過熱挑戰(zhàn),交付延期引發(fā)市場關(guān)注
- 馬斯克能否成為 AI 部部長?硅谷與白宮的聯(lián)系日益緊密
- 余承東:Mate70將在26號發(fā)布,意外泄露引發(fā)關(guān)注
- 無人機(jī)“黑科技”亮相航展:全球首臺低空重力測量系統(tǒng)引關(guān)注
- 賽力斯發(fā)布聲明:未與任何伙伴聯(lián)合開展人形機(jī)器人合作
- 賽力斯觸及漲停,汽車整車股盤初強(qiáng)勢拉升
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。