大數(shù)據(jù)浪潮推動(dòng)科技發(fā)展，從大數(shù)據(jù)1.0的BI/Datawarehouse時(shí)代，經(jīng)歷過大數(shù)據(jù)2.0的Web/APP時(shí)代，屬于IOT的大數(shù)據(jù)3.0時(shí)代已然來臨。近日，Analysys易觀發(fā)布IOTA整體技術(shù)架構(gòu)，為企業(yè)進(jìn)行數(shù)字用戶分析和營銷貢獻(xiàn)了新工具。

早期大數(shù)據(jù)平臺(tái)利用Lambda數(shù)據(jù)架構(gòu)，將收集來的數(shù)據(jù)在流式計(jì)算平臺(tái)和批量數(shù)據(jù)處理離線平臺(tái)進(jìn)行計(jì)算，主要解決實(shí)時(shí)數(shù)據(jù)處理需求和批量離線處理需求。穩(wěn)定性高、成本可控且便于晚間閑時(shí)錯(cuò)峰計(jì)算的Lambda架構(gòu)支撐了起步時(shí)期的數(shù)據(jù)行業(yè)，但由于實(shí)時(shí)與批量計(jì)算結(jié)果不一致引起的數(shù)據(jù)口徑問題、ETL批量計(jì)算在計(jì)算窗口內(nèi)無法完成、數(shù)據(jù)源變化后修改開發(fā)周期長、服務(wù)器存儲(chǔ)大等缺陷，后期的Lambda數(shù)據(jù)架構(gòu)越來越無法適應(yīng)飛速擴(kuò)增的數(shù)據(jù)處理需求。

Lambda典型架構(gòu)

在Lambda之后，Kappa架構(gòu)成為主流，核心思想是通過改進(jìn)流計(jì)算系統(tǒng)來解決數(shù)據(jù)全量處理的問題，使得實(shí)時(shí)計(jì)算和批處理過程使用同一套代碼，并且只有在必要的時(shí)候才會(huì)對(duì)歷史數(shù)據(jù)進(jìn)行重復(fù)計(jì)算。雖然比起Lambda，Kappa結(jié)構(gòu)能夠?qū)?shí)時(shí)和離線代碼統(tǒng)一起來，既方便維護(hù)又解決了數(shù)據(jù)口徑不一致問題，但其缺點(diǎn)也很明顯：流式處理對(duì)于歷史數(shù)據(jù)的高吞吐量力不從心，開發(fā)周期長，服務(wù)器成本浪費(fèi)嚴(yán)重。

Kappa典型架構(gòu)

而在IOT大潮下，智能手機(jī)、PC、智能硬件設(shè)備的計(jì)算能力越來越強(qiáng)，而業(yè)務(wù)需求要求數(shù)據(jù)實(shí)時(shí)響應(yīng)需求能力也越來越強(qiáng)，過去傳統(tǒng)的中心化、非實(shí)時(shí)化數(shù)據(jù)處理的思路已經(jīng)不適應(yīng)現(xiàn)在的大數(shù)據(jù)分析需求，Analysys易觀提出新一代的大數(shù)據(jù)IOTA架構(gòu)來解決上述問題，整體思路是設(shè)定標(biāo)準(zhǔn)數(shù)據(jù)模型，通過邊緣計(jì)算技術(shù)把所有的計(jì)算過程分散在數(shù)據(jù)產(chǎn)生、“去ETL化”、計(jì)算和查詢過程當(dāng)中，以統(tǒng)一的數(shù)據(jù)模型貫穿始終，從而提高整體的預(yù)算效率，同時(shí)滿足即時(shí)計(jì)算的需要，可以使用各種Ad-hoc Query來查詢底層數(shù)據(jù)：

IOTA整體技術(shù)結(jié)構(gòu)

凝聚了Analysys易觀團(tuán)隊(duì)多年心血的IOTA架構(gòu)，解決了傳統(tǒng)技術(shù)中ETL和相關(guān)開發(fā)的痛點(diǎn)，提高了整體數(shù)據(jù)分析效率；Ad-hoc即時(shí)查詢功能使用戶無需多等就能直接查詢到前幾秒發(fā)生的事件；邊緣計(jì)算技術(shù)解除了中央端集中處理的限制，將計(jì)算過程分散到數(shù)據(jù)產(chǎn)生、存儲(chǔ)和查詢端，同時(shí)確?？蛻舳藗魉蛿?shù)據(jù)時(shí)能馬上進(jìn)行反饋。

IOTA架構(gòu)實(shí)現(xiàn)方法

為了驗(yàn)證IOTA架構(gòu)，Analysys易觀也自主設(shè)計(jì)并實(shí)現(xiàn)了“秒算”引擎，目前支持易觀內(nèi)部月活5.5億設(shè)備端同時(shí)進(jìn)行計(jì)算。此外基于“秒算”引擎，Analysys易觀研發(fā)出了可以獨(dú)立部署在企業(yè)客戶內(nèi)、進(jìn)行數(shù)字用戶分析和營銷的“易觀方舟”精細(xì)化運(yùn)營產(chǎn)品。

Analysys易觀認(rèn)為，在大數(shù)據(jù)3.0時(shí)代，Lambda大數(shù)據(jù)架構(gòu)已經(jīng)無法滿足企業(yè)用戶日常大數(shù)據(jù)分析和精益運(yùn)營的需要，去ETL化的IOTA大數(shù)據(jù)架構(gòu)才是未來。Lambda大數(shù)據(jù)架構(gòu)為大數(shù)據(jù)分析行業(yè)提供了創(chuàng)新思維和技術(shù)基礎(chǔ)，Analysys易觀以此為基礎(chǔ)，將繼續(xù)致力于互聯(lián)網(wǎng)企業(yè)的用戶與產(chǎn)品運(yùn)營。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。