近日，第四范式與英特爾聯(lián)合實驗室以及新加坡國立大學的最新聯(lián)合研究成果——基于英特爾® 傲騰™持久內存的特征工程內存數(shù)據(jù)庫FEDB(Feature Engineering Database)，被國際頂級數(shù)據(jù)庫學術會議VLDB(Very Large Data Base)作為常規(guī)研究論文錄取。VLDB與SIGMOD并稱為數(shù)據(jù)庫業(yè)界的兩大最頂級學術會議，收錄研究機構以及科技企業(yè)在數(shù)據(jù)庫領域最前沿、最頂級的研究成果。此次，第四范式與Intel合作錄取的論文以解決在線預估系統(tǒng)的業(yè)務需求和痛點為目的，針對如何設計底層數(shù)據(jù)庫組件來高效支撐萬億維稀疏特征在線預估系統(tǒng)，以及如何基于英特爾® 傲騰™持久內存進一步解決業(yè)務和系統(tǒng)設計的痛點等兩方面進行創(chuàng)新性設計和全面優(yōu)化。

如今，越來越多的企業(yè)意識到了AI在企業(yè)經營、決策中的重要作用，AI迎來了落地應用爆發(fā)期。作為AI落地的關鍵組件，超高維在線預估系統(tǒng)基于實時提取的超高維特征和預先訓練的模型對業(yè)務數(shù)據(jù)進行實時評估，因而被廣泛應用在欺詐交易識別、個性化推薦等在線實時推理業(yè)務場景中。

為了支撐高性能的實時特征存取需求，業(yè)界誕生了諸多實時內存數(shù)據(jù)庫。然而，伴隨著業(yè)務的持續(xù)擴張和數(shù)據(jù)量的指數(shù)級增長，實時內存數(shù)據(jù)庫所存在的潛在弊端與風險使其難以高效、低成本的滿足不斷增長的業(yè)務硬實時需求：

-高性能特征存取對計算資源消耗巨大：為了保障線上服務的性能，特征工程內存數(shù)據(jù)庫對內存的容量要求極高，企業(yè)通常需要配備20-30臺機器以滿足高性能計算需求所需的內存容量，總體擁有成本(TCO)居高不下。

-服務中斷恢復所需周期長，嚴重影響企業(yè)線上服務質量：企業(yè)線上服務對服務質量的要求極高，然而通常情況下服務中斷(軟硬件錯誤宕機、例行維護等)往往需要幾個小時的恢復時間，業(yè)務長時間掉線嚴重影響線上服務質量。

-長尾延遲：使用基于內存的特征工程數(shù)據(jù)庫保障了線上服務的高性能，但是數(shù)據(jù)備份依然會落盤到性能較差的外存儲設備上，導致某些場景出現(xiàn)長尾延遲，嚴重影響服務質量。

為解決以上問題，第四范式自主研發(fā)了實時特征工程內存數(shù)據(jù)庫FEDB。作為面向AI硬實時場景的分布式特征數(shù)據(jù)庫，F(xiàn)EDB所具備的高效計算、讀寫分離、高并發(fā)、高性能查詢等特性，使得特征工程的效率和性能達到最大化。

在充分發(fā)揮FEDB價值的基礎上，第四范式引入英特爾® 傲騰™持久內存技術，以及創(chuàng)新性的持久化數(shù)據(jù)結構，全面支撐AI硬實時、低成本、高計算性能等需求。雙方基于英特爾® 傲騰™持久內存，使用App Direct Mode，開發(fā)優(yōu)化持久化數(shù)據(jù)結構，完全摒棄了FEDB原有的基于外存儲設備的數(shù)據(jù)持久化架構，不僅充分利用了持久內存大容量、持久性的特性，而且將持久化操作帶來的性能損耗降至最小。

該工作主要的創(chuàng)新性優(yōu)化技術包括“持久化智能指針”以及利用原子操作“持久化比較并交換”(Atomic Persistent Compare-And-Swap”)的解決方案。一方面，持久化智能指針巧妙地利用了64位操作系統(tǒng)中64位寬指針不被使用的低4位來標記目標地址的數(shù)據(jù)是否已持久化;另一方面，針對“比較并交換操作”(CAS)，傳統(tǒng)指令缺少持久化語義，因而無法在持久內存中直接作為帶有持久化特性的原子操作來使用的難點，雙方引入了新的“讀前持久化”(flush-before-read)概念，利用持久化智能指針，保證“持久化比較并交換” (Persistent CAS)正確性的同時，最大化減少持久化帶來的性能損耗。

此項工作的研究成果表明，基于英特爾® 傲騰™持久內存的FEDB可有效滿足企業(yè)超高維稀疏特征在線預估場景的需求，在保證線上推理服務超高性能的同時，大幅降低了企業(yè)AI整體投入成本，提升了線上服務的質量，進一步掃清了企業(yè)AI規(guī)?；瘧玫恼系K。

英特爾® 傲騰™持久內存的加持滿足特征工程數(shù)據(jù)庫對大內存的需求。下圖顯示了在論文實驗中使用的機器配置，在10TB數(shù)據(jù)的業(yè)務場景中，基于英特爾® 傲騰™持久內存的FEDB的硬件成本僅為基于純內存版本的41.6%。

硬件成本比較(10TB業(yè)務數(shù)據(jù))

在服務中斷情況下實現(xiàn)數(shù)據(jù)快速恢復，服務恢復時間減少99.7%，全面降低對線上服務質量的影響。如在論文中描述的結果(見下圖，PA-FEDB為基于持久內存優(yōu)化的FEDB，D-FEDB為內存版本的FEDB)，在實際業(yè)務場景中，其數(shù)據(jù)恢復時間從原來的六個小時縮短至一分鐘左右。

數(shù)據(jù)恢復時間比較

持久內存(PA-FEDB)vs. 純內存(D-FEDB)

?基于英特爾® 傲騰™持久內存進行持久化數(shù)據(jù)結構設計的FEDB舍棄了原有純內存方案以及基于外存儲設備的備份機制，實現(xiàn)了長尾延遲(TP-9999)接近20%的改善(見下圖，PA-FEDB為基于持久內存優(yōu)化的FEDB，D-FEDB為內存版本的FEDB )。

長尾延遲TP-9999比較

持久內存(PA-FEDB)vs. 純內存(D-FEDB)

未來，第四范式與英特爾聯(lián)合實驗室還將在軟硬一體技術、面向AI的高性能計算等方面展開深入合作，結合英特爾領先的軟硬件產品以及第四范式在AI領域的深厚積累、研發(fā)優(yōu)勢，推動AI技術的創(chuàng)新和落地，加速企業(yè)規(guī)?；疉I應用進程，共同引領AI產業(yè)化發(fā)展。

（免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現(xiàn)的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）