隨著信貸科技的不斷發(fā)展，使大數(shù)據(jù)分析場景相應(yīng)地增加了許多，對于金融科技平臺(tái)而言，這些新場景對數(shù)據(jù)的安全性、準(zhǔn)確性、實(shí)時(shí)性提出更嚴(yán)格的要求。與此同時(shí)，指數(shù)級(jí)增長的用戶數(shù)，也向業(yè)務(wù)端施加了交付效率、穩(wěn)定性、用戶體驗(yàn)等多重壓力。

日前，毓數(shù)大數(shù)據(jù)平臺(tái)架構(gòu)全面升級(jí)，360數(shù)科完成了Apache Doris在毓數(shù)大數(shù)據(jù)分析多場景落地應(yīng)用。值得一提的是，不同于市面上應(yīng)用最為廣泛的實(shí)時(shí)數(shù)倉場景，360數(shù)科獨(dú)創(chuàng)的Doris + Presto秒級(jí)多級(jí)加速引擎，大大改良了大數(shù)據(jù)分析內(nèi)存占用過高，數(shù)據(jù)處理緩慢等問題。在Doris的支持下，360數(shù)科實(shí)時(shí)查詢一級(jí)加速性能提升190倍，二級(jí)加速性能提升19.1倍，實(shí)時(shí)數(shù)據(jù)分析效率大幅提升。

獨(dú)創(chuàng)加速機(jī)制，打造秒級(jí)響應(yīng)競爭力

(資料圖片僅供參考)

伴隨業(yè)務(wù)的不斷深入，360數(shù)科早期應(yīng)用的OLAP多維分析數(shù)據(jù)庫集群穩(wěn)定性較低、運(yùn)維復(fù)雜和表關(guān)聯(lián)查詢較慢等問題凸顯?！俺酥?，在大數(shù)據(jù)查詢分析場景，基于Spark單一查詢引擎分鐘級(jí)響應(yīng)，影響數(shù)據(jù)分析人員工作效率，亟需做出優(yōu)化和重構(gòu)?！?360數(shù)科系統(tǒng)架構(gòu)總監(jiān)黃建庭稱。

基于以上需求及痛點(diǎn)，360數(shù)科對大數(shù)據(jù)計(jì)算引擎的選型目標(biāo)提出了明確的需求，即：數(shù)據(jù)寫入性能高、查詢響應(yīng)秒級(jí)、兼容標(biāo)準(zhǔn) SQL 協(xié)議、表關(guān)聯(lián)查詢性能優(yōu)秀、支持豐富的數(shù)據(jù)模型、運(yùn)維復(fù)雜度低、社區(qū)活躍以及對商業(yè)友好，無法律風(fēng)險(xiǎn)。

今年3月，360數(shù)科對符合以上特點(diǎn)的數(shù)據(jù)庫 Apache Doris 展開了為期兩個(gè)月的調(diào)研測試，并在多次適配后，獨(dú)創(chuàng)多級(jí)查詢引擎動(dòng)態(tài)切換的機(jī)制，完成了針對業(yè)務(wù)場景的調(diào)優(yōu)?！癉oris的應(yīng)用，使我們的數(shù)據(jù)處理分析能力發(fā)生了質(zhì)的飛躍。從效果來講，Doris不僅可以支持高并發(fā)的實(shí)時(shí)查詢場景，也能支持高吞吐的復(fù)雜分析場景?！?/p>

以實(shí)時(shí)查詢場景舉例，傳統(tǒng)的大數(shù)據(jù)查詢引擎難以滿足數(shù)據(jù)開發(fā)者、數(shù)據(jù)分析師對查詢響應(yīng)性能提出的高要求，動(dòng)輒分鐘級(jí)甚者小時(shí)級(jí)的查詢耗時(shí)極大的限制了相關(guān)場景的數(shù)據(jù)分析效率。

為提高查詢性能，360數(shù)科自主研發(fā)的多級(jí)加速查詢引擎，支持多查詢引擎動(dòng)態(tài)切換的機(jī)制，能夠通過識(shí)別查詢數(shù)據(jù)的元信息對當(dāng)次查詢做自動(dòng)的查詢引擎(Doris/Presto/Spark/Hive)路由和故障切換。通過將Doris 架設(shè)在 Hive 數(shù)倉的上層，360數(shù)科可以直接復(fù)用已經(jīng)建設(shè)好的數(shù)據(jù)血緣關(guān)系，在不利用Doris 集群產(chǎn)生新表的前提下，就能完成對特定場景的低成本查詢加速。

擁抱新技術(shù)，反哺開源

顯然，對于Doris的應(yīng)用并非360數(shù)科在開源領(lǐng)域的首次嘗試。

2019年，360數(shù)科加入Apache OpenMessaging，參與開放消息技術(shù)標(biāo)準(zhǔn)推廣和實(shí)踐，為包括Apollo、Dubbo、Skywalking、Sentinal、Arthas等頂級(jí)開源項(xiàng)目在內(nèi)的多個(gè)項(xiàng)目提出問題、貢獻(xiàn)代碼及解決方案。

在自主開源方面，360數(shù)科技術(shù)團(tuán)隊(duì)貢獻(xiàn)的首個(gè)自主開源項(xiàng)目Chronus，在完成內(nèi)部5個(gè)里程碑版本后，無縫支持Dubbo協(xié)議、Http及SpringCloud等，致力于成為微服務(wù)生態(tài)輕量級(jí)分布式調(diào)度平臺(tái)。

對此，黃建庭認(rèn)為，受益于開源，就應(yīng)該反哺開源，這是每一個(gè)技術(shù)人都會(huì)有的信念?！盎诎?、開放的技術(shù)行為準(zhǔn)則，我們一直在參與開源、自主開源方面發(fā)力。從2018年開始，我們在使用過程當(dāng)中發(fā)現(xiàn)一些問題，比如當(dāng)前的開源項(xiàng)目不完全符合內(nèi)部的環(huán)境或需求，我們就會(huì)自己去改，如：對Hadoop生態(tài)改進(jìn)優(yōu)化超過40處；再比如，發(fā)現(xiàn)開源項(xiàng)目里有一些缺陷，我們就會(huì)去修復(fù)，并回饋到開源項(xiàng)目中，如：近期反饋PR到Apache Doris項(xiàng)目?！?/p>

今年6月，Apache Doris成功從 Apache 孵化器畢業(yè)，正式成為 Apache 頂級(jí)項(xiàng)目，這背后是以360數(shù)科為代表的開源社區(qū)成員共同努力的結(jié)果?！白鳛殚_源社區(qū)曾經(jīng)的受益者，我們更希望能夠以助力者的身份與其他高科技公司共同攜手推動(dòng)我國計(jì)算機(jī)技術(shù)和高科技企業(yè)的發(fā)展?！?/p>

據(jù)了解，360數(shù)科將繼續(xù)應(yīng)用Doris在實(shí)時(shí)查詢引擎加速、實(shí)時(shí)數(shù)倉、用戶畫像/標(biāo)簽、RTA等業(yè)務(wù)場景不斷優(yōu)化。同時(shí)公司也將通過分析用戶的查詢 SQL 特征，結(jié)合Doris的查詢緩存、物化視圖、Doris on Hive等特性，進(jìn)一步提升查詢效率等，以期支撐更多的業(yè)務(wù)場景、發(fā)揮更大價(jià)值。

談及后續(xù)規(guī)劃，黃建庭表示，“未來我們也會(huì)考慮全面開源，但不是簡單地把系統(tǒng)開源，會(huì)充分考慮到開源項(xiàng)目的適用性、通用性等，避免系統(tǒng)的環(huán)境依賴、內(nèi)部依賴、能力依賴，以開放的金融科技創(chuàng)新能力幫助相關(guān)公司提升效率、節(jié)約資源，同時(shí)也不斷完善我們開源的系統(tǒng)，進(jìn)一步推動(dòng)金融科技底層生態(tài)的完善?！?中新經(jīng)緯APP)