自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

用“極速統(tǒng)一”,開啟金融行業(yè)數(shù)據(jù)分析新范式

企業(yè)動(dòng)態(tài)
面對(duì)金融級(jí)高要求,基于“極速統(tǒng)一”的數(shù)據(jù)分析新范式打造出的MPP數(shù)據(jù)庫StarRocks,可以全面提升數(shù)據(jù)處理和分析的性能,將復(fù)雜分散的既有架構(gòu)融合為簡單一致的嶄新架構(gòu)。

數(shù)據(jù)庫作為金融信息系統(tǒng)的核心基礎(chǔ)設(shè)施,歷經(jīng)數(shù)十年發(fā)展,為金融行業(yè)轉(zhuǎn)型升級(jí)提供了有力的技術(shù)支撐。同時(shí),以銀行為代表的金融行業(yè)是數(shù)據(jù)庫銷售額占比最高的市場,也是對(duì)數(shù)據(jù)庫技術(shù)依賴度最高、要求最嚴(yán)格的市場。

據(jù)統(tǒng)計(jì),2021中國數(shù)據(jù)庫市場行業(yè)分布中,金融占20.2%,政府占18.4%,互聯(lián)網(wǎng)14.8%,運(yùn)營商8.9%。IDC 預(yù)測, 2024 年全球數(shù)倉的市場規(guī)模將達(dá)到 297 億美元,2019-2024 年的年復(fù)合增長率將達(dá)到12%,其中云上的數(shù)倉市場規(guī)模將達(dá)到 181 億美元,2019-2024 年的 CAGR 將達(dá)到 25.3%。預(yù)計(jì) 2024 年,中國數(shù)倉市場的規(guī)模是 168.5 億元,中國大數(shù)據(jù)平臺(tái)軟件市場規(guī)??傮w為 352.9 億元,中國分析型數(shù)據(jù)庫的整體市場將達(dá)到 521.4 億元,復(fù)合增長率為 27.7%。

以往商業(yè)集中式數(shù)據(jù)庫憑借較強(qiáng)的功能黏性、優(yōu)秀的系統(tǒng)穩(wěn)定性、良好的軟硬適配能力,一直在金融行業(yè)占據(jù)較大份額。而互聯(lián)網(wǎng)金融的異軍突起,帶來了高并發(fā)、海量數(shù)據(jù)、超高峰值等挑戰(zhàn)。為了應(yīng)對(duì)這些實(shí)際場景,近年來各金融機(jī)構(gòu)紛紛進(jìn)行了關(guān)于數(shù)據(jù)庫的探索,并結(jié)合金融交易場景不斷推陳出新,拉動(dòng)數(shù)據(jù)庫技術(shù)的迭代發(fā)展。

傳統(tǒng)IT系統(tǒng)無法滿足金融交易要求

信通院在去年發(fā)布的《金融級(jí)分布式數(shù)據(jù)庫白皮書》中指出,金融行業(yè)普遍對(duì)數(shù)據(jù)庫的安全性、可靠性、穩(wěn)定性有著全行業(yè)最為嚴(yán)苛的要求,因此,滿足金融行業(yè)需求的金融級(jí)數(shù)據(jù)庫產(chǎn)品幾乎成為所有行業(yè)中的標(biāo)桿。報(bào)告認(rèn)為,金融級(jí)分布式數(shù)據(jù)庫是能夠滿足金融級(jí)要求的高可用、高性能、低成本、線性水平擴(kuò)展、企業(yè)級(jí)安全、便捷性運(yùn)維的分布式數(shù)據(jù)庫。

在眾多金融級(jí)分布式數(shù)據(jù)庫中,按照數(shù)據(jù)處理方式,大致可以分成兩大類:聯(lián)機(jī)事務(wù)處理OLTP(On-line Transaction Processing)、聯(lián)機(jī)分析處理OLAP(On-line Analytical Processing)。OLTP是傳統(tǒng)的關(guān)系型數(shù)據(jù)庫的主要應(yīng)用,主要是基本的、日常的事務(wù)處理,例如銀行交易。OLAP是數(shù)據(jù)倉庫系統(tǒng)的主要應(yīng)用,支持復(fù)雜的分析操作,側(cè)重決策支持,并且提供直觀易懂的查詢結(jié)果。

可見,OLAP數(shù)據(jù)庫擁有高性能、可擴(kuò)展、高可用和高容錯(cuò)等特性,因此在金融行業(yè)的應(yīng)用規(guī)模有了明顯的提升,并且正在從金融外圍系統(tǒng)向核心業(yè)務(wù)延伸,有力支撐著金融行業(yè)的數(shù)字化轉(zhuǎn)型。在過去幾年中,我國數(shù)據(jù)庫市場 “百花齊放”,包括傳統(tǒng)數(shù)據(jù)庫廠商,如達(dá)夢、人大金倉、神州通用;云廠商,如阿里云、騰訊云、華為云;新興數(shù)據(jù)庫廠商,如StarRocks、PingCAP、星環(huán)科技、OceanBase;ICT跨界廠商,如新華三、浪潮。這些廠商的數(shù)據(jù)庫產(chǎn)品和方案,正在各大商業(yè)銀行、金融機(jī)構(gòu)及城商行的核心業(yè)務(wù)系統(tǒng)中投入使用并穩(wěn)定運(yùn)行,滿足了金融行業(yè)核心業(yè)務(wù)系統(tǒng)對(duì)數(shù)據(jù)庫的要求。

接下來我們來看兩個(gè)實(shí)際案例,希望能為更多金融行業(yè)用戶的轉(zhuǎn)型帶來借鑒和參考價(jià)值。

中原銀行和眾安保險(xiǎn)邁入極速統(tǒng)一時(shí)代

中原銀行是河南省唯一一家分支機(jī)構(gòu)網(wǎng)點(diǎn)覆蓋全省的省屬法人銀行,在全國城商行中的排名位列第 8 位,是河南首家資產(chǎn)超萬億的城商行。隨著業(yè)務(wù)不斷擴(kuò)張、數(shù)據(jù)量的高速增長以及業(yè)務(wù)邏輯復(fù)雜程度的不斷提升,中原銀行需要快速響應(yīng)客戶需求,為其提供更加精準(zhǔn)的服務(wù),同時(shí)借助實(shí)時(shí)數(shù)據(jù)進(jìn)行客戶洞察,幫助銀行業(yè)務(wù)人員做出業(yè)務(wù)決策,提高管理水平。

為此,中原銀行搭建了一站式商業(yè)智能BI平臺(tái),該平臺(tái)分為客戶行為分析系統(tǒng)知秋、一站式報(bào)表平臺(tái)魯班、一站式大屏平臺(tái)鴻圖和自助分析平臺(tái)云間四大應(yīng)用系統(tǒng),總用戶超過一萬人。為支持BI平臺(tái)的快速高效工作,中原銀行搭建了完整的數(shù)據(jù)平臺(tái)。其中,該平臺(tái)的存儲(chǔ)計(jì)算層分為數(shù)據(jù)湖、離線數(shù)倉與實(shí)時(shí)數(shù)倉三部分,由實(shí)時(shí)數(shù)倉對(duì)實(shí)時(shí)數(shù)據(jù)進(jìn)行處理,輔助進(jìn)行實(shí)時(shí)決策。隨著用戶的增加,基于原有的數(shù)據(jù)平臺(tái)架構(gòu),僅能支持T+1小時(shí)級(jí)別的準(zhǔn)實(shí)時(shí)報(bào)表,難以滿足銀行在客戶分析、風(fēng)控管理等場景下的實(shí)時(shí)查詢與分析需求。此外,原有數(shù)據(jù)平臺(tái)流批鏈路復(fù)雜,運(yùn)維成本高,且實(shí)時(shí)數(shù)據(jù)與離線數(shù)據(jù)的存儲(chǔ)并不統(tǒng)一,存在冗余,造成存算資源的浪費(fèi)。

為了提高數(shù)據(jù)平臺(tái)的查詢效率,深入挖掘?qū)崟r(shí)數(shù)據(jù)的價(jià)值,提升實(shí)時(shí)響應(yīng)能力,中原銀行調(diào)研了市面上兩款主流OLAP數(shù)據(jù)庫產(chǎn)品,發(fā)現(xiàn)ClickHouse在單表查詢和大寬表查詢表現(xiàn)優(yōu)秀,查詢延遲也比較低,但是Join性能較差,且不易維護(hù);StarRocks在固化查詢和靈活分析性能表現(xiàn)不錯(cuò),多表查詢性能也比較優(yōu)秀,而且同時(shí)支持實(shí)時(shí)與離線導(dǎo)入分析場景。與此同時(shí),StarRocks具有流批一體、向量化執(zhí)行、運(yùn)維簡單、查詢效率高、兼容性好且能夠滿足高并發(fā)查詢要求等六大優(yōu)勢,恰好滿足了中原銀行構(gòu)建極速統(tǒng)一的數(shù)據(jù)分析架構(gòu)的業(yè)務(wù)需求。

圖片

(中原銀行基于StarRocks的實(shí)時(shí)數(shù)倉建設(shè))

目前,中原銀行使用StarRocks完成了固定報(bào)表遷移、知秋系統(tǒng)改造與實(shí)時(shí)數(shù)倉建設(shè),極大提高了銀行的數(shù)據(jù)導(dǎo)入、查詢與分析效率。遷移完成后,固定報(bào)表查詢效率提升為原來的2.7倍,所需時(shí)間下降到3秒以內(nèi);原耗時(shí)排行top10的報(bào)表,查詢效率優(yōu)化了10倍以上,同時(shí)還實(shí)現(xiàn)了自助客戶行為分析。更值得一提的是,實(shí)時(shí)數(shù)倉架構(gòu)將中原銀行的離線數(shù)據(jù)和實(shí)時(shí)數(shù)據(jù)進(jìn)行了統(tǒng)一,極大減少了數(shù)據(jù)的冗余,同時(shí)支持秒級(jí)的導(dǎo)入與查詢,提高了業(yè)務(wù)的時(shí)效性和多樣性。 

目前,中原銀行使用StarRocks完成了固定報(bào)表遷移、知秋系統(tǒng)改造與實(shí)時(shí)數(shù)倉建設(shè),極大提高了銀行的數(shù)據(jù)導(dǎo)入、查詢與分析效率。遷移完成后,固定報(bào)表查詢效率提升為原來的2.7倍,所需時(shí)間下降到3秒以內(nèi);原耗時(shí)排行top10的報(bào)表,查詢效率優(yōu)化了10倍以上,同時(shí)還實(shí)現(xiàn)了自助客戶行為分析。更值得一提的是,實(shí)時(shí)數(shù)倉架構(gòu)將中原銀行的離線數(shù)據(jù)和實(shí)時(shí)數(shù)據(jù)進(jìn)行了統(tǒng)一,極大減少了數(shù)據(jù)的冗余,同時(shí)支持秒級(jí)的導(dǎo)入與查詢,提高了業(yè)務(wù)的時(shí)效性和多樣性。

圖片

(中原銀行基于StarRocks的業(yè)務(wù)價(jià)值提升)

眾安保險(xiǎn)是中國首家互聯(lián)網(wǎng)保險(xiǎn)公司,不設(shè)任何分支機(jī)構(gòu),完全通過互聯(lián)網(wǎng)展業(yè)。截至2021年底,眾安保險(xiǎn)服務(wù)超過5億用戶,累計(jì)出具約427億張保單。

眾安專注于應(yīng)用新技術(shù)重塑保險(xiǎn)價(jià)值鏈。在“保險(xiǎn)+科技”雙輪驅(qū)動(dòng)下,眾安將自身沉淀的保險(xiǎn)科技能力和先進(jìn)的商業(yè)模式向行業(yè)輸出,將數(shù)據(jù)作為支撐整體數(shù)字化路徑的基石,從看見到預(yù)見、從名單到客戶、從運(yùn)營到創(chuàng)新,每一個(gè)環(huán)節(jié)和每一次升級(jí)都離不開數(shù)據(jù)賦能。

圖片

(眾安保險(xiǎn)的數(shù)字化路徑)

在數(shù)字化轉(zhuǎn)型的進(jìn)程中,多場景融合的精細(xì)化分析是數(shù)字化轉(zhuǎn)型破局的關(guān)鍵,但眾安遇到了一些困難,包括單一場景分析遭遇瓶頸、多場景數(shù)據(jù)分散嚴(yán)重和數(shù)據(jù)能力缺乏向業(yè)務(wù)層拓展。針對(duì)這些問題,眾安建立了“集智平臺(tái)”。目前在眾安保險(xiǎn)內(nèi)部各業(yè)務(wù)線和部門,超過3000人都在使用集智平臺(tái),平均日活可達(dá)2000+。

集智上線后采?的是 ClickHouse,但隨著使?平臺(tái)的?戶?漸增多,業(yè)務(wù)?需要查詢的數(shù)據(jù)量也越來越?,業(yè)務(wù)場景變得復(fù)雜后,很多特定場景 ClickHouse 的表現(xiàn)都不夠理想:在多并發(fā)場景的查詢性能下降嚴(yán)重、多表關(guān)聯(lián)查詢性能?佳、排查運(yùn)維成本較?、需要借助第三方工具等。針對(duì)實(shí)時(shí)場景,集智平臺(tái)在使? ClickHouse 的 Replacing 引擎中也遇到了查詢慢、不?持?jǐn)?shù)據(jù)的刪除、只能對(duì)同一分?上同一分區(qū)的數(shù)據(jù)去重等痛點(diǎn)。

圖片

(眾安保險(xiǎn)集智平臺(tái)介紹)

基于以上情況,集智平臺(tái)需要進(jìn)行新的 OLAP 技術(shù)選型。經(jīng)過選型評(píng)測發(fā)現(xiàn),StarRocks支持高并發(fā),部分場景可支持高達(dá)1萬以上的QPS,TP99可以控制在1秒以內(nèi)。StarRocks通過CBO優(yōu)化,可以自動(dòng)選擇性能最優(yōu)的查詢計(jì)劃,多表關(guān)聯(lián)性能的表現(xiàn)也更好。

因此,眾安保險(xiǎn)在集智平臺(tái)引入了 StarRocks,支撐理賠風(fēng)險(xiǎn)洞察、精細(xì)化運(yùn)營分析、營銷實(shí)時(shí)效果追蹤等方面的應(yīng)用,賦能戰(zhàn)略決策人員、財(cái)務(wù)企劃人員、營銷管理人員、數(shù)據(jù)運(yùn)營人員、數(shù)據(jù)分析人員。為了提升集智在查詢加載方面的性能,同時(shí)將StarRocks極速查詢及高并發(fā)相關(guān)能力更好地賦能給業(yè)務(wù),集智在產(chǎn)品側(cè)深度集成了StarRocks,用戶可以在平臺(tái)上快速完成一站式的統(tǒng)一實(shí)時(shí)看板搭建。

圖片

通過引入StarRocks,眾安保險(xiǎn)集智平臺(tái)解決了極速查詢和高并發(fā)等數(shù)據(jù)問題,提升了集智平臺(tái)整體的數(shù)據(jù)支持能力和市場競爭力。以保險(xiǎn)產(chǎn)品中線上渠道投放場景為例,當(dāng)保險(xiǎn)產(chǎn)品開始對(duì)外發(fā)售前后,市場人員會(huì)將產(chǎn)品投放到多個(gè)渠道進(jìn)行推廣曝光,通過經(jīng)營的核心報(bào)表實(shí)時(shí)核算每個(gè)渠道的投放成本以及其對(duì)應(yīng)的ROI,根據(jù)數(shù)據(jù)表現(xiàn)情況實(shí)時(shí)調(diào)整投放策略,控制渠道營銷流程中的獲客單價(jià)和投放費(fèi)用。因此數(shù)據(jù)反饋的快慢也會(huì)決定業(yè)務(wù)人員在定位問題、調(diào)整策略等事件上是否占據(jù)最佳時(shí)機(jī)。

通過中原銀行、眾安保險(xiǎn)這兩個(gè)案例可以看到,作為新一代極速全場景MPP數(shù)據(jù)庫,StarRocks 具有可伸縮性、高可用、高性能、優(yōu)秀的性價(jià)比等優(yōu)勢,在提升企業(yè)的業(yè)務(wù)價(jià)值方面深具潛力。

極速統(tǒng)一3.0 助力數(shù)據(jù)要素價(jià)值充分釋放

大數(shù)據(jù)技術(shù)應(yīng)用于企業(yè)級(jí)數(shù)據(jù)基礎(chǔ)設(shè)施已不鮮見,而金融行業(yè)在實(shí)踐層面一直走在行業(yè)前列,它們在數(shù)據(jù)湖、融合數(shù)倉等典型的技術(shù)場景不斷探索,逐步將先進(jìn)的大數(shù)據(jù)生態(tài)技術(shù)應(yīng)用到風(fēng)險(xiǎn)控制、運(yùn)營管理、信貸查詢、信用卡征信和財(cái)務(wù)分析等業(yè)務(wù)場景。

比如中國銀行就于2021年投產(chǎn)上線數(shù)據(jù)湖平臺(tái),希望為中國銀行統(tǒng)一數(shù)據(jù)分析層、展現(xiàn)層、數(shù)據(jù)沙箱等探索提供平臺(tái)支撐,以及沉淀和深度挖掘全行數(shù)據(jù)資產(chǎn)。中國建設(shè)銀行則早早把數(shù)據(jù)倉庫和數(shù)據(jù)湖作為數(shù)據(jù)底座,不同于不少企業(yè)基于Hadoop體系的湖倉建設(shè),通過一體化架構(gòu)設(shè)計(jì)、一體化湖倉直訪、一體化數(shù)據(jù)視圖、一體化資產(chǎn)管理,形成了具有自身特色的湖倉技術(shù)體系。

通過對(duì)金融、游戲、制造等行業(yè)的深入洞察和技術(shù)共創(chuàng),過去一年, StarRocks 不斷打磨產(chǎn)品的功能、性能、穩(wěn)定性,修改了 80 多萬行代碼,發(fā)布了近 50 個(gè)版本。而在今年 9 月的 StarRocks Summit Asia 2022 上,StarRocks 社區(qū)正式發(fā)布了StarRocks 極速數(shù)據(jù)湖分析,開啟極速統(tǒng)一3.0時(shí)代。

圖片

StarRocks 2.4  SSB單表、SSB多表、TPC-H三個(gè)標(biāo)準(zhǔn)測試集下,相比于去年同期,性能提升了50%-80%。在物化視圖、資源隔離、Query Cache、自動(dòng)化數(shù)據(jù)分布、導(dǎo)入優(yōu)化等各個(gè)核心功能均有重大突破)

StarRocks 認(rèn)為,極速數(shù)據(jù)湖分析就是為用戶提供性能堪比數(shù)據(jù)倉庫的數(shù)據(jù)湖分析。在整個(gè)架構(gòu)層面,當(dāng)前StarRocks 的數(shù)據(jù)湖分析已經(jīng)具備了存算分離、彈性伸縮的能力。在存儲(chǔ)層,數(shù)據(jù)支持按照Apache Hive、Apache Iceberg、Apache Hudi等主流表格式維護(hù)在對(duì)象存儲(chǔ)之上。在計(jì)算層,從查詢生命周期來說,StarRocks的無狀態(tài)計(jì)算節(jié)點(diǎn)compute node,已經(jīng)可以負(fù)責(zé)從掃描到聚合的全部計(jì)算任務(wù);在控制層,F(xiàn)E 統(tǒng)一接入各類主流數(shù)據(jù)湖的元數(shù)據(jù),并對(duì)湖上查詢請(qǐng)求進(jìn)行統(tǒng)一調(diào)度和規(guī)劃。用戶通過StarRocks進(jìn)行數(shù)據(jù)湖分析,一方面能夠享受存算分離、彈性伸縮等前沿技術(shù)帶來的降本增效,另一方面,無需數(shù)據(jù)導(dǎo)入即可享受到堪比數(shù)倉分析的極速性能體驗(yàn),更加敏捷地從數(shù)據(jù)湖中獲取靈感和洞見,驅(qū)動(dòng)業(yè)務(wù)增長。

人民銀行今年發(fā)布的《金融科技發(fā)展規(guī)劃(2022-2025年)》中提出了八大重點(diǎn)任務(wù),明確到2025年,金融科技整體水平與核心競爭力實(shí)現(xiàn)跨越式提升,數(shù)據(jù)要素價(jià)值充分釋放、數(shù)字化轉(zhuǎn)型高質(zhì)量推進(jìn)、金融科技治理體系日臻完善、關(guān)鍵核心技術(shù)應(yīng)用更為深化、數(shù)字基礎(chǔ)設(shè)施建設(shè)更加先進(jìn)。其中,數(shù)據(jù)庫一直是金融行業(yè)持續(xù)創(chuàng)新的重點(diǎn)領(lǐng)域,涌現(xiàn)出了大批的熱點(diǎn)技術(shù)和產(chǎn)品。而數(shù)據(jù)庫產(chǎn)品無論選擇哪條技術(shù)路線,目的都是要滿足高可用容災(zāi)、數(shù)據(jù)一致性、業(yè)務(wù)連續(xù)性和系統(tǒng)可擴(kuò)展等方面的要求。

面對(duì)金融級(jí)高要求,基于“極速統(tǒng)一”的數(shù)據(jù)分析新范式打造出的MPP數(shù)據(jù)庫StarRocks,可以全面提升數(shù)據(jù)處理和分析的性能,將復(fù)雜分散的既有架構(gòu)融合為簡單一致的嶄新架構(gòu)。相信隨著金融行業(yè)數(shù)字化轉(zhuǎn)型的持續(xù)加速,StarRocks必將應(yīng)對(duì)更多的復(fù)雜查詢、高并發(fā)、實(shí)時(shí)分析等場景,幫助用戶實(shí)現(xiàn)數(shù)據(jù)價(jià)值最大化。

責(zé)任編輯:張燕妮 來源: 51CTO官微
相關(guān)推薦

2021-11-02 11:02:34

數(shù)字化

2014-03-12 10:25:00

大數(shù)據(jù)民生銀行

2024-08-12 10:00:31

2015-08-20 09:35:38

大數(shù)據(jù)

2017-07-06 15:44:33

2017-08-03 15:20:19

大數(shù)據(jù)數(shù)據(jù)分析

2020-05-15 15:09:51

R語言數(shù)據(jù)分析

2015-11-11 09:19:47

金融數(shù)據(jù)分析商業(yè)

2017-05-02 17:22:05

數(shù)據(jù)

2021-01-18 11:06:38

數(shù)據(jù)分析數(shù)據(jù)科學(xué)大數(shù)據(jù)

2023-12-25 16:26:06

2018-06-26 10:20:17

數(shù)據(jù)分析制造行業(yè)大數(shù)據(jù)

2020-05-08 09:49:47

大數(shù)據(jù)分析法律行業(yè)大數(shù)據(jù)

2020-12-15 13:03:21

數(shù)據(jù)分析

2015-08-19 13:50:19

數(shù)據(jù)分析

2015-12-29 17:30:20

朗新

2015-12-03 15:53:57

2019-06-26 11:10:47

Python數(shù)據(jù)分析Excel
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)