大數(shù)據(jù)、云計(jì)算、人工智能在今天看來早已不是什么新鮮事物，這些領(lǐng)域的快速發(fā)展推動(dòng)著金融行業(yè)的不斷創(chuàng)新，比如在移動(dòng)支付、互聯(lián)網(wǎng)銷售、生物識(shí)別認(rèn)證、智能安全監(jiān)測(cè)、大數(shù)據(jù)分析授信、遠(yuǎn)程開戶等業(yè)務(wù)方面全面推進(jìn)，同時(shí)信息化系統(tǒng)中已不單單只是存儲(chǔ)著結(jié)構(gòu)化的信息數(shù)據(jù)，比如金融行業(yè)各自的APP、多媒體終端、電話銷售、銷售行為可回溯的雙錄等方面都存在著大量的音頻、視頻、圖片、地理位置等非結(jié)構(gòu)化的數(shù)據(jù)存儲(chǔ)需求。
業(yè)內(nèi)專家和權(quán)威第三方調(diào)查機(jī)構(gòu)普遍認(rèn)為，海量數(shù)據(jù)時(shí)代已經(jīng)到來。各類復(fù)雜數(shù)據(jù)中，85%以上是屬于廣泛用于信息網(wǎng)絡(luò)、物聯(lián)網(wǎng)、電子商務(wù)等場(chǎng)景中的非結(jié)構(gòu)化數(shù)據(jù)。由于非結(jié)構(gòu)化數(shù)據(jù)的特點(diǎn)，其數(shù)據(jù)量遠(yuǎn)遠(yuǎn)大于結(jié)構(gòu)化的文件，金融行業(yè)已經(jīng)面臨著數(shù)據(jù)存儲(chǔ)容量的大規(guī)模增長(zhǎng)。許多企業(yè)用戶已經(jīng)意識(shí)到軟件定義分布式存儲(chǔ)技術(shù)的重要性，基于我們?cè)诖鎯?chǔ)領(lǐng)域多年的實(shí)施和應(yīng)用經(jīng)驗(yàn)，今天有幸和大家分享我積累的一些經(jīng)驗(yàn)和見解。
元核云CEO 王凌云
元核云作為一家提供企業(yè)級(jí)軟件定義存儲(chǔ)的供應(yīng)商，從這幾年合作的客戶(單一客戶存儲(chǔ)數(shù)量超40PB)以及實(shí)際案例中歸納出時(shí)下海量數(shù)據(jù)存儲(chǔ)情況的幾個(gè)特征：
1、數(shù)據(jù)體量巨大：簡(jiǎn)單來講就是數(shù)據(jù)存儲(chǔ)單位已經(jīng)從TB級(jí)發(fā)展為PB級(jí);
2、數(shù)據(jù)類型繁多：比如用戶行為記錄、影像圖片、音頻、視頻、地理位置、文檔、日志等等;
3、商業(yè)價(jià)值高：數(shù)據(jù)收集后，進(jìn)行有效統(tǒng)計(jì)分析帶來的商業(yè)價(jià)值極高，數(shù)據(jù)已經(jīng)成為企業(yè)的核心競(jìng)爭(zhēng)資產(chǎn);
4、處理速度快：對(duì)于海量的數(shù)據(jù)，金融企業(yè)往往要求處理數(shù)據(jù)的速度必須得快，更快挖掘數(shù)據(jù)價(jià)值才可以創(chuàng)造更好的企業(yè)價(jià)值。
面對(duì)以上海量數(shù)據(jù)存儲(chǔ)特征，傳統(tǒng)的信息化存儲(chǔ)方式也面臨著巨大的挑戰(zhàn)：
1、高可靠性：數(shù)據(jù)對(duì)于任何一個(gè)行業(yè)來說都是企業(yè)的核心資產(chǎn)，對(duì)于金融行業(yè)來說更是重中之重，一切的業(yè)務(wù)都建立在數(shù)據(jù)的基礎(chǔ)之上。當(dāng)數(shù)據(jù)最終存儲(chǔ)于硬件介質(zhì)中，硬件隨著使用的時(shí)長(zhǎng)增加，將面臨著設(shè)備故障、電器老化、自然損耗等問題。海量數(shù)據(jù)背景下，存在數(shù)量眾多的存儲(chǔ)硬件設(shè)備，當(dāng)設(shè)備發(fā)生故障時(shí)，往往可能帶來數(shù)據(jù)的丟失或者需要長(zhǎng)時(shí)間的數(shù)據(jù)恢復(fù)。這樣會(huì)給金融企業(yè)的業(yè)務(wù)開展帶來無法承擔(dān)的損失。
2、靈活可控性：從我們與金融公司合作的經(jīng)驗(yàn)來講，隨著數(shù)據(jù)的快速增長(zhǎng)，實(shí)現(xiàn)快速擴(kuò)容也成為滿足許多企業(yè)進(jìn)一步發(fā)展的必然條件。虛擬化技術(shù)的發(fā)展使得計(jì)算資源得以池化，使得業(yè)務(wù)系統(tǒng)所需要的計(jì)算資源能夠按需分配，彈性擴(kuò)展。同樣，企業(yè)也需要建立存儲(chǔ)的資源池，并能夠按需分配和動(dòng)態(tài)增加存儲(chǔ)資源，滿足業(yè)務(wù)發(fā)展的需要。
3、高并發(fā)，低延遲的數(shù)據(jù)訪問方式：在海量數(shù)據(jù)的應(yīng)用場(chǎng)景下，對(duì)于數(shù)據(jù)的使用方式，企業(yè)提出了更高的要求。面對(duì)著高密度數(shù)據(jù)運(yùn)算、互聯(lián)網(wǎng)用戶的高并發(fā)訪問、實(shí)時(shí)數(shù)據(jù)分析、機(jī)器學(xué)習(xí)等多種應(yīng)用場(chǎng)景，數(shù)據(jù)存儲(chǔ)系統(tǒng)必須要滿足更高并發(fā)的數(shù)據(jù)訪問，同時(shí)需要保證較低的響應(yīng)時(shí)效。簡(jiǎn)單來說，即是需要更為高效的性能表現(xiàn)。而傳統(tǒng)的NAS、SAN存儲(chǔ)已經(jīng)有30多年的歷史，在其設(shè)計(jì)之初并非針對(duì)如此龐大數(shù)據(jù)量場(chǎng)景，因此會(huì)出現(xiàn)諸如文件索引緩存、服務(wù)器機(jī)頭等技術(shù)設(shè)計(jì)上的先天瓶頸。在海量數(shù)據(jù)存儲(chǔ)場(chǎng)景下，性能表現(xiàn)也會(huì)急劇下降。
4、數(shù)據(jù)使用方式變化：大規(guī)模海量數(shù)據(jù)應(yīng)用場(chǎng)景下，隨著數(shù)據(jù)的應(yīng)用方式多樣化，需要提供更細(xì)粒度的數(shù)據(jù)管理和使用方式，例如在近年來普遍提到的存儲(chǔ)即服務(wù)的思路，更推崇將數(shù)據(jù)存儲(chǔ)能力以服務(wù)的方式進(jìn)行暴露，比如：對(duì)象存儲(chǔ)服務(wù)方式。這一方式能有效地降低數(shù)據(jù)使用方對(duì)存儲(chǔ)系統(tǒng)的深度耦合性。
而傳統(tǒng)存儲(chǔ)仍然普遍通過塊設(shè)備或文件系統(tǒng)的方式提供存儲(chǔ)能力，這就大大的限制了數(shù)據(jù)存儲(chǔ)的使用場(chǎng)景。同時(shí)由于塊設(shè)備和文件系統(tǒng)需要大量的初始化動(dòng)作和對(duì)于客戶端的要求，也增加了長(zhǎng)期數(shù)據(jù)運(yùn)維的成本。
相對(duì)于傳統(tǒng)存儲(chǔ)，新一代的軟件定義的分布式存儲(chǔ)理念已被提出多年。與我們合作的企業(yè)都遇到了數(shù)據(jù)量的大規(guī)模增長(zhǎng)情況，而分布式存儲(chǔ)技術(shù)正好能符合這些企業(yè)對(duì)于當(dāng)下和未來大規(guī)模數(shù)據(jù)存儲(chǔ)的需求。
縱觀國(guó)際國(guó)內(nèi)技術(shù)發(fā)展趨勢(shì)，軟件定義的分布式存儲(chǔ)技術(shù)已經(jīng)成為越來越多金融企業(yè)IT管理者的選擇。
元核云正是專注于金融行業(yè)的軟件定義分布式存儲(chǔ)公司。其自主研發(fā)的元核云分布式存儲(chǔ)產(chǎn)品基于開源的Ceph軟件為架構(gòu)核心，企業(yè)客戶不用再擔(dān)心被閉源產(chǎn)品所綁架。同時(shí)，該產(chǎn)品在Ceph的基礎(chǔ)上進(jìn)行了深度優(yōu)化和完善。比如：我們?cè)谛阅芊矫驷槍?duì)海量小文件場(chǎng)景、數(shù)據(jù)IO路徑、高速網(wǎng)絡(luò)、Crush算法進(jìn)行了優(yōu)化;在安全穩(wěn)定性方面設(shè)計(jì)了故障自動(dòng)隔離、防數(shù)據(jù)靜默損毀的數(shù)據(jù)自動(dòng)校驗(yàn)、數(shù)據(jù)智能恢復(fù)等機(jī)制;在管理方面研發(fā)了全新的智能運(yùn)維管理平臺(tái)，支持跨數(shù)據(jù)中心多集群的統(tǒng)一管理，輕松擴(kuò)容和規(guī)劃故障隔離域，監(jiān)控發(fā)現(xiàn)異常時(shí)郵件、短信、電話告警等運(yùn)維功能。
目前元核云已經(jīng)幫助中國(guó)平安、中國(guó)人壽、華潤(rùn)集團(tuán)、微眾銀行、招商金融等大型企業(yè)完成了分布式存儲(chǔ)技術(shù)的引入和轉(zhuǎn)型。擁有金融行業(yè)最大的Ceph存儲(chǔ)案例，支撐了千億級(jí)對(duì)象數(shù)據(jù)存儲(chǔ)和上萬個(gè)虛擬機(jī)運(yùn)行，連續(xù)4年零故障穩(wěn)定運(yùn)營(yíng)記錄。
