ITBear旗下自媒體矩陣:

底層存儲優(yōu)化業(yè)務?五大場景看深信服EDS如何做!

   時間:2021-07-15 15:18:55 來源:互聯(lián)網編輯:星輝 發(fā)表評論無障礙通道

對于存儲而言,性能是產品要追求的重要指標,但更關鍵的在于如何真正貼合用戶實際場景的使用需求,為用戶業(yè)務的高效運轉帶來切實的幫助。深信服也在探索中不斷思考,對于用戶而言什么才是更好的存儲。基于上千家用戶案例的積累,深信服分布式存儲EDS從用戶的業(yè)務場景痛點出發(fā),為醫(yī)療、政府、企業(yè)、廣電等行業(yè)提供性能支持。

一、醫(yī)學影像業(yè)務場景

醫(yī)院醫(yī)學影像數據(主要是CT和MR)的迅速增長,對醫(yī)院現有PACS系統(tǒng)的承載能力提出挑戰(zhàn),在數據重壓之下,PACS系統(tǒng)的底層存儲也成為被廣泛關注的焦點。深信服EDS承載醫(yī)院海量醫(yī)學影像文件的同時,為醫(yī)生帶來更為順暢的閱片體驗。

場景痛點:海量醫(yī)學影像文件讀取卡頓

病人一次CT檢查會產生幾千張500KB左右大小的影像文件,放射科醫(yī)生閱片時,通過閱片終端加載這些影像文件進行診斷。

據統(tǒng)計,三級醫(yī)院每年新增的醫(yī)學影像文件數量超過1億,大規(guī)模的小文件數量會對存儲的訪問效率產生極大影響,如果從存儲讀取某張影像時延過高,便會出現卡頓,嚴重時會極度影響工作效率。而在業(yè)務高峰期,上百位門診醫(yī)生、臨床醫(yī)生同時閱片時,效率問題會更明顯。

解決方案:雙重預讀模式實現高效閱片

為了進一步提升醫(yī)生的閱片效率,EDS通過智能預加載技術,內置一個預測模塊,根據客戶端在目錄上產生的讀取文件操作生成預讀序列,預讀線程根據預讀序列將影像文件預加載到內存。為了實現更精準的預讀,EDS針對不同場景推出基于目錄和時間兩種不同的預讀機制。

基于目錄預加載:大部分場景下,一個目錄僅存放一個病人的某次檢測結果,若單次檢測產生的文件數量不多,則將整個目錄的文件都加載到內存。但由于PACS軟件設計問題,存在一個目錄存放了多個病人的檢測結果,幾十萬的文件數量無法采用基于目錄的預加載機制,就需要基于時間預加載。

基于時間預加載:某個病人的檢測結果,其影像創(chuàng)建時間是比較臨近的,通過創(chuàng)建時間將目錄內的文件進行分組,當某個組中的文件在短時間內被讀取超過3個,則將整個組中的文件加載到內存。

通過EDS兩種加載機制,目前醫(yī)生閱片時可實現單張讀取時長不超過10ms。

二、廣電非編業(yè)務場景

隨著4K的普及,各電視臺需要重構已有IT架構以實現對4K的支持,4K意味著媒資數據量更加龐大,需要“采,編,播,存,傳”全流程各個環(huán)節(jié)的進行支撐,對采編效率、底層存儲的吞吐能力有著更高的要求。深信服EDS讓音視頻素材讀取更加迅速,實現廣電超清4K節(jié)目高效制作。

場景痛點:超清節(jié)目制作時延過大導致丟幀

超清4K節(jié)目的生產制作流程由素材上載、文件收錄、在線編輯、合成轉碼、審查等環(huán)節(jié)組成,4K場景的非編操作,視頻碼率大、層數多,需要存儲系統(tǒng)提供穩(wěn)定的高帶寬,對時延敏感,時延過大會導致視頻畫面出現丟幀。同時,非編業(yè)務涉及到視頻素材編輯的多個層次疊加,每一層都需要從音視頻素材讀取數據,層數越多,對存儲吞吐的要求越高。

4K編輯性能需求:

解決方案:存儲介質+存儲網絡升級降低讀寫時延

EDS使用NVMe SSD作為Tier分層,數據優(yōu)先寫入Tier分層,并優(yōu)先從分層中讀取數據,并搭配RDMA低時延網絡,來降低業(yè)務讀寫時延。

EDS通過3節(jié)點混合盤配置存儲集群提供6GB/s吞吐,以國內標準的500Mbps的4K素材為例,3節(jié)點即可滿足16臺4K超高清工作站同時進行6層素材編輯(或120臺高清工作站同時進行4層100Mbps高清素材編輯)的性能需求,不出現丟幀和錯幀。

三、測繪航測建模業(yè)務場景

測繪作為地理信息行業(yè)主要的數據生產方,其主要業(yè)務為傾斜攝影(即航測)和衛(wèi)星遙感,無人機或有人機傾斜攝影是通過飛行平臺搭載相機從多個不同視角同步采集地表影像,獲取到豐富的地表信息,用于進行三維模型建模。深信服EDS可以充分滿足建模過程對大文件吞吐以及小文件讀寫的不同性能訴求。

場景痛點:空三解算、三維建模性能需求各異

航測業(yè)務流程可以劃分為3個主要階段:

1、外業(yè)采集:外業(yè)采集中外業(yè)人員通過有人機或無人機對測區(qū)進行傾斜攝影,采集大量幾MB~幾十MB大小的圖片文件和控制點坐標文件;

2、內業(yè)生產:外業(yè)采集的圖片數據被傳送到數據中心后,在三維建模軟件里進行空三解算和三維建模環(huán)節(jié):

空三解算:空三解算過程會產生大量讀原圖片(MB級文件)操作,對存儲的吞吐性能要求高;

三維建模:三維建模通過多臺建模工作站并發(fā)計算,這個過程會產生大量幾KB-幾百KB級別小文件的讀寫操作,對存儲的小文件讀寫性能要求高。

3、數據流轉:建模完成后三維模型數據作為交付物交付給甲方,原片數據、過程報告等數據需要歸檔做長期保存。

解決方案:軟件邏輯層IO路徑優(yōu)化滿足并發(fā)建模需求

在大量原片數據承載上,EDS使用NVMe SSD分層并搭配RDMA低時延網絡,來降低業(yè)務讀寫時延,滿足空三解算階段拉取原片的吞吐需求,在建模過程數據承載上,EDS使用全固態(tài)配置,并搭配一系列存儲軟件邏輯層IO路徑優(yōu)化降低小文件讀寫時延。

EDS航測建模存儲方案做到建模效率相比傳統(tǒng)存儲方案提高30%以上,并可滿足同時200個工作站并發(fā)建模不掉速。

四、交管海量圖片場景

隨著城市安防建設推進,交管行業(yè)每天都會產生大量的人臉抓拍、車輛抓拍圖片數據,這些數據往往需要長期保存,如卡口抓拍照片保存的數據不短于180天等,只有實現安全存放、快速調取這些圖片數據,才能讓公安、交管等行業(yè)業(yè)務平臺發(fā)揮作用。深信服EDS實現交通管理場景下海量圖片小文件的高效處理。

場景痛點:海量照片小文件刪除、調用處理難度大

交通卡口抓拍圖片具有以下特征:

單個圖片文件小,大部分圖片數據小于1MB;

文件數量多,一個市每天產生的圖片數量超過千萬張;

存儲在承載10億以上文件規(guī)模的圖片數據的同時要滿足每天高速讀寫需求,并且需要支持每天高速刪除千萬張照片釋放存儲空間。

解決方案:自研元數據管理+小文件合并實現輕松承載

EDS對象存儲通過小對象合并技術大幅降低元數據規(guī)模,保證關鍵元數據都能夠完全存儲在有限的SSD上,并利用自研PhxKV數據庫對元數據進行管理,提升元數據訪問效率及故障修復的效率,從而提升EDS對海量小文件/對象讀寫效率,可以從容承載百億級別的小文件/對象。

EDS對象存儲3節(jié)點混合盤集群可以做到承載百億規(guī)模對象,且性能下降不超過5%,通過對象生命周期管理,可以實現每天刪除2000萬個對象,并快速釋放存儲空間。

五、數據庫場景(OLTP/OLAP)

數據庫承載著很多企業(yè)的核心業(yè)務數據,主要作用體現在兩方面:支撐業(yè)務系統(tǒng)的運轉和支撐分析決策,即OLTP和OLAP,OLTP常見的比如關系型數據庫,主要是基本的事務處理,比如銀行交易,OLAP是數據倉庫的主要應用,支持復雜的分析操作,側重于決策支持。深信服EDS可以為企業(yè)數據庫數據調用和分析提供充分的性能支撐。

場景痛點:I/O讀寫既要低時延又要高吞吐

關系型數據庫具有結構化程度高、獨立性強的特點,以Oracle為代表,可以很好的滿足OLTP(聯(lián)機事務處理)所需的數據信息和操作需求,即面向“事務”所進行的數據庫的增刪改查。比如銀行取錢操作。這類操作的數據I/O模型特征為:以小塊隨機讀寫為主,對時延要求高。

而OLAP主要面向數據分析,以數據倉庫為例,數據倉庫將各個散落獨立的數據庫孤島整合在了一個數據結構里面,其所做工作是將數據從各個數據庫中抽取出來,并經過數據格式轉換、清洗和儲存,為上層商務智能系統(tǒng)的分析提供數據源。數據I/O模型特征為:以大塊I/O讀寫為主,對存儲吞吐要求高。

解決方案:自研算法同時承載OLTP/OLAP類型業(yè)務

EDS通過Tier分層、多副本并發(fā)寫、緩存熱力圖算法等,以及RDMA技術來降低I/O時延,同多虛擬IP實現多節(jié)點并發(fā),并通過自適應條帶化、自研數據分布算法實現高吞吐。

基于以上優(yōu)化,EDS 3節(jié)點混合盤集群承載Oracle Rac數據庫可以達到42萬TPM,3節(jié)點使用全固態(tài)盤集群承載數據倉庫可實現5GB/s吞吐性能,滿足OLTP/OLAP類型業(yè)務承載需求。

截至目前,深信服EDS已經為醫(yī)療、廣電、企業(yè)、政府等不同行業(yè)數千家用戶提供存儲服務,未來深信服EDS還將在應用級性能優(yōu)化的方向持續(xù)精進,打造最懂用戶業(yè)務的高性能存儲。

舉報 0 收藏 0 打賞 0評論 0
 
 
更多>同類資訊
全站最新
熱門內容
網站首頁  |  關于我們  |  聯(lián)系方式  |  版權聲明  |  網站留言  |  RSS訂閱  |  違規(guī)舉報  |  開放轉載  |  滾動資訊  |  English Version