對于當前航空業(yè)面臨的海量實時業(yè)務數(shù)據(jù)監(jiān)測與分析挑戰(zhàn)，云智慧推出了一種基于業(yè)務系統(tǒng)日志數(shù)據(jù)，使用實時流式數(shù)據(jù)采集、大數(shù)據(jù)處理和人工智能技術實現(xiàn)海量日志數(shù)據(jù)智能化分析的解決方案，幫助IT運維人員實時、動態(tài)發(fā)現(xiàn)業(yè)務及IT系統(tǒng)存在的故障和異常，快速定位問題根源，保障航司業(yè)務持續(xù)、穩(wěn)定和高效運行。
挑戰(zhàn)與需求
隨著航空及上下游服務產(chǎn)業(yè)鏈的快速發(fā)展，系統(tǒng)多、架構(gòu)復雜、新舊業(yè)務系統(tǒng)長期共存，持續(xù)產(chǎn)生的海量日志數(shù)據(jù)缺乏有效的處理手段，對IT運維和運營帶來極大的風險與挑戰(zhàn)。
以民航為例，旅客選擇飛機出行需要經(jīng)歷訂票、值機、登機等一系列流程，每種業(yè)務處理都要跨越多個平臺的應用系統(tǒng)，每個系統(tǒng)都會實時輸出日志數(shù)據(jù)記錄當前應用運行情況，上述流程中任何一個應用的故障或者性能問題都會影響乘客出行。
如何實時了解業(yè)務的整體運行狀態(tài)，如何基于海量、實時的應用日志分析快速確定業(yè)務運行異常及潛在風險，如何根據(jù)業(yè)務量變化動態(tài)確定業(yè)務異常標準，如何針對當前業(yè)務中的異常情況及時預警，如何實現(xiàn)日志數(shù)據(jù)與其他運維監(jiān)控數(shù)據(jù)的融合分析和查詢，快速、準確定位業(yè)務及系統(tǒng)的故障，這都是日志智能分析平臺需要解決的難題。
云智慧日志智能分析解決方案及平臺架構(gòu)
云智慧海量日志智能分析解決方案包括系統(tǒng)日志數(shù)據(jù)的實時采集、傳輸、集群化的消息隊列、預處理組件及實時流式大數(shù)據(jù)處理，完成日志數(shù)據(jù)的解析、轉(zhuǎn)換、脫敏、業(yè)務邏輯處理后，以結(jié)構(gòu)化數(shù)據(jù)保存在分布式存儲系統(tǒng)中，然后調(diào)用算法集之中的一種或多種算法組合進行多場景的智能分析、告警及可視化展示，同時提供數(shù)據(jù)API滿足其它數(shù)據(jù)深入挖掘和探索需求。
海量日志智能化分析平臺架構(gòu)如下圖所示：
方案特色和優(yōu)勢
云智慧日志智能化分析平臺解決方案為航空業(yè)務運行的連續(xù)性、用戶體驗的提升和業(yè)務的高效運維提供了可靠的技術支撐，此方案具有如下優(yōu)勢：
1、豐富的日志數(shù)據(jù)實時采集
• 支持自有高性能采集器，兼容主流開源數(shù)據(jù)采集器、靈活水平擴展的數(shù)據(jù)接入接口，快速接入流式數(shù)據(jù);
• 超高的吞吐量和極小的響應時間，數(shù)據(jù)接入即可秒級查詢;
2、高性能、動態(tài)擴展數(shù)據(jù)處理平臺：內(nèi)置數(shù)十種處理組件，支持可視化處理pipeline及單步處理結(jié)果驗證、處理結(jié)果采用列式存儲、線性存儲擴展。平臺具備實時流式數(shù)據(jù)處理能力，滿足航空業(yè)海量日志數(shù)據(jù)實時處理和智能分析的嚴格要求：
• 支持根據(jù)數(shù)據(jù)量進行水平伸縮，數(shù)據(jù)處理能力：40T/天，EPS：130萬/秒。
• 支持多個節(jié)點同時寫入，寫入速度：60萬條/秒/節(jié)點，同等條件下，寫入速度比Elasticsearch快10倍以上;
3、多場景智能分析平臺能力
• 算法平臺基于最新架構(gòu)和人工智能算法，具備強大的智能化分析能力，為上層業(yè)務提供算法支撐和擴展。
• 內(nèi)置多個智能分析場景，包括日志智能搜索及上下文分析、日志模式自動識別、基于算法的智能異常檢測、智能告警及指標告警對接、日志與應用性能監(jiān)控、基礎監(jiān)控數(shù)據(jù)的融合關聯(lián)分析等。
方案價值
基于海量日志數(shù)據(jù)的云智慧智能日志分析方案已經(jīng)在航空、金融、能源等行業(yè)的智能運維項目中成功實施，實踐證明此平臺能給行業(yè)客戶帶來明顯的改善和提升：
1、實現(xiàn)離散日志的統(tǒng)一采集、處理、存儲、歸檔以及查詢，極大提升日志管理和分析的便捷性;
2、基于實時日志數(shù)據(jù)智能分析幫助業(yè)務人員及時掌控業(yè)務運行狀態(tài)，快速發(fā)現(xiàn)業(yè)務運行的異常并及時報警，減少業(yè)務中斷時間;
3、基于業(yè)務日志數(shù)據(jù)、應用性能監(jiān)控數(shù)據(jù)、基礎資源監(jiān)控數(shù)據(jù)的融合分析，實現(xiàn)復雜線上業(yè)務及系統(tǒng)問題原因的快速定位，提升復雜問題處理的效率。
客戶案例實戰(zhàn)
某航空企業(yè)的主營業(yè)務是面向航司及上下游服務商，提供業(yè)務處理、電子分銷、結(jié)算清算等服務，當出現(xiàn)性能緩慢或中斷時，現(xiàn)有監(jiān)控系統(tǒng)無法有效定位故障和異常。
針對此用戶需求，云智慧為該企業(yè)構(gòu)建了基于海量實時業(yè)務日志數(shù)據(jù)的業(yè)務運維智能分析平臺，通過對業(yè)務數(shù)據(jù)的實時采集、處理、多維度智能分析，及時發(fā)現(xiàn)系統(tǒng)業(yè)務層面異常情況，增強該航空客戶業(yè)務預警、故障診斷與智能分析能力。
此平臺多次提前發(fā)現(xiàn)業(yè)務處理響應時間變長、業(yè)務指令交互錯誤率增加等故障先兆，基于智能分析算法對即將發(fā)生的異常作出預測和及時告警，從而有效避免故障的業(yè)務風險。
總結(jié)和展望
云智慧日志智能分析平臺基于AIOps策略，融合基礎資源監(jiān)控、應用性能監(jiān)控、用戶體驗監(jiān)控等多維度運維數(shù)據(jù)和人工智能分析算法，能夠及時發(fā)現(xiàn)業(yè)務運營中潛在風險，輔助管理人員作出準確判斷和決策，實現(xiàn)對業(yè)務運營健康及未來發(fā)展趨勢的持續(xù)洞察，增強企業(yè)核心競爭力。
