用友云分析服務近期針對企業(yè)數據分析的關鍵技術及應用場景等推出了《分析云技術白皮書》,希望能幫助企業(yè)走出數據分析的盲區(qū),實現數字經濟時代的數據化管理與運營。我們將白皮書中的精彩內容進行總結,會分期與大家分享。本期重點分享數據分析所面臨的技術挑戰(zhàn)以及解決之道。如需完整白皮書,可通過文章末尾聯(lián)系方式索取。
企業(yè)數據分析應用趨勢
從企業(yè)對大數據分析系統(tǒng)的需求和利用的實際情況來看,讓企業(yè)每個業(yè)務人員充分了解和利用他們的數據,自由釋放數據潛能;旧,企業(yè)對數據的需求我們認為分為三個階段:初級階段,業(yè)務流程通過信息化手段,從紙質化改造成電子化,企業(yè)通過數據告訴管理者,企業(yè)已經發(fā)生了什么?中級階段,企業(yè)已經建立和完整的業(yè)務系統(tǒng),管理者能夠定期從信息中獲取他所關心的企業(yè)數據,知道了企業(yè)正在發(fā)生了什么?高級階段,企業(yè)不僅僅只是希望知道過去發(fā)生了什么以及為什么發(fā)生,還希望進一步預測未來會發(fā)生什么,以及如何做才能最大化優(yōu)化資源配置,取得更好的成果。

數據分析技術面臨的挑戰(zhàn)
在日新月異且喜新厭舊的技術時代,企業(yè)已經認識到“數據 開始慢慢變成為了新的 “金子” 或者 “石油”,那么企業(yè)在數字化轉型的浪潮中,如何通過大數據、云計算等先進的技術保駕護航?企業(yè)數據量從GB級增長到TB級,應用如何平滑演進?從數據倉庫,到數據湖、數據共享平臺,企業(yè)如何高效利用數字資產?這些都是企業(yè)在數字化轉型過程中面臨的問題。
我們可以發(fā)現現有的數據處理技術都存在著一定的缺陷。
早期應用的數據系統(tǒng)架構設計時,應用直接訪問數據庫系統(tǒng),簡單的存取數據就可以滿足業(yè)務需求。但是,當用戶訪問量增加或是數據量不斷增大時,從而導致數據庫服務器無法及時響應用戶請求,出現超時的錯誤。
當數據訪問負載持續(xù)增加時,就需要考慮讀寫分離技術(Master-Slave)架構,以及分庫分表技術。但讀寫分離和分庫分表帶來了應用層面的復雜性,應用程序需要在設計開發(fā)階段就考慮到數據的拆分。分庫分表后,不僅限制了查詢的靈活性,并且隨著數據量繼續(xù)增長到PB級,單個數據庫實例的處理能力最終會成為整個系統(tǒng)的性能瓶頸。
當基于分布式存儲計算的大數據處理技術出現后,我們所面對的則是來自離線和在線的多個不同數據流,系統(tǒng)需要實時響應數據查詢請求,還需要處理分布式系統(tǒng)的分區(qū)和復制問題,以及滿足高容錯、低延時和可擴展的要求,于是就有了lambda架構,但其也存在著不足之處:整體架構比較復雜,資源開銷比較大,對軟硬件的需求較高;很多分析場景實現困難,增加了應用開發(fā)難度;數據流水線較長,系統(tǒng)運維復雜。
通過以上可以發(fā)現,現有的數據處理技術都存在一定缺陷,在面對今天日益復雜的企業(yè)大數據分析需求時顯得力不從心,如何采用最新的架構技術來解決這些問題,這也是數據分析廠商所必須面對的挑戰(zhàn)。

用友云分析服務的解決之道
經過超過10年的技術積累,用友擁有強大的底層技術和基礎架構,支撐了幾百萬家企業(yè)的信息化發(fā)展。隨著大數據云計算技術的發(fā)展,伴隨著用友客戶們業(yè)務的高速成長,用友數據分析產品線也經歷著創(chuàng)新和變革。
用友在2016年已經將底層數據處理技術全部換到了最先進的分布式計算系統(tǒng),真正系統(tǒng)自動地進行分布式的調度。從2017年開始,用友全面轉向云戰(zhàn)略,在基礎架構技術的投入加速,用友云分析服務,真正做到高性能高可靠性的分析系統(tǒng)。

用友云分析服務基于最新的大數據技術Kudu,可以在不犧牲可靠性的前提下,大大減少分析系統(tǒng)的復雜性。作為全新的大數據平臺,Kudu結合了OLTP和OLAP系統(tǒng)的優(yōu)點,在單一系統(tǒng)上同時提供高性能的數據查詢分析和數據更新能力。通過創(chuàng)新架構設計帶來的優(yōu)勢,節(jié)省了不必要的額外系統(tǒng)開支,還可以在企業(yè)期望的價格點上提供實時數據分析功能,而無需理解開源產品帶來的架構復雜性或綁定特定廠商專有的昂貴軟硬件設備。

用友云分析服務的架構可以分為數據采集層、數據持久化層、數據處理層、數據挖掘層、數據應用層,以及系統(tǒng)運維層。目前用友云分析服務可以支持主流的公有云,資源池化后的私有云,以及物理服務器,針對較新的硬件設備進行了優(yōu)化,所以要求CPU(或虛擬化層)必須支持SSSE3 和SSE4.2指令集。
數字化時代的到來使得企業(yè)的決策面臨前所未有的復雜度。企業(yè)數據相互連接,不同數據都在其中,數字經濟的背后其實是一種決策型經濟,誰能夠最快最有效地對數據進行分析,最快產生決策,誰就能更快地進行企業(yè)數字化轉型。用友分析云為你提供一個“獨一而二”的全分析服務。