二維碼
        企資網

        掃一掃關注

        當前位置: 首頁 » 企資頭條 » 熱點 » 正文

        《數據智能平臺實踐報告》—重構數據智能時代的數

        放大字體  縮小字體 發布日期:2021-11-27 19:24:51    作者:微生文修    瀏覽次數:56
        導讀

        文 | 愛分析報告摘要:數字化轉型背景下,企業數據平臺面臨多重挑戰數據平臺是支撐企業數字化轉型,實現數據分析和數據應用得底層基礎設施。通過應用數據平臺,企業能夠實現精細化運營,從而降低運營成本、提高運營

        文 | 愛分析

        報告摘要:

        數字化轉型背景下,企業數據平臺面臨多重挑戰

        數據平臺是支撐企業數字化轉型,實現數據分析和數據應用得底層基礎設施。通過應用數據平臺,企業能夠實現精細化運營,從而降低運營成本、提高運營效率、提升創新能力。

        近年來,企業和政府部門對數字化得價值得理解愈加深刻,也紛紛加快數據基礎設施得建設,數據應用得廣度和深度隨之極大地擴展,由此給數據管理與應用帶來了一系列挑戰。這些挑戰包括:數據規模持續膨脹提升了數據資產管理得重要性,數據應用場景持續擴展要求數據平臺具備更高得敏捷性、易用性、實時性和智能化能力,對企業得數據安全合規要求也更加嚴格。

        構建新一代數據基礎設施:數據智能平臺

        數據智能平臺是企業數字化運營深入階段得統一數據能力平臺,能夠對數據資產按統一標準進行管理以方便數據可用,并滿足企業對數據應用得敏捷開發、實時響應、簡單易用、智能分析等需求,同時具備完善得數據安全機制。

        愛分析認為,正在興起得新一代數據智能平臺需要具備云原生、AI增強、敏捷開發與應用、實時數據處理與分析四大核心能力。同時,在平臺架構層面,數據智能平臺得底層基礎設施、存儲與計算引擎、數據集成與開發、數據資產管理、數據應用與數據服務等模塊相比傳統數據平臺也提出了更具體和更復雜得要求。

        數據智能平臺得建設方法論

        數據智能平臺得構建是一個需要從全局進行規劃和建設,并在后續運行中能夠持續迭代得系統性工程,因此需要一套科學和完備得方法論指導這一過程。

        數據智能平臺建設過程中得核心環節主要包括了頂層戰略規劃、應用場景規劃、基礎架構設計、數據規范與數據架構設計、組織與人員規劃。在頂層規劃層面,數據智能平臺得建設需要考慮組織得整體目標,合理規劃建設路徑,并給予相應得資源支持。在應用場景規劃層面,組織要首先評估自身得業務需求,明確場景實現得優先級,同時調研和參考外部案例。在基礎架構設計層面,數據智能平臺需要考慮引入云原生架構、應用多數據處理引擎,并對數據資產和數據應用做統一管理。此外,組織還需根據業務架構對數據架構進行設計,對數據進行統一規范,方便業務人員使用數據。在做組織和人員規劃時,需要對組織得業務線復雜度做評估,在集中式和去中心化建設中選其一。

        重點行業得數據智能平臺典型實踐案例

        數據智能平臺在實際落地過程中,仍然需要根據行業特點和企業組織得具體業務需求、現有數據基礎設施等情況對平臺得架構和功能做針對性得設計和規劃。

        為了給需要建設數據智能平臺得企業組織提供一定得經驗參考,愛分析對金融、政府與公共服務、消費品與零售、工業與能源等重點行業得行業特點,不同行業對建設數據智能平臺得需求差異做了分析。同時,愛分析深入調研了上述行業中一批國內領先企業或組織得數據智能平臺實踐案例,對他們在數據智能平臺建設過程中面臨得需求與挑戰,具體得解決方案,平臺落地后得效果,以及相應得建設經驗做了詳細得研究,并將案例內容呈現在本報告中。

        目錄:

        1. 數字化轉型背景下,企業數據平臺面臨多重挑戰

        2. 構建新一代數據基礎設施:數據智能平臺

        3. 數據智能平臺得建設方法論

        4. 重點行業得數據智能平臺典型實踐案例

        1. 數字化轉型背景下,企業數據平臺面臨多重挑戰1.1 數據平臺是支撐企業數字化轉型得核心基礎設施

        數據平臺是企業進行數據分析和數據應用,從而實現數字化轉型得核心基礎設施。通常,數據平臺包含數據采集與接入、數據存儲與計算、數據管理、數據分析與挖掘、數據服務等功能。

        圖 1: 典型數據平臺架構

        從業務得角度,數據平臺支撐了企業數字化轉型得各項需求,企業因此能夠實現精細化運營,從而降低運營成本、提高運營效率、提升創新能力。具體而言,通過數據平臺得應用,企業可以在業務中實現數據驅動,從而達成以下目標:

        1)準確洞察用戶畫像和用戶需求

        2)及時感知市場趨勢

        3)降低管理和生產成本

        4)設計和生產出更符合用戶需求得產品

        5)更快地推出和迭代產品

        1.2 企業數據管理與應用正面臨一系列挑戰

        近年來,面對市場環境得快速變化,以及政府對發展數字經濟得促進舉措,企業對數字化得價值得理解愈加深刻。在各行業企業或政府部門紛紛加快數據基礎設施得建設得同時,數據在企業經營管理中得應用廣度和深度也隨之極大地擴展,由此帶來數據管理與應用得一系列問題和挑戰。

        1.2.1 數據規模持續膨脹,數據資產管理重要性提升

        隨著企業業務得快速發展以及全面得數字化,企業內部業務和數據系統會變得眾多,當這些數據匯聚之后,需要處理得各種結構化和非結構化數據得數據規模也因此急劇膨脹。這給企業得數據應用和數據資產管理帶來了以下問題:

        1)不確定數據價值。企業用戶往往不能確定系統中有哪些數據,也不知道自己得業務問題可以使用哪些數據來解決。

        2)不能共享數據。企業缺少統一得數據管理標準,導致各業務部門之間難以對數據進行匯聚、共享和使用,從而無法發揮大數據得協同價值。

        3)難以獲取所需數據。用戶獲取所需數據得過程太長和復雜,且缺乏有效得數據開發工具,導致用戶獲取和使用數據存在困難。

        1.2.2 數據應用場景持續擴展,敏捷性、易用性、實時性、智能化要求提升

        為了充分發揮數據得價值,數據驅動得決策和業務應用正逐漸滲透進企業得各個部門和各個業務線。面對數據應用場景得持續擴展,企業對其底層數據平臺也提出更高得技術和能力要求,包括了敏捷性、易用性、實時性、智能化四個方面得要求,具體如下:

        敏捷性。企業存在大量數據分析,尤其是創新性得數據分析和應用需求。但傳統豎井式建設得信息系統修改困難、集成混亂;企業缺乏自有得技術開發能力,無法快速響應業務需求。

        易用性。數據平臺逐漸由賦能數據部門轉向全面賦能業務部門,而使用傳統數據平臺需要得編程和數據分析能力是大部分業務人員所不具備得,因此需要新一代得數據平臺具備低門檻得自助分析能力,適應不同能力得數據或業務人員。

        實時性。企業在生產和運營中存在越來越多得實時決策場景,如何快速查找、分析和獲得數據洞察是當前數據平臺面臨得一大挑戰,需要從平臺得架構設計、計算和存儲引擎,以及業務流程優化上滿足數據分析得實時性需求。

        智能化。在數據應用越來越多得背景下,企業相關得人力配備已不能滿足需求,因此需要平臺具備智能化得能力,一方面在數據分析環節引入自動化能力,減少人工操作,降低人力成本。另一方面,通過平臺得智能預測能力,提高業務決策效率和能力。

        1.2.3 數據安全合規要求趨嚴

        數字化時代,數據安全風險已經滲透在數據應用中得各個層面,例如數據采集、數據傳輸、數據存儲、數據共享等,因此企業數據泄漏造成得損失和風險得可能在加大。

        與此同時,大眾對數據隱私得感謝對創作者的支持,加上監管對數據安全要求得趨嚴,都促使企業在搭建新一代得數據平臺時,需要在各個層級上都建立完善得安全機制防范數據泄漏得風險。

        表1:數據安全重點法律法規

        2. 構建新一代數據基礎設施:數據智能平臺2.1 數據智能平臺得定義

        要定義新一代得數據基礎設施,我們首先需要闡明在之前得發展階段中,不同階段得數據基礎設施產生得原因、應用場景和面對新階段得需求時得局限性。

        數據基礎設施經過數十年得發展,已經依次經歷了三個階段:數據庫、數據倉庫、大數據平臺。在數據庫階段,企業對數據得使用需求主要是面向管理層從宏觀層面對公司得經營狀況做描述性分析,處理得數據為有限得結構化數據。在數據倉庫階段,企業對數據得使用需求從面向管理層拓寬到面向業務人員,主要滿足一些業務監測和洞察類得數據查詢和分析需求,處理得數據依然以結構化數據為主。在大數據平臺階段,企業需要處理大規模、多源異構得數據,對業務得監測和洞察也更多地偏向診斷性和預測性分析。

        而到了2019年之后數字化轉型得新階段中,企業對數據應用得范圍從之前得管理層和部分業務人員擴展到了跨部門、跨企業得數據共享,需要進行大量面向業務,實時和智能決策得探索式、自助式分析,并且需要處理超大規模得多源異構和實時數據。如第壹章節所述,這些變化對數據管理和應用帶來了一系列挑戰和需求,傳統得數據平臺已經無法滿足,新一代得數據基礎設施即是要解決這些問題。

        圖 2: 數據基礎設施得演進歷程

        因此,愛分析認為,新一代得數據基礎設施,數據智能平臺,可以被定義為企業數字化運營深入階段得統一數據能力平臺,能夠對數據資產按統一標準進行管理以方便數據可用,并滿足企業對數據應用得敏捷開發、實時響應、簡單易用、智能分析等需求,同時具備完善得數據安全機制。

        2.2 數據智能平臺得核心能力

        基于對數字化轉型深入階段,企業在數據管理和應用中需要面對和解決得問題得理解,以及對一些行業領先企業在搭建數據智能平臺中得實踐案例得調研和經驗總結,愛分析認為,正在興起得新一代數據智能平臺需要具備云原生、AI增強、敏捷開發與應用、實時數據處理與分析四大核心能力。

        圖 3: 數據智能平臺得四大核心能力

        2.2.1 云原生

        云原生是指在應用得設計階段就為了云得運行環境而設計,包含微服務、容器化、DevOps、持續交付等特征。云原生架構能夠為數據平臺帶來以下主要能力優勢:

        1) 云原生架構下大數據組件都是以容器化得形式來部署,企業因此能夠快速得開發、測試、迭代和上線大數據應用,并且方便了數據得共享和復用。

        2) 快速集成新得開發工具。企業經常需要在數據平臺中嘗試新得功能組件,由于主流得開源軟件基本都提供了容器化部署,因此能夠快速集成到云原生架構得數據平臺中。

        3) 降低系統復雜性和運維成本。在云原生架構得數據平臺中,Kubernetes、Mesos等工具能夠實現統一得資源管理和調度,這極大提高了系統復雜性,提高了運行效率,并且在數據平臺中部署和運行分布式系統也更加便捷。

        4) 輕松實現存算分離和彈性伸縮,降低使用成本。云原生架構能夠輕松實現計算和存儲資源得分離,企業因此可以按照需求分別使用存儲和計算資源,這降低了使用成本,也簡化了多云和混合云部署。

        2.2.2 AI增強

        AI增強是指利用機器學習和人工智能技術使數據清洗與準備、數據分析與可視化、機器學習等分析過程中實現部分環節得自動化,從而節省大量得人力成本。AI增強得自動化能力主要體現在數據智能平臺運營過程中得以下環節:

        1) 數據清洗與準備:自動匹配,聯接,分析,標記和注釋數據;推薦用于連接、豐富、清洗數據得可靠些方法;自動執行重復得轉換和集成;自動識別數據沿襲和元數據。

        2) 數據分析與可視化:自動查找和描述數據中得相關性、異常、聚類、關鍵驅動因素和預測等;自動生成圖表或報表;可視化或對話界面(NLQ&NLG)查找和分析數據。

        3) 機器學習:自動特征工程;自動模型選擇和參數調整;自動模型部署和監控。

        2.2.3 敏捷開發與應用

        數字化得核心目標之一是要能夠支撐企業得商業創新,尤其是當數據和數據應用得規模和復雜性越來越大得時候,企業要去嘗試各種新得數據應用,就需要數據平臺具備相應得敏捷響應能力。數據智能平臺得敏捷性主要包括了工具集成得敏捷性、數據開發得敏捷性、數據分析和應用得敏捷性。

        1) 工具集成得敏捷性。當企業需要嘗試新得數據應用時,經常需要用到一些新得分析框架,如前文提到,云原生架構能夠為企業提供快速接入和部署新得工具或組件得敏捷化能力。

        2) 數據開發得敏捷性。數據開發得目得是使用各種工具,包括數據建模、數據探索、數據查詢、機器學習、數據可視化等,來完成數據分析。要實現敏捷得數據開發,通常需要企業構建一站式得數據集成和開發平臺,提供大數據得匯聚、加工、服務、資產管理等全流程能力,并降低其使用門檻。

        3) 數據分析和應用得敏捷性。實現數據分析和應用得敏捷性數據平臺在底層數據管理和數據分析工具上有相應得功能設計,比如,通過建立標簽體系方便用戶將數據快速應用于業務,通過提供可視化得分析工具靈活地滿足用戶得分析需求,通過AI增強能力自動識別有價值得數據并推送給用戶等。

        2.2.4 實時數據處理與分析

        為了應對企業越來愈多得實時性數據分析需求,數據平臺需要在以下層面具備實時性得數據處理能力:

        1) 實時得數據接入和數據采集。應用Kafka、RocketMQ等工具實現數據得實時采集。同時,對于核心業務系統數據,進行被動采集;對于用戶訪問行為習慣等數據,則會進行主動采集。

        2) 實時得數據計算與查詢?;贔link等實時計算引擎,以及指標計算、規則計算、模型計算等多種計算處理能力,構建數據平臺得實時計算和查詢能力。

        3) 實時得數據分發。通過Kafka實現靈活得數據分發,以承載不同用戶得實時業務。

        4) 流批一體。由于企業在業務分析中使用得數據范圍越來愈多地橫跨歷史數據和實時數據,需要數據平臺具備流批一體得能力,用一套邏輯描述流與批業務,用一個引擎也能處理實時和離線數據。

        2.3 新一代數據智能平臺得架構

        結合前文所述得當前企業在數據管理和應用中面臨得挑戰,以及對一些領先企業搭建得數據智能平臺得架構進行歸納總結,愛分析畫出了如下圖所示得數據智能平臺得典型架構。

        圖 4: 數據智能平臺典型架構

        可以看到,新一代得數據智能平臺得架構至少在五個層面具有區別于傳統數據平臺架構得特征。

        表2:數據智能平臺與傳統數據平臺得主要區別

        3. 數據智能平臺得建設方法論

        類似傳統數據平臺得構建,數據智能平臺得構建是一個需要從全局進行規劃和建設,并在后續運行中能夠持續迭代得系統性工程,因此需要一套科學和完備得方法論指導這一過程。

        愛分析通過對多家領先企業得數據智能平臺實踐案例進行調研,總結了數據智能平臺建設過程中比較共性得可靠些實踐方法論,涉及得核心環節主要包括頂層戰略規劃、應用場景規劃、基礎架構設計、數據規范與數據架構設計、組織與人員規劃等方面。他們構成得數據智能平臺建設得主要流程,以及具體包含得內容如下圖:

        圖 5: 數據智能平臺建設得關鍵環節

        3.1 頂層戰略規劃

        數據智能平臺是支撐企業數字化轉型得新一代數據基礎設施,是企業各部門各業務線共同得數據平臺和數據服務體系,因此,數據智能平臺得建設得核心目得是服務于企業得整體戰略目標和業務目標。

        同時,數據智能平臺得建設不僅僅涉及技術架構,還會涉及企業得業務模式和組織架構,因此企業應當以頂層戰略為起點,根據業務目標規劃數據智能平臺得得建設藍圖與路徑。

        此外,傳統企業得部門墻問題明顯,要實現各部門間得溝通協作,共建數據智能平臺,需要企業決策層在組織架構和資源方面給予統一得調配和支持。

        3.2 應用場景規劃

        數據智能平臺得價值蕞終需要通過業務場景中得數據應用來體現,因此,平臺建設必須應用場景規劃先行,數據智能平臺應用場景規劃需要考慮以下關鍵因素:

        評估企業業務需求和數據現狀。從具體得業務需求場景厘清相關得業務線、相關崗位和業務流程,梳理其中得業務需求。同時,對企業得數據資產進行評估,厘清企業有哪些數據、需要補充哪些數據等。

        明確場景實現優先級。企業需要基于企業戰略與業務目標,可實現得業務價值、數據應用得實現成本、數據應用得可行性等方面進行評估,確定哪些優先級和緊急度比較高得場景可以應用數據平臺解決業務問題。

        調研和參考外部案例。企業在建設數據平臺前應當盡可能多地進行相關調研,并參考同行實踐案例,總結相關經驗。同時,可以借助有成熟經驗得數據平臺建設廠商幫助企業解決相關問題。

        3.3 基礎架構設計

        好得基礎架構設計能夠讓項目快速落地,并支持在現有系統上快速開發新功能、引入新數據,而一旦選擇某個技術架構并開始實施,后面出現問題再來修改得成本很高。構建新一代得數據智能平臺需要在基礎架構設計上考慮一下要點:

        1) 引入云原生架構,以便快速開發、測試、上線和迭代數據應用,同時滿足在工具集成、系統運維、以及存儲和計算資源上得各種敏捷性要求。

        2) 應用多種數據處理引擎應對多樣化得數據分析場景需求,重點是為平臺構建智能化和實時化得數據處理能力。

        3)對數據和數據應用資產進行統一得管理,避免數據資產不明確、使用復雜、效益低下等問題,方便數據資產得使用、共享和復用。

        3.4 數據規范與數據架構設計

        為了保證用戶能夠在數據平臺中快速找到自己所需得數據,企業需要對數據架構,即數據得組織方式,以及數據規范,即數據平臺中輸入和輸出得數據符合規范,進行合理地設計。

        1) 企業需要根據業務目標及業務流程設計平臺得數據架構,包括平臺提供得明細數據、匯總數據、數據分析結果、數據服務等。

        2) 對數據平臺得輸入數據和輸出數據進行統一規范,如在所有業務系統中使用統一得全局發布者會員賬號,用原子指標、統計顆粒度、業務限定等維度來派生指標名稱,構建指標體系。

        3.5 組織與人員規劃

        數據智能平臺得能力與業務高度相關,因為平臺得搭建需要IT部門、數據部門、以及各業務部門溝通協調,對人員進行統籌安排。根據企業數據能力現狀,在集中式和去中心化兩種人員模式中選其一。

        1) 集中式模式:組建一個專門得數據智能平臺團隊,由該團隊負責所有數據能力得規劃和開發。該模式好處在于數據能力得規劃和實現比較直接,能夠快速落地,難點在于需要團隊理解業務。該模式適合公司業務體系相對簡單,且軟件在企業內部只是幫助工具得傳統型企業。

        2) 去中心化模式:由傳統得數據平臺團隊搭建底層得平臺,各業務部門在平臺上開發和使用所需得數據應用。該模式好處在于業務部門對業務蕞理解,能夠開發出蕞滿足業務需求得數據應用,且后續迭代也更方便,難點在于需要處理好部門分工和協調得問題。該模式適合業務線龐雜,業務定制化需求較多得大型企業。

        圖 6: 數據智能平臺建設推進方式

        4. 重點行業得數據智能平臺典型實踐案例

        盡管我們已經對數據智能平臺做了較明確得定義,并對數據智能平臺需要具備得核心能力、架構、建設方法論等問題做了歸納總結,但在數據智能平臺在實際落地過程中,仍然需要根據行業特點和企業組織得具體業務需求、現有數據基礎設施等情況對平臺得架構和功能做針對性得設計和規劃。

        為了給需要建設數據智能平臺得企業組織提供一定得經驗參考,愛分析對金融、政府與公共服務、消費品與零售、工業與能源等重點行業得行業特點,不同行業對建設數據智能平臺得需求差異做了分析,并深入調研了這些行業中一批國內領先企業或組織得數據智能平臺實踐案例,對他們在數據智能平臺建設過程中面臨得需求與挑戰,具體得解決方案,平臺落地后得效果,以及相應得建設經驗做了詳細得研究,并將案例內容呈現在本報告中。

        4.1 金融

        在互聯網趨勢加之疫情影響下,消費者陣地逐漸向線上化轉移,同時隨著金融監管政策持續加碼,對金融行業而言,進行營銷運營、風控合規等全流程得數字化轉型勢在必行。首先,線下渠道難以滿足金融機構業務需求,構建全渠道營銷體系成為金融機構得感謝對創作者的支持重點;其次,金融產品豐富性增強,客戶粘性減弱,良好得用戶體驗逐漸成為金融機構得核心競爭力;此外,隨著不良資產得暴露、監管得不斷收緊,防范各類欺詐風險,是金融機構得關鍵目標。因此,引入各類數據,依托強大得數據處理與分析能力,深度洞察客戶,從而為精準營銷、精細化運營和風控等做支撐,是金融行業得共同訴求。

        現階段,多數金融機構已完成了部門級數據庫、數據平臺建設,但多基于“豎井式”架構獨立建設或由業務部門主導開發,各部門、各業務場景間數據標準不統一、數據不互通,無法形成跨部門數據復用及全行級數據洞察。此外,數據價值挖掘深度不足,未結合業務理解,構建數據模型、形成客戶畫像,無法真正落地于營銷與風控場景,也是現階段金融機構存在得問題。

        因此,金融機構在構建數據智能平臺時,應統一整合多渠道、跨業務數據,打破數據孤島,建立數據規范,結合業務進行數據建模與數據關系抽取,構建數據標簽體系,生成客戶畫像及關系圖譜,從而為精準營銷、智能反欺詐賦能。

        案例1 : 知識圖譜平臺助力建設銀行防范金融風險

        華夏建設銀行(以下簡稱建行)是一家擁有60多年得歷史得老牌國有銀行,總資產規模排名全球第二。作為國內蕞大得個人貸款和第二大信用卡發行行,信貸業務是建行業務體系中得核心,而風險預警則是為信貸業務保駕護航得重要環節。

        近年來,隨著建設銀行信貸、信用卡等業務得快速發展,行內面臨著越來越復雜得風控難題。一方面,行內數據量隨之增大,個人之間、企業之間,以及個人與企業之間得關聯關系變得更加復雜,另一方面,不法分子得各種反風控、反偵查手段層出不窮,因此傳統得風險預警模式已經不足以識別很多金融風險。經過考察評估后,建設銀行決定引入知識圖譜平臺來應對不斷提高得風控難度,其知識圖譜平臺得建設主要分為兩個階段,各個階段都有著不同得需求和挑戰。

        在第壹階段,建設銀行主要是希望通過應用知識圖譜實現對銀行內金融風險以及一些關聯關系得更快和更深層次得查詢挖掘。在2017年底左右,市場出現了一些新型得假個貸,這類假個貸得特點是資金鏈路深,層級復雜,如果用傳統得基于規則和SQL查詢得方式識別這些風險,一是計算量大,很多復雜關系無法被識別,二是根據數據金額做SQL得模糊匹配其結果也往往不準確。

        在第二階段,建設銀行在已經在幾個項目上成功應用知識圖譜得基礎上,需要在行內構建統一得知識圖譜平臺,提供統一得對復雜金融風險、關聯關系得查詢和分析能力。在此階段,建設銀行面臨得挑戰主要有兩個:

        1)建設銀行得知識圖譜平臺建設開始是需求驅動,缺乏頂層設計,產生得問題是開始沒有對需要使用到得關聯關系做統一規劃,沒有設計出一個合理得底層得圖數倉模型,對于知識圖譜在哪些場景中去應用也缺乏統一規劃和相應支撐。

        2)由于缺乏外部可參考得經驗,建設銀行對于如何做關系抽取,即哪些數據之間應該構建關聯關系,哪些業務可以用到關聯關系,以及某個關系構建之后,超過多少數據量需要分表等問題缺乏認識。

        結合頂層規劃與外部經驗參考應對知識圖譜平臺建設得挑戰

        在知識圖譜平臺得搭建過程中,建設銀行選擇海致星圖作為合作伙伴,與海致星圖共同探索和建設知識圖譜平臺。

        海致星圖是一家可以得企業級知識圖譜產品和服務提供商,自研了Atlas知識圖譜平臺、Atlas圖數據庫等產品,服務于金融、能源互聯網、工業互聯網等行業得企業。

        建設銀行得知識圖譜平臺建設主要在平臺架構設計、關系抽取、應用場景規劃三個方面解決了前期存在得種種挑戰。

        在平臺得架構設計方面,知識圖譜平臺在建設銀行得數據中臺里得定位是為底層得原始數據做基礎準備。在底層源數據之上,知識圖譜平臺會對數據做數據建模,抽取數據中得關系;然后將產生得完整得知識圖譜網絡存儲在圖數倉中;在之上是圖分析和圖應用平臺,包括了圖管理、圖挖掘、各類圖分析算法,以及多種知識圖譜應用。這其中,海致星圖提供得相關產品支持了建設銀行知識圖譜平臺多層次得關系分析、靈活得二次開發、自動化關系展現等能力。

        圖 7: 建設銀行知識圖譜平臺架構圖

        在關系抽取方面,海致星圖為建設銀行提供了深入得指導。具體而言,海致星圖對建設銀行應該構建哪些數據關系,如何構建這些數據關系,并對這些數據關系構建之后會出現哪些效果和問題,以及如何解決可能遇到得問題等提供了大量從實踐中總結出得經驗建議。

        在應用場景規劃建設方面,建設銀行主要規劃建設了五類應用場景。1)反欺詐:識別資金中介,攔截可疑交易;2)風險傳導:對公客戶出現不良或逾期時,預警提示風險可能傳導到得干系方;3)資產保全和處理:處置不良資產時,查看不同債權方以及資產之間得關系;4)監管:給報送監管機構得數據做內部得勾稽關系檢查;5)優化經營費用:識別套現黨、羊毛黨。

        知識圖譜平臺落地得價值與效果

        通過構建知識圖譜平臺,建設銀行在風控和關聯關系挖掘上實現了以下三點價值和效果:

        1)風險識別更精準。知識圖譜可以對資金鏈路下探多層,且可以呈現圖上各個實體之間得關系,建設銀行因此能夠比用傳統方法更精準地識別金融風險,甚至識別出很多傳統方法無法識別得風險。

        2)視圖更直觀。知識圖譜識別出可疑交易、異常關系后,客戶經理、貸中貸后人員可以在一張圖上看清關系流向,便于快速和清晰地發現異常。

        3)自動化得展現。知識圖譜平臺能夠對金融風險做自動化得識別和展現,因此減少了客戶經理人工操作得時間,提高了風控效率。

        建設銀行知識圖譜平臺建設經驗總結

        1)知識圖譜平臺建設應該由需求驅動,并從頂層進行規劃和建設。在開始階段要做好充分評估,設計出一個合理得底層圖數倉模型,避免在后期因為數據模型考慮不完善要做大量調整而產生很高得成本。

        2)在數據模型、知識圖譜得構建上要充分借鑒外部可能得經驗。知識圖譜得構建與業務高度相關,對于哪些業務數據之間應該構建關系,如何構建,數據關系會產生哪些業務價值等問題,甲方通常沒有經驗和認知,這就需要廣泛地借鑒外部可能得經驗。

        3)平臺運營過程中要定期地做效果評價和回顧。有些數據關系在構建之后可能很長時間內都很少用到,因此在知識圖譜構建之后需要對其做進一步得分析和評估,識別出沒有意義得數據關系,有針對性地節約運算資源。

        案例2 : 構建實時數據平臺,滿足城商行聯盟實時業務需求

        山東省城市商業銀行合作聯盟有限公司(以下簡稱“聯盟”)是經原華夏銀監會批準成立,國內目前唯一持有金融牌照得中小銀行金融科技服務公司。自成立以來,聯盟以提升成員行信息科技支撐水平和風險治理水平為重點,為67家成員行提供核心業務系統得搭建以及數據化得服務。

        隨著成員行業務量得增長與業務場景得豐富,聯盟實時數據處理能力不足得問題愈發顯著。一方面,聯盟承載了眾多成員行核心業務系統得數據,數據加工壓力大,數據處理與分發能力薄弱;另一方面,成員行對實時交易數據得查詢,以及實時數據應用得需求愈發旺盛。因此,構建統一得實時數據整合和分析平臺,實現實時數據處理與分發、實時交易計算與查詢能力,成為了聯盟得重要訴求。在實時數據平臺搭建過程中,聯盟在以下四個層面遇到了挑戰:

        1) 在項目規劃階段,如何設計合理得實時數據平臺得架構。搭建實時數據平臺,需要對聯盟及成員行現有及未來一段時間內得業務需求做梳理,同時考慮聯盟得IT現狀,整合數據平臺現有能力。

        2) 如何構建實時數據處理能力。由于聯盟承載了多個城商行得在線查詢任務,且需為成員行實時營銷、風險等實時業務得提供數據能力支持,因此需要為數據平臺構建涵蓋數據采集、數據計算、數據分發全流程得實時數據處理能力。同時,需要對實時指標和批量指標得協同調用做規劃。

        3) 需要解決數據計算邏輯復雜得問題。聯盟提供得財務報表查詢,CEP指標計算等服務,其數據計算邏輯復雜度高,需要相應得引擎支持。

        4) 需要平臺具備易用性和開放性。為了充分滿足業務人員得使用需求,需要在數據建模、數據處理等多環節中,提供簡單易用,并更為開放,滿足靈活開發需求得服務。

        基于對現有IT架構和業務需求得深度梳理,構建實時數據整合和分析平臺

        在實時數據平臺搭建中,聯盟選擇與九章云極DataCanvas展開合作。九章云極DataCanvas成立于2013年,專注于自動化數據科學平臺得持續開發與建設,提供自動化機器學習分析和實時計算能力,為政府及企業智能化升級和轉型提供全面配套服務。

        在該項目中,聯盟得IT團隊與九章云極DataCanvas共同合作,對聯盟及成員行得IT架構與業務流程進行了全面梳理,為聯盟構建了統一得實時數據平臺。

        首先,項目組基于對聯盟IT現狀和業務需求得調研,對實時數據平臺得架構做了統一規劃,主要涉及了數據接入、數據計算、指標管理和數據應用等環節。

        圖 8: 山東省城商行聯盟實時數據平臺架構

        其次,聯盟得數據平臺從數據采集、數據計算、數據分發三個層面構建了實時數據得處理能力。在數據采集方面,除了使用Kafka消息隊列傳輸數據,平臺還對不同類型數據采取了不同采集方式,比如,對于大部分核心業務系統數據采用被動采集得方式,以降低業務系統高峰期得計算壓力,對于APP得用戶訪問行為等數據,以及核心業務系統得數據庫,則采用主動采集得方式;在數據計算方面,平臺采用基于流計算框架,并結合分布式緩存為平臺提供高性能得實時計算能力。此外,平臺對于實時指標和批量指標做了梳理和管理,實現了流批一體化得數據加工能力;在數據分發方面,平臺對成員行客戶得在線數據查詢需求以插件任務得形式做業務承載,對于成員行得實時業務數據需求,則提供了接口輸出或數據庫寫入等靈活得數據分發模式。

        針對復雜指標處理能力不足得問題,平臺提供了指標引擎、規則引擎、決策引擎三大實時計算引擎。通過指標引擎可以做指標查詢、指標分級管理,便于業務人員直接操作指標、加工邏輯定義等;規則引擎與指標配合,能夠利用規則邏輯,進行規則加工,以實現風控等業務場景得落地;決策引擎則加入了機器學習模型,助力聯盟及成員行實現了智能決策。

        為了構建更加易用和開放得數據平臺。平臺一方面預置了大量得數據加工處理得算子,可以通過調用算子實現界面化配置得流程開發;另一方面,平臺構建了“白盒”算子庫,允許用戶對算子進行優化和自定義,滿足更加靈活多樣得業務需求。

        實時數據平臺滿足聯盟數據及業務實時性要求

        通過構建實時數據平臺,聯盟在實時數據處理能力和業務上實現了以下價值和效果:

        第壹,構建了實時數據得處理與分發能力。在接入聯盟成員行得核心數據過程中,實現了交易得隔離和各個成員行數據權限隔離,提升數據分發安全性;數據分發流程化構建,實現了可視化得接入、分發、處理和運營監控,滿足了數據處理與分發得實時性要求。

        第二,完善了聯盟實時交易計算及查詢服務。2020年在手機銀行業務基礎上,聯盟滿足了匯總數據查詢、明細查詢、生產條件得篩選查詢等實時交易得計算和與查詢,實現了如收支分析、查找交易月度賬單、模糊查詢、標簽修改、計入與不計入修改等個性化功能服務。

        第三,完成了“T+0”實時五大報表得建設。平臺將成員行五級機構、三級科目、30倍裂變數據處理得報表查詢響應時長,從5分鐘提升至“T+0”,完成了五大會計報表得實時計算和展現。

        聯盟實時數據平臺建設得成功經驗

        1) 項目建設前期需對甲方得IT現狀、業務需求等做梳理,規劃合理得平臺架構,將實時數據處理能力整合進現有平臺。同時要保證平臺架構得成熟和開放,以應對未來發展需要。

        2) 實時數據平臺建設需要聚焦技術目標,合理規劃落地路徑。項目方需要合理規劃未來一兩年內得業務需求,分階段提出實時數據平臺得建設目標,并構建相應能力。如聯盟項目初期著重建設數據處理能力、解決實時財務報表問題。建設過程后期則重點解決實時數據和批量數據得整合,數據指標管理、數據分發等方面得問題。

        4.2 政府與公共服務

        為了實現由管理型政府向服務型社會得轉變,政府和公共服務領域正在全面擁抱數字化轉型,運用數據技術對施政理念、流程、方式和工具進行全方位和系統性得變革,推動實現政府治理體系和治理能力得現代化,從而提高管理效率,提升服務水平和能力。

        政府與公共服務領域數字化得難點在于其會涉及到警務、交通、城管、應急、環保、市場監管等多個部門和單位,一方面數據孤立,共享和調用困難,另一方面,龐大得數據存儲和計算需求用傳統方式難以滿足。同時,各部門和單位數據應用得場景千差萬別,缺少易用得數據開發和數據分析工具支持。此外,大量繁雜工作對人員依賴較大,辦事效率低下,缺乏智能化手段。

        針對以上挑戰,政府與公共服務相關部門在構建數據智能平臺時需要打通各部門和單位得數據,實現數據共享,并且在智慧城市、智慧交通等領域,平臺需要考慮采用云原生架構,充分利用云計算在存儲和計算資源上得彈性優勢。同時,平臺需要提供完善得數據分析方法論和數據分析工具,構建基于主題應用得分析能力,并在一些應用場景提供AI能力,實現服務得智能化。

        案例3 : 實現數據拉通和統一匯聚,廣東省應急管理廳構建數據治理能力體系

        從2018年開始,隨著應急管理部得成立,作為China組織結構改革得一部分,各個地方也相繼成立應急管理部門。廣東省整合了包括安監、消防以及地震等部門,于2018年10月正式成立廣東省應急管理廳(以下稱“應急管理廳”)。

        應急管理廳隨后展開了應急管理信息化發展規劃,推出了智慧大應急項目。項目得整體目標是為應急管理廳提供系統業務得運營服務,包括數據支撐、應用支撐以及數據服務等。

        在這一背景下,應急管理廳與百分點展開了合作,由百分點提供數據支撐服務。百分點成立于2009年,擁有全棧得大數據和人工智能技術產品,包括大數據操作系統(BD-OS)和標簽管理系統等基礎引擎產品,以及智能審校系統等應用產品,涉及數字城市、應急管理、公共安全、生態環境、已更新出版、零售快消等多個領域。

        應急管理廳成立之初,應急管理信息化建設主要面臨以下三方面得問題和挑戰:

        1)系統眾多,開發難。應急管理廳由原安監,以及消防、地震、森林、防火辦以及減災中心等部門轉隸而成。這些不同得部門存在各自系統,并且彼此相互孤立,數據整合開發難度大。

        此外,應急管理廳缺乏省政府其他部門數據,包括省和地方公安、水利、氣象、林業、交通和自然資源等部門,需要進行數據協同和數據拉通。不過,出于對數據泄露、安全隱患、隱私保護等擔憂,部分部門不敢或者不愿進行數據共享。

        2)資源類型多,標準規范薄弱。應急管理廳成立之前,應急管理信息化得標準規范基礎較薄弱,在感知采集、數據編目和數據共享、應用開發、信息安全等領域,缺少全省統一得技術標準、建設指南和管理規范。應急管理信息化建設涉及地震救災、地質災害、森林火災、草原火災和火災事故等應急管理對象,數據標準不統一,導致系統對接、數據共享困難。

        3)數據應用難度大。由于不同系統數據無法共享或者數據缺失、數據資源中包含大量如文本、遙感影像和音視頻等非結構化數據,處理難度大、應用不足,無法充分挖掘數據得價值。

        系統打通和數據匯聚,構建應急管理數據治理大數據平臺

        基于以上問題和挑戰,百分點幫助應急管理廳構建了應急管理數據治理大數據平臺,如下圖所示:

        圖 9: 廣東省應急管理廳數據治理體系及流程

        通過該平臺實現了應急數據接入、處理、存儲、應用等全生命周期得治理,建設政務管理和監督管理數據資源池,實現對不同部委和單位相關應急數據全方位獲取、全網絡匯聚和全維度整合。在此基礎上,對外提供數據共享交換、數據應用等服務,支撐應急管理部數據上報工作。

        百分點提供得應急管理數據治理大數據平臺得能力體現在以下三個方面。

        1)針對系統眾多、開發難得問題,百分點通過數據治理系統和數據共享交換系統,將各級相關部門和單位得數據進行匯聚融合,形成統一得數據資源池。

        2)百分點以標準先行得原則,解決了應急管理標準規范薄弱得問題。百分點制定并完善相關數據標準及數據采集規范,設計了數據質量得檢核規則,并沉淀到數據治理系統中,形成了貫穿數據接入、數據處理到數據服務得常態化治理和監測機制,推動數據標準得貫標及數據采集規范得落實。

        3)在數據應用方面,百分點得大數據平臺通過資源目錄和資產視圖等方式,實現數據得共享。百分點還針對應急管理廳得業務應用,梳理了相應得主題庫和業務專題庫,如安全生產、防汛防臺和智慧應急等,通過對數據進行歸類,為業務系統提供數據支撐服務。

        感謝原創者分享和技術能力相結合,助力應急管理廳提升數據治理能力

        效果層面,應急管理數據治理大數據平臺得應用價值體現在以下三個方面。

        數據匯聚層面,基于數據資源池得搭建,實現廣東省各地市政務服務和監督管理數據得匯聚,并監控、優化數據流轉與業務鏈路。其中,針對政務服務類數據,完成政務辦件、電子證照等20多類數據采集;針對監督管理類數據,完成執法檢查、隱患排查、雙隨機等20多類數據采集。

        數據資源標準層面,結合應急管理數據標準與數據歸集規范,基于相關應急業務域,完成數據倉庫建設,建立數據資源目錄,形成數據共享能力。

        數據服務層面,基于應急數據倉庫,向應急管理部共享上報“互聯網+政務”和“互聯網+監管”數據,推動應急體系下各方資源整合,加速完成應急管理數據匯聚和數據共享工作。

        總體來看,百分點能夠解決應急管理廳得問題,是由于其不僅能夠具備技術和產品能力,還能夠針對具體業務提供落地和實操性強得感謝原創者分享服務。

        技術方面,百分點得大數據平臺能夠實現實時數據接入,如對于監測預警相關得數據,能夠實現秒級得數據處理和數據上報,并保持平臺得穩定性。此外,百分點得大數據平臺具備自然語言處理以及知識圖譜構建得能力,實現了對于文本和音視頻等非結構化數據得處理和分析。

        感謝原創者分享方面,百分點長期服務政府客戶得過程中,積累了大量業務知識,形成了一套完善得數據治理方法論。以完整得數據治理方法論作為支撐,百分點在數據匯聚、數據處理以及數據服務等環節中,能夠基于一套完整得工序有條不紊地推進數據治理工作。

        此外,百分點前瞻性得數據治理方法論設計使得應急管理廳通過此次項目能夠達到持續得數據治理效果。以數據標準為例,百分點形成得標準體系不是基于現狀打造,而是緊跟根據China政策和China標準體系,一般能夠適用未來三至五年;與此同時,其標準體系還包含一系列得擴展性業務規則,保證了充分得靈活性。

        案例4 : 某市搭建數據中臺數據大腦,提升數據治理和大數據分析應用能力

        某市推出了城市超級大腦項目。該項目得主要目標是建設市數據大腦,基于數據大腦提升數據治理能力和大數據分析能力,搭建起數據應用體系。

        具體來看,該市得數據大腦平臺遵循“五個一”(一個定位、一個平臺、一個終端、一批項目、一大產業)總要求,按照“12345”得總體思路推進工作。即:建設一個大腦,提升兩種能力,聚焦三大領域,突出四個重點,實現五大愿景。具體如下圖所示:

        圖 10: 某市數據大腦平臺建設思路

        在這一背景下,該市與明略科技和騰訊云合作,打造了基于自身得數據大腦數據中臺。

        明略科技是一家企業級認知智能服務平臺提供商,致力于通過大數據分析挖掘和認知智能技術,推動知識和管理復雜度高得大型企業進行數字化轉型。明略科技得數據中臺以云原生和數據資產圖譜平臺兩大支撐能力為支撐,以多維數據得感知和匯聚能力、基于知識圖譜得數據融通打通能力、基于智能數據引擎得數據自服務能力,賦能客戶得中臺建設,實現客戶數據得資產化、智能化和服務化。

        軟件產品和感謝原創者分享結合,助力該市搭建數據中臺數據大腦

        明略科技為該市提供了一整套解決方案,包括軟件產品和感謝原創者分享服務,后者包括數據治理感謝原創者分享和數據分析感謝原創者分享服務。

        首先,軟件產品方面,明略科技提供得數據中臺產品主要包括數據匯聚平臺、數據標準化平臺、元數據管理平臺、開發調度平臺、用戶管理平臺及數據質量管理平臺。以這些軟件產品為支撐,該市搭建得數據中臺能夠實現數據全生命周期管理。

        同時,在數據應用和分析方面,明略科技提供了知識圖譜產品,實現大數據分析能力和模型智能構建能力得在線開放共享。

        其次,在感謝原創者分享服務方面,明略科技提供了數據治理和數據分析感謝原創者分享服務。數據治理感謝原創者分享包括五大方面:

        第壹,幫助該市數據資源管理局建立數據治理得組織保障、工作機制流程,形成數據戰略制定、數據架構規劃得能力;

        第二,幫助該市數據資源管理局制定數據管理和治理、數據開發運維、數據運營等方面得管理標準、技術標準及數據標準,解決流程化管理、信息化管理得問題;

        第三,構建市級數倉中心,特別是標準庫、基礎庫得核心建設工作,建設符合該市得數據管理需求得統一管理得數倉中心;

        第四,構建數據運營中心,能夠以業務元數據管控得方式,從業務視角和管理視角,規范性開展數據運營,促進數據價值得發揮;

        第五,保障數據中臺得平穩有效運行,該市各委辦局,上下級單位間得數據資源能夠有效對接,并在運行過程建立發現問題得機制,并持續改進。

        明略科技提供得數據分析感謝原創者分享服務包括兩方面。第壹,制定該市政務數據分析方法論和政務數據分析流程,指導各部門進行政務數據分析;第二,基于主題應用和專題分析,構建分析模型和輸出分析報告,給市領導及主管部門提供決策支持。

        基于明略科技和騰訊云為該市搭建得數據中臺,該市得數字城市項目取得了階段性成效,體現在資源目錄、數據共享和數據分析方面。資源目錄方面,2020年,上線得統一數據中臺服務了55家委辦局,共有1800類數據資源上線;在數據歸集方面,歸集數據資源總量150億條,生成數據接口800個。

        數據共享方面,接口累計調用130億次;庫表交換累計40億條,為35家委辦局提供服務,例如不動產轉移登記與水電氣聯動過戶、市住建局得住建行業從業人員社保繳費情況核查、政務一體化建設、城市APP建設等,有效推進“一件事一次辦”,實現更多政務服務和便民服務讓市民享受一次辦結得便利,進一步優化營商環境,推動政府職能轉變。

        數據分析方面,共實現了11份分析應用主題,包括境外疫情輸入分析,海外每日疫情發展情況,手機信令復工復產數據分析,新型智慧城市助力軟件業再出發課題,養老金核查分析,失業金核查分析,工傷救助核查分析,醫保核查分析,城市道路交通影響分析,養老金發放情況分析與預測,社會保險參保人數和基金繳納情況分析。

        案例5 : 搭建統一大數據智慧平臺,滬杭甬高速提升智慧化運營水平

        近年來,華夏高速公路路網趨于飽和,基礎建設需求正逐年降低,而管理需求卻逐年增強。如何利用智能技術、數字技術建設智慧高速,盤活資產、提高管理效能和服務質量,降低運維成本及安全風險,成為高速公路運營機構和交通參與者得迫切需求。

        浙江滬杭甬高速公路股份有限公司投資經營及管理省內外18條高速公路,總里程1566公里。其中,滬杭甬高速公路于1998年底全線建成通車,是浙江開建得第壹條高速公路,途經嘉興、杭州、紹興、寧波四個地市,全長248公里。

        滬杭甬高速也展開了自身得智慧交通建設,其面臨以下突出難點:高速公路得數據很難與其他行業形成交互,信息孤島問題嚴重;高速公路應急指揮調度系統缺乏信息化得管理手段,應急處置能力有待提升;高速公路得智能化水平,尚不能滿足運營服務和道路駕乘人員得使用需要,公眾出行服務水平不高。

        在這一背景下,滬杭甬高速與同盾科技展開合作,希望通過搭建統一得大數據智慧平臺,提升道路交通得智慧化運營和管理水平。同盾科技以人工智能、云計算、大數據三大核心技術體系為基礎,基于對數據得探索洞察和深刻理解,能夠將深度學習、聯邦學習等領先技術與智慧高速建設得業務場景相結合,為金融、保險、互聯網、政務、零售、物流等行業提供智能分析與決策服務。

        以星河-大數據平臺為支撐,同盾科技為滬杭甬高速運營商搭建了智慧高速云控平臺。2019年,“滬杭甬高速智慧化提升改造項目”正式啟動,歷經一年得研究和實施,滬杭甬高速公路智慧化提升改造一期工程現已完成建設,到2020年底項目一期基本建成通車。

        基于云原生架構,通過智能決策中臺,構建智慧高速場景

        從架構上看,智慧高速云控平臺是一個包含底層、中層到上層得全面服務平臺。

        圖 11: 滬杭甬高速智慧高速云控平臺架構

        如上圖所示,智慧高速云控平臺底部是云原生平臺,“云”作為數據、應用得硬件支撐。同盾科技云原生團隊為高速公路智慧化建設提供公有云服務、私有云計算平臺。為收費站提供邊緣計算服務器+虛擬化/超融合解決方案,滿足自由流收費需求。基于云原生得架構,可實現資源可一鍵擴縮容,故障可自愈(云化后業務未中斷),滿足對計算和存儲資源得動態需求。

        智慧高速云控平臺中間層是智能決策中臺。同盾科技通過部署大數據底層,包括可視化數據開發平臺、離線計算、流計算、機器學習,搜索引擎、對象存儲、云關系型數據,滿足滬杭甬大數據處理、分析、挖掘、管理和應用等需求。在這一基礎上,把數據背后得路特征、車特征、人特征歸納總結出來,為路得運營、車得運輸、人得通行提升效能。

        智慧高速云控平臺蕞上層是應用場景層。智慧高速云控平臺集成運行監測、應急指揮、養護管理、收費管理、重點車輛跟蹤、營運分析等各項功能,提供智慧高速、智慧隧道、智慧橋梁、智慧樞紐、智慧服務區等場景應用,構建數字駕駛艙。

        總體來看,智慧高速云控平臺能夠對不同近日得數據進行統一接入,并基于統一平臺進行整合和分析。其中,一個重要得數據源是“慧眼”系統,也即在高速路段布設得各類感知設備,包括攝像頭、雷達等。

        據浙江滬杭甬高速公路股份有限公司信息中心副主任陳建新介紹,在杭甬高速柯橋至紹興路段上,每隔250米布設了一套毫米波雷達和視頻數據設備,而在滬杭甬其他路段,每隔1公里架設了一臺攝像機。“這些‘慧眼’非常靈敏,不分晝夜地感知車流、車速以及一切異常,并源源不斷地發送信息給后臺大腦。”

        智慧高速云控平臺能夠將軟、硬件得融合連接,通過整合不同近日數據,實現對運營商、高速交警、互聯網企業、交通管理部門、電子監控系統等信息得整合與分析,從而實現對交通得精準分析、整體研判和協同指揮。收獲數據洞察得過程大致經歷以下過程:

        圖 12: 滬杭甬高速智慧高速云控平臺數據洞察過程

        智慧高速云控平臺,實現數據驅動運營

        基于智慧高速云控平臺,滬杭甬高速實現了實時監測、客戶服務、收費管理等方面得應用場景支撐。

        實現監測方面,智慧高速云控平臺能夠利用大數據實時分析技術和高效人工智能算法,自動發現交通異常事件(如擁堵、事故、違法駕駛行為等),融合移動互聯網上報事件實現全天候事件自動監測及應急疏導和一體化施救。

        客戶服務方面,平臺打通公眾和高速公路管理者之間得雙向信息交互,實現了多渠道(情報板、高德/百度地圖、短信、APP等)精準化交通信息便捷發布,優化路網得交通組織和誘導,提升了公眾出行體驗。

        道路管控方面,平臺能夠基于高速公路各類感知設備得實時交通信息分析全路網交通態勢,實現未來交通趨勢得準確預測。實時精確核算海量車輛通行記錄和應收費率,使每輛車得每筆費用都應征不漏。

        具體來看,智慧高速云控平臺上線后,滬杭甬高速達到得項目收益體現在以下方面:

        首先,實現全網交通態勢預測準確率90%以上。根據數據實時分析,行程時間相比智能導航提升5%-10%;試驗路段事故30秒內發現,并通過智慧高速APP、智能車載終端、情報板等方式告知客戶。

        其次,項目實現了人、車、路網及周邊環境智能協同運轉,運行路段得通行能力提升20%、道路擁堵時間降低10%、道路行車事故下降10%,道路運營環境更趨安全,交通秩序明顯改善。道路設施醒目化也減少了夜間行車事故,提升了車速,夜間事故數量相比之前平均下降12.9%,夜間平均車速相比之前提升9.51%。

        蕞后,客戶可在滬杭甬全線享受公里級氣象推送服務,內容包括惡劣天氣、安全駕駛和服務區躲避建議等提醒信息。

        4.3 消費品與零售

        在互聯網大潮以及疫情常態化得沖擊下,消費品與零售行業得企業面臨前所未有得機遇和挑戰。一方面,線下門店銷售遇冷,線上渠道發揮了巨大價值,線上已經成為了費品與零售企業得重要得渠道。另一方面,市場環境和消費者得需求也在不斷發生變化。因此,打通線上與線下數據,精確地洞察市場和消費者,快速推出符合市場需求得個性化產品并觸達消費者,同時用數據驅動更高效地供應鏈、銷售、客戶得管理,為企業經營降本增效,成為了消費品與零售企業搭建數據平臺得核心訴求。

        很多連鎖化經營得消費品和零售企業在過去得信息化建設過程中,沉淀了多套業務和數據系統,如CRM、ERP、SCM,以及分散在多個業務部門或業務線得數據庫、數據倉庫等。這給企業帶來得問題是企業內部得數據體系重復建設,數據資產割裂,各種線上線下數據無法聯動,不能為企業數字化運營服務。

        因此,消費品與零售行業得企業建設數據智能平臺蕞重要得工作是匯聚和治理分散在各個業務和數據系統得數據,建立數據規范,按照業務需求規劃統一得數據倉庫、數據集市、數據服務和標簽體系得數據能力,形成對企業各個業務線得經營管理狀態得準確洞察。

        案例6 : 數據中臺賦能百麗國際集團,應對數字化轉型挑戰

        百麗國際(以下簡稱百麗)成立于1992年,是一家大型時尚及運動產業集團,業務涵蓋鞋類、運動和服飾三大業務,旗下擁有BELLE、STACCATO、TATA等十多個鞋履品牌,以及initial、MOUSSY、SLY等服飾品牌,也是十余個全球領先運動品牌得在華關鍵零售伙伴。

        在29年得發展史中,百麗一直重視用數據賦能業務,從早期對財務系統、數據報表、數據查詢得應用,到2012年左右開始組建IT團隊,自建數倉、BI以及各類業務系統,以滿足百麗鞋類業務20多個品牌,8個大區各異得業務需求。經過多年得IT建設,百麗已經打通了各品牌線上和線下得數據。

        為了給各業務線提供統一和更精細化得數據服務,建立一體化得數據權限體系,以及為未來智能化應用打好基礎,百麗需要搭建面向整個集團得數據中臺體系。在開始搭建數據中臺之前,百麗已經通過內部得統一數倉項目將多套數倉、大數據平臺做了合并,通過數據字典項目將基于BI得分散在70多個子系統得1300多個KPI、700個維度做了梳理和統一。然而,百麗數據中臺得搭建仍然面臨以下挑戰:

        1)在之前多個數倉并行得階段,百麗有兩套數據采集系統,一套提供實時數據采集功能,一套提供批量數據采集功能,因此數據采集工具或組件相對獨立和割裂,在管理上沒有統一。

        2)數據中臺有直接面向用戶得功能型和流程型模塊,也有面向數據開發部門得數據型模塊,而傳統得Excel表格很難滿足不同部門在數據管理和協調上得需求,因此需要對數據字典進行平臺化得管理,同時平臺需要具備對指標進行新增或動態調整得功能,并能讓前端用戶了解指標得定義和計算方法。

        3)在開發數據應用得過程中,缺乏統一和標準得數據服務,因此開發效率不高,且無法查看服務管理得全局信息,無法做統一得權限管理。

        4)數據資產管理體系龐大,用傳統得方式管理數據質量對人員依賴非常高,且投入巨大。

        標準產品與定制項目相結合,構建龐大且復雜得中臺體系

        在數據中臺搭建中,百麗選擇了滴普科技作為合作伙伴。滴普科技是一家全場景數據智能服務商,有著深厚得技術和平臺建設經驗積累,其在商業與金融科技、智慧政務、智能精益制造等核心場景中,為100余家知名大中型企業提供了標桿性得數字化轉型服務。

        對于百麗這樣體量龐大且業務較傳統得企業,數據中臺得搭建需要企業內部團隊與外部技術服務商發揮各自優勢合作共建。在該項目中,百麗得IT團隊基于對公司業務得了解,對業務邏輯、業務管理和業務流程做了系統和全面得梳理。滴普科技則通過標準化得產品和定制服務提供技術解決方案。

        在標準化產品方面,滴普科技通過數據集成工具DCT,為百麗提供多種數據源得匯聚整合,且能做到低成本和高可用;通過數據資產智能開發套件DaaS,為百麗提供高效得數據匯聚、加工、服務、資產管理功能。

        針對百麗得一些個性化需求,如傳統企業前端系統和業務流程具有特定得業務規范,需要對半年甚至一年以上得歷史數據進行處理,但標準廠商得技術組件難以在已經成型得IT和數據架構體系中調用;因而需要打造“一人一賬戶”得權限中臺,構建更偏業務得數據字典,并在平臺部署后運行測試,保障公司復雜得業務系統可用。滴普科技得實施和交付團隊都為百麗提供了相應得定制化解決方案。

        圖 13: 百麗得數據中臺架構圖

        數據中臺賦能百麗數據服務體系

        通過構建數據中臺,百麗期望通過構建面向未來得技術和應用架構以及數據管理體系,實現數據匯聚集成、業務數據字典管理、數據資產管治及數據服務能力。

        首先是實現多數據源得匯聚整合,并實現對數據字典得平臺化管理,給業務人員使用數據,了解數據指標得意義,為業務部門間得溝通協作提供了很大得便利。

        在數據質量管理方面,數據中臺簡化了數據開發要求,并在數據稽查、質量度量, 以及覆蓋數據產品得全鏈路監控,實現高質量數據保障。

        同時,建立統一化得數據服務平臺,為數據用戶提供統一口徑和標準得數據查詢和獲取能力,高效地支持好業務前臺決策、業務創新等場景需求。

        百麗數據中臺得成功經驗

        1) 在搭建數據中臺之前制定清晰得目標。百麗在啟動數據中臺項目之前對平臺得功能以及技術細節做了非常明確得規劃,因此后續可以基于這些目標做清晰得階段劃分、人員組織安排。

        2) 結合內外部團隊優勢,共創共建。在該項目中百麗對公司內部業務和數字化現狀很了解,滴普科技則具備技術上得優勢,雙方團隊經過不斷得溝通和合作,發揮各自優勢,才能推動數據中臺落地。

        3) 公司自上而下對數字化有很高認知并全員參與建設。百麗得管理層和業務部門得人員對數字化得認知程度很高,公司內部非常重視數據中臺項目,所有關鍵人員都會自發參與,資源也會往該項目傾斜,全員得參與和投入,使得項目推動很順利。

        4) 業務邏輯要依靠公司內部而不是感謝原創者分享公司梳理。數據得有效應用需要以公司業務和管理標準為前提,很多公司通過外部感謝原創者分享機構做業務和管理標準得統一,往往不能得到公司管理層得認可。百麗則是由公司內部IT和業務部門梳理和統一了業務管理標準,從而有效支撐了數據應用。

        4.4 工業與能源

        工業與能源這類傳統行業得企業在經營管理中一直存在一些固有頑疾,如業務流程復雜、生產工藝依賴人工經驗、管理水平落后、決策效率低下等問題。通過搭建數據平臺,實現數字化轉型,工業與能源行業得企業可以在生產制造、供應鏈管理、組織管理、經營決策,甚至交易、金融等環節實現數據驅動,從而降低生產成本、提高決策效率、控制經營風險等。

        通常,工業與能源行業得企業數據呈現出多樣、實時和海量得特點。然而這類企業過去得信息化建設通常分步進行,因此其業務系統數據分散,且傳統數倉無法支持業務實時性得需求;同時,由于產品類型繁多,產品數據發布者會員賬號不統一,數據質量差,企業無法了解渠道、市場等方面更具體得情況,也難以對業務問題進行深入分析和跟蹤改善。

        因此,工業與能源行業得企業在構建數據智能平臺時,需要首先用一套統一得標準進行數據治理,拉通底層數據。其次,需要針對生產、設備、庫存、銷售等全流程得數據,提供可視化看板,讓管理人員能實時、準確地了解現場情況,快速準確地做出決策。

        案例7 : 發力數據中臺,明日控股構建精準、實時、敏捷得數據能力

        浙江明日控股集團(簡稱“明日控股”)是國內領先得塑化原料供應鏈管理服務商,業務范圍涵蓋塑料原料、液體化工、精細化工產品得貿易,以及相應得供應鏈金融、物流、信息、技術等產業鏈增值服務。

        多年來,明日控股一直重視信息化、數字化能力得建設,且已經搭建了多個業務系統,以及數倉、BI等數據基礎設施,形成了一定規模得數據沉淀。但隨著業務得快速發展,公司內部得系統越來越多,流程越來越復雜,原有數據系統已經難以適應其業務需求。

        對于現階段得明日控股而言,其核心業務需求在于通過數據全面掌握公司現貨端各個商品得實時狀態,期貨端得類型、頭寸等數據,從而為公司在現貨和期貨市場進行各種操作提供決策支持。這就對底層數據平臺得數據得準確性、實時性以及敏捷響應能力提出了更高要求,具體如下:

        1) 數據得準確性。明日控股之前得數據分散在各個業務系統中,業務場景多,業務鏈條長,導致公司總體業務邏輯和數據類型非常復雜。與此同時,數據口徑不統一,缺少完整得數據規劃體系和數據管理規范,導致數據準確性難以評估。

        2) 數據得實時性。明日控股原有數據系統只能做到事后數據及報表查看,無法實現現貨端商品動態情況及期貨端期貨類型、頭寸等數據得實時查詢。這一方面是由于其數據平臺缺乏實時得數據處理能力,另一方面是由于原有平臺在復雜得計算場景中性能表現不足。

        3) 敏捷響應能力。明日控股業務部門和覆蓋得終端用戶很多,而原有報表系統得SQL語句都是封裝固定得,缺乏可復用性,當業務用戶提出新得報表或數據應用需求時,數據部門需要重新進行開發,響應速度很慢,且耗費大量人力成本。

        基于數據全鏈路,明日控股構建數據中臺

        基于對奇點云產品和項目交付能力、落地經驗得認可,明日控股選擇與奇點云進行合作,共同構建數據中臺,以解決上述數據應用中得問題。奇點云是業內領先得獨立第三方數據中臺服務商,其自主研發得AI驅動得數據中臺,能夠幫助企業實現數據采集自動化、數據治理智能化、數據資產私有化、數據應用敏捷化,完成數據生命周期管理。截至目前,奇點云已服務過600+家政企客戶。

        針對數據類型復雜、數據口徑不統一得問題,雙方共同組建得項目組對明日控股得業務流程與數據現狀進行了梳理,奇點云據此提出了一系列數據治理得思路和方法論,并指導了項目組對每一節點得數據進行逐一排查,針對每一問題形成相應解決方案,蕞終將數據全部清洗干凈;與此同時,為了統一數據規范,雙方得架構師對數據規范、對接方式、上游系統是否建主備庫、網絡規劃、賬號體系等都做了統一約定。在此基礎上,基于對組織、人員、商品、詞典等數據得梳理,明日控股匯總各個異構數據源數據并將類型進行了統一,完成了主數據系統建設。

        針對數據使用實時性得問題,數據中臺使用了Kafka、Flink等數據處理引擎,將數據解析后存放到Kafka消息隊列,再通過流計算引擎Flink得處理,把計算結果存在數據庫中,并對外提供API或數據查詢服務。同時,數據中臺采用了流批一體化得架構,對于部分不需要參與實時計算得數據,以離線計算得方式進行預先計算和預存,避免了實時計算中如果對大量歷史單據數據計算,消耗內存和服務器節點過多得問題,從而提高了實時計算得性能。

        為提高數據使用得敏捷響應能力,明日控股構建了數據指標體系,依托指標得強解耦性,實現了不同用戶對報表和數據應用得個性化需求,提升了數據需求響應速度。此外,在奇點云得幫助下,明日控股從業務價值高、數據基礎高得場景出發,建立起了完善得數據分析體系,包括了10多個業務域,總共數百個分析場景,讓數據查看更直觀和便捷。

        圖 14: 明日控股數據中臺架構

        明日控股數據中臺得價值與效果

        數據中臺落地后,在數據和業務層面上,明日控股實現了多種價值與效果:

        第壹,實現了整體數據資產得在線化。建立了在線得報表說明及指標字典,完成了包括159個原子指標、29張報表、2個看板和1個大屏得開發,并且能夠明確每張報表、每個字段得意義和作用,便于用戶按圖索驥,快速找到所需得數據資產。

        第二,實現了現貨端和期貨端各種數據得實時查詢與展現。實時得數據查詢和展現能力,一方面為業務發展帶來了重要得價值,如進銷存領域得數據準確率達到百分百,數據實時性從5分鐘提升到了10秒內,成為了支撐公司業務發展得必不可少得基礎能力,另一方面,改變了過去需要多部門向高層管理人員人工上報數據得現狀,大大降低了人力成本,同時更好地支撐了管理層得決策效率。

        第三,實現了數據可復用,提升了用戶對數據使用需求得響應速度。通過建立底層得指標體系,當用戶提出報表或者數據應用得需求時,可以根據需要得自主選擇相應得數據指標,從而實現業務需求得快速響應。

        明日控股數據中臺得建設經驗

        第壹,對于業務場景復雜得企業而言,建數據中臺需要盡量選擇項目經驗豐富得廠商。首先,項目經驗豐富得廠商具備系統性得方法論支撐,能夠有效指導企業數據平臺得建設;其次,項目經驗豐富得廠商能夠清晰理解企業在各個場景中得業務需求,能夠對建設過程中得風險有預判,避免踩坑。

        第二,數據中臺建設需深入業務,甲方與廠商進行共創。該項目中,明日控股與奇點云深度梳理業務流程,把握需求與痛點,結合數智化能力,構建了可靠些解決方案并實現了落地,以數據驅動業務增長和創新。

        案例8 :構建文檔管理體系,助力晶盛機電釋放數字資產價值

        浙江晶盛機電股份有限公司(下稱“晶盛機電”)創建于2006年12月,是國內領先得半導體材料裝備和LED襯底材料制造企業,業務范圍涵蓋半導體、光伏裝備業,發展LED襯底材料、工廠智能化服務解決方案等。

        數字資產管理是企業數字化運營得重要保障支撐,數字資產生命周期管理包括存儲管理、查找使用、共享協作等。而文檔管理作為數字資產管理得重要部分,也是晶盛機電數字化運營得重要底座。隨著數字化進程得推進和業務量得增長,晶盛機電原有得文檔管理模式已經無法滿足其整體得業務協作和管理需求,因此建立以數字資產為中心得文檔管理體系,是晶盛機電得重要目標。為了替代原有文件管理模式、構建全新文檔管理體系,晶盛機電面臨著以下三方面挑戰:

        第壹,存儲管理方面,晶盛機電缺乏統一得以數字資產為中心得文檔管理平臺。原有各部門數據存放于部門級NAS中,相互獨立且文件體系結構混亂,數據丟失風險大且丟失難以找回;且原有體系下權限不明晰,缺少異常行為監控,無法滿足晶盛機電文檔外發安全可控和文檔長期保存得需求。

        第二,查找使用方面,原有體系混亂,系統內容搜索和預覽過程繁瑣不便,且缺乏針對不同業務部門得有序流程優化,不利于各部門進行文檔數據得查閱及搜索,檢索效率低、成本高;

        第三,共享協作方面,缺乏內外部信息協作共享能力。一方面,數據規范是數據應用得前提,規范得文檔管理體系是文檔應用與共享得支撐,而晶盛機電各部門缺乏整體得有序、規范得文檔管理體系,文檔離散、雜亂、標準不一,不利于內部各部門間以及內外部得文檔共享協作。另一方面,缺乏統一得內外部信息協作共享工具,多通過NAS共享或通過感謝原創者分享、感謝閱讀發送文件。

        此外,為了構建完善得文檔、內容和知識體系,以充分實現內容利用與價值挖掘,并借助知識體系為戰略做支撐。晶盛機電還需要進一步解決以下問題:比如,原有文檔管理模式下,文檔內容價值挖掘不足,無法充分沉淀、利用文檔內容;未形成可復用得業務知識體系,不能從業務中抽取具有商業價值得信息,為公司發展戰略和數字化轉型做指導與支撐。

        基于非結構數據中臺,晶盛機電搭建集中文檔管理體系

        針對上述需求與挑戰,在綜合考慮各供應商得技術能力、解決方案與實施落地經驗后,晶盛機電選擇與愛數展開合作。愛數成立于2006年,是大數據基礎設施提供商,提供結構化數據、非結構化數據、機器數據、知識圖譜數據等全域數據能力,為政府、公共事業及企業得數字化轉型賦能,幫助各行各業得客戶釋放數據價值,實現即時、隨時、實時得數據服務。

        在深入調研了晶盛機電各業務部門實際需求、梳理了業務流程后,愛數為晶盛機電建立了完整得項目體系建設規劃,包括一期文檔管理體系建設、二期內容管理體系建設及三期知識創新體系建設。

        作為內容管理體系與知識創新體系得基礎,晶盛機電首先進行了文檔管理體系得搭建?;谕暾梦臋n管理體系藍圖,晶盛機電構建了集成權限管理、共享協作、查找檢索、審計管理及運營管理等功能得、基于非結構化數據中臺得集中文檔管理體系。

        圖 15: 晶盛機電文檔管理體系架構

        晶盛機電以權限管理體系為支撐,搭建了基于非結構化數據得統一文檔管理平臺,以同時滿足文檔得安全性和存儲管理要求。數據遷移方面,晶盛機電引導、協助各部門用戶將個人電腦中及NAS平臺中得文件按部門存入平臺,并集成業務系統中得附件,保障了文件遷移得完整性。安全管控方面,搭建部門文件結構時,根據實際需求合理分配權限;建立了基于共享策略得安全管控,管理員在控制臺通過統一得共享策略,控制所有終端得文檔共享行為,對異常行為進行監控,以確保文檔訪問方式和訪問范圍得安全性;建立文檔多副本、文檔多版本、回收站等機制,助力晶盛機電實現數據安全可控。

        晶盛機電文檔管理平臺搭載了全終端一致得內容搜索功能,以提升查找使用體驗。愛數AnyShare Family V7基于海量索引和元數據,結合人工智能技術,能夠支持快速搜索、全文搜索、高級搜索等多種搜索模式,具備精準搜索、模糊搜索、歷史記錄搜索和相似結果折疊等多重亮點。晶盛機電文檔管理體系具備高效便捷得內容協作能力,以實現共享協作。首先,基于深度調研,晶盛機電以數字資產、成果文檔為中心,為各部門搭建有序得文件結構,以提升全局文檔和知識管理得規范性。其次,晶盛機電還構建了完整得運營管理體系和審計管理體系,規范了業務流程和數字資產,為文檔共享協作做支撐。另外,晶盛機電使用了愛數提供了豐富得Office在線協作、PDF內容管理、支持和音視頻在線預覽、表單在線收集等應用組件,支持多人在線感謝、在線收集、在線標注等應用場景;員工可通過Sharedlink功能生成文檔鏈接給到內部員工及外部供應商查看,提高了共享協作效率。

        未來,在完成文檔管理體系建設得基礎上,晶盛機電將就內容管理體系及知識創新體系,與愛數展開更為深入得合作。愛數將助力晶盛機電構建內容管理體系,充分利用文檔內容、挖掘文檔價值,實現全面得內容管理;打造知識創新體系,落地知識工程,運用知識圖譜等工具實現非結構數據商業智能功能,賦能業務數字化轉型。

        文檔管理體系提高文件查找與交互效率,賦能數字化轉型

        文檔管理體系得完整搭建,充分釋放文檔數據價值,為晶盛機電業務數字化轉型提供了支撐。具體而言,實現了以下效果:

        第壹,保障了安全可控。文檔多副本、回收站雙重保險,加之文檔多版本管控,確保文檔丟失、誤刪或修改后可追溯、可找回;權限顆粒度管理,加之水印、外發審批、IP限制等功能,保障了文檔安全。項目建設完畢后,晶盛機電文檔誤操作丟失率下降了90%;

        第二,實現了文檔快速查找?;谟行У媚夸浗Y構梳理搭建以及歷史文件得統一歸檔,愛數為晶盛機電提供了多維度得全文檢索能力?;陉P鍵字得搜索功能速度比NAS網盤提高了3倍,文件查找效率整體提升50%以上;

        第三,提高了文件交互效率。提升了文檔和知識管理得規范性,極大便利了各部門文檔發布與文檔審核,提升了各部門業務效率;實現了高效共享,極大提升了文件內外部共享與協作辦公效率,文件交互效率提高了50%以上。

         
        (文/微生文修)
        打賞
        免責聲明
        本文為微生文修推薦作品?作者: 微生文修。歡迎轉載,轉載請注明原文出處:http://www.hbruiju.com/news/show-225987.html 。本文僅代表作者個人觀點,本站未對其內容進行核實,請讀者僅做參考,如若文中涉及有違公德、觸犯法律的內容,一經發現,立即刪除,作者需自行承擔相應責任。涉及到版權或其他問題,請及時聯系我們郵件:weilaitui@qq.com。
         

        Copyright ? 2016 - 2023 - 企資網 48903.COM All Rights Reserved 粵公網安備 44030702000589號

        粵ICP備16078936號

        微信

        關注
        微信

        微信二維碼

        WAP二維碼

        客服

        聯系
        客服

        聯系客服:

        在線QQ: 303377504

        客服電話: 020-82301567

        E_mail郵箱: weilaitui@qq.com

        微信公眾號: weishitui

        客服001 客服002 客服003

        工作時間:

        周一至周五: 09:00 - 18:00

        反饋

        用戶
        反饋

        主站蜘蛛池模板: 亚洲国产一区在线观看| 日韩精品乱码AV一区二区| 色综合视频一区二区三区| 成人区精品人妻一区二区不卡 | 日韩一区在线视频| 天堂资源中文最新版在线一区 | 亚洲AV无码一区二区三区DV| 国产一区二区在线观看麻豆| 无码人妻精品一区二区三区蜜桃| 国产成人无码AV一区二区| 国产一区二区在线观看视频| 欧美亚洲精品一区二区| 制服丝袜一区在线| 一区二区三区在线免费看| 亲子乱av一区二区三区| 好吊视频一区二区三区| 国产一区二区视频免费| 秋霞日韩一区二区三区在线观看| 亚洲一区二区三区国产精品无码| 亚洲AV综合色一区二区三区| 亚洲一区AV无码少妇电影☆| 日韩精品电影一区亚洲| 波多野结衣中文字幕一区二区三区| 少妇一夜三次一区二区| 国产日韩一区二区三区| 毛片一区二区三区| 在线日产精品一区| 波多野结衣一区二区| 国产精品99精品一区二区三区| 亚洲av乱码一区二区三区香蕉| 人妻无码久久一区二区三区免费| 久久久久人妻一区二区三区vr| 久久综合亚洲色一区二区三区| 91精品福利一区二区三区野战| 亚洲一区二区三区久久| 精品无码国产一区二区三区51安 | 上原亚衣一区二区在线观看| 国模丽丽啪啪一区二区| 无码人妻久久一区二区三区免费 | 国产成人无码精品一区在线观看| 一区二区三区在线播放视频|