從1天到10分鍾的超越,華為雲DRS在背后做了這些


摘要:華為雲DRS助力一汽-大眾BI平台實時查看報表,提升數字化決策能力。

本文分享自華為雲社區《分鍾級查看報表,華為雲&一汽-大眾,讓商機時刻被洞見》,作者:GaussDB 數據庫。

數字化時代下,企業IT的數據重心從支持在線交易后移到運營分析,數據的及時更新、高效分析、減少人工干預,是企業經營的追求目標,因此企業不再滿足於“T+1”,而是“T+0”,需要實時和個性化,對於汽車行業也不例外。

一汽-大眾汽車有限公司(簡稱一汽-大眾)於1991年成立,是我國第一個按經濟規模起步建設的現代化乘用車工業基地,旗下有奧迪、大眾、捷達三大品牌20余款產品,覆蓋A、B、C級全系列乘用車型。

數字革命的浪潮下,4S門店的服務也更加精准高效,為了更好的服務客戶,4S集團通過分析客戶使用習慣及偏好、產品個性化需求收集等方式,多維度滿足用戶購車和體驗需求。但隨着數據挖掘的深入,對BI平台的要求也越高,為解決報表業務系統數據量的快速增長、數據匯集、交互分析難等難題,一汽-大眾攜手華為雲數據庫在MEP(經銷商多功能生態平台)-BI平台項目合作中取得了突破,跨越了挑戰。

實時數據更新,才能具備更快的市場反應能力

眾所周知,BI平台的報表系統可以連接多維數據庫,報表目的是幫助用戶掌握和了解數據,企業決策者通過實時的數據進行分析和挖掘,為業務的變化及時作出應對策略。一汽-大眾4S門店的BI報表業務需要實時匯集所有門店的數據,面臨巨大的技術挑戰。一汽-大眾所有的4S門店擁有總計60+MySQL實例,200+數據庫,每個數據庫約有150+張表要同步,共有3萬張表需要數據實時同步到BI系統內。如果按照傳統的數據入湖方式,需要配置3萬條數據同步鏈路,更需要海量的工作比對數據一致性,維護成本極高,同步效率低下。此外,隨着數據量的膨脹,現有的數據庫無法支撐數TB級別的數據量。因此打造支持海量數據存儲、數據實時同步的商業數據智能分析的BI平台迫在眉睫。

面對一汽-大眾的業務挑戰,華為在方案選型上的主要考量如下:

  • 抽取數據對源數據庫影響最小化:抽取數據絕對不能拖垮源數據庫,也不能對源業務的性能造成較大的衰減,甚至表被鎖定;
  • 部署實施要輕量簡單:不需要在每個數據源安裝代理程序,即開即用,配置操作簡單易用;
  • 數據一致性有保障:基於binlog解析進行邏輯數據同步,具有斷點續傳和嚴格的認點技術,不懼網絡抖動,有效確保數據一致性。

綜上,具備實時精准同步且保障數據一致的輕量級服務,華為雲數據復制服務DRS是迎接業務挑戰的不二之選。

華為雲DRS助力一汽-大眾報表系統數據實時同步,全面釋放數據價值

DRS(Data replication Service)華為雲數據復制服務,將雲上的數據通過多對一的方案匯集到具備超強寫入能力的華為旗艦型雲原生數據庫GaussDB(for MySQL)中,保證數據一致性和實效性,再通過DRS實施同步,從GaussDB(for MySQL)同步到華為雲數據倉庫GaussDB(DWS)中進行分析。但要想達到實時數據同步難度極大,因此,華為雲數據庫解決了如下核心難題:

  • 增加數據來源列,解決主鍵沖突:通過MySQL到GaussDB(for MySQL)的多對一方案,增加數據來源列,記錄server/database/table信息,避免多個源表主鍵沖突。
  • 同步鏈路支持動態加減表:新增業務隨時需要增加同步的表,華為雲DRS支持GaussDB(for MySQL)的鏈路動態增減表,配置更加簡單方便。
  • 標記數據入湖時間,幫助實時分析:華為雲數據庫提供的方案中,增加附加列數據行寫入時間和更新時間的列,標記數據插入和更新時間。為數據入湖及數據實時分析打下基礎。
  • 引入緩沖數據庫,實時計算:針對1.8萬張表不停的匯集和寫入,選擇了百萬級QPS吞吐量和海量數據存儲能力的GaussDB(for MySQL)作為緩沖層數據庫,解決OLTP和OLAP數據庫之間天然的數據處理能力差異。基於DRS實時准確的數據同步后,華為雲GaussDB(DWS)實現實時計算,極大縮短復雜報表的執行時間。
  • 數據實時精准同步:基於華為雲DRS准確的數據同步能力,正常情況下延遲均在1s以內,為實時報表提供基礎條件,幫助一汽-大眾實現了銷售報表數據可用時間從1天降低為10分鍾。且數據同步准確度高,源端和目標端數據行數一致。

業務上線后,一汽-大眾業務報表系統維護的鏈路數量從3萬條降低至65條,工作效率大幅提升;同時DRS保證數據一致性,10億級數據無一條丟失,極大降低數據比對工作;幫助一汽-大眾實現了銷售報表數據可用時間從1天降低為10分鍾,時效性大幅提升。此外,對於緩沖層數據庫GaussDB(for MySQL) 具備海量數據存儲能力,最大支持128TB,超百萬級QPS吞吐,可支撐業務快速發展;基於GaussDB(for MySQL)的計算存儲分離架構,數據三副本存儲強一致,數據零丟失;RTO秒級,故障秒切換,全面保障數據安全。

一汽-大眾以用戶為中心,構建以數據分析為核心的生態圈,洞察用戶需求,提供高價值產品,深受客戶青睞。而華為雲數據庫通過技術手段實現數據實時同步,從海量的數據中發現洞察,為企業經營決策提供數據基礎。未來,華為雲數據庫將持續攜手一汽-大眾通過數字技術,打造差異化有競爭力的數字化服務,滿足客戶對產品和服務日益增長的個性化需求。更多華為雲數據庫詳情了解,歡迎前往華為雲官網:https://www.huaweicloud.com/product/dbs.html

 

點擊關注,第一時間了解華為雲新鮮技術~


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM