不僅僅是雙11大屏—Flink應用場景介紹


file

雙11大屏

每年天貓雙十一購物節,都會有一塊巨大的實時作戰大屏,展現當前的銷售情況。

這種炫酷的頁面背后,其實有着非常強大的技術支撐,而這種場景其實就是實時報表分析。

實時報表分析是近年來很多公司采用的報表統計方案之一,其中最主要的應用就是實時大屏展示。利用流式計算實時得出結果直接被推送到前端應用,實時顯示出重要指標的變換情況。最典型的案例便是淘寶雙十一活動,每年雙十一購物節,除瘋狂購物外,最引人注目的就是雙十一大屏不停跳躍的成交總額。在整個計算鏈路中包括從天貓交易下單購買到數據采集,數據計算,數據校驗,最終落到雙十一大屏上展示的全鏈路時間壓縮在5秒以內,頂峰計算性能高達數三十萬筆訂單/秒,通過多條鏈路流計算備份確保萬無一失。

而在其他行業,企業也在構建自己的實時報表系統,讓企業能夠依托於自身的業務數據,快速提取出更多的數據價值,從而更好的服務於企業運行過程中。

而這種高性能,高可用的准確的流處理框架就非Flink莫屬了。

Apache Flink是什么?

​ 在當代數據量激增的時代,各種業務場景都有大量的業務數據產生,對於這些不斷產生的數據應該如何進行有效的處理,成為當下大多數公司所面臨的問題。Apache Flink 是一個開源的分布式,高性能,高可用,准確的流處理框架。支持實時流處理和批處理 。

file

Flink 就是近年來在開源社區不斷發展的技術中的能夠同時支持高吞吐、低延遲、高性能的分布式處理框架。

應用場景

在實際生產過程中,大量的數據不斷的產生,例如金融交易數據、互聯網訂單數據、GPS定位數據、傳感器信號、移動終端產生的數據、通信信號數據等,以及我們熟悉的網絡流量監控,服務器產生的日志數據,這些數據最大的共同點就是實時從不同的數據源中產生,然后再傳輸到下游的分析系統。針對這些數據類型主要包括實時智能推薦,復雜事件處理,實施欺詐檢測,實時數倉,與ETL類型、流數據分析類型、實時報表類型等實施業務場景,而Flink對於這些類型的場景都有着非常好的支持。

  1. 實時智能推薦

    智能推薦會根據用戶歷史的購買行為,通過推薦算法訓練模型,預測用戶未來可能會購買的物品。對個人來說,推薦系統起着信息過濾的作用,對Web/App服務端來說,推薦系統起着滿足用戶個性化需求,提升用戶滿意度的作用。推薦系統本身也在飛速發展,除了算法越來越完善,對時延的要求也越來越苛刻和實時化。利用Flink流計算幫助用戶構建更加實時的智能推薦系統,對用戶行為指標進行實時計算,對模型進行實時更新,對用戶指標進行實時預測,並將預測的信息推送給Web/App端,幫助用戶獲取想要的商品信息,另一方面也幫助企業提升銷售額,創造更大的商業價值。

file

  1. 復雜事件處理

    對於復雜事件處理,比較常見的集中於工業領域,例如對車載傳感器,機械設備等實時故障檢測,這些業務類型通常數據量都非常大,且對數據處理的時效性要求非常高。通過利用Flink提供的CEP進行時間模式的抽取,同時應用Flink的Sql進行事件數據的轉換,在流式系統中構建實施規則引擎,一旦事件觸發報警規則,便立即將告警結果通知至下游通知系統,從而實現對設備故障快速預警檢測,車輛狀態監控等目的。

file

  1. 實時欺詐檢測

    在金融領域的業務中,常常出現各種類型的欺詐行為,例如信用卡欺詐,信貸申請欺詐等,而如何保證用戶和公司的資金安全,是近年來許多金融公司及銀行共同面對的挑戰。隨着不法分子欺詐手段的不斷升級,傳統的反欺詐手段已經不足以解決目前所面臨的問題。以往可能需要幾個小時才能通過交易數據計算出用戶的行為指標,然后通過規則判別出具有欺詐行為嫌疑的用戶,再進行案件調查處理,在這種情況下資金可能早已被不法分子轉移,從而給企業和用戶造成大量的經濟損失。而運用Flink流式計算技術能夠在毫秒內就完成對欺詐行為判斷指標的計算,然后實時對交易流水進行實時攔截,避免因為處理不及時而導致的經濟損失。

file

  1. 實時數倉與ETL

    結合離線數倉,通過利用流計算的諸多優勢和Sql靈活的加工能力,對流式數據進行實時清洗、歸並、結構化處理,為離線數倉進行補充和優化。另一方面結合實時數據ETL處理能力,利用有狀態流式計算技術,可以盡可能降低企業由於在離線數據計算過程中調度邏輯的復雜度,高效快速的處理企業需要的統計結果,幫助企業更好地應用實時數據所分析出來的結果。

  2. 流數據分析

    實時計算各類數據指標,並利用實時結果及時調整在線相關策略,在各類內容投放、無線智能推送領域有大量的應用。流式計算技術將數據分析場景實時化,幫助企業做到實時化分析Web應用或者App應用的各項指標,包括App版本分布情況,Crash檢測和分布等,同時提供多維度用戶行為分析支持日志自主分析,助力開發者實現基於大數據技術的精細化運營,提升產品質量和體驗,增強用戶黏性。

​大數據流動 專注於大數據實時計算,數據治理,數據可視化等技術分享與實踐。
請在后台回復關鍵字下載相關資料。相關學習交流群已經成立,歡迎加入~


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM