原文:Kafka萬億級消息實戰

一 Kafka應用 本文主要總結當Kafka集群流量達到萬億級記錄 天或者十萬億級記錄 天 甚至更高后,我們需要具備哪些能力才能保障集群高可用 高可靠 高性能 高吞吐 安全的運行。 這里總結內容主要針對Kafka . . 版本,包括集群版本升級 數據遷移 流量限制 監控告警 負載均衡 集群擴 縮容 資源隔離 集群容災 集群安全 性能優化 平台化 開源版本缺陷 社區動態等方面。本文主要是介紹核心脈絡 ...

2021-05-18 09:54 0 1459 推薦指數:

查看詳情

萬億KV存儲架構與實踐

一、KV 存儲發展歷程   我們第一代的分布式 KV 存儲如下圖左側的架構所示,相信很多公司都經歷過這個階段。在客戶端內做一致性哈希,在后端部署很多的 Memcached 實例,這樣就實現了最基本的 ...

Sun Jul 05 19:14:00 CST 2020 0 1906
Knative 實戰:基於 Kafka 實現消息推送

作者 | 元毅 阿里雲智能事業群高級開發工程師 導讀:當前在 Knative 中已經提供了對 Kafka 事件源的支持,那么如何基於 Kafka 實現消息推送呢?本文作者將以阿里雲 Kafka 產品為例,給大家解鎖這一新的姿勢。 背景 消息隊列 for Apache Kafka ...

Fri Oct 25 21:57:00 CST 2019 1 426
Kafka實戰:如何把Kafka消息時延秒降10倍

背景 國內某大型稅務系統,業務應用分布式上雲改造。 業務難題 如上圖所示是模擬客戶的業務網頁構建的一個並發訪問模型。用戶在頁面點擊從而產生一個HTTP請求,這個請求發送到業務生產進程,就會啟動一個投遞線程(Deliver Thread)調用Kafka的SDK接口,並發 ...

Fri May 11 00:49:00 CST 2018 0 1138
企業Apache Kafka部署實戰

               企業Apache Kafka部署實戰篇                                       作者:尹正傑 版權聲明:原創作品,謝絕轉載!否則將追究法律責任。 一.安裝zookeeper集群 1>.下載 ...

Thu Jun 21 23:31:00 CST 2018 0 1603
如何基於MindSpore實現萬億參數模型算法?

摘要:近來,增大模型規模成為了提升模型性能的主要手段。特別是NLP領域的自監督預訓練語言模型,規模越來越大,從GPT3的1750億參數,到Switch Transformer的16000億參數,又是一個數量級的增加。 本文分享自華為雲社區《一文帶你了解MindSpore支持的萬億參數超大 ...

Wed Jun 23 23:08:00 CST 2021 1 311
淘寶萬億海量交易訂單存儲在哪?

01淘寶交易訂單系統介紹 天貓和淘寶每天發生的實物和虛擬商品的交易達到億別。考慮到一次成功交易的整個鏈路,會涉及到會員信息驗證,商品庫信息查詢,訂單創建,庫存扣減,優惠扣減,訂單支付,物流信息更新,確認支付等。 鏈路中的每一環都涉及到數據庫中記錄的創建和狀態的更新,一次成功的交易可能對 ...

Fri May 08 02:05:00 CST 2020 0 744
【HBase調優】Hbase萬億存儲性能優化總結

背景:HBase主集群在生產環境已穩定運行有1年半時間,最大的單表region數已達7200多個,每天新增入庫量就有百億條,對HBase的認識經歷了懵懂到熟的過程。為了應對業務數據的壓力,HBase入 ...

Sat Apr 06 04:10:00 CST 2019 0 533
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM