原文:【译】Kafka学习之路

一直在思考写一些什么东西作为 年开篇博客。突然看到一篇 Kafka学习之路 的博文,觉得十分应景,于是决定搬来这 他山之石 。虽然对于Kafka博客我一向坚持原创,不过这篇来自Confluent团队Gwen Shapira女士的博文实在精彩,所以还是翻译给大家,原文参见这里。 Kafka学习之路 看上去很多工程师都已经把 学习Kafka 加到了 年的to do列表中。这没什么惊讶的,毕竟Apac ...

2017-01-19 22:56 3 6689 推荐指数:

查看详情

Kafka学习之路 (一)Kafka的简介

一、简介 1.1 概述 Kafka是最初由Linkedin公司开发,是一个分布式、分区的、多副本的、多订阅者,基于zookeeper协调的分布式日志系统(也可以当做MQ系统),常见可以用于web/nginx日志、访问日志,消息服务等等,Linkedin于2010年贡献给了Apache基金会 ...

Tue May 08 03:18:00 CST 2018 8 182095
Kafka学习之路 (四)Kafka的安装

一、下载 下载地址: http://kafka.apache.org/downloads.html http://mirrors.hust.edu.cn/apache/ 二、安装前提(zookeeper安装) 参考http://www.cnblogs.com/qingyunzong/p ...

Tue May 08 17:50:00 CST 2018 4 14822
Kafka学习之路 (二)Kafka的架构

一、Kafka的架构 如上图所示,一个典型的Kafka集群中包含若干Producer(可以是web前端产生的Page View,或者是服务器日志,系统CPU、Memory等),若干broker(Kafka支持水平扩展,一般broker数量越多,集群吞吐率越高),若干Consumer ...

Tue May 08 03:39:00 CST 2018 2 28540
Kafka学习之路 (三)Kafka的高可用

一、高可用的由来 1.1 为何需要Replication   在Kafka在0.8以前的版本中,是没有Replication的,一旦某一个Broker宕机,则其上所有的Partition数据都不可被消费,这与Kafka数据持久性及Delivery Guarantee的设计目标相悖 ...

Tue May 08 04:10:00 CST 2018 4 30042
Kafka学习之路 (五)Kafka在zookeeper中的存储

一、Kafka在zookeeper中存储结构图 二、分析 2.1 topic注册信息 /brokers/topics/[topic] : 存储某个topic的partitions所有分配信息 2.2 partition状态信息 /brokers ...

Tue May 08 19:06:00 CST 2018 5 15686
Kafka Producer Sticky Partitioner

最近事情多有点犯懒,依然带来一篇译文:Apache Kafka Producer Improvements with the Sticky Partitioner 消息在系统中流转的时间对于Kafka的性能来说至关重要。具体到Producer而言,Producer端的延时(Latency ...

Sun Mar 22 01:54:00 CST 2020 0 1318
Kafka最佳实践 / Kafka Best Practices

本文来自于DataWorks Summit/Hadoop Summit上的《Apache Kafka最佳实践》分享,里面给出了很多关于Kafka的使用心得,非常值得一看,今推荐给大家。 硬件配置 JBOD: Just bunch of disks,就是普通的一堆磁盘组成的集群 OS ...

Mon Apr 17 06:32:00 CST 2017 7 6326
】Apache Flink Kafka consumer

Flink提供了Kafka connector用于消费/生产Apache Kafka topic的数据。Flink的Kafka consumer集成了checkpoint机制以提供精确一次的处理语义。在具体的实现过程中,Flink不依赖于Kafka内置的消费组位移管理,而是在内部自行记录和维护 ...

Fri Sep 08 22:49:00 CST 2017 1 8788
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM