集群搭建: [root@localhost kafka_2.11-0.10.2.1]# cat config/server.properties | grep -v ^$ | grep -v ^#broker.id=0listeners=PLAINTEXT://node1 ...

1 什么是kafka Kafka是分布式发布-订阅消息系统，它最初是由LinkedIn公司开发的，之后成为Apache项目的一部分，Kafka是一个分布式，可划分的，冗余备份的持久性的日志服务，它主要用于处理流式数据。 2 为什么要使用 kafka，为什么要使用消息队列 缓冲 ...

Kafka-生产者 生产者发送消息流程 1.新建ProducerRecord对象，包含目标主题和要发送的内容。也可以指定键或分区 2.发送ProducerRecord对象时，生产者要把键和值对象序列化成字节数组，这样它们才能在网络上传输 3.数据被传给分区器 ...

场景： kafka先批量拉取消息，完了将拉下来的消息逐条消费，假如此次共拉取40条消息，但在处理第31条时，线程被停掉，就会导致已消费消息offet不会被提交，接下来已经被消费的30条记录还会被重复消费，这就是kafka重复消费的另一场景； 解决思路： 解决此类重复消费的方式：将能够唯一标识 ...

Kafka-硬件的选择 磁盘吞吐量（重要，影响生产者） 生产者客户端的性能直接受到服务器端磁盘吞吐量的影响。 生产者生成的消息必须被提交到服务器保存，大多数客户端在发送消息后会一直等待，直到至少一个服务器确认消息已经成功提交为止。 磁盘写入速度越快，生成消息的延迟就越低。 磁盘容量（制约 ...

本篇文档使用kafka版本为：0.9.0.0 问题1、在现场项目中，kafka连接正常一直无数据？ 1）通常是确认配置是否正确，包含任务配置，ip端口号； 2）查看topic offset：是否有新数据进来，数据是否被消费掉了， 3）然后检查kafka服务是否正常，查看服务是否有节点 ...

目录 1、Kafka概念 2、kafka架构 3、Kafka消费模型 4、实现Kafka的生产端 5、实现Kafka的消费端 6、Flume整合Kafka 1、调整flume的配置文件，监控namenode的日志文件 2、启动 ...

/article/details/48142677 再过半小时，你就能明白kafka ...