kafka對於消息體的大小默認為單條最大值是1M. 但是在我們應用場景中, 常常會出現一條消息大於1M, 如果不對kafka進行配置. 則會出現生產者無法將消息推送到kafka或消費者無法去消費kafka里面的數據, 這是我們就要對kafka進行以下配置:
1. 在consumer.properties配置文件中添加:fetch.message.max.bytes : 每個提取請求中為每個主題分區提取的消息字節數。要大於等於message.max.bytes
2. 在producer.properties配置文件中添加: max.request.size : 請求的最大大小為字節。要小於 message.max.bytes
3. 在server.properties配置文件中添加:
message.max.bytes : 允許的最大記錄批大小
replica.fetch.max.bytes : 每個分區試圖獲取的消息字節數。要大於等於message.max.bytes