關於使用kafka時對於大數據消息體是遇到的問題


kafka對於消息體的大小默認為單條最大值是1M. 但是在我們應用場景中, 常常會出現一條消息大於1M, 如果不對kafka進行配置. 則會出現生產者無法將消息推送到kafka或消費者無法去消費kafka里面的數據, 這是我們就要對kafka進行以下配置:

    1. 在consumer.properties配置文件中添加:fetch.message.max.bytes :    每個提取請求中為每個主題分區提取的消息字節數。要大於等於message.max.bytes

    2. 在producer.properties配置文件中添加: max.request.size :    請求的最大大小為字節。要小於 message.max.bytes

    3. 在server.properties配置文件中添加: 

        message.max.bytes :    允許的最大記錄批大小

        replica.fetch.max.bytes :    每個分區試圖獲取的消息字節數。要大於等於message.max.bytes


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM