原文:一个flume agent异常的解决过程记录

今天在使用flume agent的时候,遇到了一个异常, 现把解决的过程记录如下: 问题的背景: 我使用flume agent 来接收从storm topology发送下来的accesslog , 做本地文件落盘。flume配置文件如下: 用于syslog和accesslog的本地文件滚动。 a .sources r a .sinks sink a .channels c thrift sourc ...

2016-03-17 16:02 1 5173 推荐指数:

查看详情

解决flume运行中的一个异常问题!

今天在本地测试flume的exec 监控文件 分割的问题!!!遇到各种141异常问题! 怀疑是在切割文件的时候超过了监控文本的时间,导致flume异常退出,,,所以增加了keep-alive 时长,,,他的默认值是3秒,,我把它设置为30秒,,,之后运行,,,,他不再异常 ...

Tue Feb 21 01:47:00 CST 2017 0 5039
flume file channel 异常解决

1. 错误提示     配置文件:    2. 解决方法   链接: http://serverfault.com/questions/690588/flume-error-log-while-using-filechannel   只要把 ...

Wed Apr 27 01:14:00 CST 2016 0 5084
记录一个前端bug的解决过程

人在江湖飘,哪能不挨刀。 我挨了重重一bug。严格来讲这可能是我职业生涯以来的首个悲惨经历,因为凭我的知识储备和经验,基本上任何可重现的bug都是可解的。然而这个bug却困扰了我三个月之久,它具有以下生理特征: 后台日志能统计到异常,偶发、低频 报异常的用户设备不具有规律性,什么手机 ...

Thu Mar 15 23:18:00 CST 2018 11 2075
Flume agent内存配置

Flume公共配置文件:${FLUME_HOME}/conf/flume-env.sh 其中配置export JAVA_OPTS="-Xms100m -Xmx2000m -Dcom.sun.management.jmxremote" 可以用来配置公共的agent堆大小,但是如果想要 ...

Tue Aug 06 06:29:00 CST 2019 0 468
Flume 多个agent串联

多个agent串联 采集需求:比如业务系统使用log4j生成的日志,日志内容不断增加,需要把追加到日志文件中的数据实时采集到hdfs,使用agent串联 根据需求,首先定义以下3大要素 第一台flume agent l 采集源,即source——监控文件内容更新 ...

Sun Mar 31 02:26:00 CST 2019 0 575
flume常见异常汇总以及解决方案

                      flume常见异常汇总以及解决方案                                            作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任。   实际生产环境中,我用flume将kafka ...

Tue Nov 13 19:17:00 CST 2018 1 5776
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM