Flume监控之Ganglia
前言
Ganglia是UC Berkeley发起的一个开源集群监视项目,设计用于测量数以千计的节点。Ganglia的核心包含gmond、gmetad以及一个Web前端。主要是用来监控系统性能,如:cpu 、mem、硬盘利用率, I/O负载、网络流量情况等,通过曲线很容易见到每个节点的工作状态,对合理调整、分配系统资源,提高系统整体性能起到重要作用。今天我们来看看如何用Ganglia来监控我们的flume集群数据。
Ganglia的安装与部署
1.安装httpd服务与php
[root@bigdata107 flume]# sudo yum -y install httpd php
2.安装其他依赖
[root@bigdata107 flume]# sudo yum -y install rrdtool perl-rrdtool rrdtool-devel [root@bigdata107 flume]# sudo yum -y install apr-devel
3.安装ganglia
[root@bigdata107 flume]# rpm -Uvh http://dl.fedoraproject.org/pub/epel/6/x86_64/epel-release-6-8.noarch.rpm [root@bigdata107 flume]# yum -y install ganglia-gmetad [root@bigdata107 flume]# yum -y install ganglia-web [root@bigdata107 flume]# yum install -y ganglia-gmond
4.修改配置文件
[root@bigdata107 flume]# vim /etc/httpd/conf.d/ganglia.conf
[root@bigdata107 flume]# vim /etc/ganglia/gmetad.conf
[root@bigdata107 flume]# vim /etc/ganglia/gmond.conf
[root@bigdata107 flume]# vim /etc/selinux/config
5.selinux本次生效关闭必须重启,如果此时不想重启,可以临时生效
[root@bigdata107 flume]# sudo setenforce 0
启动Ganglia
[root@bigdata107 flume]# service httpd start 正在启动 httpd: [root@bigdata107 flume]# service gmetad start Starting GANGLIA gmetad: [确定] [root@bigdata107 flume]# service gmond start Starting GANGLIA gmond: [确定]
1.打开web UI
2.通过Ganglia监控Flume
[root@bigdata107 flume]# vim flume-env.sh
添加如下内容:
export JAVA_OPTS="-Dflume.monitoring.type=ganglia -Dflume.monitoring.hosts=192.168.216.107:8649 -Xms100m -Xmx200m"
3.启动flume任务
[root@bigdata107 flume]# bin/flume-ng agent --conf conf/ --name agent1 --conf-file job/flume_telnet_logger.conf -Dflume.root.logger==INFO,console -Dflume.monitoring.type=ganglia -Dflume.monitoring.hosts=192.168.216.107:8649
4.发送数据查看Ganglia监测图
[root@bigdata107 flume]# telnet bigdata107 44444