Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.
* 출처 : http://epicdevs.com/22
Kafka는 기본적으로 JMX 인터페이스를 제공하기 때문에 Kafka에서 제공하는 MBean(managed bean)들의 값을 모니터링할 수 있다. 하지만 JMX 툴보다는 Kafka 전용으로 개발된 모니터링 툴을 사용하는 것이 훨씬 간편하고, 중요한 정보들을 좀 더 직관적으로 파악할 수 있기 때문에 이 글에서는 JMX를 통한 모니터링 대신 Kafka Offset Monitor를 사용하여 Kafka의 상태를 모니터링해 보도록 한다.
Kafka Offset Monitor 실행하기
Kafka Offset Monitor 홈페이지에서 jar 파일을 다운 받은 뒤 jar파일이 있는 위치에서 다음의 커맨드를 통해 Kafka Offset Monitor를 실행한다.
java -cp KafkaOffsetMonitor-assembly-0.2.1.jar com.quantifind.kafka.offsetapp.OffsetGetterWeb
--zk kafka-test-001.epicdevs.com:2181,kafka-test-002.epicdevs.com:2181,kafka-test-003.epicdevs.com:2181
--port 8080 --refresh 10.seconds --retain 2.days
nohup java -cp KafkaOffsetMonitor-assembly-0.2.1.jar
com.quantifind.kafka.offsetapp.OffsetGetterWeb
--zk gsda1:2181,gsda2:2181,gsda3:2181
--port 7080
--refresh 10.seconds
--retain 2.days
&
*데몬확인 : 109714 OffsetGetterWeb --zk gsda1:2181,gsda2:2181,gsda3:2181 --port 7080 --refresh 10.seconds --retain 2.days
웹 브라우저로 http://gsda1:7080에 접속하면 각 topic의 처리 현황, broker와 consumer 현황, Kafka 클러스터 현황 등을 살펴볼 수 있다.
참고자료