메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


* 출처 : http://epicdevs.com/22


Kafka는 기본적으로 JMX 인터페이스를 제공하기 때문에 Kafka에서 제공하는 MBean(managed bean)들의 값을 모니터링할 수 있다. 하지만 JMX 툴보다는 Kafka 전용으로 개발된 모니터링 툴을 사용하는 것이 훨씬 간편하고, 중요한 정보들을 좀 더 직관적으로 파악할 수 있기 때문에 이 글에서는 JMX를 통한 모니터링 대신 Kafka Offset Monitor를 사용하여 Kafka의 상태를 모니터링해 보도록 한다.


Kafka Offset Monitor 실행하기

Kafka Offset Monitor 홈페이지에서 jar 파일을 다운 받은 뒤 jar파일이 있는 위치에서 다음의 커맨드를 통해 Kafka Offset Monitor를 실행한다.

java -cp KafkaOffsetMonitor-assembly-0.2.1.jar com.quantifind.kafka.offsetapp.OffsetGetterWeb 
--zk kafka-test-001.epicdevs.com:2181,kafka-test-002.epicdevs.com:2181,kafka-test-003.epicdevs.com:2181 
--port 8080 --refresh 10.seconds --retain 2.days

nohup java -cp KafkaOffsetMonitor-assembly-0.2.1.jar 
     com.quantifind.kafka.offsetapp.OffsetGetterWeb 
     --zk gsda1:2181,gsda2:2181,gsda3:2181 
     --port 7080 
     --refresh 10.seconds 
     --retain 2.days 
 &

*데몬확인 : 109714 OffsetGetterWeb --zk gsda1:2181,gsda2:2181,gsda3:2181 --port 7080 --refresh 10.seconds --retain 2.days

웹 브라우저로 http://gsda1:7080에 접속하면 각 topic의 처리 현황, broker와 consumer 현황, Kafka 클러스터 현황 등을 살펴볼 수 있다.


참고자료

번호 제목 날짜 조회 수
501 룰에 매칭되면 발생되는 엑티베이션 객체에 대한 작업(이전값 혹은 현재값)을 처리하는 클래스 파일 2016.07.21 346
500 커리 변경 이벤트를 처리하기 위한 구현클래스 2016.07.21 597
499 워킹 메모리에 대한 정보를 처리하는 클래스 파일 2016.07.21 442
498 drools에서 drl관련 로그를 기록하기 위한 클래스 파일 2016.07.21 394
497 ServerInfo객체파일 2016.07.21 151
496 drools를 이용한 로그,rule matching등의 테스트 java프로그램 file 2016.07.21 237
495 거침없이 배우는 Drools 책의 샘플소스 file 2016.07.22 1369
494 슬라이딩 윈도우 예제 2016.07.28 190
493 Journal Storage Directory /data/hadoop/journal/data/mycluster not formatted 오류시 조치사항 2016.07.29 1603
492 hadoop클러스터를 구성하던 서버중 HA를 담당하는 서버의 hostname등이 변경되어 문제가 발생했을때 조치사항 2016.07.29 408
491 start-all.sh로 spark데몬 기동시 "JAVA_HOME is not set"오류 발생시 조치사항 2016.08.01 318
490 bin/start-hbase.sh실행시 org.apache.hadoop.hbase.util.FileSystemVersionException: HBase file layout needs to be upgraded오류가 발생하면 조치사항 2016.08.01 435
489 kafkaWordCount.scala의 producer와 consumer 클래스를 이용하여 kafka를 이용한 word count 테스트 하기 2016.08.02 275
488 build할때 unmappable character for encoding MS949 에러 발생시 조치사항 2016.08.03 421
487 [SBT] project.sbt에 libraryDependencies에 필요한 jar를 지정했으나 sbt compile할때 클래스를 못찾는 오류가 발생했을때 조치사항 2016.08.03 160
486 [SBT] SBT 사용법 정리(링크) 2016.08.04 959
485 [SBT] assembly시 "[error] deduplicate: different file contents found in the following:"오류 발생시 조치사항 2016.08.04 737
484 gradle을 이용하여 jar파일 생성시 provided속성을 지정할 수 있게 설정하는 방법 2016.08.09 361
483 로컬의 라이브러리파일들을 dependency에 포함시키는 방법 2016.08.09 321
482 [Elephas] Jena Elephas를 이용하여 Spark에서 rdfTriples의 RDD를 만들고 RDD관련 작업하는 샘플소스 2016.08.10 203
위로