메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


kafka 운영중인 상태에서 kafka topic삭제하고 재생성하여 처리되지 않은 메세지 모두 삭제하기

총관리자 2016.10.24 11:06 조회 수 : 235

1. kafka broker의 server.properties파일에 다음 옵션을 설정하고 broker를 재기동한다.
delete.topic.enable=true

2. 다음의 명령으로 원하는 topic(예, test)을 삭제한다.
bin/kafka-topics.sh --zookeeper localhost:2181 --delete --topic test

3. topic을 재생성한다.
bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 3 --topic test

4. topic을 지우고 재생성한 상태에서 consumer프로그램을 돌리면 아래와 같은 오류가 발생하면서 재설정된다.

------오류내용-------------
[2016-10-24 10:43:12,735] [utils.Logging$class] [error(#97)] [ERROR] [ConsumerFetcherThread-AvroOneM2MDataSubscribe_sda1-1477273392365-4e4cbb22-0-1], Current offset 109883 for partition [COL_ONEM2M,1] out of range; r
eset offset to 0
[2016-10-24 10:43:12,735] [utils.Logging$class] [error(#97)] [ERROR] [ConsumerFetcherThread-AvroOneM2MDataSubscribe_sda1-1477273392365-4e4cbb22-0-3], Current offset 127067 for partition [COL_ONEM2M,0] out of range; r
eset offset to 0
[2016-10-24 10:43:12,735] [utils.Logging$class] [error(#97)] [ERROR] [ConsumerFetcherThread-AvroOneM2MDataSubscribe_sda1-1477273392365-4e4cbb22-0-2], Current offset 116344 for partition [COL_ONEM2M,2] out of range; r
eset offset to 0
이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
160 How-to: Tune Your Apache Spark Jobs (Part 2) file 2016.10.31 221
159 VisualVM 1.3.9을 이용한 spark-submit JVM 모니터링을 위한 설정및 spark-submit실행 옵션 2016.10.28 2122
» 운영중인 상태에서 kafka topic삭제하고 재생성하여 처리되지 않은 메세지 모두 삭제하기 2016.10.24 235
157 producer / consumer구현시 설정 옵션 설명 2016.10.19 461
156 java.lang.OutOfMemoryError: unable to create new native thread오류 발생지 조치사항 2016.10.17 757
155 AIX 7.1에서 hive실행시 "hive: line 86: readlink: command not found" 오류가 발생시 임시 조치사항 2016.09.25 520
154 hive기동시 Caused by: java.net.URISyntaxException: Relative path in absolute URI: ${system:java.io.tmpdir%7D/$%7Bsystem:user.name%7D 오류 발생시 조치사항 2016.09.25 617
153 schema설정없이 hive를 최초에 실행했을때 발생하는 오류메세지및 처리방법 2016.09.25 1299
152 파일끝에 붙는 ^M 일괄 지우기(linux, unix(AIX)) 혹은 파일내에 있는 ^M지우기 2016.09.24 169
151 AIX 7.1에 MariaDB 10.2 소스 설치 2016.09.24 2490
150 ./hadoop-daemon.sh start namenode로 namenode기동시 EditLog의 custerId, namespaceId가 달라서 발생하는 오류 해결방법 2016.09.24 220
149 hadoop 어플리케이션을 사용하는 사용자 변경시 바꿔줘야 하는 부분 2016.09.23 524
148 format된 namenode를 다른 서버에서 다시 format했을때 오류내용 2016.09.22 263
147 AIX 7.1에 Hadoop설치(정리중#2) 2016.09.20 310
146 AIX 7.1에 Hadoop설치(정리중) 2016.09.12 452
145 No broker partitions consumed by consumer thread오류 발생시 확인/조치할 사항 2016.09.02 387
144 kafka 0.9.0.1버젼의 producer와 kafka버젼이 0.10.0.1인 consumer가 서로 대화하는 모습 2016.08.18 362
143 down된 broker로 메세지를 전송하려는 경우의 오류 내용및 조치사항 2016.08.12 322
142 kafkaWordCount.scala의 producer와 consumer 클래스를 이용하여 kafka를 이용한 word count 테스트 하기 2016.08.02 275
141 bin/start-hbase.sh실행시 org.apache.hadoop.hbase.util.FileSystemVersionException: HBase file layout needs to be upgraded오류가 발생하면 조치사항 2016.08.01 435
쓰기 태그
위로