메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


서버#1에서 namenode를 format했는데 다른 서버에서 namenode를 format하게 되면 경고 메세지가 나오지만 'Y'로 응답하고 진행하면

cluster ID등의 바뀌게 되므로 아래와 같은 문제점이 발생한다.

이때는 다시 format을 해주고 데몬을 전부 재기동을 하며 각DataNode에서는 data디렉토리를 지우고 DataNode를 다시 기동해준다.


*DataNode 각각에서 해주어야 하는작업(필요시 여러번 반복해준다)

- sbin/hadoop-daemon.sh stop datanode

- rm -r /engine/bigdata/hadoop-2.7.2/dfs/datanode  (필요시 : mkdir /engine/bigdata/hadoop-2.7.2/dfs/ )

- sbin/hadoop-daemon.sh start datanode


-------------------- Namenode가 다운되는 문제의 오류내용 #1---

XXX.XXX.XXX.32:8485: Incompatible namespaceID for journal Storage Directory /engine/bigdata/hadoop/journal/data/mycluster: NameNode has nsId 1574650046 but storage has nsId 18123

69513

        at org.apache.hadoop.hdfs.qjournal.server.JNStorage.checkConsistentNamespace(JNStorage.java:234)

        at org.apache.hadoop.hdfs.qjournal.server.Journal.newEpoch(Journal.java:289)

        at org.apache.hadoop.hdfs.qjournal.server.JournalNodeRpcServer.newEpoch(JournalNodeRpcServer.java:135)

        at org.apache.hadoop.hdfs.qjournal.protocolPB.QJournalProtocolServerSideTranslatorPB.newEpoch(QJournalProtocolServerSideTranslatorPB.java:133)

        at org.apache.hadoop.hdfs.qjournal.protocol.QJournalProtocolProtos$QJournalProtocolService$2.callBlockingMethod(QJournalProtocolProtos.java:25417)

        at org.apache.hadoop.ipc.ProtobufRpcEngine$Server$ProtoBufRpcInvoker.call(ProtobufRpcEngine.java:616)

        at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:969)

        at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2049)

        at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2045)

        at java.security.AccessController.doPrivileged(AccessController.java:377)

        at javax.security.auth.Subject.doAs(Subject.java:572)

        at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1657)

        at org.apache.hadoop.ipc.Server$Handler.run(Server.java:2043)


        at org.apache.hadoop.hdfs.qjournal.client.QuorumException.create(QuorumException.java:81)

        at org.apache.hadoop.hdfs.qjournal.client.QuorumCall.rethrowException(QuorumCall.java:223)

        at org.apache.hadoop.hdfs.qjournal.client.AsyncLoggerSet.waitForWriteQuorum(AsyncLoggerSet.java:142)


--------------------DataNode가 다운되는 문제의 오류내용 #2---

java.io.IOException: Cluster IDs not matched: dn cid=CID-8395f825-0009-4668-862b-3a9e8d184b54 but ns cid=CID-732a108d-6a42-44e4-9b2a-313750cc4c35; bpid=BP-1493757477-XXX.XXX.XXX.32-1474

523575034

        at org.apache.hadoop.hdfs.server.datanode.DataNode.setClusterId(DataNode.java:717)

        at org.apache.hadoop.hdfs.server.datanode.DataNode.initBlockPool(DataNode.java:1316)

        at org.apache.hadoop.hdfs.server.datanode.BPOfferService.verifyAndSetNamespaceInfo(BPOfferService.java:317)

        at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.connectToNNAndHandshake(BPServiceActor.java:223)

        at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.run(BPServiceActor.java:802)

        at java.lang.Thread.run(Thread.java:801)

2016-09-22 22:51:28,082 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Ending block pool service for: Block pool <registering> (Datanode Uuid unassigned) service to IUDGTMP01/XXX.XXX.XXX.31:9000

2016-09-22 22:51:28,082 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Ending block pool service for: Block pool <registering> (Datanode Uuid unassigned) service to IUDGTMP02/XXX.XXX.XXX.32:9000

2016-09-22 22:51:28,190 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Removed Block pool <registering> (Datanode Uuid unassigned)

2016-09-22 22:51:30,197 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Exiting Datanode

2016-09-22 22:51:30,199 INFO org.apache.hadoop.util.ExitUtil: Exiting with status 0

2016-09-22 22:51:30,201 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: SHUTDOWN_MSG:

/************************************************************

SHUTDOWN_MSG: Shutting down DataNode at IUDGTMP02/XXX.XXX.XXX.XXX



번호 제목 날짜 조회 수
284 hadoop 어플리케이션을 사용하는 사용자 변경시 바꿔줘야 하는 부분 2016.09.23 960
» format된 namenode를 다른 서버에서 다시 format했을때 오류내용 2016.09.22 331
282 journalnode노드 기동시 "should be an absolute path"가 발생하고 기동되지 않을 경우 확인사항 2016.09.22 799
281 다중 모듈 프로젝트 설정에 대한 설명 2016.09.21 244
280 AIX 7.1에 Hadoop설치(정리중#2) 2016.09.20 376
279 AIX 7.1에 Hadoop설치(정리중) 2016.09.12 971
278 No broker partitions consumed by consumer thread오류 발생시 확인/조치할 사항 2016.09.02 1018
277 [Mybatis]Spring과 연동하지 않고 Java+Mybatis 형태의 프로그램 샘플소스 2016.09.01 1014
276 초기 오류(java.lang.NoSuchMethodError)에 따른 후속 작업에서 오류(java.lang.NoClassDefFoundError)가 발생되는 상황(quartz에서 주기적으로 작업시) 2016.08.29 741
275 특정문자열이나 URI를 임의로 select 절에 지정하여 사용할때 사용하는 sparql 문장 2016.08.25 1003
274 로컬에 있는 jar파일을 지정하고 dependency로 가져오기 2016.08.19 828
273 jena jar파일실행시 org.apache.jena.tdb.TDB.init에서 java.lang.NullPointerException발생시 조치사항 2016.08.19 760
272 springframework를 이용한 war를 생성하는 build.gradle파일(참고용) 2016.08.19 805
271 spark submit용 jar파일을 만드는 sbt 용 build.sbt설정 파일(참고용) 2016.08.19 753
270 spark, kafka, mariadb, jena, springframework등을 이용하여 공통모듈을 jar로 만들기 위한 build.gradle파일(참고용) 2016.08.19 749
269 kafka 0.9.0.1버젼의 producer와 kafka버젼이 0.10.0.1인 consumer가 서로 대화하는 모습 2016.08.18 429
268 build.gradle을 pom.xml로 변환하는 방법 2016.08.18 1761
267 Jena는 기본적으로 multi thread환경을 지원하지 않는다. 2016.08.16 648
266 down된 broker로 메세지를 전송하려는 경우의 오류 내용및 조치사항 2016.08.12 410
265 여러가지 방법으로 특정 jar파일을 exclude하지 못하는 경우 해당 jar파일을 제외시키는 방법 2016.08.11 300
위로