메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


Hadoop Incompatible clusterIDs오류 원인및 해결방법

총관리자 2016.04.01 10:29 조회 수 : 648

datanode기동시 Incompatible clusterIDs오류가 발생하는 이유는 "hadoop namenode -format"이 다시 한번 이루어지면서 
namenode는 새로운 ID를 받고 datanode는 새로운 ID를 발급받지 못하여 불일치가 발생한다.
그래서 format전에 /hadoop/dfs/datanode/VERSION파일을 지우고 format하면 해결된다.

---------------------------datanode 로그파일 내용------------------
2016-04-01 10:18:29,872 INFO org.apache.hadoop.hdfs.server.common.Storage: Lock on /hadoop/dfs/datanode/in_use.lock acquired by nodename 2642@so-db2
2016-04-01 10:18:29,876 WARN org.apache.hadoop.hdfs.server.common.Storage: java.io.IOException: Incompatible clusterIDs in /hadoop/dfs/datanode: namenode clusterID = CID-114223dd-58a8-4145-8359-990ebc169f13; datanode clusterID = CID-0a8e7038-7c96-45ab-bf73-1ad00fcbd192
2016-04-01 10:18:29,878 FATAL org.apache.hadoop.hdfs.server.datanode.DataNode: Initialization failed for Block pool <registering> (Datanode Uuid unassigned) service to sda2/xxx.xxx.xxx.44:9000. Exiting. 
java.io.IOException: All specified directories are failed to load.
        at org.apache.hadoop.hdfs.server.datanode.DataStorage.recoverTransitionRead(DataStorage.java:478)
        at org.apache.hadoop.hdfs.server.datanode.DataNode.initStorage(DataNode.java:1358)
        at org.apache.hadoop.hdfs.server.datanode.DataNode.initBlockPool(DataNode.java:1323)
        at org.apache.hadoop.hdfs.server.datanode.BPOfferService.verifyAndSetNamespaceInfo(BPOfferService.java:317)
        at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.connectToNNAndHandshake(BPServiceActor.java:223)
        at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.run(BPServiceActor.java:802)
        at java.lang.Thread.run(Thread.java:745)
2016-04-01 10:18:29,878 FATAL org.apache.hadoop.hdfs.server.datanode.DataNode: Initialization failed for Block pool <registering> (Datanode Uuid unassigned) service to sda1/xxx.xxx.xxx.43:9000. Exiting. 
java.io.IOException: Cluster IDs not matched: dn cid=CID-114223dd-58a8-4145-8359-990ebc169f13 but ns cid=CID-0a8e7038-7c96-45ab-bf73-1ad00fcbd192; bpid=BP-503361220-xxx.xxx.xxx.43-1459412244660
        at org.apache.hadoop.hdfs.server.datanode.DataNode.setClusterId(DataNode.java:717)
        at org.apache.hadoop.hdfs.server.datanode.DataNode.initBlockPool(DataNode.java:1316)
        at org.apache.hadoop.hdfs.server.datanode.BPOfferService.verifyAndSetNamespaceInfo(BPOfferService.java:317)
        at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.connectToNNAndHandshake(BPServiceActor.java:223)
        at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.run(BPServiceActor.java:802)
        at java.lang.Thread.run(Thread.java:745)
2016-04-01 10:18:29,881 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Ending block pool service for: Block pool <registering> (Datanode Uuid unassigned) service to sda2/xxx.xxx.xxx.44:9000
2016-04-01 10:18:29,881 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Ending block pool service for: Block pool <registering> (Datanode Uuid unassigned) service to sda1/xxx.xxx.xxx.43:9000
2016-04-01 10:18:29,983 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Removed Block pool <registering> (Datanode Uuid unassigned)
2016-04-01 10:18:31,983 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Exiting Datanode
2016-04-01 10:18:31,986 INFO org.apache.hadoop.util.ExitUtil: Exiting with status 0
2016-04-01 10:18:31,988 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: SHUTDOWN_MSG: 
/************************************************************
SHUTDOWN_MSG: Shutting down DataNode at so-db2/xxx.xxx.xxx.38
************************************************************/
이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
» Incompatible clusterIDs오류 원인및 해결방법 2016.04.01 648
181 namenode오류 복구시 사용하는 명령 2016.04.01 580
180 "java.net.NoRouteToHostException: 호스트로 갈 루트가 없음" 오류시 확인및 조치할 사항 2016.04.01 3336
179 bash는 PS1 변수를 통해 프롬프트의 모양을 바꿀 수 있다. 2016.03.30 888
178 CentOS의 서버 5대에 yarn(hadoop 2.7.2)설치하기-ResourceManager HA/HDFS HA포함, JobHistory포함 2016.03.29 1256
177 CentOS에서 리눅스(Linux) 포트 열기, 방화벽 설정/해제 등. 2016.03.14 891
176 Spark Streaming으로 유실 없는 스트림 처리 인프라 구축하기 2016.03.11 493
175 System Properties Comparison Elasticsearch vs. Hive vs. Jena file 2016.03.10 1001
174 TopBraid Composer에서 SPIN 사용법 file 2016.02.25 229
173 SPIN(SPARQL Inference Notation)이란.. file 2016.02.25 976
172 SPARQL의 유형, SPARQL 만들기등에 대한 설명 2016.02.18 433
171 select와 group by결과 값이 없는경우의 리턴 값이 다름 file 2016.02.05 353
170 ?a는 모두 표시하면서 ?b와 비교하여 ?a=?b는 ""로 하고 ?a!=?b 인경우는 해당값을 가지는 결과 집합을 구하는 경우 file 2016.01.29 349
169 ?a는 모두 표시하면서 ?b와 비교하여 ?a=?b는 표시하고 ?a!=?b 인경우는 ""로 구성된 결과 집합을 구하는 경우 file 2016.01.29 915
168 null 혹은 ""를 체크하는 방법 2016.01.27 759
167 sparql 1.1 BIND(if() as ?bind변수) 버그로 추정되는 문제점및 해결방안 -> select 문에 (if(,,) as ?bind변수) file 2016.01.21 469
166 CDH 5.4.4 버전에서 hive on tez (0.7.0)설치하기 2016.01.14 452
165 한번에 여러값 update하기 2016.01.13 563
164 문자열을 숫자(integer)로 casting하기 2016.01.13 1057
163 update(update와 delete->insert)사용시 주의/참고사항 2016.01.06 881
쓰기 태그
위로