메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


아래오 같은 류의 오류가 발하면 "hadoop namenode -recover"를 수행하여 오류를 복구하여 준다.

--------------------------------namenode로그 파일의 오류내용---------------
2016-03-31 16:31:39,191 INFO org.apache.hadoop.util.GSet: 0.029999999329447746% max memory 958.5 MB = 294.5 KB
2016-03-31 16:31:39,191 INFO org.apache.hadoop.util.GSet: capacity      = 2^15 = 32768 entries
2016-03-31 16:31:39,193 WARN org.apache.hadoop.hdfs.server.common.Storage: Storage directory /hadoop/dfs/namenode does not exist
2016-03-31 16:31:39,194 WARN org.apache.hadoop.hdfs.server.namenode.FSNamesystem: Encountered exception loading fsimage
org.apache.hadoop.hdfs.server.common.InconsistentFSStateException: Directory /hadoop/dfs/namenode is in an inconsistent state: storage directory does not exist or is not accessible.
        at org.apache.hadoop.hdfs.server.namenode.FSImage.recoverStorageDirs(FSImage.java:327)
        at org.apache.hadoop.hdfs.server.namenode.FSImage.recoverTransitionRead(FSImage.java:215)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.loadFSImage(FSNamesystem.java:975)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.loadFromDisk(FSNamesystem.java:681)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.loadNamesystem(NameNode.java:584)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.initialize(NameNode.java:644)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.<init>(NameNode.java:811)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.<init>(NameNode.java:795)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.createNameNode(NameNode.java:1488)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.main(NameNode.java:1554)
2016-03-31 16:31:39,196 INFO org.mortbay.log: Stopped HttpServer2$SelectChannelConnectorWithSafeStartup@sda2:50070
2016-03-31 16:31:39,297 INFO org.apache.hadoop.metrics2.impl.MetricsSystemImpl: Stopping NameNode metrics system...
2016-03-31 16:31:39,297 INFO org.apache.hadoop.metrics2.impl.MetricsSystemImpl: NameNode metrics system stopped.
2016-03-31 16:31:39,297 INFO org.apache.hadoop.metrics2.impl.MetricsSystemImpl: NameNode metrics system shutdown complete.
2016-03-31 16:31:39,297 ERROR org.apache.hadoop.hdfs.server.namenode.NameNode: Failed to start namenode.
org.apache.hadoop.hdfs.server.common.InconsistentFSStateException: Directory /hadoop/dfs/namenode is in an inconsistent state: storage directory does not exist or is not accessible.
        at org.apache.hadoop.hdfs.server.namenode.FSImage.recoverStorageDirs(FSImage.java:327)
        at org.apache.hadoop.hdfs.server.namenode.FSImage.recoverTransitionRead(FSImage.java:215)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.loadFSImage(FSNamesystem.java:975)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.loadFromDisk(FSNamesystem.java:681)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.loadNamesystem(NameNode.java:584)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.initialize(NameNode.java:644)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.<init>(NameNode.java:811)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.<init>(NameNode.java:795)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.createNameNode(NameNode.java:1488)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.main(NameNode.java:1554)
2016-03-31 16:31:39,298 INFO org.apache.hadoop.util.ExitUtil: Exiting with status 1
2016-03-31 16:31:39,299 INFO org.apache.hadoop.hdfs.server.namenode.NameNode: SHUTDOWN_MSG:
/************************************************************
SHUTDOWN_MSG: Shutting down NameNode at sda2/xxx.xxx.xxx.44
************************************************************/
번호 제목 날짜 조회 수
122 spark-submit으로 spark application실행하는 다양한 방법 2016.05.25 1106
121 spark 온라인 책자링크 (제목 : mastering-apache-spark) 2016.05.25 467
120 "Initial job has not accepted any resources; check your cluster UI to ensure that workers are registered and have sufficient resources"오류 발생시 조치사항 2016.05.25 1632
119 spark-env.sh에서 사용할 수있는 항목. 2016.05.24 1243
118 Spark 1.6.1 설치후 HA구성 2016.05.24 1278
117 spark-shell실행시 "A read-only user or a user in a read-only database is not permitted to disable read-only mode on a connection."오류가 발생하는 경우 해결방법 2016.05.20 688
116 Master rejected startup because clock is out of sync 오류 해결방법 2016.05.03 252
115 kafka broker기동시 brokerId가 달라서 기동에 실패하는 경우 조치방법 2016.05.02 2488
114 kafka 0.9.0.1 for scala 2.1.1 설치및 테스트 2016.05.02 1048
113 Spark 2.1.1 clustering(5대) 설치(YARN기반) 2016.04.22 2217
112 Hadoop 완벽 가이드 정리된 링크 2016.04.19 957
111 bin/cassandra -f -R로 startup할때 NullPointerException오류가 나면 조치할 내용 2016.04.14 459
110 Cassandra 3.4(3.10) 설치/설정 (5대로 clustering) 2016.04.11 997
109 Incompatible clusterIDs오류 원인및 해결방법 2016.04.01 661
» namenode오류 복구시 사용하는 명령 2016.04.01 591
107 "java.net.NoRouteToHostException: 호스트로 갈 루트가 없음" 오류시 확인및 조치할 사항 2016.04.01 3451
106 CentOS의 서버 5대에 yarn(hadoop 2.7.2)설치하기-ResourceManager HA/HDFS HA포함, JobHistory포함 2016.03.29 1260
105 Spark Streaming으로 유실 없는 스트림 처리 인프라 구축하기 2016.03.11 496
104 CDH 5.4.4 버전에서 hive on tez (0.7.0)설치하기 2016.01.14 800
103 mongodb에서 큰데이타 sort시 오류발생에 대한 해결방법 2015.12.22 1009
위로