메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


1. sudo -u hdfs kinit -kt /var/lib/keytab/hdfs.keytab hdfs


2. block정보 백업

  sudo -u hdfs hdfs fsck / -files -blocks -locations > nn_backup_20200205/dfs-old-fsck-1.log


3. namenode를 safemode로 전환

sudo -u hdfs hdfs dfsadmin -safemode enter


4. namespace저장

  sudo -u hdfs hdfs dfsadmin -saveNamespace


5. namenode저장소의 데이터 백업

  (dfs.namenode.name.dir 설정에 /data1/dfs/nn 형태의 namenode 데이터 저장소를 알수 있음)

  sudo cp -r /data1/dfs/nn /home/hadoop/nn_backup_20200205/data1-dfs-nn


6. safemode 해제

  sudo -u hdfs hdfs dfsadmin -safemode leave


* 복구방법

 위에 백업해둔 데이터인 /home/hadoop/nn_backup_20200205/data1-dfs-nn를 그대로 /data1/dfs/nn에 복사해주고 namenode를 재시작 해주면 됨


* fsimage를 이용한 복구방법

 가. VERSION과 fsimage파일을 원위치로 복사

    cp /home/hadoop/nn_backup-20200205/fsimage-dir/fsimage_00000000000581155082 /data1/dfs/nn/current

 나.해당 위치로 이동

  cd /data1/dfs/nn/current

 다. md5파일 생성

  sudo -u hdfs md5sum fsimage_00000000000581155082 > fsimage_00000000000581155082.md5

 라. namenode프로세스 재기동


번호 제목 날짜 조회 수
321 "bad handshake: Error([('SSL routines', 'ssl3_get_server_certificate', 'certificate verify failed')])" 오류는 CA인증을 하지 못해서 발생함 2022.05.13 431
320 cloudera서비스 중지및 기동순서 2020.02.14 430
319 [oozie] oozie shell action에서 shellscript수행결과의 2개 변수를 decision 액션에서 사용하기 2020.06.05 429
318 cloudera에서 spark-shell를 실행했을때 default master는 spark.master=yarn-client임 2018.06.20 429
317 로컬에 있는 jar파일을 지정하고 dependency로 가져오기 2016.08.19 429
316 solr명령 실행시 "Session 0x0 for server null, unexpected error, closing socket connection and attempting reconnect" 오류발생 2017.06.30 428
315 원격에 있는 git를 받은후 기존repository삭제후 새로운 리포지토리에 연결하여 소스 등록 2019.07.13 427
314 Cloudera Manager재설치하는 동안 "Host is in bad health"오류가 발생하는 경우 확인/조치 사항 2018.05.24 427
313 Cloudera가 사용하는 서비스별 포트 2018.03.29 427
312 python3.5에서 numpy버젼에 따른 문제점을 조치하는 방법및 pymysql import할때 오류 발생시 조치사항 2017.09.28 426
311 [shell script] 파일을 한줄씩 읽어서 파일내용으로 명령문 만들고 실행하는 shell script예제 2017.02.21 426
310 impala session type별 표시되는 정보로 구분하는 방법 2021.05.25 425
309 Oracle 12c DB의 LOB타입 컬럼이 있는 테이블을 import할 때 주의 할 사항 2022.09.14 424
308 null 혹은 ""를 체크하는 방법 2016.01.27 423
307 MapReduce2.0(YARN)기반의 CDH5 설치시 생성되는 사용자및 권한 부여 2018.05.30 422
306 Embedded PostgreSql설정을 외부의 MariaDB로변경하기 [1] 2018.05.22 422
305 프로세스를 확인해서 프로세스를 삭제하는 shell script예제(cryptonight) 2018.02.02 422
304 nc -l 7777 : 7777포트에서 입력을 받는다. 2017.03.23 422
303 build할때 unmappable character for encoding MS949 에러 발생시 조치사항 2016.08.03 422
302 HUE를 사용할 사용자를 추가 하는 절차 2018.05.29 420
위로