메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


1. sudo -u hdfs kinit -kt /var/lib/keytab/hdfs.keytab hdfs


2. block정보 백업

  sudo -u hdfs hdfs fsck / -files -blocks -locations > nn_backup_20200205/dfs-old-fsck-1.log


3. namenode를 safemode로 전환

sudo -u hdfs hdfs dfsadmin -safemode enter


4. namespace저장

  sudo -u hdfs hdfs dfsadmin -saveNamespace


5. namenode저장소의 데이터 백업

  (dfs.namenode.name.dir 설정에 /data1/dfs/nn 형태의 namenode 데이터 저장소를 알수 있음)

  sudo cp -r /data1/dfs/nn /home/hadoop/nn_backup_20200205/data1-dfs-nn


6. safemode 해제

  sudo -u hdfs hdfs dfsadmin -safemode leave


* 복구방법

 위에 백업해둔 데이터인 /home/hadoop/nn_backup_20200205/data1-dfs-nn를 그대로 /data1/dfs/nn에 복사해주고 namenode를 재시작 해주면 됨


* fsimage를 이용한 복구방법

 가. VERSION과 fsimage파일을 원위치로 복사

    cp /home/hadoop/nn_backup-20200205/fsimage-dir/fsimage_00000000000581155082 /data1/dfs/nn/current

 나.해당 위치로 이동

  cd /data1/dfs/nn/current

 다. md5파일 생성

  sudo -u hdfs md5sum fsimage_00000000000581155082 > fsimage_00000000000581155082.md5

 라. namenode프로세스 재기동


번호 제목 날짜 조회 수
161 embedded-cassandra의 data 저장위치 2019.06.09 416
160 기준일자 이전의 hdfs 데이타를 지우는 shellscript 샘플 2019.06.14 591
159 원격에 있는 git를 받은후 기존repository삭제후 새로운 리포지토리에 연결하여 소스 등록 2019.07.13 423
158 [shellscript]엑셀파일에서 여러줄에 존재하는 단어를 한줄의 문자열로 합치는 방법(comma로 구분) 2019.07.15 897
157 [shellscript] 함수에 배열을 인자로 주어서 처리하는 방법 2019.07.16 403
156 oozie WF에서 참고할만한 내용 2019.07.18 276
155 LAGOM 1.4 AND KUBERNETES ORCHESTRATION 2019.07.19 149
154 [kubernetes]우분투 Kubernetes 설치 방법 file 2019.07.24 1287
153 쿠버네티스(k8s) 설치 및 클러스터 구성하기 2019.10.19 379
152 hive metadata(hive, impala, kudu 정보가 있음) 테이블에서 db, table, owner, location를 조회하는 쿼리 2020.02.07 619
151 cloudera의 hue에서 사용자가 사용한 쿼리 목록 2020.02.07 294
» Namenode Metadata백업하는 방법 2020.02.10 556
149 Cloudera의 CMS각 컴포넌트의 역할 2020.02.10 151
148 hue db에서 사용자가 가지는 정보 확인 2020.02.10 1829
147 hue.desktop_document2의 type의 종류 2020.02.10 779
146 hue.axes_accessattempt테이블 데이터 샘플 2020.02.10 337
145 impala테이블 쿼리시 max_row_size 관련 오류가 발생할때 조치사항 2020.02.12 464
144 cloudera서비스 중지및 기동순서 2020.02.14 428
143 [Kerberos]Kerberos상태의 클러스터에 JDBC로 접근할때 케이스별 오류내용 2020.02.14 972
142 impala external 테이블 생성시 컬럼과 라인 구분자를 지정하여 테이블 생성하는 예시 2020.02.20 327
위로