메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


1. sudo -u hdfs kinit -kt /var/lib/keytab/hdfs.keytab hdfs


2. block정보 백업

  sudo -u hdfs hdfs fsck / -files -blocks -locations > nn_backup_20200205/dfs-old-fsck-1.log


3. namenode를 safemode로 전환

sudo -u hdfs hdfs dfsadmin -safemode enter


4. namespace저장

  sudo -u hdfs hdfs dfsadmin -saveNamespace


5. namenode저장소의 데이터 백업

  (dfs.namenode.name.dir 설정에 /data1/dfs/nn 형태의 namenode 데이터 저장소를 알수 있음)

  sudo cp -r /data1/dfs/nn /home/hadoop/nn_backup_20200205/data1-dfs-nn


6. safemode 해제

  sudo -u hdfs hdfs dfsadmin -safemode leave


* 복구방법

 위에 백업해둔 데이터인 /home/hadoop/nn_backup_20200205/data1-dfs-nn를 그대로 /data1/dfs/nn에 복사해주고 namenode를 재시작 해주면 됨


* fsimage를 이용한 복구방법

 가. VERSION과 fsimage파일을 원위치로 복사

    cp /home/hadoop/nn_backup-20200205/fsimage-dir/fsimage_00000000000581155082 /data1/dfs/nn/current

 나.해당 위치로 이동

  cd /data1/dfs/nn/current

 다. md5파일 생성

  sudo -u hdfs md5sum fsimage_00000000000581155082 > fsimage_00000000000581155082.md5

 라. namenode프로세스 재기동


번호 제목 날짜 조회 수
321 클러스터내의 전체 workflow및 coordinator현황을 사용자별로 추출하는 방법 2021.11.25 534
320 여러 홈페이지를 운영하거나 혹은 서버에 가입한 사용자들에게 홈페이지 계정을 나누어 줄수 있도록 설정/계정 생성방법 2018.01.23 535
319 Cannot create /var/run/oozie/oozie.pid: Directory nonexistent오류 2014.06.03 537
318 servlet-api를 jar형태로 build할때 포함하지 말고 java 설치 위치의 jre/lib/ext에 복사하여 사용하는것이 좋다. 2016.08.10 538
317 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable원인 2015.04.27 540
316 [CDP7.1.7][Replication]Table does not match version in getMetastore(). Table view original text mismatch 2024.01.02 543
315 queryTranslator실행시 NullPointerException가 발생전에 java.lang.ArrayIndexOutOfBoundsException발생시 조치사항 2016.06.16 548
314 root계정으로 MariaDB설치후 mysql -u root -p로 db에 접근하여 바로 해줘야 하는일..(케릭터셑은 utf8) 2015.10.02 550
313 [TLS]TLS용 사설 인증서 변경 혹은 신규 지정시 No trusted certificate found 오류 발생시 확인및 조치사항 2022.03.15 550
312 TransmitData() to failed: Network error: Recv() got EOF from remote (error 108) 오류 현상 2019.02.15 551
311 DataSetCreator실행시 "Illegal character in fragment at index"오류가 나는 경우 조치방안 2016.06.17 552
310 Kudu tablet이 FAILED일때 원인 확인 방법 2022.01.17 554
309 원보드 컴퓨터 비교표 file 2014.08.04 555
308 Cloudera Hadoop and Spark Developer Certification 준비(참고) 2018.05.16 555
307 bash는 PS1 변수를 통해 프롬프트의 모양을 바꿀 수 있다. 2016.03.30 556
» Namenode Metadata백업하는 방법 2020.02.10 556
305 small file 한개 파일로 만들기(text file 혹은 parquet file의 테이블) 2022.07.04 557
304 scan의 startrow, stoprow지정하는 방법 2015.04.08 558
303 [oneM2M]Ontologies used for oneM2M 2017.08.02 560
302 [2.7.2] distribute-exclude.sh사용할때 ssh 포트변경에 따른 오류발생시 조치사항 2018.01.02 560
위로