메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


Hadoop [2.7.2] distribute-exclude.sh사용할때 ssh 포트변경에 따른 오류발생시 조치사항

총관리자 2018.01.02 17:54 조회 수 : 908

distribute-exclude.sh파일(hdfs-site.xml파일에 지정된 "dfs.hosts.exclude"값을 이용(사용법: ./sbin/distribute-exclude.sh ./etc/hadoop/nodes.exclude)하여 exclude할 노드 정보 파일을 각 네임 노드 서버에 복사하는 스크립트)에서 scp 명령을 사용하는 부분이 있는데 아래와 같이 -P옵션을 부여하여 저장하고 실행한다.


  scp "$excludeFilenameLocal" "$namenode:$excludeFilenameRemote"


을 찾아서 아래와 같이 수정/저장하고 실행시켜준다.


  scp -P 10022 "$excludeFilenameLocal" "$namenode:$excludeFilenameRemote"


*참고 : distribute-exclude.sh을 실행후 refresh-namenodes.sh을 실행시켜주어야 네임노드에 변경사항이 반영된다.

이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
67 [Hadoop Encryption] Encryption Zone에 생성된 table에 Hue에서 insert 수행시 User:hdfs not allowed to do 'DECRYPT_EEK' ON 'testkey' 오류 2023.11.01 198
66 hadoop nfs gateway설정 (Cloudera 6.3.4, CentOS 7.4 환경에서) 2022.01.07 1383
65 missing block및 관련 파일명 찾는 명령어 2021.02.20 443
64 W/F수행후 Logs not available for 1. Aggregation may not to complete. 표시되며 로그내용이 보이지 않은 경우 2020.05.08 2412
63 A Cluster의 HDFS 디렉토리및 파일을 사용자및 권한 유지 하여 다운 받아서 B Cluster에 넣기 2020.05.06 997
62 기준일자 이전의 hdfs 데이타를 지우는 shellscript 샘플 2019.06.14 1086
61 Error: java.lang.RuntimeException: java.lang.OutOfMemoryError 오류가 발생하는 경우 2018.09.20 1029
60 physical memory used되면서 mapper가 kill되는 경우 오류 발생시 조치 2018.09.20 2042
59 resouce manager에 dr.who가 아닌 다른 사용자로 로그인 하기 2018.06.28 1730
58 hadoop 클러스터 실행 스크립트 정리 2018.03.20 1675
57 HA(Namenode, ResourceManager, Kerberos) 및 보안(Zookeeper, Hadoop) 2018.03.16 250
56 [Decommission]시 시간이 많이 걸리면서(수일) Decommission이 완료되지 않는 경우 조치 2018.01.03 6563
» [2.7.2] distribute-exclude.sh사용할때 ssh 포트변경에 따른 오류발생시 조치사항 2018.01.02 908
54 hadoop cluster에 포함된 노드중에서 문제있는 decommission하는 방법및 절차 file 2017.12.28 1374
53 Hadoop 2.7.x에서 사용할 수 있는 파일/디렉토리 관련 util성 클래스 파일 2017.09.28 196
52 editLog의 문제로 발생하는 journalnode 기동 오류 발생시 조치사항 2017.09.14 455
51 hadoop cluster구성된 노드를 확인시 Capacity를 보면 색이 붉은색으로 표시되어 있는 경우나 Unhealthy인 경우 처리방법 2017.08.30 428
50 Windows7 64bit 환경에서 Apache Hadoop 2.7.1설치하기 2017.07.26 876
49 갑자기 DataNode가 java.io.IOException: Premature EOF from inputStream를 반복적으로 발생시키다가 java.lang.OutOfMemoryError: Java heap space를 내면서 죽는 경우 조치방법 2017.07.19 1932
48 mapreduce appliction을 실행시 "is running beyond virtual memory limits" 오류 발생시 조치사항 2017.05.04 17213
쓰기 태그
위로