메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


jps로 확인하면 nodemanager가 떠 있는데 yarn-daemon.sh stop nodemanager하거나 stop-all.sh하면 "no nodemanager to stop"라면서

stop되지 않는 문제가 발생하여 kill 하고 yarn-daemon.sh start nodemanager할 수 있는데 아래와 같이 하면 오류없이 작동된다.


---오류내용--------

>yarn-daemon.sh start nodemnager

starting nodemnager, logging to /data/logs/yarn-hadoop-nodemnager-node2.out

Error: Could not find or load main class nodemnager


---조치사항---

yarn-site.xml에서 

   <property>

      <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>

      <value>org.apache.hadoop.mapred.ShuffleHandler</value>

   </property>

을 아래와 같이 수정해준다.

   <property>

      <name>yarn.nodemanager.aux-services.mapreduce_shuffle.class</name>

      <value>org.apache.hadoop.mapred.ShuffleHandler</value>

   </property>


*대부분의 사이트에는 "mapreduce.shuffle"으로 표시되어 있는데..
이렇게 해도 start는 되지만 나중에 해당 데몬에 대한 변경을 할때 제대로 작동하지 않는 문제가 발생한다.
즉 설정할때 "mapreduce_shuffle"로 해야 문제가 발생하지 않는다.
번호 제목 날짜 조회 수
141 hadoop cluster구성된 노드를 확인시 Capacity를 보면 색이 붉은색으로 표시되어 있는 경우나 Unhealthy인 경우 처리방법 2017.08.30 233
140 컴퓨터 무한 재부팅 원인및 조치방법 file 2017.12.05 232
139 [CDP7.1.7]impala-shell수행시 간헐적으로 "-k requires a valid kerberos ticket but no valid kerberos ticket found." 오류 2023.11.16 230
138 [Kudu]Schema별 혹은 테이블별 사용량(Replica포함) 구하는 방법 2022.07.14 227
137 ./spark-sql 실행시 "java.lang.NumberFormatException: For input string: "1s"오류발생시 조치사항 2016.06.09 226
136 대표 오픈소스 라이선스, 한 눈에 보기! 2015.12.10 225
135 protege 4.3 다운로드 2015.12.09 225
134 LUBM 데이타 생성구문 2017.07.24 221
133 How-to: Tune Your Apache Spark Jobs (Part 2) file 2016.10.31 221
132 failed to read local state, exiting...오류발생시 조치사항 2016.04.06 221
131 ./hadoop-daemon.sh start namenode로 namenode기동시 EditLog의 custerId, namespaceId가 달라서 발생하는 오류 해결방법 2016.09.24 220
130 여러가지 방법으로 특정 jar파일을 exclude하지 못하는 경우 해당 jar파일을 제외시키는 방법 2016.08.11 220
129 Toree 0.1.0-incubating이 Scala 2.10.4까지만 지원하게 되어서 발생하는 NoSuchMethod오류 문제 해결방법(scala 2.11.x을 지원하지만 오류가 발생할 수 있음) 2018.04.20 219
128 --master yarn 옵션으로 spark client프로그램 실행할때 메모리 부족 오류발생시 조치방법 2016.05.27 218
127 kudu rebalance수행 command예시 2022.01.17 217
126 LUBM 개수별 hadoop HDFS data사이즈 정리 2017.04.06 214
125 S2RDF모듈의 실행부분만 추출하여 별도록 실행하는 방법(draft) 2016.06.14 212
124 [TLS]pkcs12형식의 인증서 생성및 jks형식 인증서 생성 커맨드 예시 2022.03.15 210
123 service name방식의 oracle을 메타정보 저장소로 사용할때 Hue Configuration설정하는 방법 2022.02.12 210
122 JavaStreamingContext를 이용하여 스트림으로 들어오는 문자열 카운트 소스 2017.03.30 210
위로