메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


jps로 확인하면 nodemanager가 떠 있는데 yarn-daemon.sh stop nodemanager하거나 stop-all.sh하면 "no nodemanager to stop"라면서

stop되지 않는 문제가 발생하여 kill 하고 yarn-daemon.sh start nodemanager할 수 있는데 아래와 같이 하면 오류없이 작동된다.


---오류내용--------

>yarn-daemon.sh start nodemnager

starting nodemnager, logging to /data/logs/yarn-hadoop-nodemnager-node2.out

Error: Could not find or load main class nodemnager


---조치사항---

yarn-site.xml에서 

   <property>

      <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>

      <value>org.apache.hadoop.mapred.ShuffleHandler</value>

   </property>

을 아래와 같이 수정해준다.

   <property>

      <name>yarn.nodemanager.aux-services.mapreduce_shuffle.class</name>

      <value>org.apache.hadoop.mapred.ShuffleHandler</value>

   </property>


*대부분의 사이트에는 "mapreduce.shuffle"으로 표시되어 있는데..
이렇게 해도 start는 되지만 나중에 해당 데몬에 대한 변경을 할때 제대로 작동하지 않는 문제가 발생한다.
즉 설정할때 "mapreduce_shuffle"로 해야 문제가 발생하지 않는다.
번호 제목 날짜 조회 수
501 [Hive canary]Hive에 Metastore canary red alert및 hive log파일에 Duplicate entry '123456' for key 'NOTIFICATION_LOG_EVENT_ID'가 발생시 조치사항 2023.03.10 685
500 anaconda3 (v5.2) 설치및 머신러닝 관련 라이브러리 설치 절차 2018.07.27 684
499 spark, kafka, mariadb, jena, springframework등을 이용하여 공통모듈을 jar로 만들기 위한 build.gradle파일(참고용) 2016.08.19 682
498 [Hue]Hue의 메타정보를 담고 있는 desktop_document테이블과 desktop_document2의 관계 2022.05.09 681
497 root가 localhost에서 mysql로 접근하지 못하는 경우의 해결방법(패스워드) 2014.09.10 678
496 hadoop의 data디렉토리를 변경하는 방법 2014.08.24 677
495 compile할때와 exclude할때 대상을 표현하는 명칭이 다르므로 주의할것 2016.08.10 676
494 java.lang.ClassNotFoundException: org.apache.hadoop.util.ShutdownHookManager 오류조치사항 2015.05.20 676
493 동시에 많은 요청이 endpoint로 몰려서java.net.NoRouteToHostException가 발생하는 경우의 처리방법 2016.10.17 675
492 Job이 끝난 log을 볼수 있도록 설정하기 2016.05.30 673
491 초기 오류(java.lang.NoSuchMethodError)에 따른 후속 작업에서 오류(java.lang.NoClassDefFoundError)가 발생되는 상황(quartz에서 주기적으로 작업시) 2016.08.29 672
490 [TLS/SSL]Cloudera CDH6.3.4기준 Hue TLS설정 항목 2022.05.13 671
489 클러스터내의 전체 workflow및 coordinator현황을 사용자별로 추출하는 방법 2021.11.25 670
488 Error: java.lang.RuntimeException: java.lang.OutOfMemoryError 오류가 발생하는 경우 2018.09.20 668
487 Kafka Offset Monitor로 kafka 상태 모니터링 하기 file 2016.11.08 668
486 Container killed by the ApplicationMaster. Container killed on request. Exit code is 143 Container exited with a non-zero exit code 143 TaskAttempt killed because it ran on unusable node 오류시 조치방법 2017.04.06 667
» Error: Could not find or load main class nodemnager 가 발생할때 해결하는 방법 2015.06.05 664
484 db를 통째로 새로운 이름의 db로 복사하는 방법/절차 2017.11.14 657
483 spark-submit 실행시 "java.lang.OutOfMemoryError: Java heap space"발생시 조치사항 2018.02.01 650
482 Scala에서 countByWindow를 이용하기(예제) 2018.03.08 649
위로