메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


아래의 원인으로 hadoop application실행의 전체 실행시간이 지연되는 경우는 HDD의 용량을 확인해서 불필요한 파일을 정리하여 HDD공간을 확보(최상위 위치(/)에서 du -sh * 명령을 주면 현재 폴더별로 용량을 보여준다.)한 후 재작업하면 정상적으로 처리된다.


1. hadoop application실행시 map, reduce attempt의 일부가 kill된다.

2. attempt의 kill원인이 "TaskAttempt killed because it ran on unusable nodes sda20:41071 Container released on a *lost* node"이거나 "Container killed by the ApplicationMaster. Container killed on request. Exit code is 143 Container exited with a non-zero exit code 143 TaskAttempt killed because it ran on unusable node sda20:41071", "Reducer preempted to make room for pending map attempts"등이 표시된다.

3. jps등으로 프로세스를 확인했을때 nodemanager, datanode등은 이상없이 작동된다.

번호 제목 날짜 조회 수
376 update를 많이 하면 heap memory가 많이 소진되고 최종적으로 OOM가 발생하는데 이에 대한 설명 2017.04.10 3774
375 LUBM 개수별 hadoop HDFS data사이즈 정리 2017.04.06 2556
» Container killed by the ApplicationMaster. Container killed on request. Exit code is 143 Container exited with a non-zero exit code 143 TaskAttempt killed because it ran on unusable node 오류시 조치방법 2017.04.06 4570
373 protege 설명및 사용법 file 2017.04.04 6448
372 streaming작업시 입력된 값에 대한 사본을 만들게 되는데 이것이 실패했을때 발생하는 경고메세지 2017.04.03 4190
371 [메모리 덤프파일 분석] 2017.03.31 2477
370 JavaStreamingContext를 이용하여 스트림으로 들어오는 문자열 카운트 소스 2017.03.30 2676
369 nc -l 7777 : 7777포트에서 입력을 받는다. 2017.03.23 3489
368 kafka-manager 1.3.3.4 설정및 실행하기 2017.03.20 5075
367 spark 2.0.0의 api를 이용하는 예제 프로그램 2017.03.15 3629
366 It is indirectly referenced from required .class files 오류 발생시 조치방법 2017.03.09 4386
365 spark2.0.0에서 hive 2.0.1 table을 읽어 출력하는 예제 소스(HiveContext, SparkSession, SQLContext) 2017.03.09 3696
364 spark에서 hive table을 읽어 출력하는 예제 소스 2017.03.09 4932
363 spark에서 hive table을 읽어 출력하는 예제 소스 2017.03.09 3890
362 [shell script]test.txt에 space로 분리된 내용을 일어들이는 예제 2017.02.21 3373
361 [shell script] 파일을 한줄씩 읽어서 파일내용으로 명령문 만들고 실행하는 shell script예제 2017.02.21 4572
360 [vi]블럭 및 문서내 복사등에 관련된 명령어 2017.02.17 4009
359 서버중 slave,worker,regionserver만 재기동해야 할때 필요한 기동스크립트및 사용방법 2017.02.03 4121
358 fuseki가 제공하는 web ui를 통해서 dataset를 remove->create할 경우 동일한 동일한 이름으로 지정했을때 fuseki-server.jar가 뜨지 않는 현상 2017.02.03 4810
357 magento2 2.1.3을 수동으로 설치하는 방법 2017.02.01 3522
위로