메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


아래의 원인으로 hadoop application실행의 전체 실행시간이 지연되는 경우는 HDD의 용량을 확인해서 불필요한 파일을 정리하여 HDD공간을 확보(최상위 위치(/)에서 du -sh * 명령을 주면 현재 폴더별로 용량을 보여준다.)한 후 재작업하면 정상적으로 처리된다.


1. hadoop application실행시 map, reduce attempt의 일부가 kill된다.

2. attempt의 kill원인이 "TaskAttempt killed because it ran on unusable nodes sda20:41071 Container released on a *lost* node"이거나 "Container killed by the ApplicationMaster. Container killed on request. Exit code is 143 Container exited with a non-zero exit code 143 TaskAttempt killed because it ran on unusable node sda20:41071", "Reducer preempted to make room for pending map attempts"등이 표시된다.

3. jps등으로 프로세스를 확인했을때 nodemanager, datanode등은 이상없이 작동된다.

번호 제목 날짜 조회 수
381 Hue impala에서 query결과를 HDFS 파일로 export시 AuthorizationException: User 'gooper1234' does not have privileges to access: db명.query_impala_123456 2022.03.17 471
380 HiveServer2인증을 PAM을 이용하도록 설정하는 방법 2018.07.21 471
379 Scala버젼 변경 혹은 상황에 맞게 Spark소스 컴파일하기 2016.05.31 469
378 beeline으로 접근시 "User: gooper is not allowed to impersonate anonymous (state=08S01,code=0)"가 발생하면서 "No current connection"이 발생하는 경우 조치 2018.04.15 468
377 impala2를 Cloudera Manager가 아닌 수동으로 설치하는 방법 2018.05.30 466
376 2개 data를 join하고 마지막으로 code정보를 join하여 결과를 얻는 mr 프로그램 2014.06.30 466
375 RHEL 7.4에 zeppelin 0.7.4 설치 2018.07.31 465
374 python실행시 ValueError: zero length field name in format오류 해결방법 2016.05.27 465
373 Scala를 이용한 Streaming예제 2018.03.08 464
372 Exception in thread "main" java.lang.NoSuchMethodError: org.apache.hadoop.http.HttpConfig.getSchemePrefix()Ljava/lang/String; 해결->실패 2015.06.14 462
371 Class.forName을 이용한 메서드 호출 샘플소스 2016.12.21 459
370 Apache Toree설치(Jupyter에서 Scala, PySpark, SparkR, SQL을 사용할 수 있도록 하는 Kernel) 2018.04.17 457
369 linux에서 특정 포트를 사용하는 프로세스 확인하기 2017.04.26 457
368 impala테이블 쿼리시 max_row_size 관련 오류가 발생할때 조치사항 2020.02.12 455
367 DB별 JDBC 드라이버 2015.10.02 454
366 Ubuntu 16.04 LTS에서 사이트에 무료인증서를 이용하여 SSL적용 file 2017.05.23 453
365 spark notebook 0.7.0설치및 설정 2016.11.14 453
364 특정문자열이나 URI를 임의로 select 절에 지정하여 사용할때 사용하는 sparql 문장 2016.08.25 453
363 producer / consumer구현시 설정 옵션 설명 2016.10.19 452
362 Hadoop의 Datanode를 Decommission하고 나서 HBase의 regionservers파일에 해당 노드명을 지웠는데 여전히 "Dead regionser"로 표시되는 경우 처리 2018.01.25 451
위로