메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


아래의 원인으로 hadoop application실행의 전체 실행시간이 지연되는 경우는 HDD의 용량을 확인해서 불필요한 파일을 정리하여 HDD공간을 확보(최상위 위치(/)에서 du -sh * 명령을 주면 현재 폴더별로 용량을 보여준다.)한 후 재작업하면 정상적으로 처리된다.


1. hadoop application실행시 map, reduce attempt의 일부가 kill된다.

2. attempt의 kill원인이 "TaskAttempt killed because it ran on unusable nodes sda20:41071 Container released on a *lost* node"이거나 "Container killed by the ApplicationMaster. Container killed on request. Exit code is 143 Container exited with a non-zero exit code 143 TaskAttempt killed because it ran on unusable node sda20:41071", "Reducer preempted to make room for pending map attempts"등이 표시된다.

3. jps등으로 프로세스를 확인했을때 nodemanager, datanode등은 이상없이 작동된다.

번호 제목 날짜 조회 수
130 bananapi 5대(ubuntu계열 리눅스)에 yarn(hadoop 2.6.0)설치하기-ResourceManager HA/HDFS HA포함, JobHistory포함 2015.04.24 19291
129 mapreduce appliction을 실행시 "is running beyond virtual memory limits" 오류 발생시 조치사항 2017.05.04 17061
128 org.apache.hadoop.hdfs.server.common.InconsistentFSStateException: Directory /tmp/hadoop-root/dfs/name is in an inconsistent state: storage directory does not exist or is not accessible. 2013.03.11 14838
127 drop table로 삭제했으나 tablet server에는 여전히 존재하는 테이블 삭제방법 2021.07.09 7943
126 [Decommission]시 시간이 많이 걸리면서(수일) Decommission이 완료되지 않는 경우 조치 2018.01.03 6062
125 HBase shell로 작업하기 2013.03.15 5926
124 하둡 분산 파일 시스템을 기반으로 색인하고 검색하기 2013.03.15 5690
123 Hadoop Cluster 설치 (Hadoop+Zookeeper+Hbase) file 2013.03.07 4063
122 hadoop 2.6.0 기동(에코시스템 포함)및 wordcount 어플리케이션을 이용한 테스트 2015.05.05 3846
121 HBase 설치하기 – Fully-distributed 2013.03.12 3795
120 HBASE Client API : 기본 기능 정리 file 2013.04.01 3697
119 hadoop및 ecosystem에서 사용되는 명령문 정리 2014.05.28 3660
118 Hbase Shell 명령 정리 2013.04.01 3301
117 "java.net.NoRouteToHostException: 호스트로 갈 루트가 없음" 오류시 확인및 조치할 사항 2016.04.01 3223
116 이클립스에서 생성한 jar 파일 hadoop 으로 실행하기 file 2013.03.06 3016
115 org.apache.hadoop.security.AccessControlException: Permission denied: user=hadoop, access=WRITE, inode="":root:supergroup:rwxr-xr-x 오류 처리방법 2014.07.05 2929
114 org.apache.hadoop.hbase.PleaseHoldException: Master is initializing 2013.03.15 2879
113 mysql-server 기동시 Do you already have another mysqld server running on port 오류 발생할때 확인및 조치방법 2017.05.14 2854
112 HBase 설치하기 – Pseudo-distributed file 2013.03.12 2823
111 banana pi에(lubuntu)에 hadoop설치하고 테스트하기 - 성공 file 2014.07.05 2819
위로