메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


spark java.lang.OutOfMemoryError: unable to create new native thread오류 발생지 조치사항

총관리자 2016.10.17 14:42 조회 수 : 4159

Kafka로부터 메세지를 받는 spark기반 client프로그램을 구동시 처리할 메세지가 갑자기 증가하게 되면 OutOfMemoryError가 발생하면서 많은 수의 hs_err_pid???.log파일이 생성되며 JVM관련 명령어(예, jps)를 실행하면 "java.lang.OutOfMemoryError: unable to create new native thread"의 오류가 발생할 수 있는데 이것은 NIO관련 라이브러리가 디폴트로 0(무제한)의 DirectMemoryBuffer를 제공함으로서 모든 메모리를 소진하기 때문이다. 이럴때는 파일엑세스처리가 많이 일어나는 JVM을(예, tomcat)기동시 -XX:MaxDirectMemorySize(예, 2G(2147483648), 2*1024*1024*1024)등을 지정하여 무제한으로 사용되지 않도록 설정하고 재기동해준다.


*참고(Tomcat 메모리 CATALINA_OPTS 설정) : http://starplaying.tistory.com/446


-------------------오류내용--------------------

-bash-4.1$ jps

Error occurred during initialization of VM

java.lang.OutOfMemoryError: unable to create new native thread


------------------폴더에 오류로그 파일들도 다수 생성된다. ----------

hs_err_pid11579.log  hs_err_pid14873.log  hs_err_pid3724.log  hs_err_pid5596.log  hs_err_pid69979.log  hs_err_pid8240.log   hs_err_pid8859.log  hs_err_pid9857.log

이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
230 Journal Storage Directory /data/hadoop/journal/data/mycluster not formatted 오류시 조치사항 2016.07.29 4409
229 Oracle 12c DB의 LOB타입 컬럼이 있는 테이블을 import할 때 주의 할 사항 2022.09.14 4410
228 flume 1.5.2 설치및 테스트(source : file, sink : hdfs) in HA 2015.05.21 4413
227 Job이 끝난 log을 볼수 있도록 설정하기 2016.05.30 4415
226 python2.7.4에서 Oracle DB(11.2)를 사용하기 위한 설정(RPM을 이용하여 RHEL 7.4에 설치) 2021.11.26 4415
225 [kubernetes]우분투 Kubernetes 설치 방법 file 2019.07.24 4416
224 [CDP7.1.7]Impala Query의 Memory Spilled 양은 ScratchFileUsedBytes값을 누적해서 구할 수 있다. 2022.07.29 4420
223 .gitignore파일에 지정되지 않은 파일이 ignore되는 경우 확인방법 2016.11.22 4421
222 Scala에서 countByWindow를 이용하기(예제) 2018.03.08 4421
221 [Kerberos인증] /var/log/krb5kdc.log파일 기준으로 인증요청(AS), 티켓확인(TGS)이 진행되는 로그 기록 2022.09.21 4421
220 [CDP7.1.7]Encryption Zone내부/외부 간 데이터 이동(mv,cp)및 CTAS, INSERT SQL시 오류(can't be moved into an encryption zone, can't be moved from an encryption zone) 2023.11.14 4428
219 hive query에서 mapreduce돌리지 않고 select하는 방법 2014.05.23 4429
218 Mybatis foreach 문법정리(상황에 따른 사용법) 2015.11.10 4430
217 zookeeper 3.4.6 설치(3대) 2015.04.28 4433
216 Cloudera Manager의 Java Heap Size변경하는 방법 2022.06.27 4433
215 HBase 0.98.12(1.2.5) for hadoop2 설치-5대에 완전분산모드 (HDFS HA상테) 2015.04.29 4434
214 Spark 1.6.1 설치후 HA구성 2016.05.24 4439
213 source의 type을 spooldir로 하는 경우 해당 경로에 파일이 들어오면 파일단위로 전송함 2014.05.20 4442
212 Hadoop Clsuter에 이미 포함된 host의 hostname변경시 처리 절차 2023.03.24 4445
211 [SBT] assembly시 "[error] deduplicate: different file contents found in the following:"오류 발생시 조치사항 2016.08.04 4446
쓰기 태그
위로