메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


기타 [MemoryLeak분석]다수의 MongoCleaner 쓰레드가 Sleep상태에 있으면서 Full GC가 계속 발생되는 문제 해결방법

총관리자 2017.01.11 14:50 조회 수 : 355

오류메세지에 있는것처럼 Full GC가 계속 발생하면서 메모리 해제는 이루어지지 않고 VisualVM을 이용하여 스레드를 확인하면 아래와 같이 다수의 MongoCleaner가 Sleep상태(Full GC에서 모든 쓰레드는 대시 상태가 된다.)에 있고 GC상황을 보면 Old Space가 full 상태에 있으면서 모든 처리가 대기 상태에 있는 경우가 있는데 이것은 mongodb의 커넥션혹은 cursor등을 사용후 닫지 않아서 발생하는 memory leak이라고 볼수 있다. 소스에서 커넥션 혹은 cursor가 제대로 close되었는지 확인하여 조치하여 준다.

20170111_144658.png

20170111_150127.png

20170111_151021.png



-오류 메세지

[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0743223 secs] [Times: user=0.59 sys=0.00, real=0.08 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0779379 secs] [Times: user=0.68 sys=0.01, real=0.08 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0737145 secs] [Times: user=0.63 sys=0.00, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0729195 secs] [Times: user=0.51 sys=0.00, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0822866 secs] [Times: user=0.68 sys=0.00, real=0.09 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0788580 secs] [Times: user=0.66 sys=0.00, real=0.08 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0719421 secs] [Times: user=0.58 sys=0.00, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0724458 secs] [Times: user=0.60 sys=0.00, real=0.08 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0724485 secs] [Times: user=0.60 sys=0.00, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0744425 secs] [Times: user=0.62 sys=0.00, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0751457 secs] [Times: user=0.63 sys=0.01, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0697133 secs] [Times: user=0.51 sys=0.00, real=0.06 secs]


Heap
 PSYoungGen      total 694272K, used 345080K [0x0000000780000000, 0x00000007bfb80000, 0x00000007c0000000)
  eden space 345088K, 99% used [0x0000000780000000,0x00000007950fe270,0x0000000795100000)
  from space 349184K, 0% used [0x00000007aa600000,0x00000007aa600000,0x00000007bfb00000)
  to   space 349184K, 0% used [0x0000000795100000,0x0000000795100000,0x00000007aa600000)
 ParOldGen       total 2097152K, used 2097047K [0x0000000700000000, 0x0000000780000000, 0x0000000780000000)
  object space 2097152K, 99% used [0x0000000700000000,0x000000077ffe5e78,0x0000000780000000)
 Metaspace       used 59114K, capacity 59888K, committed 60672K, reserved 1101824K
  class space    used 7017K, capacity 7233K, committed 7424K, reserved 1048576K

이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
261 이미지 관리 오픈소스 목록 2018.03.11 374
260 [AD(LADP)] CDP1.7에서 AD및 Kerberos를 연동해도 각 노드에 os account, os group은 생성되어야 하지만 SSSD서비스를 이용하면 직접 생성될 필요가 없다. 2022.06.10 373
259 SPARQL의 유형, SPARQL 만들기등에 대한 설명 2016.02.18 373
258 CentOS에서 리눅스(Linux) 포트 열기, 방화벽 설정/해제 등. 2016.03.14 371
257 [Dovecot] -ERR [SYS/PERM] Permission denied 2017.06.13 367
256 journalnode노드 기동시 "should be an absolute path"가 발생하고 기동되지 않을 경우 확인사항 2016.09.22 363
255 hbase가 기동시키는 zookeeper에서 받아드리는 ip가 IPv6로 사용되는 경우가 있는데 이를 IPv4로 강제적용하는 방법 2015.05.08 363
254 Query Status: Sender xxx.xxx.xxx.xxx timed out waiting for receiver fragment instance: 1234:cdsf, dest node: 10 의 오류 원인및 대응방안 2021.11.03 361
253 kafka 0.9.0.1버젼의 producer와 kafka버젼이 0.10.0.1인 consumer가 서로 대화하는 모습 2016.08.18 361
252 Collections.sort를 이용한 List<Map<String, String>>형태의 데이타 정렬 소스 2016.12.15 360
251 How-to: Build a Complex Event Processing App on Apache Spark and Drools file 2016.10.31 360
250 ?a는 모두 표시하면서 ?b와 비교하여 ?a=?b는 표시하고 ?a!=?b 인경우는 ""로 구성된 결과 집합을 구하는 경우 file 2016.01.29 360
249 gradle을 이용하여 jar파일 생성시 provided속성을 지정할 수 있게 설정하는 방법 2016.08.09 359
248 Runtime.getRuntime().exec(cmd) sample 소스 2015.11.19 359
247 Cloudera가 사용하는 서비스별 디렉토리 2018.03.29 358
246 특정 단계의 commit상태로 만들기(이렇게 하면 중간에 반영된 모든 commit를 history가 삭제된다) 2016.11.17 357
» [MemoryLeak분석]다수의 MongoCleaner 쓰레드가 Sleep상태에 있으면서 Full GC가 계속 발생되는 문제 해결방법 file 2017.01.11 355
244 centos에 sbt 0.13.5 설치 2016.05.30 354
243 ntp시간 맞추기 2018.09.12 350
242 Kafka의 API중 Consumer.createJavaConsumerConnector()를 이용하고 다수의 thread를 생성하여 Kafka broker의 topic에 접근하여 데이타를 가져오고 처리하는 예제 소스 2017.04.26 346
쓰기 태그
위로