메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


기타 [MemoryLeak분석]다수의 MongoCleaner 쓰레드가 Sleep상태에 있으면서 Full GC가 계속 발생되는 문제 해결방법

총관리자 2017.01.11 14:50 조회 수 : 356

오류메세지에 있는것처럼 Full GC가 계속 발생하면서 메모리 해제는 이루어지지 않고 VisualVM을 이용하여 스레드를 확인하면 아래와 같이 다수의 MongoCleaner가 Sleep상태(Full GC에서 모든 쓰레드는 대시 상태가 된다.)에 있고 GC상황을 보면 Old Space가 full 상태에 있으면서 모든 처리가 대기 상태에 있는 경우가 있는데 이것은 mongodb의 커넥션혹은 cursor등을 사용후 닫지 않아서 발생하는 memory leak이라고 볼수 있다. 소스에서 커넥션 혹은 cursor가 제대로 close되었는지 확인하여 조치하여 준다.

20170111_144658.png

20170111_150127.png

20170111_151021.png



-오류 메세지

[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0743223 secs] [Times: user=0.59 sys=0.00, real=0.08 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0779379 secs] [Times: user=0.68 sys=0.01, real=0.08 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0737145 secs] [Times: user=0.63 sys=0.00, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0729195 secs] [Times: user=0.51 sys=0.00, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0822866 secs] [Times: user=0.68 sys=0.00, real=0.09 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0788580 secs] [Times: user=0.66 sys=0.00, real=0.08 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0719421 secs] [Times: user=0.58 sys=0.00, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0724458 secs] [Times: user=0.60 sys=0.00, real=0.08 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0724485 secs] [Times: user=0.60 sys=0.00, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0744425 secs] [Times: user=0.62 sys=0.00, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0751457 secs] [Times: user=0.63 sys=0.01, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0697133 secs] [Times: user=0.51 sys=0.00, real=0.06 secs]


Heap
 PSYoungGen      total 694272K, used 345080K [0x0000000780000000, 0x00000007bfb80000, 0x00000007c0000000)
  eden space 345088K, 99% used [0x0000000780000000,0x00000007950fe270,0x0000000795100000)
  from space 349184K, 0% used [0x00000007aa600000,0x00000007aa600000,0x00000007bfb00000)
  to   space 349184K, 0% used [0x0000000795100000,0x0000000795100000,0x00000007aa600000)
 ParOldGen       total 2097152K, used 2097047K [0x0000000700000000, 0x0000000780000000, 0x0000000780000000)
  object space 2097152K, 99% used [0x0000000700000000,0x000000077ffe5e78,0x0000000780000000)
 Metaspace       used 59114K, capacity 59888K, committed 60672K, reserved 1101824K
  class space    used 7017K, capacity 7233K, committed 7424K, reserved 1048576K

이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
261 hive기동시 Caused by: java.net.URISyntaxException: Relative path in absolute URI: ${system:java.io.tmpdir%7D/$%7Bsystem:user.name%7D 오류 발생시 조치사항 2016.09.25 617
260 hive metadata(hive, impala, kudu 정보가 있음) 테이블에서 db, table, owner, location를 조회하는 쿼리 2020.02.07 622
259 Query 1234:1234 expired due to client inactivity(timeout is 5m)및 invalid query handle 2022.06.10 626
258 spark-shell실행시 "A read-only user or a user in a read-only database is not permitted to disable read-only mode on a connection."오류가 발생하는 경우 해결방법 2016.05.20 627
257 Scala에서 countByWindow를 이용하기(예제) 2018.03.08 631
256 spark-submit 실행시 "java.lang.OutOfMemoryError: Java heap space"발생시 조치사항 2018.02.01 641
255 Container killed by the ApplicationMaster. Container killed on request. Exit code is 143 Container exited with a non-zero exit code 143 TaskAttempt killed because it ran on unusable node 오류시 조치방법 2017.04.06 646
254 [Hive canary]Hive에 Metastore canary red alert및 hive log파일에 Duplicate entry '123456' for key 'NOTIFICATION_LOG_EVENT_ID'가 발생시 조치사항 2023.03.10 647
253 [Kudu]ERROR: Unable to advance iterator for node with id '2' for Kudu table 'impala::core.pm0_abdasubjct': Network error: recv error from unknown peer: Transport endpoint is not connected (error 107) 2023.03.16 647
252 Error: Could not find or load main class nodemnager 가 발생할때 해결하는 방법 2015.06.05 652
251 db를 통째로 새로운 이름의 db로 복사하는 방법/절차 2017.11.14 652
250 Error: java.lang.RuntimeException: java.lang.OutOfMemoryError 오류가 발생하는 경우 2018.09.20 654
249 kudu의 내부 table명 변경하는 방법 2022.11.10 656
248 [Atlas Server]org.apache.hadoop.hbase.security.AccessDeniedException: Insufficient permissions (user=atlas/node01.gooper.com@GOOPER.COM, scope=default:atlas_janus, params=[table=default:atlas_janus,], action-CREATE)] 2023.05.15 659
247 Kafka Offset Monitor로 kafka 상태 모니터링 하기 file 2016.11.08 663
246 [HDFS]Encryption Zone에 생성된 테이블 조회시 Failed to open HDFS file hdfs://nameservice1/tmp/zone1/sec_test_file.txt Error(255): Unknown error 255 Root cause: AuthorizationException: User:impala not allowd to do 'DECRYPT_EEK' on 'testkey' 2023.06.29 663
245 Job이 끝난 log을 볼수 있도록 설정하기 2016.05.30 664
244 동시에 많은 요청이 endpoint로 몰려서java.net.NoRouteToHostException가 발생하는 경우의 처리방법 2016.10.17 664
243 compile할때와 exclude할때 대상을 표현하는 명칭이 다르므로 주의할것 2016.08.10 669
242 초기 오류(java.lang.NoSuchMethodError)에 따른 후속 작업에서 오류(java.lang.NoClassDefFoundError)가 발생되는 상황(quartz에서 주기적으로 작업시) 2016.08.29 670
쓰기 태그
위로