메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


fuseki에서 전체개수를 확인(예, count all)하고 heap memory의 사용량이 급격하게 증가하면서 heap memory를 거의 다 소진하는 상태가 되고 전체 성능이 급격하게 떨어지는 문제가 발생하여 memory분석을 해보면 아래와 같은 클래스가 대부분의 메모리를 점유하고 있다.

-------------메모리 점유 클래스--------------

org.apache.jena.tdb.transaction.NodeTableTrans

org.apache.jena.tdb.transaction.BlockMgrJournal

org.apache.jena.tdb.store.DatasetGraphTDB


원인은 정확히 모르겠고 일단은 fuseki-server 데몬을 찾아 kill한 후에 재기동 해주어야 서비스가 가능해진다.


fuseki-count-all_0.png


fuseki-count-all_1.png



번호 제목 날짜 조회 수
386 Ubuntu 16.04 LTS에 4대에 Hadoop 2.8.0설치 2017.05.01 1500
» fuseki webUI를 통해서 전체 카운트를 하면 급격하게 메모리를 소모해 버리는 문제가 있음 file 2017.04.28 1137
384 Kafka의 API중 Consumer.createJavaConsumerConnector()를 이용하고 다수의 thread를 생성하여 Kafka broker의 topic에 접근하여 데이타를 가져오고 처리하는 예제 소스 2017.04.26 931
383 Spark에서 KafkaUtils.createStream()를 이용하여 이용하여 kafka topic에 접근하여 객채로 저장된 값을 가져오고 처리하는 예제 소스 2017.04.26 808
382 Hbase API를 이용하여 scan시 페이징을 고려하여 목록을 가져올때 사용할 수 있는 로직의 예시를 보여줌 2017.04.26 1362
381 linux에서 특정 포트를 사용하는 프로세스 확인하기 2017.04.26 1250
380 Spark에서 Serializable관련 오류및 조치사항 2017.04.21 5582
379 Caused by: java.lang.ClassNotFoundException: org.apache.spark.Logging 발생시 조치사항 2017.04.19 1315
378 [Jsoup]특정페이지를 jsoup을 이용하여 파싱하는 샘플소스 2017.04.18 1240
377 [jsoup]Jsoup Tutorial 2017.04.11 699
376 update를 많이 하면 heap memory가 많이 소진되고 최종적으로 OOM가 발생하는데 이에 대한 설명 2017.04.10 1281
375 LUBM 개수별 hadoop HDFS data사이즈 정리 2017.04.06 596
374 Container killed by the ApplicationMaster. Container killed on request. Exit code is 143 Container exited with a non-zero exit code 143 TaskAttempt killed because it ran on unusable node 오류시 조치방법 2017.04.06 1435
373 protege 설명및 사용법 file 2017.04.04 3771
372 streaming작업시 입력된 값에 대한 사본을 만들게 되는데 이것이 실패했을때 발생하는 경고메세지 2017.04.03 1259
371 [메모리 덤프파일 분석] 2017.03.31 597
370 JavaStreamingContext를 이용하여 스트림으로 들어오는 문자열 카운트 소스 2017.03.30 662
369 nc -l 7777 : 7777포트에서 입력을 받는다. 2017.03.23 930
368 kafka-manager 1.3.3.4 설정및 실행하기 2017.03.20 2640
367 spark 2.0.0의 api를 이용하는 예제 프로그램 2017.03.15 677
위로