메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


impala [CDP7.1.7]Impala Query의 Memory Spilled 양은 ScratchFileUsedBytes값을 누적해서 구할 수 있다.

gooper 2022.07.29 16:41 조회 수 : 320

Impala Query수행후 MEM_LIMIT를 초과하는 값에 대해서 disk에 기록해서 처리하는 Memory spilled가 작동하는데 이때 Memory Spilled값을 구하는 방법은 다음과 같다. 

Impala query수행후 query detail화면에서 보여지는 

Query Info의 Memory Spilled값은 Per Node Profiles에서 보여지는 노드별 ScratchFileUsedBytes값을 모두 더해서 구해진다. 


이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
701 protege 설명및 사용법 file 2017.04.04 3019
700 이클립스에서 생성한 jar 파일 hadoop 으로 실행하기 file 2013.03.06 3015
699 JobHistory 서버 기동시 HDFS상에 특정 폴더를 생성할 수 없어서 기동하지 못하는 경우 조치 2018.05.29 2966
698 org.apache.hadoop.security.AccessControlException: Permission denied: user=hadoop, access=WRITE, inode="":root:supergroup:rwxr-xr-x 오류 처리방법 2014.07.05 2929
697 org.apache.hadoop.hbase.PleaseHoldException: Master is initializing 2013.03.15 2876
696 spark-sql실행시 Caused by: java.lang.NumberFormatException: For input string: "0s" 오류발생시 조치사항 2016.06.09 2867
695 mysql-server 기동시 Do you already have another mysqld server running on port 오류 발생할때 확인및 조치방법 2017.05.14 2853
694 banana pi에(lubuntu)에 hadoop설치하고 테스트하기 - 성공 file 2014.07.05 2819
693 HBase 설치하기 – Pseudo-distributed file 2013.03.12 2819
692 Hive+mysql 설치 및 환경구축하기 file 2013.03.07 2799
691 HBase, BigTable, Cassandra Schema Design file 2013.03.15 2694
690 hadoop 설치(3대) file 2013.03.07 2688
689 jupyter, zeppelin, rstudio를 이용하여 spark cluster에 job를 실행시키기 위한 정보 2018.04.13 2643
688 hbase shell에서 컬럼값 검색하기(SingleColumnValueFilter이용) 2014.04.25 2602
687 Cacti로 Hadoop 모니터링 하기 file 2013.03.12 2504
686 hadoop설치시 오류 2013.12.18 2498
685 banana pi에 hive 0.13.1+mysql(metastore)설치 file 2014.09.09 2492
684 AIX 7.1에 MariaDB 10.2 소스 설치 2016.09.24 2489
683 메이븐 (maven) 설치 및 이클립스 연동하기 file 2013.03.06 2489
682 kafka broker기동시 brokerId가 달라서 기동에 실패하는 경우 조치방법 2016.05.02 2419
쓰기 태그
위로