메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


impala [Impala 3.2버젼]compute incremental stats db명.테이블명 수행시 ERROR: AnalysisException: Incremental stats size estimate exceeds 2000.00MB. 오류 발생원인및 조치방안

gooper 2022.11.30 16:50 조회 수 : 879

compute incremental stats db명.테이블명 수행시 밞생하는 오류 "ERROR: AnalysisException: Incremental stats size estimate exceeds 2000.00MB."는

inc_stats_size_limit_bytes(default 200Mb)를 초과하여 발생하는 오류입니다. 

inc_stats_size_limit_bytes는 table metadata를 update하다가 out of memory가 발생하는 것을 방지하기 위한 값입니다. 

아래의 계산식으로 현재 값을 계산할 수 있습니다. 

(예, 파티션개수 :1795, 컬럼수 : 588인경우 약 201.3MB가 산출됨)

값을 변경 적용하기 전에 우선 고려할 수 있는 방안은 다음과 같습니다.


1. compute stats방식으로 통계정보 생성

2. 파티션을 줄이기 줄이기(예, 일단위->월단위)

3. 데이터를 삭제하여 물리적인 파티션의 개수를 줄임.

4. table을 여러개로 나누어 테이블당 파티션 개수를 줄임.


*참고 

1. 기본 계산식 : 200 bytes * 컬럼수 * 피티션수

2. inc_stats_size_limit_byte값을 변경하면 heap usage에 spike가 발생되어 impala가 crash될 수 있음

3. inc_stats_size_limit_byte변경하려면 impala catalogd및 impalad를 같이 변경해줘야 합니다. 


이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
701 protege 설명및 사용법 file 2017.04.04 3019
700 이클립스에서 생성한 jar 파일 hadoop 으로 실행하기 file 2013.03.06 3015
699 JobHistory 서버 기동시 HDFS상에 특정 폴더를 생성할 수 없어서 기동하지 못하는 경우 조치 2018.05.29 2966
698 org.apache.hadoop.security.AccessControlException: Permission denied: user=hadoop, access=WRITE, inode="":root:supergroup:rwxr-xr-x 오류 처리방법 2014.07.05 2929
697 org.apache.hadoop.hbase.PleaseHoldException: Master is initializing 2013.03.15 2876
696 spark-sql실행시 Caused by: java.lang.NumberFormatException: For input string: "0s" 오류발생시 조치사항 2016.06.09 2867
695 mysql-server 기동시 Do you already have another mysqld server running on port 오류 발생할때 확인및 조치방법 2017.05.14 2853
694 banana pi에(lubuntu)에 hadoop설치하고 테스트하기 - 성공 file 2014.07.05 2819
693 HBase 설치하기 – Pseudo-distributed file 2013.03.12 2819
692 Hive+mysql 설치 및 환경구축하기 file 2013.03.07 2799
691 HBase, BigTable, Cassandra Schema Design file 2013.03.15 2694
690 hadoop 설치(3대) file 2013.03.07 2688
689 jupyter, zeppelin, rstudio를 이용하여 spark cluster에 job를 실행시키기 위한 정보 2018.04.13 2643
688 hbase shell에서 컬럼값 검색하기(SingleColumnValueFilter이용) 2014.04.25 2602
687 Cacti로 Hadoop 모니터링 하기 file 2013.03.12 2504
686 hadoop설치시 오류 2013.12.18 2498
685 banana pi에 hive 0.13.1+mysql(metastore)설치 file 2014.09.09 2492
684 AIX 7.1에 MariaDB 10.2 소스 설치 2016.09.24 2489
683 메이븐 (maven) 설치 및 이클립스 연동하기 file 2013.03.06 2489
682 kafka broker기동시 brokerId가 달라서 기동에 실패하는 경우 조치방법 2016.05.02 2419
쓰기 태그
위로