메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


impala [Impala 3.2버젼]compute incremental stats db명.테이블명 수행시 ERROR: AnalysisException: Incremental stats size estimate exceeds 2000.00MB. 오류 발생원인및 조치방안

gooper 2022.11.30 16:50 조회 수 : 879

compute incremental stats db명.테이블명 수행시 밞생하는 오류 "ERROR: AnalysisException: Incremental stats size estimate exceeds 2000.00MB."는

inc_stats_size_limit_bytes(default 200Mb)를 초과하여 발생하는 오류입니다. 

inc_stats_size_limit_bytes는 table metadata를 update하다가 out of memory가 발생하는 것을 방지하기 위한 값입니다. 

아래의 계산식으로 현재 값을 계산할 수 있습니다. 

(예, 파티션개수 :1795, 컬럼수 : 588인경우 약 201.3MB가 산출됨)

값을 변경 적용하기 전에 우선 고려할 수 있는 방안은 다음과 같습니다.


1. compute stats방식으로 통계정보 생성

2. 파티션을 줄이기 줄이기(예, 일단위->월단위)

3. 데이터를 삭제하여 물리적인 파티션의 개수를 줄임.

4. table을 여러개로 나누어 테이블당 파티션 개수를 줄임.


*참고 

1. 기본 계산식 : 200 bytes * 컬럼수 * 피티션수

2. inc_stats_size_limit_byte값을 변경하면 heap usage에 spike가 발생되어 impala가 crash될 수 있음

3. inc_stats_size_limit_byte변경하려면 impala catalogd및 impalad를 같이 변경해줘야 합니다. 


이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
701 hue메타 정보를 저장(oracle DB)하는 내부 테이블을 이용하여 전체 테이블목록, 전체 코디네이터 목록, 코디네이터기준 workflow구조를 추출하는 쿼리문 2022.04.01 137
700 [u-Auctions]목록이 1개만 나오는 문제 2017.05.29 138
699 DataSetCreator.py 실행시 파일을 찾을 수 없는 오류 2016.05.27 141
698 9대가 hbase cluster로 구성된 서버에서 테스트 data를 halyard에 적재하고 테스트 하는 방법및 절차 2017.07.21 142
697 [Oracle 11g]Kudu table의 meta정보를 담고 있는 table_params의 백업본을 이용하여 특정 컬럼값을 update하는 Oracle SQL문 2023.09.04 142
696 Hadoop Clsuter에 이미 포함된 host의 hostname변경시 처리 절차 2023.03.24 143
695 "암은 평범한 병, 심호흡만 잘해도 암세포 분열 저지” 2016.06.02 144
694 windows 혹은 mac에서 docker설치하기 위한 파일 2017.10.13 144
693 Github를 이용하는 전체 흐름 이해하기 2016.11.18 146
692 magento2 log파일 위치 2017.01.31 146
691 실시간 쿼리 변환 모니터링(팩트내 필드값의 변경사항을 실시간으로 추적함)하는 테스트 java 프로그램 file 2016.07.21 149
690 LAGOM 1.4 AND KUBERNETES ORCHESTRATION 2019.07.19 150
689 windows10 pro에서 microservice pattern책의 예제를 kubernetes에서 기동하는 방법 2022.01.30 150
688 [KTS Cluster의 Key Trustee Server]self-signed 인증서 발급및 설정 방법 2023.06.27 150
687 ServerInfo객체파일 2016.07.21 151
686 Cloudera의 CMS각 컴포넌트의 역할 2020.02.10 151
685 Master rejected startup because clock is out of sync 오류 해결방법 2016.05.03 152
684 외부 jar파일을 만들려고하는jar파일의 package로 포함하는 방법 2016.08.10 152
683 Core with name 'xx_shard4_replica1' already exists. 발생시 조치사항 2017.07.22 152
682 [CDP7.1.7]Hive Replication수행시 Target Cluster에서 Specified catalog.database.table does not exist 오류 2024.05.08 153
쓰기 태그
위로