메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


hive [CDP7.1.7, Hive Replication]Hive Replication진행중 "The following columns have types incompatible with the existing columns in their respective positions " 오류

gooper 2023.12.27 14:29 조회 수 : 113

CDP의 Hive Replication]Hive Replication기능을 이용하여 source의 hive db를 destination으로 복제를 수행중 이전에는 잘 수행되던것이 "The following columns have types incompatible with the existing columns in their respective positions " 오류가 발생하면서 실패하는 경우가 있다. 

이는 특정 컬럼의 type이 처음 table이 만들어지고 나서 변경이 되었고 이것이 replication과정에서 호환되지 않는 type이서 Hive에서 오류를 발생시켰기 때문이다. 

즉, 소스 클러스터에 변경 사항이 있는 경우(예를 들어 한 열의 데이터 유형이 변경된 테이블을 삭제하고 다시 생성하거나 추가 열을 추가하는 경우) 복제는 소스 클러스터와 대상 클러스터의 열 간의 비호환성을 감지하여 오류를 표시합니다.

이때는 target cluster의 Hive Configuration > Hive Service Advanced Configuration Snippet (Safety Valve) for hive-site.xml에 다음을 설정후 Hive를 restart후 실패한 Hive Replication을 재수행 하면 해결된다.

특히, Hive Replication schedule의 옵션에 "Force Overwrite"를 활성화 해도 이 오류는 발생한다.


*설정값 (CDP에서는 default가 true임)

hive.metastore.disallow.incompatible.col.type.changes=false  


이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
741 [Ranger]RangerAdminRESTClient Error gertting pplicies; Received NULL response!!, secureMode=true, user=rangerkms/node01.gooper.com@ GOOPER.COM (auth:KERBEROS), serviceName=cm_kms 2023.06.27 73
740 [vue storefrontui]외부 API통합하기 참고 문서 2022.02.09 80
739 [Encryption Zone]Encryption Zone에 생성된 table을 select할때 HDFS /tmp/zone1에 대한 권한이 없는 경우 2023.06.29 83
738 ./gradlew :composeDown 및 ./gradlew :composeUp 를 성공했을때의 메세지 2023.02.20 84
737 [EncryptionZone]User:testuser not allowed to do "DECRYPT_EEK" on 'testkey' 2023.06.29 89
736 [vi] test.nq파일에서 특정문자열(예, <>)을 찾아서 포함되는 라인을 삭제한 동일한 이름의 파일을 만드는 방법 2017.01.25 98
735 CM의 Impala->Query tab에서 FINISHED query가 보이지 않는 현상 2021.08.31 98
734 [Impala] alter table구문수행시 "WARNINGS: Impala does not have READ_WRITE access to path 'hdfs://nameservice1/DATA/Temp/DB/source/table01_ccd'" 발생시 조치 2024.04.26 98
733 restaurant-controller,에서 등록 예시 2022.04.30 99
732 주문히스토리 조회 2022.04.30 99
731 [Hue metadata]Oracle에 있는 Hue 메타정보 테이블을 이용하여 coordinator와 workflow관계 목록을 추출하는 방법 2023.08.22 99
730 [Cloudera Agent] Metadata-Plugin throttling_logger INFO (713 skipped) Unable to send data to nav server. Will try again. 2022.05.16 103
729 oozie의 sqoop action수행시 ooize:launcher의 applicationId를 이용하여 oozie:action의 applicationId및 관련 로그를 찾는 방법 2023.07.26 103
728 [CDP7.1.6,HDFS]HDFS파일을 삭제하고 Trash비움이 완료된후에도 HDFS 공간을 차지하고 있는 경우 확인/조치 방법 2023.07.17 107
727 [CDP7.1.7, Replication]Encryption Zone내 HDFS파일을 비Encryption Zone으로 HDFS Replication시 User hdfs가 아닌 hadoop으로 수행하는 방법 2024.01.15 110
726 주문 생성 데이터 예시 2022.04.30 112
725 호출 url현황 2023.02.21 112
» [CDP7.1.7, Hive Replication]Hive Replication진행중 "The following columns have types incompatible with the existing columns in their respective positions " 오류 2023.12.27 113
723 eclipse 3.1 단축키 정리파일 2017.01.02 117
722 [CDP7.1.7]Oozie job에서 ERROR: Kudu error(s) reported, first error: Timed out: Failed to write batch of 774 ops to tablet 8003f9a064bf4be5890a178439b2ba91가 발생하면서 쿼리가 실패하는 경우 2024.01.05 118
쓰기 태그
위로