메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


hive [CDP7.1.7, Hive Replication]Hive Replication진행중 "The following columns have types incompatible with the existing columns in their respective positions " 오류

gooper 2023.12.27 14:29 조회 수 : 112

CDP의 Hive Replication]Hive Replication기능을 이용하여 source의 hive db를 destination으로 복제를 수행중 이전에는 잘 수행되던것이 "The following columns have types incompatible with the existing columns in their respective positions " 오류가 발생하면서 실패하는 경우가 있다. 

이는 특정 컬럼의 type이 처음 table이 만들어지고 나서 변경이 되었고 이것이 replication과정에서 호환되지 않는 type이서 Hive에서 오류를 발생시켰기 때문이다. 

즉, 소스 클러스터에 변경 사항이 있는 경우(예를 들어 한 열의 데이터 유형이 변경된 테이블을 삭제하고 다시 생성하거나 추가 열을 추가하는 경우) 복제는 소스 클러스터와 대상 클러스터의 열 간의 비호환성을 감지하여 오류를 표시합니다.

이때는 target cluster의 Hive Configuration > Hive Service Advanced Configuration Snippet (Safety Valve) for hive-site.xml에 다음을 설정후 Hive를 restart후 실패한 Hive Replication을 재수행 하면 해결된다.

특히, Hive Replication schedule의 옵션에 "Force Overwrite"를 활성화 해도 이 오류는 발생한다.


*설정값 (CDP에서는 default가 true임)

hive.metastore.disallow.incompatible.col.type.changes=false  


이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
47 Hive Query Examples from test code (2 of 2) 2014.03.26 11464
46 insert hbase by hive ... error occured after 5 hours..HMaster가 뜨지 않는 장애에 대한 복구 방법 2014.04.29 7236
45 hive 2.0.1 설치및 mariadb로 metastore 설정 2016.06.03 5292
44 Hive 사용법 및 쿼리 샘플코드 2013.03.07 3079
43 Hive+mysql 설치 및 환경구축하기 file 2013.03.07 2797
42 banana pi에 hive 0.13.1+mysql(metastore)설치 file 2014.09.09 2485
41 Hive java connection 설정 file 2013.04.01 2168
40 java.lang.RuntimeException: org.apache.hadoop.hive.ql.metadata.HiveException: Hive Runtime Error: Unable to deserialize reduce input key from...오류해결방법 2015.06.16 1968
39 hive에서 생성된 external table에서 hbase의 table에 값 insert하기 2014.04.11 1819
38 index생성, 삭제, 활용 2014.04.25 1765
37 FAILED: IllegalStateException Variable substitution depth too large: 40 오류발생시 조치사항 2014.08.19 1595
36 upsert구현방법(년-월-일 파티션을 기준으로) 및 테스트 script file 2018.07.03 1573
35 hiverserver2기동시 connection refused가 발생하는 경우 조치방법 2014.05.22 1558
34 json 값 다루기 2014.04.17 1325
33 schema설정없이 hive를 최초에 실행했을때 발생하는 오류메세지및 처리방법 2016.09.25 1299
32 external partition table생성및 data확인 2014.04.03 1297
31 sequence한 번호 생성방법 2014.04.25 1252
30 json으로 존재하는 데이터 parsing하기 2019.03.25 1249
29 Caused by: java.net.URISyntaxException: Relative path in absolute URI: ${system:java.io.tmpdir%7D/$%7Bsystem:user.name%7D오류발생시 조치사항 2016.06.03 1246
28 json serde사용법 2014.04.17 1196
쓰기 태그
위로