메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


Cloudera CDH/CDP [Hive canary]Hive에 Metastore canary red alert및 hive log파일에 Duplicate entry '123456' for key 'NOTIFICATION_LOG_EVENT_ID'가 발생시 조치사항

gooper 2023.03.10 10:07 조회 수 : 637

MariaDB를 metastore DB로 사용하는 경우 msyqldump -uroot -p --all-databases > backup.sql로 전체DB를 백업했다가 "nohup mysql -uroot -p < backup.sql 2>&1 &"로 복구를 수행하면 보통 12시간 정도 시간이 걸린다.

(/etc/mysql.cnf에서 max_allowed_packet = 1000M(default 32M), bulk_insert_buffer_size = 256M, key_buffer_size = 100G(가용 메모리의 60%) 로 설정하고 복구함)


DB가 복구된후 CDP의 CM화면에 보면 Hive에 Metastore canary관련 red alert가 뜨면서 hive METASTORE의 log 파일을 보면 ERROR... Duplicate entry '123456' for key 'NOTIFICATION_LOG_EVENT_ID'가 보인다.

이때는 다음과 같이 조치해준다. 


hive.NOTIFICATION_SEQUENCE테이블의 next_event_id를 "select max(event_id)+1 from hive.NOTIFICATION_LOG"의 값으로 update시켜준다. 

이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
501 초기 오류(java.lang.NoSuchMethodError)에 따른 후속 작업에서 오류(java.lang.NoClassDefFoundError)가 발생되는 상황(quartz에서 주기적으로 작업시) 2016.08.29 669
500 compile할때와 exclude할때 대상을 표현하는 명칭이 다르므로 주의할것 2016.08.10 668
499 Impala Admission Control 설정시 쿼리가 사용하는 메모리 사용량 판단 방법 2023.05.19 667
498 Kafka Offset Monitor로 kafka 상태 모니터링 하기 file 2016.11.08 663
497 동시에 많은 요청이 endpoint로 몰려서java.net.NoRouteToHostException가 발생하는 경우의 처리방법 2016.10.17 663
496 Job이 끝난 log을 볼수 있도록 설정하기 2016.05.30 660
495 Error: Could not find or load main class nodemnager 가 발생할때 해결하는 방법 2015.06.05 652
494 db를 통째로 새로운 이름의 db로 복사하는 방법/절차 2017.11.14 651
493 [HDFS]Encryption Zone에 생성된 테이블 조회시 Failed to open HDFS file hdfs://nameservice1/tmp/zone1/sec_test_file.txt Error(255): Unknown error 255 Root cause: AuthorizationException: User:impala not allowd to do 'DECRYPT_EEK' on 'testkey' 2023.06.29 649
492 Error: java.lang.RuntimeException: java.lang.OutOfMemoryError 오류가 발생하는 경우 2018.09.20 649
491 [Kudu]ERROR: Unable to advance iterator for node with id '2' for Kudu table 'impala::core.pm0_abdasubjct': Network error: recv error from unknown peer: Transport endpoint is not connected (error 107) 2023.03.16 646
490 kudu의 내부 table명 변경하는 방법 2022.11.10 643
489 Container killed by the ApplicationMaster. Container killed on request. Exit code is 143 Container exited with a non-zero exit code 143 TaskAttempt killed because it ran on unusable node 오류시 조치방법 2017.04.06 643
488 [Atlas Server]org.apache.hadoop.hbase.security.AccessDeniedException: Insufficient permissions (user=atlas/node01.gooper.com@GOOPER.COM, scope=default:atlas_janus, params=[table=default:atlas_janus,], action-CREATE)] 2023.05.15 642
487 spark-submit 실행시 "java.lang.OutOfMemoryError: Java heap space"발생시 조치사항 2018.02.01 641
» [Hive canary]Hive에 Metastore canary red alert및 hive log파일에 Duplicate entry '123456' for key 'NOTIFICATION_LOG_EVENT_ID'가 발생시 조치사항 2023.03.10 637
485 Scala에서 countByWindow를 이용하기(예제) 2018.03.08 630
484 spark-shell실행시 "A read-only user or a user in a read-only database is not permitted to disable read-only mode on a connection."오류가 발생하는 경우 해결방법 2016.05.20 627
483 Query 1234:1234 expired due to client inactivity(timeout is 5m)및 invalid query handle 2022.06.10 622
482 hive metadata(hive, impala, kudu 정보가 있음) 테이블에서 db, table, owner, location를 조회하는 쿼리 2020.02.07 619
쓰기 태그
위로