메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


Hue에서 왼쪽 DB및 테이블 목록이 hive tab에서는 정상적으로 보이는데 impala tab에서는 보이지 않고 실제 query를 수행해보면 테이블의 데이터 조회는 가능한 경우가 있다.

이때 Impala의 catalogd log를 살펴보면 아래와 같은 오류가 반복적으로 발생하는데 원인은 impala catalogd가 정보를 가져올 서버(?)에 접근시 TLS 인증을 하지 못하기 때문이다. 

(Enable TLS/SSL for Impala는 disable상태, 

Enable TLS/SSL to the Hive Metastore Database, Enable TLS/SSL for HiveServer2, Enable TLS/SSL for HiveServer2 WebUI모두 disable상태,

Enable TLS/SSL for Hue는 enable상태)



또한 Hue에서 다음의 작업이 실패하는 현상이 있다(AD및 Ranager에서 정상적으로 권한이 부여된것은 확인된 상태임)

1. table create등의 DML 쿼리 수행시 궈한이 없다고 나오면서 작업이 실패한다. (예, REFRESH, QueryError: AuthorizationException: User 'hadoop' does not have privileges to execute 'INVALIDATE METADATA/REFRESH' on: testDB.testtbl1)

2. Hue에서 해당 테이블명을 주고 select 구문을 수행하면 정상적으로 조회된다. 

3. Hue의 좌측 SQL탭에서 DB의 하위 테이블 목록이 조회되지 않는다.

4. Refresh 버튼을 클릭시 정상수행된듯하나 여전히 하위 테이블 목록이 조회되지 않는다.

5. Invalidate metadata버튼을 클릭시 "Too many tables(23) to invalidate. please do a full refresh." 라는 에러가 뜨면 수행되지 않는다. 


이때는 

1. Impala->Configuration의 아래 항목에 서비스(예, catalog데몬이 실행중인 서버) 서버의 인증서를 담고 있는 파일의 위치를 등록해주면 된다. 

Impala TLS/SSL Trust Store File : /opt/cloudera/security/certs/truststore

Impala TLS/SSL Trust Store Password : changeit


2. 위의 설정으로 CDP Hue에서 url이 자동 변경되면서 Hue서비스를 restart하여 반영하라고 메세지가 나올 수 있는데 이때는 Hue->Configuration->Solr Service중 CDP_INFRA-SOLR부분을 uncheck한다. 


---impala catalogd의 오류내용---

RangerAdminRESTClient.java:151] Failed to get response, Error is not specified

RangerAdminRESTClient.java:167] Error getting policies: Received NULL response!! secureMode=true,

user=impala/node02.gooper.com@GOOPER.COM (auth:KERBEROS), serviceName=cm_hive

RangerAdminRESTClient.java:230] Failed to get response, Error is: TrustManager is not specified


번호 제목 날짜 조회 수
581 HBase 설정 최적화하기(VCNC) file 2017.07.18 248
580 딥러닝 수학/알고리즘 '한국어' 강의 2016.04.10 250
579 문자열을 숫자(integer)로 casting하기 2016.01.13 252
578 Error: IO_ERROR : java.io.IOException: Error while connecting Oozie server 2022.05.02 256
577 [jsoup]Jsoup Tutorial 2017.04.11 257
576 [메모리 덤프파일 분석] 2017.03.31 262
575 Spark Streaming으로 유실 없는 스트림 처리 인프라 구축하기 2016.03.11 263
574 format된 namenode를 다른 서버에서 다시 format했을때 오류내용 2016.09.22 263
573 hive의 메타정보 테이블을 MariaDB로 사용하는 경우 table comment나 column comment에 한글 입력시 깨지는 경우 utf8로 바꾸는 방법. 2023.03.10 263
572 DBCP Datasource(org.apache.commons.dbcp.BasicDataSource) 설정 및 속성 설명 2016.09.26 264
571 elasticsearch 1.3.0에서 rdf및 hadoop plugin설치 2016.04.06 266
570 shard3가 있는 서버에 문제가 있는 상태에서 solr query를 요청하는 경우 "no servers hosting shard: shard3" 오류가 발생하는 경우 조치사항 2018.01.04 272
569 S2RDF를 이용한 다른 버젼의 github링크 2016.12.02 274
568 RDF4J의 rdf4j-server.war가 제공하는 RESTFul API를 이용한 CRUD테스트(트랜잭션처리) 2017.08.30 274
567 spark 2.0.0의 api를 이용하는 예제 프로그램 2017.03.15 275
566 RDF storage조합에대한 test결과(4store, Jena+HBase, Hive+HBase, CumulusRDF, Couchbase) 페이지 링크 2016.05.26 276
565 kafkaWordCount.scala의 producer와 consumer 클래스를 이용하여 kafka를 이용한 word count 테스트 하기 2016.08.02 276
564 oozie WF에서 참고할만한 내용 2019.07.18 276
563 HDFS Balancer설정및 수행 2018.03.21 277
562 Lagom프레임웍에서 제공하는 HelloWorld 테스트를 수행시 [unknown-version]오류가 발생하면서 빌드가 되지 않는 경우 조치사항 2017.12.22 278
위로