메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


CDP에서 사용중인 Solr Data Data Directory를 변경하는 방법은 다음과 같다. 

이때 전체 서비스를 stop시키는 이유는 Solr데이터 정합성을 유지 하기 위함이기도 하며 어떤 서비스가 Solr를 사용하는지 정확하지 않아서 전체 stop시키는것이다. 

(Solr를 사용하는 것으로 예상되는 서비스는 Ranger, Atlas임, Solr Data Directory를 사용하는 서비스가 running상태라면 cp하는 과정에서 오류가 발생함)


1. Hue에서 oozie coordinator를 모두 suspend시켜준다. 

2. Cluster내 전체 서비스를 stop시켜준다.

3. Solr Server로 이용중인 노드의 OS에서 다음과 같이 데이터를 백업및 최종 목적지로 cp해준다. (예, node01, node02를 사용한 경우)

 sudo mkdir /var/log/cloudera/solr-data

 sudo chown solr:solr /var/log/cloudera/solr-data

 sudo cp -rp /var/lib/solr-infra /var/log/cloudera/solr-data

 sudo mv /var/lib/solr-infra /var/lib/solr-infra_backup

4. CM에서 

 Solr Data Directory항목 값을 /var/lib/solr-infra에서 /var/log/cloudera/solr-data/solr-infra로 변경한다. 

5. Cluster내 전체 서비스를 start한다. (이때 변경사항이 반영된다)

6. Hue에서 Oozie coordinator를 모두 resume시켜준다.

7. 서비스 확인

8. 최종 확인후 정상상태라면 sudo -rf /var/lib/solr-infra_backup로 백업 디렉토리를 삭제한다. 



번호 제목 날짜 조회 수
722 [CDP7.1.7]EncryptionZone에 table생성및 권한 테스트 2023.09.26 1546
721 [Oracle 11g]Kudu table의 meta정보를 담고 있는 table_params의 백업본을 이용하여 특정 컬럼값을 update하는 Oracle SQL문 2023.09.04 212
720 [Impala jdbc]CDP7.1.7환경에서 java프로그램을 이용하여 kerberized impala cluster에 접근하여 SQL을 수행하는 방법 2023.08.22 539
719 [Hue metadata]Oracle에 있는 Hue 메타정보 테이블을 이용하여 coordinator와 workflow관계 목록을 추출하는 방법 2023.08.22 155
718 [Hue admin]Add/Sync LDAP user, Sync LDAP users/groups 버튼 기능 설명 2023.08.09 1721
717 oozie의 sqoop action수행시 ooize:launcher의 applicationId를 이용하여 oozie:action의 applicationId및 관련 로그를 찾는 방법 2023.07.26 168
716 [CDP7.1.6,HDFS]HDFS파일을 삭제하고 Trash비움이 완료된후에도 HDFS 공간을 차지하고 있는 경우 확인/조치 방법 2023.07.17 244
715 [Encryption Zone]Encryption Zone에 생성된 table을 select할때 HDFS /tmp/zone1에 대한 권한이 없는 경우 2023.06.29 123
714 [EncryptionZone]User:testuser not allowed to do "DECRYPT_EEK" on 'testkey' 2023.06.29 128
713 [HDFS]Encryption Zone에 생성된 테이블 조회시 Failed to open HDFS file hdfs://nameservice1/tmp/zone1/sec_test_file.txt Error(255): Unknown error 255 Root cause: AuthorizationException: User:impala not allowd to do 'DECRYPT_EEK' on 'testkey' 2023.06.29 1264
712 [Hadoop Encryption] Encryption Zone 생성/설정시 User:hadoop not allowed to do 'DECRYPT_EEK' ON 'testkey' 오류 발생 조치 사항 2023.06.28 1514
711 [KTS Cluster의 Key Trustee Server]self-signed 인증서 발급및 설정 방법 2023.06.27 904
710 [Ranger]RangerAdminRESTClient Error gertting pplicies; Received NULL response!!, secureMode=true, user=rangerkms/node01.gooper.com@ GOOPER.COM (auth:KERBEROS), serviceName=cm_kms 2023.06.27 123
709 [CDP7.1.3]Ranger WebUI에서 Error! Connection refused: Please check the KMS provider URL and whether the Ranager KMS is running발생시 조치 방법 2023.06.07 342
708 [impala]insert into db명.table명 select a, b from db명.table명 쿼리 수행시 "Memory limit exceeded: Failed to allocate memory for Parquet page index"오류 조치 방법 2023.05.31 1456
707 Impala Admission Control 설정시 쿼리가 사용하는 메모리 사용량 판단 방법 2023.05.19 1114
706 [Atlas Server]org.apache.hadoop.hbase.security.AccessDeniedException: Insufficient permissions (user=atlas/node01.gooper.com@GOOPER.COM, scope=default:atlas_janus, params=[table=default:atlas_janus,], action-CREATE)] 2023.05.15 1098
» [Solr in Cloudera]Solr Data Directory변경 방법/절차 2023.04.21 1301
704 [Ranger]계정에 admin권한(grant, create등)의 권한 부여 방법 2023.04.18 1218
703 [DataNode]org.apache.hadoop.security.KerberosAuthException: failure to login: for principal: hdfs/datanode03@GOOPER.COM from keytab hdfs.keytab오류 2023.04.18 6391
위로