메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


Encryption Zone에 있는 HDFS파일을 이용하여 생성한 table에 Hue에서 hadoop계정으로 insert문을 수행시 "Failed to open HDFS file for writing hdfs://nameservice1/DATA/test_table/_impala_insert_staging/data.0.txt Error(255): Unknown error 255. Root cause: RemoteException: java.util.concurrent.ExecutionException: org.apache.hadoop.security.authorize.AuthorizationException: User:hdfs not allowed to do 'DECRYPT_EEK' ON 'testkey' at " 오류가 발생할 수 있는데 이는 hdfs가 HDFS내의 해당 파일에 접근하여 Encryption File을 생성할 수 없어서 발생한다. 

이때는 Ranger에 keyadmin으로 로그인하여 cm_kms항목의 Policy Name이 all - keyname인 정책의 User에 hdfs를 추가하고 Permissions에 Get Metadata, Generate EEK, Decrypt EEK를 지정해주면 해

결된다. 


* Hue에서 hadoop으로 로그인해서 insert문을 수행했는데도 내부적으로는 hdfs로 접근하는거 같음. 왜냐하면 "User:hdfs not allowed to do 'DECRYPT_EEK' ON 'testkey' at " 처럼 hdfs가 접근하는 User로 표시되기 때문이다. 

번호 제목 날짜 조회 수
» [Hadoop Encryption] Encryption Zone에 생성된 table에 Hue에서 insert 수행시 User:hdfs not allowed to do 'DECRYPT_EEK' ON 'testkey' 오류 2023.11.01 198
66 hadoop nfs gateway설정 (Cloudera 6.3.4, CentOS 7.4 환경에서) 2022.01.07 1383
65 missing block및 관련 파일명 찾는 명령어 2021.02.20 443
64 W/F수행후 Logs not available for 1. Aggregation may not to complete. 표시되며 로그내용이 보이지 않은 경우 2020.05.08 2412
63 A Cluster의 HDFS 디렉토리및 파일을 사용자및 권한 유지 하여 다운 받아서 B Cluster에 넣기 2020.05.06 997
62 기준일자 이전의 hdfs 데이타를 지우는 shellscript 샘플 2019.06.14 1086
61 Error: java.lang.RuntimeException: java.lang.OutOfMemoryError 오류가 발생하는 경우 2018.09.20 1029
60 physical memory used되면서 mapper가 kill되는 경우 오류 발생시 조치 2018.09.20 2042
59 resouce manager에 dr.who가 아닌 다른 사용자로 로그인 하기 2018.06.28 1730
58 hadoop 클러스터 실행 스크립트 정리 2018.03.20 1675
57 HA(Namenode, ResourceManager, Kerberos) 및 보안(Zookeeper, Hadoop) 2018.03.16 250
56 [Decommission]시 시간이 많이 걸리면서(수일) Decommission이 완료되지 않는 경우 조치 2018.01.03 6563
55 [2.7.2] distribute-exclude.sh사용할때 ssh 포트변경에 따른 오류발생시 조치사항 2018.01.02 908
54 hadoop cluster에 포함된 노드중에서 문제있는 decommission하는 방법및 절차 file 2017.12.28 1374
53 Hadoop 2.7.x에서 사용할 수 있는 파일/디렉토리 관련 util성 클래스 파일 2017.09.28 196
52 editLog의 문제로 발생하는 journalnode 기동 오류 발생시 조치사항 2017.09.14 455
51 hadoop cluster구성된 노드를 확인시 Capacity를 보면 색이 붉은색으로 표시되어 있는 경우나 Unhealthy인 경우 처리방법 2017.08.30 428
50 Windows7 64bit 환경에서 Apache Hadoop 2.7.1설치하기 2017.07.26 876
49 갑자기 DataNode가 java.io.IOException: Premature EOF from inputStream를 반복적으로 발생시키다가 java.lang.OutOfMemoryError: Java heap space를 내면서 죽는 경우 조치방법 2017.07.19 1932
48 mapreduce appliction을 실행시 "is running beyond virtual memory limits" 오류 발생시 조치사항 2017.05.04 17213
위로