메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


Cloudera CDH/CDP MapReduce2.0(YARN)기반의 CDH5 설치시 생성되는 사용자및 권한 부여

총관리자 2018.05.30 10:50 조회 수 : 415

1. CDH5설치에서 자동생성되는 사용자 계정및 계정이 사용하는 프로그램 목록

   (다음 사용자의 group은 hadoop임)

 가. 사용자 hdfs : HDFS(NameNode, DataNodes, Standby NameNode(HA를 구성하는 경우))

 나. 사용자 yarn : YARN(ResourceManager, NodeManager)

 다. 사용자 mapred : YARN(MapReduce Job History Server)


2. HDFS및 MapReduce가 사용하는 폴더의 권한 (Local파일 시스템)

 가. dfs.namenode.name.dir : hdfs:hdfs, drwx------

 나. dfs.datanode.data.dir : hdfs:hdfs, drwx------

 다. yarn.nodemanager.local-dirs : yarn:yarn, drwxr-xr-x

 라. yarn.nodemanager.log-dirs : yarn:yarn, drwxr-xr-x

 마. container-executor : root:yarn --Sr-s---

 바. conf/container-executor.cfg : root:yarn, r--------


3. HDFS, YARN, MapReduce log디렉토리 권한 (Local파일 시스템)

   (예, /var/log/hadoop-hdfs, /var/loghadoop-yarn, /var/log/hadoop-mapreduce)

 가. HDFS_LOG_DIR : hdfs:hdfs, drwxrwxr-x

 나. $YARN_LOG_DIR : yarn:yarn, drwxrwxr-x

 다. MAPRED_LOG_DIR : mapred:mapred, drwxrwxr-x


4. HDFS상의 디렉토리 권한(HDFS)

 가. /(root directory) : hdfs:hadoop, drwxr-xr-x

 나. yarn.nodemanager.remote-app-log-dir : yarn:hadoop, drwxrwxrwxt

 다. mapreduce.jobhistory.intermediate-done-dir : mapred:hadoop, drwxrwxrwxt

 라. mapreduce.jobhistory.done-dir : mapred:hadoop, drwxr-x---


5. HDFS디렉토리의 권한 변경방법(HDFS)

$ sudo -u hdfs hdfs dfs -chown hdfs:hadoop /

$ sudo -u hdfs hdfs dfs -chmod 755 /

$ sudo -u hdfs hdfs dfs -chown yarn:hadoop [yarn.nodemanager.remote-app-log-dir]

$ sudo -u hdfs hdfs dfs -chmod 1777 [yarn.nodemanager.remote-app-log-dir]

$ sudo -u hdfs hdfs dfs -chown mapred:hadoop [mapreduce.jobhistory.intermediate-done-dir]

$ sudo -u hdfs hdfs dfs -chmod 1777 [mapreduce.jobhistory.intermediate-done-dir]

$ sudo -u hdfs hdfs dfs -chown mapred:hadoop [mapreduce.jobhistory.done-dir]

$ sudo -u hdfs hdfs  dfs -chmod 750 [mapreduce.jobhistory.done-dir]


6. /tmp및 /user/history디렉토리 생성및 권한 부여(Local)

$ sudo -u hdfs hadoop fs -mkdir /tmp

$ sudo -u hdfs hadoop fs -chmod -R 1777 /tmp


$ sudo -u hdfs hadoop fs -mkdir -p /user/history

$ sudo -u hdfs hadoop fs -chmod -R 1777 /user/history

$ sudo -u hdfs hadoop fs -chown mapred:hadoop /user/history


이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
280 spark 2.3.0을 설치하가 위해서 parcel에 다음 url을 입력한다. 2018.07.15 315
279 sentry설정후 beeline으로 hive2server에 접속하여 admin계정에 admin권한 부여하기 2018.07.03 486
278 upsert구현방법(년-월-일 파티션을 기준으로) 및 테스트 script file 2018.07.03 1604
277 resouce manager에 dr.who가 아닌 다른 사용자로 로그인 하기 2018.06.28 1487
276 CDH에서 Sentry 개념및 설정 file 2018.06.21 581
275 cloudera에서 spark-shell를 실행했을때 default master는 spark.master=yarn-client임 2018.06.20 426
274 dr.who로 공격들어오는 경우 조치방법 file 2018.06.09 5712
273 spark-shell을 실행하면 "Attempted to request executors before the AM has registered!"라는 오류가 발생하면 2018.06.08 698
272 SCM서비스를 추가하는 동안 Unexpected error. Unable to verify database connection. 오류발생시 확인 사항 2018.06.08 405
271 Cloudera Manager에서 "Mismatched CDH versions: host has NONE but role expects 5 Suppress..."와 같이 오류 발생시 확인사항 2018.06.06 442
270 JAVA_HOME을 명시적으로 지정하는 방법 2018.06.04 325
269 spark 시동중 applicationHistory 로그 디렉토리가 없다고 하면서 기동되지 않는 경우 2018.06.01 435
268 impala2를 Cloudera Manager가 아닌 수동으로 설치하는 방법 2018.05.30 468
» MapReduce2.0(YARN)기반의 CDH5 설치시 생성되는 사용자및 권한 부여 2018.05.30 415
266 HUE를 사용할 사용자를 추가 하는 절차 2018.05.29 418
265 JobHistory 서버 기동시 HDFS상에 특정 폴더를 생성할 수 없어서 기동하지 못하는 경우 조치 2018.05.29 2966
264 DataNode를 기동할때 "Block pool ID needed, but service not yet registered with NN" 오류 발생에 따른 조치사항 2018.05.28 1146
263 Cloudera Manager설치및 Uninstall 방법(순서) 2018.05.28 1730
262 Cloudera Manager재설치하는 동안 "Host is in bad health"오류가 발생하는 경우 확인/조치 사항 2018.05.24 417
261 "You are running Cloudera Manager in non-production mode.." warning메세지가 나타나지 않게 조치하는 방법 2018.05.23 429
쓰기 태그
위로