메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


0. 아래와 같이 설정한다는 가정하에 작업을 진행한다.(ZK는 hbase가 관리하지 않도록 설정)

   master에 HMaster

   node1에 backup HMaster1, RegionServer

   node2에 backup HMaster2, RegionServer

   node3에 RegionServer

   node4에 RegionServer


1. hbase 0.98.12를 다운로드및 설치위치에 업로드

   http://www.eu.apache.org/dist/hbase/


2. 압축을 푼다.

   tar xvfz hbase-0.98.12-hadoop2-bin.tar.gz


3. soft link를 생성한다.

   ln -s hbase-0.98.12-hadoop2 hbase


3-1. 환경변수 설정(vi /etc/profile) 

   export HBASE_HOME=/usr/local/hbase 과

   export PATH=$PATH:$HBASE_HOME을 등록해준다.


4. hbase-env.sh 설정

  : JAVA_HOME과 HBASE_CLASSPATH의 commnet를 제거하고 

   아래와 같이 jdk가 설치된 경로와 hadoop이 설정파일의 위치를 지정해준다(hadoop변경사항을 hbase가 알기 위한 설정)

   zookeeper는 hbase가 관리하지 않게 설정한다.


  vi conf/hbase-env.sh

  export JAVA_HOME=/opt/jdk1.8.0_66

  export HBASE_CLASSPATH=$HADOOP_CONF_DIR

  export HBASE_MANAGES_ZK=false

  export HBASE_SSH_OPTS="-p 22"


* export JAVA_HOME=$JAVA_HOME로 설정하면 안되네??


5.conf/hbase-site.xml내용 수정

- zookeeper의 위치와 hbase의 data가 저장될 위치를 지정한다.


<configuration>

<!-- HDFS가 HA가 아닌경우 -->

<!--

  <property>

    <name>hbase.rootdir</name>

    <value>hdfs://master:9000/hbase</value>

  </property>

-->


<!-- HDFS가 HA로 구성된경우 -->

  <property>

    <name>hbase.rootdir</name>

    <value>hdfs://mycluster/hbase</value>

  </property>

<!-- mycluster는 hdfs-site.xml의 dfs.nameservices에 지정한 값을 사용한다 -->


  <property>

    <name>hbase.cluster.distributed</name>

    <value>true</value>

  </property>

  <property>

    <name>hbase.zookeeper.quorum</name>

    <value>master:2181,node1:2181,node2:2181</value>

  </property>

</configuration>


5-1. 로그 경로 변경

vi /usr/local/hbase/conf/hbase-env.sh

# Where log files are stored.  $HBASE_HOME/logs by default.

# export HBASE_LOG_DIR=${HBASE_HOME}/logs의 주석을 풀고 아래와 같이 변경함

 export HBASE_LOG_DIR=/logs/hbase/logs


6. regionserver가 될 node를 지정한

vi conf/regionservers

node1

node2

node3

node4


7. HMaster의 백업용으로 사용할 backup서버를 지정한다.(파일이 없으면 생성해준다)

vi conf/backup-masters

node1

node2


8. 각서버에 hbase전체를 복사후 링크를 생성한다.

가. 복사

  scp -r -P 22 hbase-0.98.12-hadoop2 root@node1:$HOME

  scp -r -P 22 hbase-0.98.12-hadoop2 root@node2:$HOME

  scp -r -P 22 hbase-0.98.12-hadoop2 root@node3:$HOME

  scp -r -P 22 hbase-0.98.12-hadoop2 root@node4:$HOME

나. 링크생성

  ln -s hbase-0.98.12-hadoop2 hbase


9. hadoop환경설정 정보를 hbase가 사용할 수 있게 설정(hbase가 설치된 모든 서버에서 실행)

* hadoop의 변경사항을 hbase가 알 수 있게 하는 방법은 2가지가 더 있다.

 가. hbase설치 위치의 conf폴더 밑에 hdfs-site.xml, core-site.xml, yarn-site.xml등 3개의 파일에 대한 symbolic links를

  생성한다.(hbase가 설치된곳의 conf폴더 밑에서 "ln -s $HADOOP_HOME/etc/hadoop/hdfs-site.xml hdfs-site.xml"등을 실행함)

  (

   root@master:~/hbase/conf# ln -s $HADOOP_HOME/etc/hadoop/hdfs-site.xml hdfs-site.xml 

   root@master:~/hbase/conf# ln -s $HADOOP_HOME/etc/hadoop/core-site.xml core-site.xml

   root@master:~/hbase/conf# ln -s $HADOOP_HOME/etc/hadoop/yarn-site.xml yarn-site.xml

)

 나. 몇개 안되는 설정값(예, dfs.replication.factor)은 hbase-site.xml에 설정값을 직접넣는다.


10. master서버에서 start시켜줌(master에서 기동시키면 나머지 데몬은 hbase가 자동으로 올려준댜)

root@master:bin# start-hbase.sh

starting master, logging to /usr/local/hbase/logs/hbase-root-master-master.out

node3: starting regionserver, logging to /usr/local/hbase/bin/../logs/hbase-root-regionserver-node3.out

node4: starting regionserver, logging to /usr/local/hbase/bin/../logs/hbase-root-regionserver-node4.out

node1: starting regionserver, logging to /usr/local/hbase/bin/../logs/hbase-root-regionserver-node1.out

node2: starting regionserver, logging to /usr/local/hbase/bin/../logs/hbase-root-regionserver-node2.out

node1: starting master, logging to /usr/local/hbase/bin/../logs/hbase-root-master-node1.out

node2: starting master, logging to /usr/local/hbase/bin/../logs/hbase-root-master-node2.out


* stop-hbase.sh은 HMaster데몬이 떠있는 곳에서 실행해야함

(stopping hbase: /tmp/hbase-hadoop-master.pid: No such file or directory 오류발생)


* regionserver를 수동으로 기동하는 방법

./bin/hbase-daemon.sh start regionserver


11. 모니터링

* hbase 0.98.x이하인 경우

HMaster Info Web UI : http://192.168.10.100:60010

Region Server : http://192.168.10.100:60030


* hbase 0.98.x이상의 버젼에서는 포트가 아래와 같이 변경됨

HMaster Info Web UI : http://192.168.10.100:16010

Region Server : http://192.168.10.100:16030


* start-hbase.sh에서 regionserver가 기동하지 못하고 "org.apache.hadoop.hbase.ClockOutOfSyncException: org.apache.hadoop.hbase.ClockOutOfSyncException"오류가 발생하면 master와 regionserver에서 "rdate -s time.bora.net" 혹은 "ntpdate time.bora.net"를 실행하여 시간을 맞추고 start-hbase.sh을 실행해준다.


12. hbase test
가. 실행
   bin/hbase shell

나. test 테이블생성
hbase(main):002:0> create 'test', 'cf'
0 row(s) in 1.5750 seconds
=> Hbase::Table - test

다. list
다. put 'test', 'rowkey1','cf:a', 'test_value'
라. scan 'test'
마. describe 'test'

* hbase shell을 이용한 간단한 테스트는 https://www.gooper.com/ss/index.php?mid=bigdata&category=2788&page=2&document_srl=2912 를 참조할것

번호 제목 날짜 조회 수
621 select와 group by결과 값이 없는경우의 리턴 값이 다름 file 2016.02.05 210
620 service name방식의 oracle을 메타정보 저장소로 사용할때 Hue Configuration설정하는 방법 2022.02.12 210
619 JavaStreamingContext를 이용하여 스트림으로 들어오는 문자열 카운트 소스 2017.03.30 211
618 [TLS]pkcs12형식의 인증서 생성및 jks형식 인증서 생성 커맨드 예시 2022.03.15 211
617 S2RDF모듈의 실행부분만 추출하여 별도록 실행하는 방법(draft) 2016.06.14 213
616 LUBM 개수별 hadoop HDFS data사이즈 정리 2017.04.06 214
615 kudu rebalance수행 command예시 2022.01.17 218
614 --master yarn 옵션으로 spark client프로그램 실행할때 메모리 부족 오류발생시 조치방법 2016.05.27 219
613 여러가지 방법으로 특정 jar파일을 exclude하지 못하는 경우 해당 jar파일을 제외시키는 방법 2016.08.11 220
612 ./hadoop-daemon.sh start namenode로 namenode기동시 EditLog의 custerId, namespaceId가 달라서 발생하는 오류 해결방법 2016.09.24 220
611 How-to: Tune Your Apache Spark Jobs (Part 2) file 2016.10.31 221
610 LUBM 데이타 생성구문 2017.07.24 221
609 failed to read local state, exiting...오류발생시 조치사항 2016.04.06 222
608 Toree 0.1.0-incubating이 Scala 2.10.4까지만 지원하게 되어서 발생하는 NoSuchMethod오류 문제 해결방법(scala 2.11.x을 지원하지만 오류가 발생할 수 있음) 2018.04.20 223
607 대표 오픈소스 라이선스, 한 눈에 보기! 2015.12.10 226
606 ./spark-sql 실행시 "java.lang.NumberFormatException: For input string: "1s"오류발생시 조치사항 2016.06.09 226
605 protege 4.3 다운로드 2015.12.09 227
604 [Kudu]Schema별 혹은 테이블별 사용량(Replica포함) 구하는 방법 2022.07.14 228
603 [CDP7.1.7]impala-shell수행시 간헐적으로 "-k requires a valid kerberos ticket but no valid kerberos ticket found." 오류 2023.11.16 230
602 컴퓨터 무한 재부팅 원인및 조치방법 file 2017.12.05 232
위로