메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


1. 소스 다운로드

 가. mkdir /tmp/spark

 나. cd /tmp/spark

 나. git clone git://github.com/apache/spark.git


2. scala 2.11용으로 만들기

  가. scala 버젼 변경

    : ./dev/change-scala-version.sh 2.11

  나. building

    : mvn -Pyarn -Phadoop-2.4 -Dscala-2.11 -DskipTests clean package


3. Hadoop2용으로 만들기

  가. scala 버젼 변경

    : ./dev/change-scala-version.sh 2.11

  나. building

    :  mvn -Pyarn -Phadoop-2.6 -Dscala-2.11 -DskipTests clean package


* 참조 : http://spark.apache.org/docs/latest/building-spark.html#building-for-scala-211

번호 제목 날짜 조회 수
221 Flume을 이용한 데이타 수집시 HBase write 성능 튜닝 file 2016.10.31 724
220 kudu table와 impala(hive) table정보가 틀어져서 테이블을 읽지 못하는 경우(Error Loading Metadata) 조치방법 2023.11.10 724
219 solr에서 한글사용시 주의점 2014.09.26 731
218 springframework를 이용한 war를 생성하는 build.gradle파일(참고용) 2016.08.19 732
217 Spark 1.6.1 설치후 HA구성 2016.05.24 734
216 Halyard - RDF4J와 Apache HBase를 이용하여 구현된 TripleStore이며 SPARQL 1.1쿼리를 지원한다. 2016.12.29 734
215 [SBT] assembly시 "[error] deduplicate: different file contents found in the following:"오류 발생시 조치사항 2016.08.04 737
214 Failed to write to server: (no server available): 2022.01.17 738
213 znode /hbase recursive하게 지우기 2015.05.06 739
212 fuseki용 config-examples.ttl 예시 내용 2017.05.17 746
211 서버 5대에 solr 5.5.0 설치하고 index data를 HDFS에 저장/search하도록 설치/설정하는 방법(SolrCloud) 2016.04.08 749
210 CentOS 7.x에 Jupyter설치 2018.04.18 754
209 sendmail전송시 421 4.3.0 collect: Cannot write ./dfv5BA2EBS010579 (bfcommit, uid=0, gid=114): No such file or directory 발생시 조치사항 2017.06.11 756
208 java.lang.OutOfMemoryError: unable to create new native thread오류 발생지 조치사항 2016.10.17 757
207 solr 인스턴스 기동후 shard에 서버가 정상적으로 할당되지 않는 경우 해결책 2016.04.29 770
206 lateral view 예제 2014.09.18 775
205 [Sentry]HDFS의 ACL을 Sentry와 연동후 테스트 2020.06.02 777
204 hue.desktop_document2의 type의 종류 2020.02.10 779
203 hortonworks에서 제공하는 메모리 설정값 계산기 사용법 file 2015.06.14 792
202 SASL configuration failed: javax.security.auth.login.LoginException: java.lang.NullPointerException 오류 해결방법 2015.04.02 804
위로