메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


1. 소스 다운로드

 가. mkdir /tmp/spark

 나. cd /tmp/spark

 나. git clone git://github.com/apache/spark.git


2. scala 2.11용으로 만들기

  가. scala 버젼 변경

    : ./dev/change-scala-version.sh 2.11

  나. building

    : mvn -Pyarn -Phadoop-2.4 -Dscala-2.11 -DskipTests clean package


3. Hadoop2용으로 만들기

  가. scala 버젼 변경

    : ./dev/change-scala-version.sh 2.11

  나. building

    :  mvn -Pyarn -Phadoop-2.6 -Dscala-2.11 -DskipTests clean package


* 참조 : http://spark.apache.org/docs/latest/building-spark.html#building-for-scala-211

번호 제목 날짜 조회 수
381 impala테이블 쿼리시 max_row_size 관련 오류가 발생할때 조치사항 2020.02.12 464
380 Class.forName을 이용한 메서드 호출 샘플소스 2016.12.21 465
379 2개 data를 join하고 마지막으로 code정보를 join하여 결과를 얻는 mr 프로그램 2014.06.30 466
378 Apache Toree설치(Jupyter에서 Scala, PySpark, SparkR, SQL을 사용할 수 있도록 하는 Kernel) 2018.04.17 466
377 kafka에서 메세지 중복 consume이 발생할 수 있는 상황 2018.10.23 466
376 impala2를 Cloudera Manager가 아닌 수동으로 설치하는 방법 2018.05.30 468
375 halyard 1.3을 다른 서버로 이전하는 방법 2017.07.05 470
374 Hue Load Balancer를 L4로 L/B하는 경우는 L4쪽 도멘인으로 발행된 인증서를 TLS/SSL항목에 설정해주어야 한다. 2021.10.08 471
373 HiveServer2인증을 PAM을 이용하도록 설정하는 방법 2018.07.21 472
372 [Kudu] tablet server 혹은 kudu master가 어떤 원인에 의해서 replica가 failed상태인 경우 복구하는 방법 2021.05.24 473
371 console명령과 API비교 2015.12.21 475
370 Windows7 64bit 환경에서 ElasticSearch 5.6.3설치하기 2017.10.13 480
369 RHEL 7.4에 zeppelin 0.7.4 설치 2018.07.31 480
368 Permission denied: user=hadoop, access=EXECUTE, inode="/tmp":root:supergroup:drwxrwx--- 오류해결방법 2015.05.17 484
367 Hue impala에서 query결과를 HDFS 파일로 export시 AuthorizationException: User 'gooper1234' does not have privileges to access: db명.query_impala_123456 2022.03.17 484
366 VisualVM 1.3.9을 이용한 JVM 모니터링 file 2016.10.27 486
365 sentry설정후 beeline으로 hive2server에 접속하여 admin계정에 admin권한 부여하기 2018.07.03 486
364 beeline으로 접근시 "User: gooper is not allowed to impersonate anonymous (state=08S01,code=0)"가 발생하면서 "No current connection"이 발생하는 경우 조치 2018.04.15 488
363 namenode오류 복구시 사용하는 명령 2016.04.01 489
362 ontology, jena, sparql등 전반에 대한 설명및 예제를 제공하는 사이트 2015.12.08 490
위로