메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


spark Caused by: java.lang.ClassNotFoundException: org.apache.spark.Logging 발생시 조치사항

총관리자 2017.04.19 17:28 조회 수 : 480

spark 2.0.0 환경에서 spark-streaming-kafka_2.11을 사용시 현재 최신버젼이 1.6.3인데 이 버젼에서는 logging에 org.apache.spark.Logging클래스를 사용한다.

하지만 spark 2.0.0환경에서는 해당 클래스를 사용하지 않아서 발생하는 문제이다.

이때는 아래와 같이 spark-streaming-kafka-0-8_2.11를 artifactId로 지정해주면 문제없이 spark streaming application을 실행할 수있다.


<!-- dependency>      <groupId>org.apache.spark</groupId>      <artifactId>spark-streaming-kafka_2.11</artifactId>      <version>1.6.3</version>      <scope>compile</scope>    </dependency -->


를 


 <dependency>      <groupId>org.apache.spark</groupId>      <artifactId>spark-streaming-kafka-0-8_2.11</artifactId>      <version>2.0.0</version>      <scope>compile</scope>    </dependency>

로 바꿔준다.

이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
41 Scala에서 countByWindow를 이용하기(예제) 2018.03.08 553
40 Scala를 이용한 Streaming예제 2018.03.08 355
39 scala application 샘플소스(SparkSession이용) 2018.03.07 228
38 spark-submit 실행시 "java.lang.OutOfMemoryError: Java heap space"발생시 조치사항 2018.02.01 616
37 Could not compute split, block input-0-1517397051800 not found형태의 오류가 발생시 조치방법 2018.02.01 310
36 spark stream처리할때 두개의 client프로그램이 동일한 checkpoint로 접근할때 발생하는 오류 내용 2018.01.16 1163
35 Windows7 64bit 환경에서 Apache Spark 2.2.0 설치하기 2017.07.26 525
34 Spark에서 KafkaUtils.createStream()를 이용하여 이용하여 kafka topic에 접근하여 객채로 저장된 값을 가져오고 처리하는 예제 소스 2017.04.26 386
33 Spark에서 Serializable관련 오류및 조치사항 2017.04.21 5025
» Caused by: java.lang.ClassNotFoundException: org.apache.spark.Logging 발생시 조치사항 2017.04.19 480
31 streaming작업시 입력된 값에 대한 사본을 만들게 되는데 이것이 실패했을때 발생하는 경고메세지 2017.04.03 401
30 JavaStreamingContext를 이용하여 스트림으로 들어오는 문자열 카운트 소스 2017.03.30 202
29 spark 2.0.0의 api를 이용하는 예제 프로그램 2017.03.15 266
28 It is indirectly referenced from required .class files 오류 발생시 조치방법 2017.03.09 475
27 spark2.0.0에서 hive 2.0.1 table을 읽어 출력하는 예제 소스(HiveContext, SparkSession, SQLContext) 2017.03.09 264
26 spark에서 hive table을 읽어 출력하는 예제 소스 2017.03.09 168
25 spark에서 hive table을 읽어 출력하는 예제 소스 2017.03.09 456
24 spark 2.0.0를 windows에서 실행시 로컬 파일을 읽을때 발생하는 오류 해결 방법 2017.01.12 252
23 spark notebook 0.7.0설치및 설정 2016.11.14 406
22 참고할만한 spark예제를 설명하는 사이트 2016.11.11 175
쓰기 태그
위로