메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


Cloudera CDH/CDP cloudera에서 spark-shell를 실행했을때 default master는 spark.master=yarn-client임

총관리자 2018.06.20 14:22 조회 수 : 2532

cloudera에서 spark-shell를 실행했을때 default master는 spark.master=yarn-client임.
/etc/spark/conf에 있는 환경정보를 확인하면 아래와 같은 부분을 찾아볼 수 있다.
spark.master=yarn-client

그래서 아래와 같은 오류 메세지가 보인다면 standalone모드로 spark-shell를 실행하고 있다는 의미이며 이는 cloudera가 설치한 설정정보들을 읽지 않고 다른 spark프로그램(기존에 설치된 spark2.x같은)이 설정한 정보나 프로그램을 이용하고 있다고 볼수 있다.(기존 프로그램을 돌리기 위한 환경설정 정보를 확인할 필요가 있음)
Caused by: io.netty.channel.AbstractChannel$AnnotatedConnectException: Connection refused: gsda1/XXX.XXX.XXX.XXX:7077


이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
287 컬럼및 라인의 구분자를 지정하여 sqoop으로 데이타를 가져오고 hive테이블을 생성하는 명령문 2018.08.03 2593
286 sqoop으로 mariadb에 접근해서 hive 테이블로 자동으로 생성하기 2018.08.03 2670
285 Last transaction was partial에 따른 Unable to load database on disk오류 발생시 조치사항 2018.08.03 5140
284 RHEL 7.4에 zeppelin 0.7.4 설치 2018.07.31 2761
283 conda를 이용한 jupyterhub(v0.9)및 jupyter설치 (v4.4.0) 2018.07.30 2481
282 HiveServer2인증을 PAM을 이용하도록 설정하는 방법 2018.07.21 3340
281 [postgresql 9.x] PostgreSQL Replication 구축하기 2018.07.17 1723
280 spark 2.3.0을 설치하가 위해서 parcel에 다음 url을 입력한다. 2018.07.15 2101
279 sentry설정후 beeline으로 hive2server에 접속하여 admin계정에 admin권한 부여하기 2018.07.03 1974
278 upsert구현방법(년-월-일 파티션을 기준으로) 및 테스트 script file 2018.07.03 3078
277 resouce manager에 dr.who가 아닌 다른 사용자로 로그인 하기 2018.06.28 2828
276 CDH에서 Sentry 개념및 설정 file 2018.06.21 1814
» cloudera에서 spark-shell를 실행했을때 default master는 spark.master=yarn-client임 2018.06.20 2532
274 dr.who로 공격들어오는 경우 조치방법 file 2018.06.09 6505
273 spark-shell을 실행하면 "Attempted to request executors before the AM has registered!"라는 오류가 발생하면 2018.06.08 1502
272 SCM서비스를 추가하는 동안 Unexpected error. Unable to verify database connection. 오류발생시 확인 사항 2018.06.08 2274
271 Cloudera Manager에서 "Mismatched CDH versions: host has NONE but role expects 5 Suppress..."와 같이 오류 발생시 확인사항 2018.06.06 2266
270 JAVA_HOME을 명시적으로 지정하는 방법 2018.06.04 1623
269 spark 시동중 applicationHistory 로그 디렉토리가 없다고 하면서 기동되지 않는 경우 2018.06.01 2235
268 impala2를 Cloudera Manager가 아닌 수동으로 설치하는 방법 2018.05.30 2577
쓰기 태그
위로