Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.
Cloudera Manager -> Spark의 선택메뉴에서 Create History Directory 메뉴를 실행시켜주면 관련 폴더를 생성하고 다시 기동시켜주면 정상적으로 기동된다.
------------------------------오류내용---------------------------------
Caused by: java.lang.IllegalArgumentException: Log directory specified does not exist: hdfs://nameservice/user/spark/applicationHistory.
at org.apache.spark.deploy.history.FsHistoryProvider.org$apache$spark$deploy$history$FsHistoryProvider$$startPolling(FsHistoryProvider.scala:199)
at org.apache.spark.deploy.history.FsHistoryProvider.initialize(FsHistoryProvider.scala:151)
at org.apache.spark.deploy.history.FsHistoryProvider.<init>(FsHistoryProvider.scala:147)
at org.apache.spark.deploy.history.FsHistoryProvider.<init>(FsHistoryProvider.scala:74)
... 6 more