메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


import org.apache.spark.sql.SparkSession

object AccountsByState {
  def main(args: Array[String]) {
    if (args.length < 1) {
      System.err.println("Usage: stubs.AccountByState <state-code>")
      System.exit(1)
    }

    val stateCode = args(0)
    val spark = SparkSession.builder.getOrCreate()

    val accountsDF = spark.read.table("accounts")
    val stateAccountsDF = accountsDF.where(accountsDF("state") === stateCode)
    stateAccountsDF.write.mode("overwrite").save("/loudacre/accounts_by_state/"+stateCode)

    spark.stop

  }
}

번호 제목 날짜 조회 수
242 각 서버에 설치되는 cloudera서비스 프로그램 목록(CDH 5.14.0의 경우) 2018.03.29 781
241 Cloudera설치중 실패로 여러번 설치하는 과정에 "Running in non-interactive mode, and data appears to exist in Storage Directory /dfs/nn. Not formatting." 오류가 발생시 조치하는 방법 2018.03.29 1163
240 Cloudera설치중에 "Error, CM server guid updated"오류 발생시 조치방법 2018.03.29 340
239 Cloudera가 사용하는 서비스별 포트 2018.03.29 1095
238 Cloudera가 사용하는 서비스별 디렉토리 2018.03.29 706
237 cloudera-scm-agent 설정파일 위치및 재시작 명령문 2018.03.29 996
236 Components of the Impala Server 2018.03.21 602
235 HDFS Balancer설정및 수행 2018.03.21 685
234 hadoop 클러스터 실행 스크립트 정리 2018.03.20 1681
233 HA(Namenode, ResourceManager, Kerberos) 및 보안(Zookeeper, Hadoop) 2018.03.16 253
232 update 샘플 2018.03.12 1516
231 Scala에서 countByWindow를 이용하기(예제) 2018.03.08 1034
230 Scala를 이용한 Streaming예제 2018.03.08 945
» scala application 샘플소스(SparkSession이용) 2018.03.07 1149
228 spark-submit 실행시 "java.lang.OutOfMemoryError: Java heap space"발생시 조치사항 2018.02.01 794
227 Could not compute split, block input-0-1517397051800 not found형태의 오류가 발생시 조치방법 2018.02.01 508
226 Hadoop의 Datanode를 Decommission하고 나서 HBase의 regionservers파일에 해당 노드명을 지웠는데 여전히 "Dead regionser"로 표시되는 경우 처리 2018.01.25 1033
225 spark stream처리할때 두개의 client프로그램이 동일한 checkpoint로 접근할때 발생하는 오류 내용 2018.01.16 1250
224 [Decommission]시 시간이 많이 걸리면서(수일) Decommission이 완료되지 않는 경우 조치 2018.01.03 6619
223 [2.7.2] distribute-exclude.sh사용할때 ssh 포트변경에 따른 오류발생시 조치사항 2018.01.02 953
위로