메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


spark Scala를 이용한 Streaming예제

총관리자 2018.03.08 09:59 조회 수 : 1907


object StreamingRequestCount {
  def main(args: Array[String]) {
    val ssc = new StreamingContext(new SparkContext(),Seconds(2))
    val mystream = ssc.socketTextStream(hostname, port)
    val userreqs = mystream.map(line => (line.split(' ')(2),1))
        .reduceByKey((x,y) => x+y)
    userreqs.print()
    ssc.start()
    ssc.awaitTermination()
  }
}


번호 제목 날짜 조회 수
246 Cloudera Manager 5.x설치시 embedded postgresql를 사용하는 경우의 관리정보 2018.04.13 1586
245 jupyter, zeppelin, rstudio를 이용하여 spark cluster에 job를 실행시키기 위한 정보 2018.04.13 5026
244 Cloudera Manager web UI의 언어를 한글에서 영문으로 변경하기 2018.04.03 2350
243 Impala daemon기동시 "Could not create temporary timezone file"오류 발생시 조치사항 2018.03.29 2047
242 각 서버에 설치되는 cloudera서비스 프로그램 목록(CDH 5.14.0의 경우) 2018.03.29 1592
241 Cloudera설치중 실패로 여러번 설치하는 과정에 "Running in non-interactive mode, and data appears to exist in Storage Directory /dfs/nn. Not formatting." 오류가 발생시 조치하는 방법 2018.03.29 1979
240 Cloudera설치중에 "Error, CM server guid updated"오류 발생시 조치방법 2018.03.29 1151
239 Cloudera가 사용하는 서비스별 포트 2018.03.29 2029
238 Cloudera가 사용하는 서비스별 디렉토리 2018.03.29 1633
237 cloudera-scm-agent 설정파일 위치및 재시작 명령문 2018.03.29 1940
236 Components of the Impala Server 2018.03.21 1761
235 HDFS Balancer설정및 수행 2018.03.21 1658
234 hadoop 클러스터 실행 스크립트 정리 2018.03.20 2937
233 HA(Namenode, ResourceManager, Kerberos) 및 보안(Zookeeper, Hadoop) 2018.03.16 1185
232 update 샘플 2018.03.12 2390
231 Scala에서 countByWindow를 이용하기(예제) 2018.03.08 1978
» Scala를 이용한 Streaming예제 2018.03.08 1907
229 scala application 샘플소스(SparkSession이용) 2018.03.07 2061
228 spark-submit 실행시 "java.lang.OutOfMemoryError: Java heap space"발생시 조치사항 2018.02.01 1847
227 Could not compute split, block input-0-1517397051800 not found형태의 오류가 발생시 조치방법 2018.02.01 1554
위로