메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


1. coordinator.xml에서 아래와 같이 <datasets></datasets>을 추가해주면 <done-flag></done-flag>사이에 지정된 파일이 <uri-template></uri-template>사이의 경로에 생성되어야만 action이 실행되도록 할 수 있다.

 

-----------------------------------------------------------------coordinator.xml-------------------------------------------------------------------------------------

<coordinator-app name="${scenarioNo}-s-C" frequency="${coord:minutes(1)}" start="${startTime}" end="${endTime}"
timezone="UTC" xmlns="uri:oozie:coordinator:0.1">
    <controls>
     <concurrency>1</concurrency>
    </controls>

    <datasets>
         <dataset name="logs" frequency="${coord:minutes(1)}"
                initial-instance="${startTime}" timezone="UTC">
            <uri-template>
                ${nameNode}/data1/cas/output/s1/${YEAR}/${MONTH}/${DAY}
            </uri-template>
         <done-flag>000000_0</done-flag>
     </dataset>
    </datasets>
    <input-events>
      <data-in name="input" dataset="logs">
         <instance>${startTime2}</instance>
      </data-in>
    </input-events>

    <action>
      <workflow>
         <app-path>${nameNode}/data1/cas/scenario/${scenarioNo}/sqoop</app-path>
         <configuration>
            <property>
                <name>jobTracker</name>
                <value>${jobTracker}</value>
            </property>
            <property>
                <name>nameNode</name>
                <value>${nameNode}</value>
            </property>
            <property>
                <name>queueName</name>
                <value>${queueName}</value>
            </property>
            <property>
                <name>wfInput</name>
                <value>${coord:dataIn('input')}</value>
            </property>
            <property>
                <name>iyear</name>
                <!-- <value>${coord:formatTime(coord:nominalTime(),"yyyy")}</value> -->
                <value>${coord:formatTime(coord:actualTime(),"yyyy")}</value>
            </property>
            <property>
                <name>imonth</name>
                <!-- <value>${coord:formatTime(coord:nominalTime(),"MM")}</value> -->
                <value>${coord:formatTime(coord:actualTime(),"MM")}</value>
            </property>
            <property>
                <name>iday</name>
                <!-- <value>${coord:formatTime(coord:nominalTime(),"dd")}</value> -->
                <value>${coord:formatTime(coord:actualTime(),"dd")}</value>
            </property>
          </configuration>
      </workflow>
    </action>
</coordinator-app>

번호 제목 날짜 조회 수
72 bananapi 5대(ubuntu계열 리눅스)에 yarn(hadoop 2.6.0)설치하기-ResourceManager HA/HDFS HA포함, JobHistory포함 2015.04.24 25882
71 scan의 startrow, stoprow지정하는 방법 2015.04.08 6432
70 SASL configuration failed: javax.security.auth.login.LoginException: java.lang.NullPointerException 오류 해결방법 2015.04.02 5247
69 kafka의 re-balance를 이용하여 consumer를 multi thread로 돌려서 topic의 partitions을 활용 2015.03.31 5155
68 lateral view 예제 2014.09.18 5105
67 root가 localhost에서 mysql로 접근하지 못하는 경우의 해결방법(패스워드) 2014.09.10 7301
66 banana pi에 hive 0.13.1+mysql(metastore)설치 file 2014.09.09 6135
65 sqoop작업시 hdfs의 개수보다 더많은 값이 중복되어 oracle에 입력되는 경우가 있음 2014.09.02 8108
64 java.util.NoSuchElementException발생시 조치 2014.08.27 6059
63 hadoop의 data디렉토리를 변경하는 방법 2014.08.24 5591
62 FAILED: IllegalStateException Variable substitution depth too large: 40 오류발생시 조치사항 2014.08.19 5897
61 oozie 에서 sqoop action실행 에러 - 컬럼개수 차이 2014.07.17 4517
60 access=WRITE, inode="staging":ubuntu:supergroup:rwxr-xr-x 오류 2014.07.05 7198
59 org.apache.hadoop.security.AccessControlException: Permission denied: user=hadoop, access=WRITE, inode="":root:supergroup:rwxr-xr-x 오류 처리방법 2014.07.05 6735
58 banana pi에(lubuntu)에 hadoop설치하고 테스트하기 - 성공 file 2014.07.05 6982
57 2개 data를 join하고 마지막으로 code정보를 join하여 결과를 얻는 mr 프로그램 2014.06.30 4483
56 Cannot create /var/run/oozie/oozie.pid: Directory nonexistent오류 2014.06.03 6184
55 oozie job 구동시 JA009: User: hadoop is not allowed to impersonate hadoop 오류나는 경우 2014.06.02 4430
54 hadoop및 ecosystem에서 사용되는 명령문 정리 2014.05.28 7866
53 hive job실행시 meta정보를 원격의 mysql에 저장하는 경우 설정방법 2014.05.28 62702
위로