메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


oozie [oozie]Oozie WF수행시 단계별 ID넘버링 비교/설명

총관리자 2022.03.23 15:41 조회 수 : 445

-------- WF(명칭 : wf_work_all)작업 순서및 내용 ------------
1번. sqoop : action_id->30d9, sqoop작업
2번. shell : action_id->5673, log_process.sh
3번. wf#1 : action_id->0de8, wf_work_compute_template
    --> shell: action_id->5362,  shell script
4번. wf#2 : action_id->2229, wf_work_compute_template
    --> shell, action_id->fc71, shell script 


---------------위의 WF에서 1,2번에 대한 내용만 아래에 설명함----------------------------------
<<1번 sqoop type의 wf job 수행시 작업 진행과정>>
  1. oozie:launcher -> oozie:action 순으로 각각의 application을 생성하여 작업되며 application id도 각각 다르게 부여됨
  2-1. oozie:launcher(application_1646905237381_141158, oozie:launcher:T=sqoop:W=wf_work_all:A=sqoop-30d9:ID=0067471-220310190308179-oozie-oozi-W, type : Oozie Launcher)
              application_1646905237381_141158   ->
             appattempt_1646905237381_141158_000001 (from YARN-> Application list ->Application Details) ->
        container_e228_1646905237381_141158_01_000001 (application_id와 같은 값을 이용한 id, 1st Attempt)
  2-2. oozie:action (  application_1646905237381_141163,     oozie:action:T=sqoop:W=wf_work_all:A=sqoop-30d9:ID=0067471-220310190308179-oozie-oozi-W, type : MAPREDUCE)
              application_1646905237381_141163 ->
             appattempt_1646905237381_141163_000001 (from YARN-> Application list ->Application Details) ->
                        job_1646905237381_141163 (Hadoop Job IDs executed by Sqoop) -> 
                       task_1646905237381_141163_m_000000 (MAP task) -> 
                  attempt_1646905237381_141163_m_000000_0 (1st Attempt) ->
        container_e228_1646905237381_141163_01_000002 

<<2번 shell type의 wf job 수행시 작업 진행과정>>
  1. oozie:launcher를 띄워서 바로 shellscript를 수행하며 별도의 job_은 수행되지 않음
  2-1. oozie:launcher(application_1646905237381_141188,  oozie:launcher:T=shell:W=wf_work_all:A=shell-5673:ID=0067471-220310190308179-oozie-oozi-W, type : Oozie Launcher) 
        application_1646905237381_141188 ->
       appattempt_1646905237381_141188_000001 (from YARN-> Application list ->Application Details) ->
       container_e228_1646905237381_141188_01_000001 

이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
664 [Hue]Hue의 메타정보를 담고 있는 desktop_document테이블과 desktop_document2의 관계 2022.05.09 1204
663 Error: IO_ERROR : java.io.IOException: Error while connecting Oozie server 2022.05.02 1524
662 oozie webui접근시 id/pw를 물어보는 Windows보안 팝업창이 뜰때 확인/조치방법 2022.05.02 1874
661 [개발] 온라인 IDE - 개발 환경 구축 없어 어디서나 웹브라우저로 개발하기 2022.05.02 889
660 [bitbucket] 2022년 3월 2일 부터 git 작업시 기존에 사용하던 비빌번호를 사용할 수 없도록 변경되었다. 2022.04.30 842
659 주문히스토리 조회 2022.04.30 319
658 주문 생성 데이터 예시 2022.04.30 220
657 restaurant-controller,에서 등록 예시 2022.04.30 181
656 Could not authenticate, GSSException: No valid credentials provided (Mechanism level: Failed to find any kerberos tgt) 2022.04.28 1207
655 [oracle]10자리 timestamp값을 날짜로 변환하는 방법 2022.04.14 188
654 [hive] hive.tbls테이블의 owner컬럼값은 hadoop.security.auth_to_local에 의해서 filtering된다. 2022.04.14 662
653 collection생성혹은 collection조회시 Plugin init failure for [schema.xml] fieldType "pdate": Error loading class 'solr.IntField' 오류 조치사항 2022.04.07 719
652 hue메타 정보를 저장(oracle DB)하는 내부 테이블을 이용하여 전체 테이블목록, 전체 코디네이터 목록, 코디네이터기준 workflow구조를 추출하는 쿼리문 2022.04.01 270
651 HDFS에서 quota 설정 방법및 확인 방법 2022.03.30 1145
» [oozie]Oozie WF수행시 단계별 ID넘버링 비교/설명 2022.03.23 445
649 [application수행 로그]Failed to read the application application_123456789012_123456시 조치 방법 2022.03.21 1096
648 Hue impala에서 query결과를 HDFS 파일로 export시 AuthorizationException: User 'gooper1234' does not have privileges to access: db명.query_impala_123456 2022.03.17 960
647 [TLS]pkcs12형식의 인증서 생성및 jks형식 인증서 생성 커맨드 예시 2022.03.15 300
646 [TLS]TLS용 사설 인증서 변경 혹은 신규 지정시 No trusted certificate found 오류 발생시 확인및 조치사항 2022.03.15 1128
645 [CentOS 7.4]Hadoop NFS gateway기동시 Cannot connect to port 2049 오류 발생시 확인/조치 2022.03.02 1189
쓰기 태그
위로