메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


YARN [application수행 로그]Failed to read the application application_123456789012_123456시 조치 방법

총관리자 2022.03.21 16:36 조회 수 : 988

1. YARN application로그는 container가 수행된 노드의 로컬 파일 경로(yarn.nodemanager.log-dirs, /var/log/hadoop-yarn/containers) 저장된다. 

2. CM->YARN->Applications->application list의 우측에 Application Details를 클릭시 "Failed to read the application application_123456789012_123456" 발생시 아래와 같은 방법으로 log파일을 직접 조회해서 볼 수 있다. 

(yarn.resourcemanager.max-completed-applications(default 10k)와 yarn.resourcemanager.state-store.max-completed-applications값을 동시에 설정하여 조절 가능하나 너무 큰 값을 설정하면 RM recovery performance 부하가 발생함, 권장값은 30k이내임)

3. 또한 yarn.log-aggregation-enable(Enalbe Log Aggregation)이 enable상태라면 로컬 파일들(stderr, stdout등)을 1개의 파일로 묶어서 HDFS(yarn.nodemanager.remote-app-log-dir/계정명/yarn.nodemanager.remote-app-log-dir-suffix,  /tmp/logs/계정/logs)에 저장(yarn.log-aggregation_retain-seconds, default : 7 days(s))하고 로컬 파일을 지우므로 HDFS의 /tmp/logs/계정/logs/application_id에 가서 직접 application수행 로그 파일을 조회할 수 도 있다.


이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
661 [개발] 온라인 IDE - 개발 환경 구축 없어 어디서나 웹브라우저로 개발하기 2022.05.02 860
660 [bitbucket] 2022년 3월 2일 부터 git 작업시 기존에 사용하던 비빌번호를 사용할 수 없도록 변경되었다. 2022.04.30 495
659 주문히스토리 조회 2022.04.30 150
658 주문 생성 데이터 예시 2022.04.30 184
657 restaurant-controller,에서 등록 예시 2022.04.30 153
656 Could not authenticate, GSSException: No valid credentials provided (Mechanism level: Failed to find any kerberos tgt) 2022.04.28 1125
655 [oracle]10자리 timestamp값을 날짜로 변환하는 방법 2022.04.14 173
654 [hive] hive.tbls테이블의 owner컬럼값은 hadoop.security.auth_to_local에 의해서 filtering된다. 2022.04.14 639
653 collection생성혹은 collection조회시 Plugin init failure for [schema.xml] fieldType "pdate": Error loading class 'solr.IntField' 오류 조치사항 2022.04.07 644
652 hue메타 정보를 저장(oracle DB)하는 내부 테이블을 이용하여 전체 테이블목록, 전체 코디네이터 목록, 코디네이터기준 workflow구조를 추출하는 쿼리문 2022.04.01 217
651 HDFS에서 quota 설정 방법및 확인 방법 2022.03.30 976
650 [oozie]Oozie WF수행시 단계별 ID넘버링 비교/설명 2022.03.23 221
» [application수행 로그]Failed to read the application application_123456789012_123456시 조치 방법 2022.03.21 988
648 Hue impala에서 query결과를 HDFS 파일로 export시 AuthorizationException: User 'gooper1234' does not have privileges to access: db명.query_impala_123456 2022.03.17 884
647 [TLS]pkcs12형식의 인증서 생성및 jks형식 인증서 생성 커맨드 예시 2022.03.15 276
646 [TLS]TLS용 사설 인증서 변경 혹은 신규 지정시 No trusted certificate found 오류 발생시 확인및 조치사항 2022.03.15 1045
645 [CentOS 7.4]Hadoop NFS gateway기동시 Cannot connect to port 2049 오류 발생시 확인/조치 2022.03.02 1115
644 Oracle RAC 구성된 DB서버에 대한 컴포넌트별 설정 방법 2022.02.12 915
643 service name방식의 oracle을 메타정보 저장소로 사용할때 Hue Configuration설정하는 방법 2022.02.12 1254
642 oracle 접속 방식에 따른 --connect 지정 방법 2022.02.11 488
쓰기 태그
위로