메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


Hadoop클러스터 환경에서 오라클및 sqoop이 이미 설치되어 있는 상태에서 oracle 테이블을 import하는 방법은 아래와 같다. 


1. query를 지정하는 경우

#!/bin/bash

export HADOOP_CLASSPATH=$HADOOP_CLASSPATH:/usr/lib/oracle/19.9/client64/lib/ojdbc8.jar

sqoop import \

--connect jdbc:oracle:thin:@gooperdb:5012:orcl \

--username gooper \ 

--password gooper_password \

--driver oracle.jdbc.driver.OracleDriver \

--query ' SELECT A, B FROM gooper.table_name where $CONDITIONS' \

--target-dir /DATA/gooper/tb_gooper \

-m 1 \

--delete-target-dir \


2. 테이블을 직접 지정하여 import하는 경우(테이블명은 대문자로 지정할것.)

sqoop export \

--connect jdbc:oracle:thin:@아이피:포트:디비스페이스 \

--username 아이디 \

--password 패스워드 \

--table TB_SAVE_TABLE \

--export-dir /user/hive/warehouse/sample.db/t_test_data \

--input-fields-terminated-by "\t" \

--input-lines-terminated-by "\n" \

--verbose \

-m 1 \

--input-null-string '\\N' \

--input-null-non-string '\\N'


번호 제목 날짜 조회 수
281 Collections.sort를 이용한 List<User>형태의 데이타 정렬(숫자, 문자에 대해서 각각 asc/desc및 복합정렬) 2016.12.15 400
280 HDFS에서 quota 설정 방법및 확인 방법 2022.03.30 399
279 sendmail + dovecot(pop3) + saslauthd 설치 2017.06.11 397
278 Cleaning up the staging area file시 'cannot access' 혹은 'Directory is not writable' 발생시 조치사항 2017.05.02 396
277 drools에서 drl관련 로그를 기록하기 위한 클래스 파일 2016.07.21 395
276 우분투 16.04 설치후 APM (Apache2, PHP, MySQL) 설치 2017.01.29 394
275 lagom의 online-auction-java프로젝트 실행시 외부의 kafka/cassandra를 사용하도록 설정하는 방법 2017.10.12 393
274 fuseki webUI를 통해서 전체 카운트를 하면 급격하게 메모리를 소모해 버리는 문제가 있음 file 2017.04.28 393
273 Spark에서 KafkaUtils.createStream()를 이용하여 이용하여 kafka topic에 접근하여 객채로 저장된 값을 가져오고 처리하는 예제 소스 2017.04.26 393
272 Cluster Install -> Provide Login Credentials에서 root가 아닌 다른 사용자를 지정하는 경우 "Exhausted available authentication methods"오류 발생시 조치방법 2018.05.22 392
271 editLog의 문제로 발생하는 journalnode 기동 오류 발생시 조치사항 2017.09.14 390
270 No broker partitions consumed by consumer thread오류 발생시 확인/조치할 사항 2016.09.02 389
269 [CentOS] 네트워크 설정 2018.03.26 388
268 spark-submit으로 spark application실행하는 다양한 방법 2016.05.25 387
267 schema.xml vs managed-schema 지정 사용하기 - 두개를 동시에 사용할 수는 없음 2017.07.09 386
266 이미지 관리 오픈소스 목록 2018.03.11 382
265 ResultSet에서 데이타를 List<Map<String,String>>형태로 만들어서 리턴하는 소스(Collections.sort를 이용한 정렬 가능) 2016.12.15 381
264 [sbt] sbt 0.13.11 를 windows에 설치하고 scala프로그램을 compile해서 jar파일 만들기 2016.07.11 380
263 쿠버네티스(k8s) 설치 및 클러스터 구성하기 2019.10.19 379
262 특정 단계의 commit상태로 만들기(이렇게 하면 중간에 반영된 모든 commit를 history가 삭제된다) 2016.11.17 379
위로