메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


1. 데이터 준비(vi json.dat)

{"country":"US","page":227,"data":{"impressions":{"s":10,"o":10}}}}

{"country":"US2","page":228,"data":{"impressions":{"s":11,"o":13}}}}


2. HDFS에 로딩

hdfs dfs -put ./json.dat /tmp/json.dat 


3. table 생성

create table hive_parsing_json_table(json string);


4. data를 테이블에 입력

load data inpath '/tmp/json.dat' into table hive_parsing_json_table;


5. select v1.Country, v2.Page, v4.impressions_s, v4.impressions_o

from hive_parsing_json_table hpjp

lateral view json_tuple(hpjp.json, 'country', 'page', 'data') v1 as Country, Page, data

lateral view json_tuple(v1.data, 'ad') v2 ad Ad

lateral view json_tuple(v2.Ad, 'impressions') v3 as Impressions

lateral view json_tuple(v3.Impressions, 's', 'o') v4 as impressions_s, impressions_o;


6. 결과

v1.country v1.page v4.impressions_s v4.impressions_o

US           227      10                   10

US2          228      11                  13

번호 제목 날짜 조회 수
47 Hive Query Examples from test code (2 of 2) 2014.03.26 11464
46 insert hbase by hive ... error occured after 5 hours..HMaster가 뜨지 않는 장애에 대한 복구 방법 2014.04.29 7236
45 hive 2.0.1 설치및 mariadb로 metastore 설정 2016.06.03 5292
44 Hive 사용법 및 쿼리 샘플코드 2013.03.07 3079
43 Hive+mysql 설치 및 환경구축하기 file 2013.03.07 2797
42 banana pi에 hive 0.13.1+mysql(metastore)설치 file 2014.09.09 2485
41 Hive java connection 설정 file 2013.04.01 2168
40 java.lang.RuntimeException: org.apache.hadoop.hive.ql.metadata.HiveException: Hive Runtime Error: Unable to deserialize reduce input key from...오류해결방법 2015.06.16 1968
39 hive에서 생성된 external table에서 hbase의 table에 값 insert하기 2014.04.11 1819
38 index생성, 삭제, 활용 2014.04.25 1765
37 FAILED: IllegalStateException Variable substitution depth too large: 40 오류발생시 조치사항 2014.08.19 1595
36 upsert구현방법(년-월-일 파티션을 기준으로) 및 테스트 script file 2018.07.03 1572
35 hiverserver2기동시 connection refused가 발생하는 경우 조치방법 2014.05.22 1558
34 json 값 다루기 2014.04.17 1325
33 schema설정없이 hive를 최초에 실행했을때 발생하는 오류메세지및 처리방법 2016.09.25 1299
32 external partition table생성및 data확인 2014.04.03 1297
31 sequence한 번호 생성방법 2014.04.25 1252
» json으로 존재하는 데이터 parsing하기 2019.03.25 1249
29 Caused by: java.net.URISyntaxException: Relative path in absolute URI: ${system:java.io.tmpdir%7D/$%7Bsystem:user.name%7D오류발생시 조치사항 2016.06.03 1246
28 json serde사용법 2014.04.17 1196
위로