利用Sqoop将MySQL数据导入Hive中

  1. 云栖社区>
  2. 博客>
  3. 正文

利用Sqoop将MySQL数据导入Hive中

技术小阿哥 2017-11-27 17:51:00 浏览506
展开阅读全文

参考

http://www.cnblogs.com/iPeng0564/p/3215055.html

http://www.tuicool.com/articles/j2yayyj

http://blog.csdn.net/jxlhc09/article/details/16856873

1.list databases

sqoop list-databases --connect jdbc:mysql://192.168.2.1:3306/ --username sqoop --password sqoop

2.用sqoop创建hive表

sqoop create-hive-table    --connect    jdbc:mysql://xx:3306/test?characterEncoding=UTF-8    --table employee     --username   root   -password 'xx'  --hive-database  db_hive_edu  

3.import数据

#sqoop    import     --connect     jdbc:mysql://xx:3306/test?characterEncoding=UTF-8        --table employee    --username   root  -password  'xx'    --fields-terminated-by   ','    --hive-import      --hive-database  db_hive_edu     -m  1 


--fields-terminated-by   ',' 导致数据变成null


sqoop import --connect jdbc:mysql://xx:3306/test?characterEncoding=UTF-8 --username root -password 'xx' --table employee --hive-import --hive-database  db_hive_edu -m 1


截图

wKioL1lQh__waDjzAABs9h_1ukc926.png-wh_50











如果需要实时同步,不再手动,参考

利用Flume将MySQL表数据准实时抽取到HDFS - wzy0623的专栏 - 博客频道 - CSDN.NET

这才是最正确的解决方案j_0002.gif



本文转自 liqius 51CTO博客,原文链接:http://blog.51cto.com/szgb17/1941914,如需转载请自行联系原作者

网友评论

登录后评论
0/500
评论
技术小阿哥
+ 关注