2020-06-03 记sqoop的一个小坑

今天工作中通过sqoop导出hive内数据到Mysql内,sqoop版本是1.4.6,当时导出设置参数--update-key指定了3个主键,但是Mysql内建表未设置主键,想当然的以为sqoop导出数据只在sqoop脚本内指定主键就可以,与mysql关系不大,导出数据后惊奇的发现,数据量不对!!!在导一次还是不对。。。经过网上查询相关资料,有说mysql内的主键和--update-key参数指定主键有关系。。好吧,重新在mysql内建表,并指定相对应的主键,最终问题解决。耗时1个小时总算成功导出数据。。再次记录一下。但是其中的具体原理尚未搞懂,需要有时间在去查一些资料。。留个小问题。。希望有路过的大佬能帮忙解答一下疑惑。不胜感激。

全部评论

相关推荐

小红书 后端开发 总包n+8w+期权
点赞 评论 收藏
分享
11-01 08:48
门头沟学院 C++
伤心的候选人在吵架:佬你不要的,能不能拿户口本证明过户给我。。球球了
点赞 评论 收藏
分享
投票
我要狠拿offer:如果不是必须去成都绝对选九院呀,九院在四川top1研究所了吧
点赞 评论 收藏
分享
评论
点赞
收藏
分享
牛客网
牛客企业服务