Hadoop集群任务分派

Hadoop分布式开发中集群的任务的分派,怎样为相应的机器分配相应的任务进行分布式运算呢
全部评论
partition?
点赞 回复 分享
发布于 2017-12-13 15:42
兄弟 我虽然对hadoop只有理论了解,但是对MongoDB做过存储的分布复制集设计与测试。 你这个问题是“怎样为相应的机器分配相应的任务进行分布式运算呢” 你有几台机器(服务器)?进行什么运算(是一分多,还是分别做不同的)?
点赞 回复 分享
发布于 2017-12-13 16:55
我看了你的评论大概懂了,我是个渣渣,只能提点想法,zookeeper一般是负责集群之间的通信的吧,你的意思是不是这个?但是至于zookeeper怎么分的,应该有他自己内部的算法,你需要做的应该就是把你的算法替换吧。我说的是基于我zookeeper ➕HDFS ➕Hbase做存储的基础,我觉得应该相同吧
点赞 回复 分享
发布于 2017-12-13 17:05
yarn分配计算资源来分配任务,zookeeper通过负载均衡和配置管理帮助
点赞 回复 分享
发布于 2017-12-13 19:36

相关推荐

02-08 20:56
已编辑
南京工业大学 Java
在等offer的比尔很洒脱:我也是在实习,项目先不说,感觉有点点小熟悉,但是我有点疑问,这第一个实习,公司真的让实习生去部署搭建和引入mq之类的吗,是不是有点过于信任了,我实习过的两个公司都是人家正式早搭好了,根本摸不到部署搭建的
点赞 评论 收藏
分享
02-02 20:25
门头沟学院 Java
数学转码崽:八股文也算是前人总结的精华,但是因为全是结果导向,你光背不去理解它背后的深层原理和这样做的原因,反而忽略了程序员最该重视的过程导向。推荐你不会的就去多问ai,比如我当时背的时候,concurrenthashmap底层原理常见八股网站都会讲,但是我不理解为什么它去用synchronize锁节点,为什么不用reentrantlock去锁节点。面试官问我你为什么觉得synchronize在这个场景下性能更好呢?虽然面试官可能也不确定清楚,但是你可以尝试给他解答,让他看见你的思考,这才是最重要的,毕竟你没实习,你的项目你也无法证明是你自己思考的产物,那就在别的地方体现你的能力
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客企业服务