首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
在线笔面试、雇主品牌宣传
登录
/
注册
JavaEdge
华为_2012实验室_Java工程师
关注
已关注
取消关注
一起来交流学习吧~
@JavaEdge:
系统设计面试指南之分布式任务调度
1 简介 任务是需要资源(CPU 时间、内存、存储、网络带宽等)在指定时间内完成的一段计算工作。 通过智能地将资源分配给任务以满足任务级和系统级目标的系统称为任务调度程序。 任务调度程序: 及时决定和分配资源给任务的过程称为任务调度。 当我们在 Facebook 发表评论时。我们不会让评论发布者等待直到那条评论被交付给所有关注者。交付被委托给一个异步任务调度程序离线完成。 在分布式系统中,许多任务是在用户的单个请求的背景下运行。考虑Facebook、WhatsApp 或 Instagram 这样的热门系统有数亿用户。这些系统需要一个任务调度程序来处理数十亿个任务。Facebook 使用 Async 根据其用户的数十亿个并行异步请求来调度其所有任务。 Async 是 Facebook 自己的分布式任务调度程序,调度其所有任务。一些任务时间敏感,如应该运行的通知用户某项活动开始直播的任务。如果用户在直播结束后才收到通知就没意义了。某些任务可延迟,如向用户提出好友建议的任务。Async 根据适当的优先级调度任务。 2 需求 可用性:系统应高可用以调度和执行任务 持久性:系统收到的任务应持久化,不应丢失 可扩展性:系统应能每天调度和执行越来越多的任务 有限的等待时间:这是任务在开始执行之前需要等待的时间。我们不能在预期时间之后执行任务。用户不应该无限期地等待。如果用户的等待时间超过一定阈值,他们应该收到通知 3 组件设计 3.1 任务调度程序架构设计 ① Task Submitter(任务提交者) 接受任务。没有单一的任务提交者。相反,我们有一组接收越来越多任务的节点。 ② Database(数据库) 任务提交者接收的所有任务都存储在分布式数据库。使用关系数据库来存储: task IDs user IDs 所需资源 执行上限 客户端尝试总次数 延迟容忍度 ... 使用有向无环图(DAG)存储依赖任务的数据的图数据结构的非关系数据库。 ③ Batching and prioritization(批处理和优先级) 将任务存储在 RDB 后,将任务分批。优先级基于任务的属性,如: 延迟容忍度 或执行时间短的任务等。 将最高 K 优先级的任务推送到分布式队列,K限制可以推送到队列的元素数量。K值取决许多因素,如: 当前可用资源 客户端 或任务优先级 订阅级别 ④ Queue manager(队列管理器) 队列管理器在队列中添加、更新或删除任务。它跟踪我们使用的队列的类型。它还负责保持任务在队列中直到成功执行。如果任务执行失败,该任务将再次出现在队列。队列管理器知道在高峰时段、非高峰时段应该运行什么队列。 ⑤ Res
点赞 4
评论 0
全部评论
推荐
最新
楼层
还没有回复哦~
相关推荐
11-26 01:27
湖北工业大学 产品规划专员
面试成这样,这对吗?
一面说我通过了,让我等二面的时间,结果二面连时间都没定,就告诉我简历没通过筛选,无法进入下一轮。难道我理解错了吗?进入面试不应该代表简历初筛通过吗?一面成功后,难道不应该是HR认可了吗?等了半个月,最后却告诉我简历没能进入二面,真是浪费我时间!能不能相互理解一下啊!
莴少拒绝相信任何人:
大概率就是二面面试官(ld)看了你的简历,觉得不ok
牛客创作赏金赛
点赞
评论
收藏
分享
11-25 00:06
浙江理工大学 SEM
校招与社招的区别到底在哪呢
首先,招聘比例差异明显,央国企85%都是应届生,社招的机会微乎其微,没通过校招就几乎告别了这些大企业。其次,校招主要面向刚毕业的大学生,竞争对手都是同学,而社招则是与有经验的人争夺,优势不在我们这边。最后,招聘要求也截然不同,校招是培养新人的机会,而社招则是要能立刻出成绩的老手,时间紧迫,压力山大!希望大家能够选择适合的方式。
牛客创作赏金赛
点赞
评论
收藏
分享
10-26 16:13
北京理工大学 FPGA工程师
25秋招,太逆天了
#秋招#
点赞
评论
收藏
分享
11-20 19:59
已编辑
湖南工业大学 嵌入式工程师
双非本科嵌入式想找工作还有希望吗
微风不断:
兄弟,你把四旋翼都做出来了那个挺难的吧
点赞
评论
收藏
分享
11-23 18:53
合肥工业大学 golang
一字一句,带你读懂“外卖项目”
写在前面 起因是这样的,当我准备了很长时间八股文准备找一段实习工作时,我接到了蔚来的面试,面试官的一个问题让我大脑瞬间就宕机了——你这个项目是怎么实现序列化的?我回想起八股文中序列化是什么,在什么地方需要使用序列化,为什么不推荐使用JDK自带的序列化......可我的项目中到底那里使用了,怎么使用的序列化哪? 于是便有了今天这篇文章,我相信很多人像我一样,跟着某颜色的马敲了一遍外卖项目,但是到头来对这个项目却是一窍不通,现在如果抛开这个,让你自己设计一个项目,你会怎么做哪?你可能知道个大概,比如什么使用MVC架构、redis做缓存、MyBatis做持久化,可具体的细节你又要怎...
一字一句,带你读懂外卖项...
简历中的项目经历要怎么写
我的成功项目解析
点赞
评论
收藏
分享
点赞成功,聊一聊 >
点赞
收藏
评论
分享
回复帖子
提到的真题
返回内容
全站热榜
1
...
从露宿街头到百万级种子轮融资——我的大学时代经历了什么
3.1W
2
...
C++选手秋招总结
1.6W
3
...
字节20多面终究一场空
1.6W
4
...
到了新公司,不要用力过猛
1.3W
5
...
寒假实习租房攻略!北京版
9608
6
...
泡出来啦
9111
7
...
华为电话oc了
8458
8
...
阿里云管培生开奖了
8148
9
...
华为
7892
10
...
放弃代码,结束秋招啦!
7861
正在热议
#
25届秋招总结
#
359729次浏览
3520人参与
#
如果再来一次,你还会选择这个工作吗?
#
93207次浏览
901人参与
#
北方华创开奖
#
50893次浏览
456人参与
#
地方国企笔面经互助
#
5431次浏览
13人参与
#
我的实习求职记录
#
6092000次浏览
83730人参与
#
ai智能作图
#
5063次浏览
94人参与
#
阿里云管培生offer
#
43412次浏览
997人参与
#
听到哪句话就代表面试稳了or挂了?
#
95442次浏览
804人参与
#
上班到公司第一件事做什么?
#
14166次浏览
162人参与
#
如何写一份好简历
#
614395次浏览
8690人参与
#
如果有时光机,你最想去到哪个年纪?
#
25663次浏览
536人参与
#
如何一边实习一边秋招
#
1000900次浏览
12702人参与
#
华为工作体验
#
108174次浏览
848人参与
#
当下环境,你会继续卷互联网,还是看其他行业机会
#
38185次浏览
346人参与
#
实习中的菜狗时刻
#
279210次浏览
2743人参与
#
国央企薪资爆料
#
15262次浏览
118人参与
#
阿里求职进展汇总
#
71046次浏览
763人参与
#
腾讯求职进展汇总
#
202090次浏览
1671人参与
#
上班苦还是上学苦呢?
#
92827次浏览
808人参与
#
职场吐槽大会
#
91199次浏览
756人参与
#
国企还是互联网,你怎么选?
#
90472次浏览
706人参与
#
许愿池
#
215934次浏览
2540人参与
牛客网
牛客企业服务