首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
在线笔面试、雇主品牌宣传
登录
/
注册
JavaEdge
华为_2012实验室_Java工程师
关注
已关注
取消关注
一起来交流学习吧~
@JavaEdge:
系统设计面试指南之分布式任务调度
1 简介 任务是需要资源(CPU 时间、内存、存储、网络带宽等)在指定时间内完成的一段计算工作。 通过智能地将资源分配给任务以满足任务级和系统级目标的系统称为任务调度程序。 任务调度程序: 及时决定和分配资源给任务的过程称为任务调度。 当我们在 Facebook 发表评论时。我们不会让评论发布者等待直到那条评论被交付给所有关注者。交付被委托给一个异步任务调度程序离线完成。 在分布式系统中,许多任务是在用户的单个请求的背景下运行。考虑Facebook、WhatsApp 或 Instagram 这样的热门系统有数亿用户。这些系统需要一个任务调度程序来处理数十亿个任务。Facebook 使用 Async 根据其用户的数十亿个并行异步请求来调度其所有任务。 Async 是 Facebook 自己的分布式任务调度程序,调度其所有任务。一些任务时间敏感,如应该运行的通知用户某项活动开始直播的任务。如果用户在直播结束后才收到通知就没意义了。某些任务可延迟,如向用户提出好友建议的任务。Async 根据适当的优先级调度任务。 2 需求 可用性:系统应高可用以调度和执行任务 持久性:系统收到的任务应持久化,不应丢失 可扩展性:系统应能每天调度和执行越来越多的任务 有限的等待时间:这是任务在开始执行之前需要等待的时间。我们不能在预期时间之后执行任务。用户不应该无限期地等待。如果用户的等待时间超过一定阈值,他们应该收到通知 3 组件设计 3.1 任务调度程序架构设计 ① Task Submitter(任务提交者) 接受任务。没有单一的任务提交者。相反,我们有一组接收越来越多任务的节点。 ② Database(数据库) 任务提交者接收的所有任务都存储在分布式数据库。使用关系数据库来存储: task IDs user IDs 所需资源 执行上限 客户端尝试总次数 延迟容忍度 ... 使用有向无环图(DAG)存储依赖任务的数据的图数据结构的非关系数据库。 ③ Batching and prioritization(批处理和优先级) 将任务存储在 RDB 后,将任务分批。优先级基于任务的属性,如: 延迟容忍度 或执行时间短的任务等。 将最高 K 优先级的任务推送到分布式队列,K限制可以推送到队列的元素数量。K值取决许多因素,如: 当前可用资源 客户端 或任务优先级 订阅级别 ④ Queue manager(队列管理器) 队列管理器在队列中添加、更新或删除任务。它跟踪我们使用的队列的类型。它还负责保持任务在队列中直到成功执行。如果任务执行失败,该任务将再次出现在队列。队列管理器知道在高峰时段、非高峰时段应该运行什么队列。 ⑤ Res
点赞 4
评论 0
全部评论
推荐
最新
楼层
还没有回复哦~
相关推荐
11-22 18:35
南京审计大学金审学院 审计
辞退了很喜欢的实习生,总结他3个“雷点”
实习生的“雷区”:那些你需要避开的坑最近我不得不辞退了一位实习生,虽然他很努力,也很会说话,但有些行为实在让人无法忍受。总结了他的几个“雷区”,希望大家引以为戒。1. 上班摸鱼可以,但别太嚣张大家都知道,上班时间玩手机属于“摸鱼”,但摸鱼也要有个度。这位实习生的工位就在我旁边,背后是老板。他居然敢翘着二郎腿,懒洋洋地靠在椅背上,手机举到肩膀高度,玩得不亦乐乎。你说,这是不是有点太嚣张了?摸鱼可以,但别让领导和老板看得一清二楚啊!2. 犯错不可怕,但要敢于承认工作中犯错是难免的,关键是要及时补救和复盘,避免再犯。这位实习生经常算错数据,商品价格也会搞错,交代的工作没有后续进展。更让人无语的是,他...
点赞
评论
收藏
分享
11-21 10:36
牛客运营
25届秋招薪资,简直逆天。。。
今年可以说是“下猛药”、“沙峰了”(哈哈 牛牛这牛生没见过这么多钱🥺)有拿了50+白菜价的朋友有连拿3个sp的兄弟更有总包90+的哥们牛牛以为这只是个例,没想到这居然是常态。。。在【2024最新名企校招薪资爆料】的资料包里,就看到不少新出的逆天校招薪资。这个资料不收费,点击下方链接或扫码,邀请2位同学组团,即可一起免费领取!🔴 你将获得:✅ 大厂内部真人爆料,真实薪资更靠谱✅ 不同岗位薪资汇总,了解薪资更全面✅ 牛客独家整理出品,过了这村没这店拿offer,别犹豫,点击马上领取>>https://www.nowcoder.com/link/campus_xzbl电脑端请微信扫码...
半咸:
转人工
点赞
评论
收藏
分享
11-04 17:09
门头沟学院 算法工程师
挂真不少
回头整理发现挂这么多
威猛的小饼干正在背八股:
挂到根本不想整理
点赞
评论
收藏
分享
点赞成功,聊一聊 >
点赞
收藏
评论
分享
回复帖子
提到的真题
返回内容
全站热榜
1
...
双非本科四年的总结
1.6W
2
...
sagima的阎良出差日记
1.3W
3
...
给正在秋招中枯燥的大家找个乐子听听吧,不被理解真的心寒
1.1W
4
...
简历这样写真的很难挂
9302
5
...
请大家警惕“总包”骗局!
5931
6
...
大哥爆发了?
3916
7
...
秋招可以暂告一个段落啦
3704
8
...
忙完了工作,又要毕业论文……
3528
9
...
领导让我以后别叫他哥
3368
10
...
有奖征集|我想知道,你在秋招中最难忘的一个瞬间
3185
正在热议
#
25届秋招总结
#
270495次浏览
2281人参与
#
如果实习可以转正,你会不会放弃秋招
#
205110次浏览
2793人参与
#
北方华创开奖
#
23982次浏览
261人参与
#
地方国企笔面经互助
#
3002次浏览
7人参与
#
学历or实习经历,哪个更重要
#
45042次浏览
340人参与
#
选完offer后,你后悔学本专业吗
#
14767次浏览
108人参与
#
0offer是寒冬太冷还是我太菜
#
889904次浏览
7935人参与
#
你觉得专业和学校哪个对薪资影响最大
#
28514次浏览
213人参与
#
查收我的offer竞争力报告
#
20428次浏览
258人参与
#
你最想要的公司福利是?
#
42592次浏览
151人参与
#
软开人,秋招你打算投哪些公司呢
#
40604次浏览
528人参与
#
如何一边实习一边秋招
#
988073次浏览
12612人参与
#
应届生被毁约被毁意向了怎么办
#
28575次浏览
244人参与
#
一觉醒来,我觉醒了超级打工人系统
#
3432次浏览
36人参与
#
当你面对裁员会如何?
#
26276次浏览
152人参与
#
来聊聊机械薪资天花板是哪家
#
66696次浏览
449人参与
#
没有实习经历,还有机会进大厂吗
#
807788次浏览
13860人参与
#
面试体验感最好的是哪家?
#
83890次浏览
820人参与
#
机械应届生薪资要多少才合适?
#
12580次浏览
61人参与
#
如何写一份好简历
#
606038次浏览
8529人参与
#
如果公司降薪,你会跳槽吗?
#
24923次浏览
236人参与
牛客网
牛客企业服务