大模型分布式训练

200-400元/天
机器学习
杭州
硕士
5天/周
最少3个月
有转正
岗位关键词
岗位职责
参与及负责大模型训练框架的系统和架构设计。 参与深度优化大模型训练的性能,包括提高吞吐与降低延时。 参与训练与部署的联合优化
岗位要求
1. 硕士及以上,具备机器学习经验基础,熟悉常见机器学习、深度学习算法,熟悉机器学习框架,比如Pytorch 2. 有分布式机器学习训练的经验 3. 熟悉掌握深度学习系统的优化方法 4. 了解Deepspeed,Megatron-LM等大模型分布式训练框架 加分项: 1. 对分布式机器学习有算法研发经验,比如量化、稀疏化、低秩训练、算子融合、并行优化,多层级存储等 2. 有顶会顶刊发表文章
五常街道同顺街18号
牛客安全提示:如发现虚假招聘、广告,或以任何名义索要证件、费用,或诱导异地入职、参与培训等均属违法行为,发现请 立即举报