国产芯片大模型框架研发工程师

1.负责大规模分布式训练性能优化；或大模型推理部署性能优化；或大规模通信性能优化；

2.研发大模型训练自动容错、自动并行及自动性能预估等自动化技术技术；或研发高性能推理部署系统；或研发大模型异构通信库，并探索相关前沿技术应用到实际项目中；

3.面向国产芯片进行分布式训练或推理部署优化；或面向超大规模国产集群进行通信优化。

1.硕士以上学历；

2.高性能计算、计算机体系结构、分布式系统或人工智能相关专业；

3.编程能力扎实，熟练等深度学习框架，熟悉Megatron-LM、DeepSpeed、Ray等常见的大模型分布式训练系统；或熟悉vllm、TensorRT LLM等常见的大模型推理框架；或熟悉MPI、NCCL、UCC等常见的通信库；或熟悉IB或RoCE网络协议；

4.拥有大模型分布式系统，或大模型推理部署，或通信库开发经验以及相关高水平论文优先。