大语言模型推理性能优化工程师（算法侧）

我们是通义千问团队，负责通义千问系列模型的开发以及应用，现招聘LLM推理系统性能优化工程师，欢迎与我们一起探索LLM的更多可能性。 1、负责通义千问线上模型推理效率优化，了解大规模语言模型算法及原理，熟悉大模型推理相关技术，例如模型结构简化（剪枝、稀疏化等）、weights&activation量化、kv cache压缩等， 2、跟进相关领域业内最新进展，并且在qwen模型上进行适配实验 3、与系统深度合作，进行算法与系统的联合优化。

职位要求 1、优秀的代码能力、数据结构和基础算法功底，熟练C/C++或Python，ACM/ICPC、NOI/IOI等比赛获奖者优先； 2、有完整的推理优化项目经验，能够独立负责工作 3、熟悉至少一种主流的机器学习框架（TensorFlow / PyTorch）；在业内主流的推理框架，例如vllm、flash-attn、lmdeploy等，有开发调优经验的优先。 3、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力； 4、良好的沟通协作能力，能和团队一起探索新技术，推进技术进步。 加分项： 1、在大模型领域，参与过大影响力的项目或论文者优先； 2、有推理系统开发经验的优先，