C++算法开发实习生

1. 模型推理与优化：负责LLM在自研芯片以及端侧设备上的推理优化，提升模型运行效率。并保证其稳定性和性能。 2. 量化与压缩：研究并实现模型的量化压缩技术，降低模型的计算和存储需求。 3. 工具链开发：完整的模型端到端部署，并适配各种架构的LLM。

1、熟练使用Linux开发环境以及C/C++语言，Git，CMake；同时具备一定的软件调试能力者优先； 2、有良好的数据结构和算法基础，能深入理解计算机体系结构； 3、熟悉Pytorch，熟悉Transformers架构，熟悉LLM推理流程，以及相关OP的工程实现；熟悉主流LLM推理框架者优先（如vLLM，SGlang、llama.cpp等）。